Революция ИИ: Часть 2. Бессмертие или вымирание
Это вторая часть статьи Тима Урбана в его блоге на www.waitbutwhy.com. Часть 1 статьи читайте здесь.
«Перед нами стоит чрезвычайно сложная задача. и неизвестно, сколько времени потребуется для ее решения, вполне возможно, что от этого зависит судьба всего человечества» — Ник Бостром.
Добро пожаловать в Часть 2 серии "Подождите, как это возможно, что я читаю, я не понимаю, почему все не говорят об этом”.
Часть 1 началась достаточно невинно, поскольку мы обсуждали Искусственный ограниченный интеллект, или ANI (AI, который специализируется на узких задачах, как выбирать маршруты или играть в шахматы), и как это - все вокруг нас в мире сегодня. Мы исследовали, почему это большая проблема добраться от ANI до Полного Искусственного Интеллекта, или AGI (ИИ, который, по крайней мере, столь же способен интеллектуально управлять, как человек), и мы обсуждали, почему показательный темп технологического продвижения, которое мы видели в прошлом, предполагает, что AGI не мог продвинуться так далеко, как это возможно. Часть 1 закончилась мною, нападками на Вас с тем фактом, что, как только наши машины достигают Интеллекта на человеческом уровне, они могли бы немедленно сделать это:
Существует ключевое различие между быстрым сверхинтеллектом и качественным сверхинтеллектом. Часто, когда мы пытаемся представить суперумный компьютер, мы первым делом думаем, что он так же умен, как и человек, только способен думать намного быстрее (вспомните х/ф «Она», скорость является основной чертой, отличающей супер ОС от человека), то есть, ему потребуется минут пять, чтобы решить задачу, на которую у человека уйдет лет десять.
Звучит впечатляюще, и ASI действительно будет мыслить в разы быстрее любого человека, но настоящее отличие будет заключаться в качестве этого мышления, а не в его скорости, что принципиально все меняет. Разница в умственных способностях между человеком и шимпанзе заключается не в скорости мышления, а в том, что человеческий мозг содержит большее количество сложных когнитивных модулей, которые позволяют нам строить сложные лингвистические обозначения, долгосрочные планы или отвлеченные рассуждения, тогда как мозг шимпанзе на это просто не способен. Ускорение работы мозга шимпанзе в тысячу раз не принесет такого результата даже через десятилетие. Шимпанзе по–прежнему не будет способен собрать замысловатую модель, используя набор специальных инструментов, тогда как человек справится с этим за пару часов. Существует огромное количество когнитивных функций, которые никогда не станут доступны шимпанзе, вне зависимости от того, сколько времени у него уйдет на попытки.
Проблема не в том, что шимпанзе не может делать то же, что под силу нам, а в том, что шимпанзе даже не способен понять, что такие возможности существуют. Шимпанзе может приблизительно понимать, что такое человек и что такое небоскреб, но он никогда не поймет, что люди построили небоскребы. Для шимпанзе все большое является частью природы и точка, сама возможность построить небоскреб лежит за гранью его понимания. Все это является результатом небольшого различия в качестве разума.
В масштабе интеллектуального диапазона, о котором мы говорим сейчас, или даже такого диапазона между биологическими существами, разница между интеллектом шимпанзе и интеллектом человека ничтожно мала. Специально для вас я решил выстроить в ряд биологические существа по уровню их когнитивных возможностей, используя изображение лестницы (А — Расположение этих существ на лестнице не основано ни на каких научных данных и просто призвано донести общую суть, Б – я очень горжусь этими рисунками):
