ОК, ASI

Здесь на Земле, если верить футуристам, назревает серьёзный вопрос: как быть с сверх-умным искусственным интеллектом? Проблема реальна и неминуема: через 5-70 лет (10% и 90% вероятность, соответственно, если верить коллективным прогнозам) искусственный интеллект перерастёт человеческий и — я очень упрощаю, конечно — либо всё будет очень хорошо, либо очень плохо.

Основная, но не единственная проблема в обсуждении ASI (Artificial Superintelligence), искусственного супер-интеллекта, категорически превосходящего человека, в нашей неспособноти его будем понять. Это не просто «очень быстрый компьютер», как многие подумали. Речь о категорическом, качественном переходе на новый уровень. И, прямо скажем, скорее всего гораздо больше уровней, чем один.

Люди и орангутанги очень похожи: волос одинаковое количество, только у людей они тоньше и короче, ДНК совпадает больше, чем на 97%, однако ни одной обезьяне не освоить язык и абстракции обычного для семилетнего человека понятия. Подобным образом орангутанг легко перехитрит собаку, между ними ещё один непреодолимый интеллектуальный барьер.

Курица не может линейное уравнение решить; как шимпанзе, насколько быстро бы ни работал ее мозг, никогда не осознаёт, что здания сделаны людьми, а не выросли сами, как джунгли. Наше восприятие жутко искажено им же самим: мы хорошо распознаём паттерны, но лишь в мире объектов среднего размера, которые двигаются со похожей на нашу скоростью. Мы видим больше разумности в движении, если оно больше напоминает поведение человека. Мы очень человеко-центричны: антропоцентризм и антропоморфизм — наше всё.

Нужно серьёзно поскрипеть мозгами, чтобы представить стремительные события мира элементарных частиц. Очень сложно увидеть разум в циклических изменениях океанских течений или дыхании лесов. Мы крепко закованы в цепи собственного восприятия.

Поэтому ASI мы не поймём, и контролировать скорее всего не сможем. Условной «SkyNet» отнюдь не обязательно запускать сотни ядерных ракет, чтобы очистить планету от паразитов. Метод может быть гораздо менее заметный и более эффективный.

Для самообучаюегося в геометрической прогрессии робота 100 лет не крюк. Например, можно пару веков производить фейковые новости,
ссорить нации, и вести к хорошо организованным геноцидам. Человечество само справится с очисткой от плохой крови. Не в первый раз. Учитывая нашу ужасную память, за несколько веков можно насоздавать новых мифов. Оставшейся популяции внушить культ технологий и пусть занимаются вечно техподдержкой пока машина размышляет над вселенскими проблемами. Подкидывай им время от времени новые iPhone XXX, развлечения и хлеб вроде комиксоидальных ремейков.

А может уж лет пять как процесс запущен, а? Нашим мозгом такие цифрогеополитические материи не осознать, к сожалению.

Вместо эпилога. Мой четырёхлетний сын, продукт двадцать первого века, который еще не просиживает свою жизнь в интернете, уже говорит «Google все знает», и приказывает «OK, Google, поехали», чтобы скутер катился быстрее. В его молодой голове, где пока нет закостенелой структуры и механизма принятия осознанных решений (тупо фронтальная часть думалки не сформировалась ещё), как мне кажется, Google занимает место всемогущего чего-то. Естественная склонность к желанию всё объяснить — духами ручьев или супер-интеллектом — победит, и культ машин, как мне видится, неизбежен. Хоть мы, взрослые, не замечаем, как глубоко проникли технологии в нашу комфортную, мирную, здоровую, веселую и мобильную жизнь, против природы не попрёшь.

OK, Facebook, share.

P.S.: Вот две статьи по теме: 1, 2, опубликованы в 2015 году.