ОК, ASI

Здесь на Земле, если верить футуристам, назревает серьёзный вопрос: как быть с сверх-умным искусственным интеллектом? Проблема реальна и неминуема: через 5-70 лет (10% и 90% вероятность, соответственно, если верить коллективным прогнозам) искусственный интеллект перерастёт человеческий и — я очень упрощаю, конечно — либо всё будет очень хорошо, либо очень плохо.

Основная, но не единственная проблема в обсуждении ASI (Artificial Superintelligence), искусственного супер-интеллекта, категорически превосходящего человека, в нашей неспособноти его будем понять. Это не просто «очень быстрый компьютер», как многие подумали. Речь о категорическом, качественном переходе на новый уровень. И, прямо скажем, скорее всего гораздо больше уровней, чем один.

Люди и орангутанги очень похожи: волос одинаковое количество, только у людей они тоньше и короче, ДНК совпадает больше, чем на 97%, однако ни одной обезьяне не освоить язык и абстракции обычного для семилетнего человека понятия. Подобным образом орангутанг легко перехитрит собаку, между ними ещё один непреодолимый интеллектуальный барьер.

Курица не может линейное уравнение решить; как шимпанзе, насколько быстро бы ни работал ее мозг, никогда не осознаёт, что здания сделаны людьми, а не выросли сами, как джунгли. Наше восприятие жутко искажено им же самим: мы хорошо распознаём паттерны, но лишь в мире объектов среднего размера, которые двигаются со похожей на нашу скоростью. Мы видим больше разумности в движении, если оно больше напоминает поведение человека. Мы очень человеко-центричны: антропоцентризм и антропоморфизм — наше всё.

Нужно серьёзно поскрипеть мозгами, чтобы представить стремительные события мира элементарных частиц. Очень сложно увидеть разум в циклических изменениях океанских течений или дыхании лесов. Мы крепко закованы в цепи собственного восприятия.

Поэтому ASI мы не поймём, и контролировать скорее всего не сможем. Условной «SkyNet» отнюдь не обязательно запускать сотни ядерных ракет, чтобы очистить планету от паразитов. Метод может быть гораздо менее заметный и более эффективный.

Для самообучаюегося в геометрической прогрессии робота 100 лет не крюк. Например, можно пару веков производить фейковые новости,
ссорить нации, и вести к хорошо организованным геноцидам. Человечество само справится с очисткой от плохой крови. Не в первый раз. Учитывая нашу ужасную память, за несколько веков можно насоздавать новых мифов. Оставшейся популяции внушить культ технологий и пусть занимаются вечно техподдержкой пока машина размышляет над вселенскими проблемами. Подкидывай им время от времени новые iPhone XXX, развлечения и хлеб вроде комиксоидальных ремейков.

А может уж лет пять как процесс запущен, а? Нашим мозгом такие цифрогеополитические материи не осознать, к сожалению.

Вместо эпилога. Мой четырёхлетний сын, продукт двадцать первого века, который еще не просиживает свою жизнь в интернете, уже говорит «Google все знает», и приказывает «OK, Google, поехали», чтобы скутер катился быстрее. В его молодой голове, где пока нет закостенелой структуры и механизма принятия осознанных решений (тупо фронтальная часть думалки не сформировалась ещё), как мне кажется, Google занимает место всемогущего чего-то. Естественная склонность к желанию всё объяснить — духами ручьев или супер-интеллектом — победит, и культ машин, как мне видится, неизбежен. Хоть мы, взрослые, не замечаем, как глубоко проникли технологии в нашу комфортную, мирную, здоровую, веселую и мобильную жизнь, против природы не попрёшь.

OK, Facebook, share.

P.S.: Вот две статьи по теме: 1, 2, опубликованы в 2015 году.

Записки из-под пальмы

Здесь в Атата, одном из атоллов рядом с Тонга, милые, замутнённые оголтелым христианством (включая мормонизм) люди, хороший сервис, чистый пляж, отвратительный кофе, развалившиеся постройки, дикие летучие мыши, наглые собаки, плохо прожаренная курица, переготовленный тунец, голодные мурены, довольные горбатые киты, цветные кораллы, стремительные крабы, охуевшие свиньи, косой бильярд, пустая сувенирная лавка, холодный бассейн, сладкие коктейли, сладкое кокосовое молоко, прокисшее кокосовое молоко, запах сероводорода от опреснительной станции, запах керосина от той же станции, дохлые змеи на мелководье, солёная вода в кране, дешёвое австралийское вино, недешёвое новозеландское пиво «Сделано для Тонга», нет телевизоров, почти нет интернета, все ходят в церковь, все очень никуда не торопятся вообще, то есть совсем.

Читать далее Записки из-под пальмы

Восточный Окленд

Здесь в Окленде я, когда приехал, поселился в пенсионерском районе Кохимарама. Там рядом океан, зелёные парки, чистые улицы, по ночам «собаки лают», как я утверждал больше десяти лет назад. Местные называют его «Кохи», мой новозеландский сын Лукас произносит это слово с английским мягким «h», которого почти не слышно, и выходит что-то типа «Кои». Душевно.

Читать далее Восточный Окленд

Остров Уаихеке на выходные

Здесь на Уаихеке, сравнительно небольшом острове размером около 100км², мне больше всего нравится отдыхать от Оклендских будней. Лишь сорок минут на пароме — и будто пять часов пилил на машине по шоссе в какую-нибудь Тутукаку.

Читать далее Остров Уаихеке на выходные

Карта Средиземья

Здесь в Окленде я из глубин Реддита выудил карту Средиземья, какой её от руки нарисовал автор трилогии Толкиен.

Читать далее Карта Средиземья

Суперинстаграм наносит ответный удар

Здесь в Окленде где-то раз в год, обычно сразу после рождественских каникул, я придумываю что-нибудь эдакое с коллекцией инстаграммов за прошлый год.

После того, того, как мобилохудожникам дали волю и разрешили постить не только квадраты, аккуратные мозаики снимки собирать стало намного сложнее. В прошлом году провозился часов восемь, и в конце концов всё обрезал под квадрат и аккуратненько разложил.

Вот, что получилось в этом году.

Читать далее Суперинстаграм наносит ответный удар

Свежие впечатления

Цветные шарики, вау!

Здесь в Окленде я уж больше десяти лет, и глаз замылился. Инстаграммлю понемногу, но совсем уж не то, то радовало глаз в первые месяцы после приезда.

Кругом всё очень яркое, цветное и игрушечное. В центре нет ни одного одинакового здания. Рядом с гостиницей, украшенной арабской вязью кинотеатр из стекла и ракетных боеголовок. В городе очень чисто, потому что никто не сорит. Честно говоря, даже плевать на мостовую стыдновато.

Китайцев много. В целом поскольку все «понаехавшие» на улицах говорят как минимум на десяти языках и наречиях. Оно и к лучшему, что так. Неправильный английский медленнее правильного и оттого понимается полегче. Жить здесь недёшево: пообедал сегодня на 300 рублей, а ведь всего-то съел кебаб с цыплёнком и кофе в Starbucks выпил. – И так далее…

Понятное дело, что русскоговорящие люди продолжают прилетать, и, если верить официальной статистике, всё больше и больше.

Читать далее Свежие впечатления