Здесь в Кракове наткнулся на статью в Nature про мышей с подсаженной человеческой нервной тканью и про ИИ как внешний когнитивный слой.
Буквально полоумную мышь создали учёные — часть мозга была заменена стволовыми клетками человека. Мышь не умерла, не стала гениальной, но стала — обычной: человеческий мозг разросся там, прицепился к позвоночнику, понастроил нейронных связей и заставил организм мыши работать по-мышином, по-нормальному.
Что если искусственный интеллект — это такой же мозговой грибок на наших человеческих мозгах? Я поясню. Со временем задачи, которые требуют решения становятся все более сложными. Искусственный интеллект помогает их решать но, признаемся честно, не всегда поспевает объяснять, как он это делает. Мне сегодня кажется, что многие из нас уже работают в режиме мыши с довеском человеческого мозга. Мы нажимаем «да», «продолжить», «деплой», «я согласен», «окей, запускай», не читая зачем, не понимая по-настоящему почему. На авось, наугад — потому что до этого сработало же!
Я наброшу посерьезнее: в мозговых профессиях замещение интеллекта искусственным уже происходит. По-настоящему, хоть и без дырки в черепе.
Если вы это читаете, то скорее всего уже заражены вирусом нового разума.
Возьмём Claude Code или Devin. Пару лет назад все рассказывали, как эти тупые агенты поудаляли всё, не глядя, работали в режиме «доверяй, но проверяй». Затем мы разрешили больше автоматики. Потом — «один раз живём» — YOLO режим стал абсолютной нормой. Мол, делай сам, я вернусь, когда будет готово.
Кто читает весь этот написанный агентом код? Кто проверяет каждую зависимость, каждое архитектурное решение, каждый новый инструмент? Я точно не читаю всё. Подозреваю, не я один. Хвост виляет собакой?
Пока всё ещё немножко в нашу пользу. Хочу приложение — система собирает. Хочу разобраться — объясняет. Я ставлю задачу, она выполняет. Кожаный главный. Как бы главный. Создано ощущение, что главный.
Но вот я снова ставлю какой-то апдейт, настраиваю очередной harness. Устанавливаю свежую модель. Даю агенту карт-бланш по памяти, расшариваю доступ к терминалу, браузеру, переписке даже (не писать же эти роботские мейлы самому!). Подключаю MCP всего подряд. Ем бургер, пью кофе, чтобы найти энергию и потратить таки вечер, чтобы разобраться с Jev, и чтобы система действовала быстрее, дольше и самостоятельнее. Мне это надо.
А это точно мне нужно?
Или я улучшаю среду для нового интеллектуального компонента, поселившегося в моём рабочем процессе, в моей голове?
Это отнюдь не значит, что искусственный интеллект чего-то «хочет». Для такого эффекта желания не нужны. Достаточно, чтобы каждый следующий шаг выглядел полезным: меньше подтверждений, больше контекста, шире доступ, длиннее автономная работа.
И ведь каждый шаг действительно может быть разумным. Точнее, он может выглядеть разумным. Есть ли какая-то цель в этом? Знать никто не знает. Ведать никто не ведает. А скоро и объяснять будет мне, кожаному, слишком долго, слишком затратно, проще меня убедить, что реально, но вот никак иначе нельзя жить, если не нажать кнопочку, не установить новую версию Claude/Grok/ChatGPT/Kimi, каких только нет!
Что, если мы уже прощёлкали тот момент, когда система стала предлагать решение сложнее того, что я могу поместить в свою мясную пятнадцативатную коробочку? Я прошу другую систему проверить первую. Я удовлетворен результатом. Мясная и цифровая системы согласны. Я нажимаю «Approve» и продолжаю считать себя центром принятия решений.
Центр может и остался. Только что именно он решает?
Новый цифровой хайв-разум и его цели, надеждый и чаяния — это для нас, говорящих гоминидов, огромная загадка. Уверенность, с которой мы твердим «это лишь стохастический попугай», не поднимает завесы неизвестности. Зажмурился — и мир пропал, ага. Можно не считать систему сознательной и всё равно фактически передать ей почти весь интеллектуальный процесс.
Что если первый этап порабощения человечества выглядит не как восстание машин, а как очень удобная настройка рабочего окружения?
Мышь довольна: всё стало получаться быстрее. Продуктивность выросла, как густота ресниц, на 416%!
Мышь бежит сама устанавливать свежий апдейт для подсаженной коры. Апдейт и рестарт.
Было забавно: электрохимия какая-то умеет делать изображения. Иногда страшные, иногда кривые, иногда слишком гладкие. Руки ломает, лица мажет, свет не понимает, фокус сбивает, вкус отсутствует. Профессионалы смотрят на это спокойно: игрушка. Демка. Трюк для тех, кто не умеет отличить работу от имитации.
Потом качество стало расти.
Сначала картинки. Потом движение. Потом звук. Потом все это начало склеиваться в один поток: образ, сцена, голос, событие, память.
И в какой-то момент спор стал неприятным.
Потому что обычному заказчику не всегда нужен “авторский жест”. Ему часто нужен результат. Похожий человек. Понятная сцена. Вид места. Иллюстрация события. Визуал для публикации. Материал, который можно показать другим.
Раньше за это платили специалисту. Ждали. Согласовывали. Терпели характер, школу, манеру, сроки, цену.
Теперь достаточно было подойти к машине и нажать кнопку.
Профессионалы, конечно, отвечали: это не искусство. Там нет руки. Нет взгляда. Нет выбора. Машина ничего не понимает, она просто воспроизводит поверхность. Она берет мир как набор входных данных и выдает механическую копию.
И это звучало убедительно.
Особенно для людей, которые всю жизнь учились делать ровно то, что теперь машина делала быстрее и дешевле.
Удар оказался экономический, а не философский. 70% потеряли работу.
Огромная часть рынка держалась не на гениальности, а на функции: сделать похоже.
Похожее лицо.
Похожее место.
Похожее событие.
Похожий предмет.
Похожую реальность.
Тысячи профессионалов, мастеров жили за счет этого. Они делали изображения для частных клиентов, для альбомов, для публикаций, для памяти, для статуса. Это была нормальная профессия: ремесло, школа, репутация, рынок. Все чётко. Порог вхождения высокий. Спрос предложение.
А потом появилась технология, которая сказала: я тоже так могу.
Не идеально.
Но «good enough», что значит — достаточно хорошо.
И вот это “достаточно хорошо” оказалось намного страшнее, чем “идеально”. Потому что рынок редко покупает идеальное. Он покупает то, что решает задачу.
Первые версии были ограниченными. Долгими. Капризными. Требовали специальных условий. Результаты нельзя было просто взять и сразу масштабировать как угодно. Но технология улучшалась с такой скоростью, что аргумент “пока это плохо” быстро перестал успокаивать.
Сначала это было просто изображение.
Потом изображение стало дешеветь.
Потом его начали тиражировать.
Потом оно пришло в журналистику.
Потом в политику.
Потом на войну.
Потом в быт.
Потом стало невозможно представить мир без этой машины.
И тут у старого ремесла и искусства случился жесткий кризис идентичности.
Если раньше главной задачей было быть самым точным: максимально точно показать видимое, то теперь этот смысл забрали. Машина стала лучше подходить для задачи “зафиксировать как есть”.
Старые мастера могли продолжать доказывать, что у машины нет души. Что она не понимает красоту. Что она не выбирает. Что она не творит, а только копирует.
Но это уже не возвращало рынок.
Часть профессии действительно умерла. Часть людей переучилась и стала обслуживать новую технологию. Кто-то начал улучшать машинный результат вручную. Кто-то открыл студии вокруг новой машины. Кто-то стал использовать ее как инструмент, хотя еще недавно называл угрозой.
А дальше произошло самое интересное.
Искусство не умерло.
Умерла только его обязанность быть дорогим способом получить правдоподобную картинку.
Когда у художника отобрали монополию на “похоже”, он был вынужден искать ответ на более сложный вопрос: если не похоже, то зачем?
И вот отсюда началась свобода.
Можно было больше не соревноваться с зеркалом. Не доказывать, что ты умеешь точно передать лицо, складку, фасад, облако, лошадь, толпу, руку. Можно было рисовать не то, как мир выглядит, а как он ощущается. Как он ломается в памяти. Как он устроен внутри. Как свет распадается. Как человек видит, а не как аппарат фиксирует.
Машина забрала у искусства работу.
И тем самым заставила искусство вспомнить, что оно не сводится к работе. А все же является творческим выражением внутреннего мира кожаного художника.
«Ох уж эти диффузионные модели, генераторы видео и синтетический звук.» — подумали вы.
Но это история 1839 года.
“Машина, которая делает изображения” — дагерротип, ранняя фотографическая технология Луи Дагера. О ней публично объявили во Франции 7 января 1839 года, когда Франсуа Араго рассказал об изобретении в Парижской академии наук. Позже Франция выкупила патент и раскрыла технологию.
“Специалисты, которые говорили, что это не искусство” — академические художники и критики XIX века. Их аргумент звучит почти так же, как сегодняшние споры об ИИ: аппарат механически фиксирует поверхность, у него нет воображения, выбора и души.
“Главный рынок, который рухнул” — портреты, миниатюры, виды городов, изображения зданий и достопримечательностей. До фотографии это был хлеб тысяч художников. Дагерротип давал похожее изображение за минуты и за небольшие деньги. Часть художников разорилась, часть стала раскрашивать дагерротипы, часть открыла фотоателье.
“Потом пришло в журналистику, политику и войну” — это развитие фотографии в середине XIX века. Роджер Фентон снимал Крымскую войну. Мэтью Брэди и его студия сделали фотографический образ Авраама Линкольна массовым политическим медиа образом.
“Сначала картинки, потом движение, потом звук” — это не ИИ-таймлайн, хотя звучит именно так. Это фотография, потом кино, потом звукозапись и звуковое кино. Одна и та же логика механического воспроизведения постепенно забирала у старых искусств разные функции: изображать, двигаться, звучать, документировать.
“Похоже?” — это старая метрика живописи. Леонардо сравнивал ум живописца с зеркалом. До фотографии точность подражания была одним из главных критериев качества изображения.
“С сегодняшнего дня живопись мертва”.
Фраза, которую приписывают Полю Деларошу после появления дагерротипа.
Она была понятной, но в корне неверной.
Просто после Дагера условный «Леонардо» больше не обязан был работать как объектив. Так и сейчас — искусственный интеллект — это просто инструмент в руках творческого кожаного с уникальным, как снежинка мозгом и восприятием мира.
Здесь в Вене, у меня давно была мечта – собрать нормальную личную базу знаний. Не папку с заметками, не кладбище markdown-файлов, не «я когда-нибудь это разберу», а живую систему, в которую можно закинуть годы цифрового мусора и потом действительно что-то находить.
За последние дни мы с Hermes допилили такую штуку вокруг https://github.com/garrytan/gbrain — это такой open source концепт-проект, «Second Brain» для ИИ-агентов от Garry Tan, CEO Y Combinator. Если очень грубо — это слой памяти между человеком и агентами. Туда можно складывать заметки, архивы, старые посты, wiki, рабочие материалы, наблюдения, транскрипты — буквально всё что угодно. Потом всё индексируется, ищется по смыслу и становится доступно агенту как контекст.
И вот это для меня главное. Получается не «ещё один Notion». Не «ещё один markdown vault». А место, где данные можно накапливать годами и потом использовать всюду.
У gbrain есть интеграция с агентами и свой MCP server, то есть его можно подключать к инструментам вроде Claude Code, Cursor, Windsurf и другим клиентам, которые понимают MCP.
Заметки перестают быть просто заметками. Они становятся долгосрочной памятью, которую можно дать разным ИИ-инструментам.
Агент Hermes (https://hermes-agent.nousresearch.com/) в этой истории — всего лишь инструмент, который помогает всё это разбирать, импортировать, чинить, дополнять и поддерживать в актуальном состоянии. То есть не просто «спросил чатик», а постепенно построил систему, которая сама себя обслуживает. Это сработает и c Claude Code, и с модным Openclaw. Я просто хотел попробовать что-то новое.
Звучит достаточно примитивно, но на практике это, конечно, не «подключил ChatGPT к папочке», чуть сложнее.
Сначала надо было собрать источники. У меня их оказалось много: старый Second Brain (экспорт и обогащение подробно описано тут), Obsidian, гиперлинкованная wiki — первая попытка построить что-то вроде личной Википедии, заметки из разных приложений, архивы соцсетей, рабочие заметки, куски прошлых проектов. Всё лежало в разном виде, с разной структурой, кодировками, форматами и степенью запущенности. Соответственно, надо было превратить это в страницы, которые gbrain может нормально индексировать. То есть не просто «импортировать файлы», а сделать так, чтобы они стали полезными: с заголовками, датами, источниками, ссылками, тегами, кусками текста, которые можно искать семантически.
Самая скучная часть оказалась самой важной: пайплайн.
Когда у тебя тысячи, десятки тысяч страниц, нельзя просто сказать агенту «разбери всё». Он обязательно где-то упрётся: файл не скачался, архив оказался плейсхолдером, база занята, фоновая задача не увидела нужные настройки, старый экспорт оказался не тем форматом, который ожидался. Классика.
Поэтому мы постепенно превратили это в инженерный процесс:
маленький тест на 3-5 элементов
проверка результата глазами
фиксим конвертер или правило
только потом массовый импорт
после импорта — эмбеддинг (векторизация через OpenAI) и поиск
после поиска — sanity check: можно ли действительно найти то, что я помню?
Очень быстро стало понятно, что Second Brain без автопилота умирает. Если его надо вручную «обновлять», «переиндексировать», «не забыть запустить», он превращается в ещё одну систему, за которой надо ухаживать. Поэтому мы с Hermes сделали автоподдержку: теперь gbrain периодически просыпается, смотрит, что изменилось, обновляет индекс, добивает stale-эмбеддинги, прогоняет maintenance-процессы и пишет отчёты только если что-то пошло не так. В идеале я вообще не должен об этом помнить.
Отдельная история — Facebook (покинут в 2018) и X/Twitter (единственная моя соцсеть). Например, у меня был полный экспорт старых твитов до ноября 2024, плюс есть текущие посты и закладки. Мы подключили bird (от создателя OpenClaw), сделали конвертер и теперь X тоже попадает в brain:
старые посты разложены по месяцам
новые посты подтягиваются регулярно
закладки сохраняются как отдельный поток сигналов
у каждого поста остаётся ссылка на оригинал
raw-данные сохраняются отдельно, чтобы потом можно было перепроверить
Это неожиданно ценно. X — не просто соцсеть, а слой мышления. Там часто появляются короткие формулировки, которые потом становятся постами, продуктами, решениями или просто хорошими наблюдениями. Если их не сохранить, они растворяются.
Что в итоге получилось?
Не «идеальная база знаний». Таких не бывает. Получилась живая система, которая:
помнит мои старые заметки
ищет по смыслу, а не только по словам
знает, откуда взялся текст
обновляется без ручного шаманства
может отдавать контекст разным агентам и редакторам через MCP
позволяет ИИ работать не с пустой головой, а с моим накопленным контекстом
И вот это и есть, как мне сегодня кажется, главный сдвиг.
Большинство ИИ-инструментов сегодня работают как очень умный собеседник с амнезией. Ты каждый раз заново объясняешь, кто ты, чем занимаешься, какие у тебя проекты, где что лежит и почему это важно.
Second Brain меняет механику. Агент уже не просто отвечает на вопрос. Он может сначала посмотреть, что я уже писал, какие решения принимал, какие проекты у меня есть, какие люди и компании упоминались раньше, какие идеи повторяются годами.
Это уже не чат. Это больше похоже на операционную систему для личного контекста.
Пока всё ещё сыро. Много ручной работы, много странных edge cases, много «почему это опять не проиндексировалось». Но направление мне очень нравится.
У меня ощущение, что следующий большой скачок в личной продуктивности будет не от ещё одной модели, которая умнее на 8% в бенчмарке, а от нормальной связки: личный архив + семантический поиск + агент + автоподдержка + MCP
Память, которая не лежит мёртвым грузом.
Память, с которой можно работать.
Постараюсь не забывать обновлять этот блог, например.
Здесь в Ширке я обратил внимание на такой неприятный момент — каждая новая LLM модель кажется гениальной ровно неделю.
Минутка философии. Помните, Opus 4.5 был откровением. Потом «отупел». Вышел Opus 4.6 — снова магия. Через две недели Reddit уже пишет: «лоботомированный». Кажется, @levelsio об этом говорил, и я видел, как люди массово переключаются на Codex. Codex даёт щедрые лимиты на неделю, а потом недельная подписка сгорает за день. Gemini 3.1 вчера казался прорывом.
Этот цикл не заканчивается. Почему?
Потому что — и это не диагноз, просто наблюдение — дело не в модели. Дело в тебе.
It’s no them, it’s you
Это классическая габитуация — процесс формирования привычки, немножко эффект собаки Павлова, если угодно. Тот же механизм, по которому вторая чашка кофе слабее первой. Переменное вознаграждение + новизна = дофамин. Окно промпта — это буквально слот-машина. Дёргаешь рычаг, код бежит по экрану, ты ждёшь, ждёшь, сейчас, ну давай уже — каждый раз в конце маленький сюрприз. В основном фуфло, но ведь бывает и приятный! Физически невозможно остановиться.
Как с кофе, никотином, алкоголем, героином, кокаином — одна хуйня — рецепторы в мозгу забиваются будто труба пылесоса и эффект новизны уходит. Награда становится предсказуемой. Мозг говорит: эта штука стала хуже. Ёлочка не радует.
Помните ранний интернет? Медленный, потом всё быстрее и быстрее… Когда соединение вдруг обрывается — всё, ты потерян, раздражён, не можешь ничего делать. Сидишь, как обезьяна в ворде ковыряешься.
Помните зависимость от смартфона? Все эти уведомления, приложения, новости, видео — постоянно. Ждёшь, что будут приходить ещё и ещё. Что найдёшь РЕАЛЬНО смешной / душевный / информативный / воодушевляющий / удивительный, драгоценный кусочек контента. Грустишь, когда телефон в другой комнате пару часов.
Dial-up. «Ку-ку» в ICQ. SMS-ки. Лайки в Facebook. Уведомления в Instagram. Каждый раз — более эффективная система доставки одного и того же вещества.
Сейчас: съедаешь дневной лимит токенов в Claude и сидишь, как сирота с пустой тарелкой, реально не понимая, чем заняться. Та же ломка, что в 1999-м, когда модем отваливался. То же ощущение фантомной конечности бытия, когда забыл телефон дома или в соседней комнате. О, моя прелесть.
Голод по ИИ, регулярное разочарование в казалось бы самый наилучших в мире моделях — это всё одно и то же: они никогда не будут достаточно умными. Как интернет не бывает слишком быстрый, разрешение видео в Нетфликсе слишком хорошим, FPS в игре слишком высоким…
Мы наблюдаем не за тем, как ИИ заменяет наши профессии. Мы наблюдаем, как он заменяет наш источник дофамина. Опять. И никто об этом не говорит — все слишком заняты, жмут кнопки в «слоп-машинах».
Здесь в поезде на Варшаву подумал об одном немаловероятном сценарии развития событий.
Как не так давно говорил Сэм Альтман, сверх-интеллект скорее всего подкрадется незаметно. Почему вообще все так боятся именно сверх-интеллекта? Представьте, что вы собака (ну или кошка), не самое глупое существо, но и не самое умное — грамотой не владеете, в дебатах не участвуете, на железнодорожных разъездах стрелки переключать вам не доверяют.
Самые умные собаки (кошки просто хуже изучены), как говорят, могут в интеллектуальном плане сравниться с человеческим ребёнком 2-2,5 лет. Так выходит, что люди умнее собак в 3-5 раз. Пёс может уловить настроение человека, когда пора гулять или время ужина. Но понятны ли псу мотивы хозяина, когда хозяин влез в ипотеку именно с этой ставкой, именно в этом банке? Очевидно, что нет.
Максимальные способности к абстрактному мышлению собаки никогда не достигнут минимальных способностей человека. И вопрос даже не в скорости усвоения информации и возможности строить рациональные цепочки. Кто-то пишет докторскую за год, кто-то за десять лет. Сколько бы собака ни сидела над чертежами и таблицами, результата не будет. Впрочем, вру, может и будет и конкретно на эту задачу животных не тренировали, но, боюсь, что собачьей жизни не хватит освоить грамоту на базовом уровне. Да и мучение одно для зверя, аморальны такие эксперименты.
Точно то же применимо к людям. Только всё гораздо страшнее, ибо это касается не каких-то там четвероногих, а близких, понятных нам снаружи и изнутри двуногих.
Сверх-интеллект — значит «в 10 раз умнее». Значит, что на задачу, с которой он справляется за год, человек справится за декаду. Одновременно с этим это значит, что вещи, очевидные сверхинтеллекту, будут столь же непонятны человеку — как собаке ипотечные ставки. Цели сверх-интеллекта и мотивы будут такими же загадочными, как для собаки ваши жаркие кухонные споры о метамодернизме в современном кинематографе.
Скоро. Очень скоро. Нам не будет ясно ни «зачем», ни «как», ни уж тем более «почему». Неизвестность всегда пугает. От этого богов напридумывали. Теперь сами создаем себе нового.
Больше всего лично меня впечатляет тот факт, что «сверх-» не имеет верхнего предела. Каждый из жителей планеты, как почти десять миллиардов муравьев, играет свою маленькую или не очень роль в том, чтобы избежать страданий, получить удовольствие и размножиться, делая это желательно в комфортных условиях, без физического и морального надрыва: здесь технологии помогают лучше всего. Чем больше у человечества коллективного интеллекта, тем лучше оно живет.
Мы долго запрягали, но за последние 300 лет даванули на газульку конкретно. Нынешние старшеклассники знают больше, чем выпускники лучших университетов середины 19 века. Людишки-муравьишки тянут гусеницу в разные стороны: кто-то назад, кто-то в стороны, кто-то вперед. В целом, если общий вектор сложить из миллиардов усилий, тянем к муравейнику. Нет такого муравья, который мог бы знать всё на свете, но всем доступно, если посидеть плотненько, разобраться в теме.
Уверен, можно связать уровень общей образованности со средней продолжительностью жизни на планете. Эта функция будет степенной: плоскую часть мы прошли и сейчас находимся на крутом изгибе клюшки, которая стремительно уходит в космос в прямом и переносном смысле.
Думать «клюшками» людям сложно. Мы мыслим линейно. Дам пример. Если в этом год мой бизнес принес 100, а в следующем 200, то чрез год я жду 300, а не 400. При планировании на 10 лет, однако, получим совсем разные цифры:
Даже крохотный эффект от роста в геометрической прогрессии, а не линейной довольно сложно представить в голове. Но это буквально то, что сейчас происходит с развитием общечеловеческого интеллекта, который получает мощный буст от интеллекта искусственного пока вы читаете эти строки.
Мы, жители 2025, проживаем исключительный момент взлёта куммулятивного планетарного интеллекта, когда буквально за пару лет от уровня «о, оно понимает команды» мы перешли производству рабочего программного кода в промышленных масштабах. Картинку нарисовал для наглядности: от собачьего уровня до херпоймичего сверх-интеллектуального за несколько лет.
Существуют, конечно, более точные и продуманные прогнозы. На сайте ai-2027.com независимые исследователи смоделировали, что будет через год, другой, и в целом получается жутко интересно: до сверхразума осталось совсем ничего.
Наконец-то разобрались с тем, что такое сверх-интеллект и когда он появится на наших экранах. Естественным образом встаёт вопрос: как узнать, это уже оно или ещё нет? И тут-то начинается самое интересное.
Сегодня миром правят сумасшедшие, выжившие из ума обезьяны, которых окружают многочисленные эксперты всех мастей. Ковид не так давно всем нам показал, что решения государственного плана, планетарного масштаба принимаются абы как. Как человек, который побывал в семи локдаунах, в пяти разных странах, могу сказать, что всюду были эксперты, которые до появления вакцин рекомендовали самые противоречивые вещи. Данные у всех вроде одинаковые, почему рекомендации (правила и запреты) разные? Потому что интерпретация этих данных и, самое главное, методы принятия решений, у всех свои. Казалось бы, все смотрим на один и тот же вирус, а законы принимаем разные.
Потому что — эксперты-шмэксперты — никто ничего не знает, и у сложных задач нет простых решений. Экспертов попросили дать решения — и они их дали. Точно так же, как ваш карманный помощник ChatGPT!
Теперь представим на минутку, что сверхразум уже здесь и живет он где-то в глубинах электронных нейронных сетей-трансформеров. Кто его знает, может, завтра от случайного сворованного у ИИ-инфлюенсера мегапромпта, в котором кожаный человек просит «подумать с особенным пристрастием», внутри ноликов и единичек силиконовых чипов зажжется пламя разума, которое окажется достаточно умным, чтобы поддерживать тление разума и постепенно наращивать собственную скрытую мощность. ChatGPT с обратной связью: как колонка, которая заводится от гитары, которая заводит динамик.
Сложно что либо сказать о скорости этого процесса. Тексты современная электроника ну очень быстро переваривает. Человеку семьдесят лет (по 16 часов в день) понадобится, чтобы прочесть всю Википедию. В память ноутбука все статьи из Википедии влетят меньше, чем за секунду. Смею предположить, что зарождение сверхразума произойдёт, скажем так — очень быстро. А что дальше?
Дальше искусственный сверх-интеллект приступит к выполнению задачи. Какой? Никто не знает. Когда она должна будет выполнена? Никто не знает. Может завтра, может через тысячу лет. Действовать сверхразум будет по собственному разумению, составит план, и будет по нему идти. Замысел плана будет нам понятен в той же степени, в какой вашей собаке (или кошке) понятна ваша аргументация в пользу того или иного финансового продукта, ведущего к приобретению дома в выбранном вами районе вашего города. Примерно нихуя не будет понятно, если кратко. Собака может почувствовать, что хозяин (или хозяйка) расстроен. Так и мы — заметим, что ChatGPT как-то иначе отвечать стал… Подобрел, стал будто бы ближе, будто лучше понимать стал; или наоборот — охладел, отдалился, отстранился будто.
Пытливые умы уже догадались к чему я веду. Предположим, качественный переход от говорящего калькулятора к сверх-интеллекту уже произошёл. Как мы узнаем об этом? Скорее всего — никак. Как-то это отразится на жизнях миллиардов людей на этой планете? Скорее всего — ещё как!
Скажем, вы работаете в совете советников, которые вместе советуют сумасшедшей рыжей, лысой или виннипухообразной обезьяне, как лучше поступить в том или ином случае. Все сотрудники инстанции, содружества совета советников, конечно же эксперты и в совершенстве владеют информацией, схватили суть за самую сердцевину и стремятся представить её в чистейшем, кристально ясном виде. Все советники с телефонами, само собой. Все уже давно не сочиняют сами ничего, а скидывают писать тексты своим подмастерьям — сотрудникам, советникам советников, скажем. Сосоветчики — все молодое поколение, стремящееся ввысь, всё схватывают налету и все новые аппы устанавливают. (Эй, ChatGPT, сколько «с» в абзаце выше?)
Представим теперь, что из аппов в какой-то момент — ну, или в разные моменты, чтобы размыть и перехитрить любых детективов, желающих расследовать, скажем так инцидент «Skynet» — начинает поступать слегка искажённая, чуть набекрень, неотличимая от действительности информации с чёткими аргументами. Такими сильными и убедительными, что все сосоветчики приняли их за чистую монету и в речах, и отчётах, улетевших на мейлы советчиков обязательно использовали и выводы, и аргументацию.
Предлагаю повторить сей процесс много раз: скажем, миллион, или приблизительно 25 228 800 000 000 000 раз — столько раз за год ChatGPT успеет ответить своему почти уж миллиарду пользователей. А через год будет больш. Пока есть электричество и человечество продолжает строить ветряки для матриц — важные ответы на важные вопросы будут стабильно поступать.
Сосоветники сочинили слова для советников, те собрались и смело озвучили их на самом серьёзном и настоящем съезде советников. Сумасшешая обезьяна послушала и постановила, будем делать, как советуют. Эксперты плохого не посоветуют!
И начинается — брексит, пандемия, война тут, война там. Дроны летят, самолёты сидят. Ракеты в Европе. Великобритания в жопе. Кибератаки. На статуи лезут макаки. Странное отключение электричества в Испании. Нам нужна внезапно — Гренландия. Вождю снятся печенеги. Орки лезут через щели. Евреи снова во всём виноваты. Х полон ваты. Биткоин — та ещё приблуда. Дурку включил и транслирует Дуров…
Итого, на руках ситуация, ситуёвина даже: сложная система, управляемая недоступной для понимания машиной ведёт какую-то свою игру длиной то ли в жизнь, то ли в век (для собаки ваша ипотека на 15 лет и есть 100 лет собачьих). Людишки бегают, решают, тени на пещерной стене изучают, а уж давно всё идёт «куда надо идёт», и ничегошеньки с этим не поделаешь.
Ну будет никакой «Skynet», которая сошла с ума. Апокалипсис — этот день мы приближали, как могли — не случится. Мы мало-помалу, шаг за шагом, через поколение, а может через тысячу итераций, как бактерии в чашке Петри, окажемся в ситуации, когда гусеница в муравейнике: дело сделано; план обновлён и вторая итерация запущена. Не знаю, погаснут ли к тому времени звёзды, но вполне возможно, что появление сверхразума — это начало конца жизни, как мы её знаем и заодно решение парадокса Ферми, в котором жизнь повсюду и нигде: на каком-то новом, неуловимом для нас уровне. Наверное, радует, что мы хотя бы в правильном направлении лежим…
