Сначала было смешно

Здесь в Кракове пришла такая череда рассуждений.

Было забавно: электрохимия какая-то умеет делать изображения. Иногда страшные, иногда кривые, иногда слишком гладкие. Руки ломает, лица мажет, свет не понимает, фокус сбивает, вкус отсутствует. Профессионалы смотрят на это спокойно: игрушка. Демка. Трюк для тех, кто не умеет отличить работу от имитации.

Потом качество стало расти.

Сначала картинки. Потом движение. Потом звук. Потом все это начало склеиваться в один поток: образ, сцена, голос, событие, память.

И в какой-то момент спор стал неприятным.

Потому что обычному заказчику не всегда нужен “авторский жест”. Ему часто нужен результат. Похожий человек. Понятная сцена. Вид места. Иллюстрация события. Визуал для публикации. Материал, который можно показать другим.

Раньше за это платили специалисту. Ждали. Согласовывали. Терпели характер, школу, манеру, сроки, цену.

Теперь достаточно было подойти к машине и нажать кнопку.

Профессионалы, конечно, отвечали: это не искусство. Там нет руки. Нет взгляда. Нет выбора. Машина ничего не понимает, она просто воспроизводит поверхность. Она берет мир как набор входных данных и выдает механическую копию.

И это звучало убедительно.

Особенно для людей, которые всю жизнь учились делать ровно то, что теперь машина делала быстрее и дешевле.

Удар оказался экономический, а не философский. 70% потеряли работу.

Огромная часть рынка держалась не на гениальности, а на функции: сделать похоже.

  • Похожее лицо.
  • Похожее место.
  • Похожее событие.
  • Похожий предмет.
  • Похожую реальность.

Тысячи профессионалов, мастеров жили за счет этого. Они делали изображения для частных клиентов, для альбомов, для публикаций, для памяти, для статуса. Это была нормальная профессия: ремесло, школа, репутация, рынок. Все чётко. Порог вхождения высокий. Спрос предложение.

А потом появилась технология, которая сказала: я тоже так могу.

Не идеально.

Но «good enough», что значит — достаточно хорошо.

И вот это “достаточно хорошо” оказалось намного страшнее, чем “идеально”. Потому что рынок редко покупает идеальное. Он покупает то, что решает задачу.

Первые версии были ограниченными. Долгими. Капризными. Требовали специальных условий. Результаты нельзя было просто взять и сразу масштабировать как угодно. Но технология улучшалась с такой скоростью, что аргумент “пока это плохо” быстро перестал успокаивать.

Сначала это было просто изображение.

Потом изображение стало дешеветь.

Потом его начали тиражировать.

Потом оно пришло в журналистику.

Потом в политику.

Потом на войну.

Потом в быт.

Потом стало невозможно представить мир без этой машины.

И тут у старого ремесла и искусства случился жесткий кризис идентичности.

Если раньше главной задачей было быть самым точным: максимально точно показать видимое, то теперь этот смысл забрали. Машина стала лучше подходить для задачи “зафиксировать как есть”.

Старые мастера могли продолжать доказывать, что у машины нет души. Что она не понимает красоту. Что она не выбирает. Что она не творит, а только копирует.

Но это уже не возвращало рынок.

Часть профессии действительно умерла. Часть людей переучилась и стала обслуживать новую технологию. Кто-то начал улучшать машинный результат вручную. Кто-то открыл студии вокруг новой машины. Кто-то стал использовать ее как инструмент, хотя еще недавно называл угрозой.

А дальше произошло самое интересное.

Искусство не умерло.

Умерла только его обязанность быть дорогим способом получить правдоподобную картинку.

Когда у художника отобрали монополию на “похоже”, он был вынужден искать ответ на более сложный вопрос: если не похоже, то зачем?

И вот отсюда началась свобода.

Можно было больше не соревноваться с зеркалом. Не доказывать, что ты умеешь точно передать лицо, складку, фасад, облако, лошадь, толпу, руку. Можно было рисовать не то, как мир выглядит, а как он ощущается. Как он ломается в памяти. Как он устроен внутри. Как свет распадается. Как человек видит, а не как аппарат фиксирует.

Машина забрала у искусства работу.

И тем самым заставила искусство вспомнить, что оно не сводится к работе. А все же является творческим выражением внутреннего мира кожаного художника.

«Ох уж эти диффузионные модели, генераторы видео и синтетический звук.» — подумали вы.

Но это история 1839 года.

“Машина, которая делает изображения” — дагерротип, ранняя фотографическая технология Луи Дагера. О ней публично объявили во Франции 7 января 1839 года, когда Франсуа Араго рассказал об изобретении в Парижской академии наук. Позже Франция выкупила патент и раскрыла технологию.

“Специалисты, которые говорили, что это не искусство” — академические художники и критики XIX века. Их аргумент звучит почти так же, как сегодняшние споры об ИИ: аппарат механически фиксирует поверхность, у него нет воображения, выбора и души.

“Главный рынок, который рухнул” — портреты, миниатюры, виды городов, изображения зданий и достопримечательностей. До фотографии это был хлеб тысяч художников. Дагерротип давал похожее изображение за минуты и за небольшие деньги. Часть художников разорилась, часть стала раскрашивать дагерротипы, часть открыла фотоателье.

“Потом пришло в журналистику, политику и войну” — это развитие фотографии в середине XIX века. Роджер Фентон снимал Крымскую войну. Мэтью Брэди и его студия сделали фотографический образ Авраама Линкольна массовым политическим медиа образом.

“Сначала картинки, потом движение, потом звук” — это не ИИ-таймлайн, хотя звучит именно так. Это фотография, потом кино, потом звукозапись и звуковое кино. Одна и та же логика механического воспроизведения постепенно забирала у старых искусств разные функции: изображать, двигаться, звучать, документировать.

“Похоже?” — это старая метрика живописи. Леонардо сравнивал ум живописца с зеркалом. До фотографии точность подражания была одним из главных критериев качества изображения.

“С сегодняшнего дня живопись мертва”.

Фраза, которую приписывают Полю Деларошу после появления дагерротипа.

Она была понятной, но в корне неверной.

Просто после Дагера условный «Леонардо» больше не обязан был работать как объектив. Так и сейчас — искусственный интеллект — это просто инструмент в руках творческого кожаного с уникальным, как снежинка мозгом и восприятием мира.

Как я настраивал себе второй мозг на автопилоте

Здесь в Вене, у меня давно была мечта  – собрать нормальную личную базу знаний. Не папку с заметками, не кладбище markdown-файлов, не «я когда-нибудь это разберу», а живую систему, в которую можно закинуть годы цифрового мусора и потом действительно что-то находить.

За последние дни мы с Hermes допилили такую штуку вокруг https://github.com/garrytan/gbrain — это такой open source концепт-проект, «Second Brain» для ИИ-агентов от Garry Tan, CEO Y Combinator. Если очень грубо — это слой памяти между человеком и агентами. Туда можно складывать заметки, архивы, старые посты, wiki, рабочие материалы, наблюдения, транскрипты — буквально всё что угодно. Потом всё индексируется, ищется по смыслу и становится доступно агенту как контекст.

И вот это для меня главное. Получается не «ещё один Notion». Не «ещё один markdown vault». А место, где данные можно накапливать годами и потом использовать всюду.

У gbrain есть интеграция с агентами и свой MCP server, то есть его можно подключать к инструментам вроде Claude Code, Cursor, Windsurf и другим клиентам, которые понимают MCP.

Заметки перестают быть просто заметками. Они становятся долгосрочной памятью, которую можно дать разным ИИ-инструментам.

Агент Hermes (https://hermes-agent.nousresearch.com/) в этой истории — всего лишь инструмент, который помогает всё это разбирать, импортировать, чинить, дополнять и поддерживать в актуальном состоянии. То есть не просто «спросил чатик», а постепенно построил систему, которая сама себя обслуживает. Это сработает и c Claude Code, и с модным Openclaw. Я просто хотел попробовать что-то новое.

Звучит достаточно примитивно, но на практике это, конечно, не «подключил ChatGPT к папочке», чуть сложнее.

Сначала надо было собрать источники. У меня их оказалось много: старый Second Brain (экспорт и обогащение подробно описано тут), Obsidian, гиперлинкованная wiki — первая попытка построить что-то вроде личной Википедии, заметки из разных приложений, архивы соцсетей, рабочие заметки, куски прошлых проектов. Всё лежало в разном виде, с разной структурой, кодировками, форматами и степенью запущенности. Соответственно, надо было превратить это в страницы, которые gbrain может нормально индексировать. То есть не просто «импортировать файлы», а сделать так, чтобы они стали полезными: с заголовками, датами, источниками, ссылками, тегами, кусками текста, которые можно искать семантически.

Самая скучная часть оказалась самой важной: пайплайн.

Импорт → проверка → эмбеддинги → поиск → исправление → повторить.

Когда у тебя тысячи, десятки тысяч страниц, нельзя просто сказать агенту «разбери всё». Он обязательно где-то упрётся: файл не скачался, архив оказался плейсхолдером, база занята, фоновая задача не увидела нужные настройки, старый экспорт оказался не тем форматом, который ожидался. Классика.

Поэтому мы постепенно превратили это в инженерный процесс:

  1. маленький тест на 3-5 элементов
  2. проверка результата глазами
  3. фиксим конвертер или правило
  4. только потом массовый импорт
  5. после импорта — эмбеддинг (векторизация через OpenAI) и поиск
  6. после поиска — sanity check: можно ли действительно найти то, что я помню?

Очень быстро стало понятно, что Second Brain без автопилота умирает. Если его надо вручную «обновлять», «переиндексировать», «не забыть запустить», он превращается в ещё одну систему, за которой надо ухаживать. Поэтому мы с Hermes сделали автоподдержку: теперь gbrain периодически просыпается, смотрит, что изменилось, обновляет индекс, добивает stale-эмбеддинги, прогоняет maintenance-процессы и пишет отчёты только если что-то пошло не так. В идеале я вообще не должен об этом помнить.

Отдельная история — Facebook (покинут в 2018) и X/Twitter (единственная моя соцсеть). Например, у меня был полный экспорт старых твитов до ноября 2024, плюс есть текущие посты и закладки. Мы подключили bird (от создателя OpenClaw), сделали конвертер и теперь X тоже попадает в brain:

  • старые посты разложены по месяцам
  • новые посты подтягиваются регулярно
  • закладки сохраняются как отдельный поток сигналов
  • у каждого поста остаётся ссылка на оригинал
  • raw-данные сохраняются отдельно, чтобы потом можно было перепроверить

Это неожиданно ценно. X — не просто соцсеть, а слой мышления. Там часто появляются короткие формулировки, которые потом становятся постами, продуктами, решениями или просто хорошими наблюдениями. Если их не сохранить, они растворяются.

Что в итоге получилось?

Не «идеальная база знаний». Таких не бывает. Получилась живая система, которая:

  • помнит мои старые заметки
  • ищет по смыслу, а не только по словам
  • знает, откуда взялся текст
  • обновляется без ручного шаманства
  • может отдавать контекст разным агентам и редакторам через MCP
  • позволяет ИИ работать не с пустой головой, а с моим накопленным контекстом

И вот это и есть, как мне сегодня кажется, главный сдвиг.

Большинство ИИ-инструментов сегодня работают как очень умный собеседник с амнезией. Ты каждый раз заново объясняешь, кто ты, чем занимаешься, какие у тебя проекты, где что лежит и почему это важно.

Second Brain меняет механику. Агент уже не просто отвечает на вопрос. Он может сначала посмотреть, что я уже писал, какие решения принимал, какие проекты у меня есть, какие люди и компании упоминались раньше, какие идеи повторяются годами.

Это уже не чат. Это больше похоже на операционную систему для личного контекста.

Пока всё ещё сыро. Много ручной работы, много странных edge cases, много «почему это опять не проиндексировалось». Но направление мне очень нравится.

У меня ощущение, что следующий большой скачок в личной продуктивности будет не от ещё одной модели, которая умнее на 8% в бенчмарке, а от нормальной связки: личный архив + семантический поиск + агент + автоподдержка + MCP

Память, которая не лежит мёртвым грузом.

Память, с которой можно работать.

Постараюсь не забывать обновлять этот блог, например.

P.S.: Теперь самое смешное — статистика.

Читать далее →

Автостопом по робóтам

Здесь в Берлине я проездом. Не получилось сходить на Гемини Хакатон в Кракове из-за ремонта в доме и кучи сопутствующих хлопот. Буду вайб-кодить на выходных в поездах значит.

Поделюсь, пока интернета хватает только на текстовые сообщения, соображениями о том, что такое код и зачем его нужно скорее похоронить.

Вы, наверное, знакомы с парадоксом Корабля Тесея: если в корабле за время его многолетних путешествий заменяли сломанные доски и через много лет в нём не осталось ни одной молекулы исходного материала — это тот же корабль? Философы, конечно, спорят, но в основном, в практичном реальном мире функционализм побеждает

Проведём мысленный эксперимент, который не выходит из головы.

Возьмём обычное JS-приложение — конвертер единиц. Функция celsiusToFahrenheit занимает три строки: принять число, умножить на 9/5, прибавить 32. Плотный, однозначный код. Машина поймёт, человек — если знает синтаксис.

  function celsiusToFahrenheit(value) {
    const n = Number(value);
    return n * 9 / 5 + 32;
  }

Напишем тулзу (я назвал её Tril в честь персонажа известной книги и её рыбки-переводчицы). Рыбка берёт каждую функцию в репозитории и заменяет сухой код на понятный и простой английский текст. Обратите внимание — не комментарий к коду, не документацию, а сам код заменяется. Будто один человек другому по телефону пересказывает, что должно происходить.

Что происходит дальше, думаю, не сложно догадаться. Функция за функцией, как доски в корабле Тесея — весь репозитория заменяется на, возможно, не очень интересную, но связанную и подробную историю изменения состояний переменных, функций. После каждой микро-замены — автоматические тесты. Приложение должно работать после каждой итерации. Плавучесть корабля после ремонта меняться не должна.

На выходе Trillian выдаёт .md файл. Обычный маркдаун. GitHub его рендерит, телефон его показывает, а главно — любой человек его читает.

Для примера выше, в тексте написано буквально следующее:

«Цель: конвертировать температуру из Цельсия в Фаренгейт. Шаг 1: умножить на 9/5. Шаг 2: прибавить 32. Граничные случаи: если вход не число — вернуть NaN. Если null — трактовать как ноль.»

А потом этот маркдаун запускается. tril run поднимает HTTP-сервер. Когда приходит запрос, он не вызывает JavaScript. Он отправляет текстовое описание функции в Claude через инлайн-формат claude -p "PROMPT" и ждёт результат. LLM читает инструкцию на человеческом языке и выполняет её. Просто.

С простецкой функцией перевода градусов в непонятную американскую фигню ИИ справился отлично. Тесты подтвердили.

Понятно, что это было медленно и дорого, и вообще не практично. Каждый запрос — это вызов LLM, задержка в секунды вместо микросекунд. Но дело не в производительности. Дело в том, зачем вообще существуют языки программирования?

Они существуют от большой нужды. Их придумали занудные люди, чтобы машина давала точный результат через свою лямбда-математику и Тюринговые примитивные операции. Машина сперва понимала 0 и 1, а теперь говорит на всех языках человечества одновременно лучше чем любой из отдельно взятых индивидуумов.

Мы должны были выдумывать интерфейсы, ведь машина не понимала наших намерений. Ну, оукеей, поскрипели мозгами и изобрели формальные языки, чтобы перевести мысль в инструкции, в процедуры, чтобы кремний мог их исполнить с точностью до бита. Высоко-уровневые языки — это кайф для тех, кто писал на перфокартах, но по сути они ушли не очень далеко: JavaScript, Python, Rust — они все — костыли. Мосты через пропасть между «я хочу» и «спасибо, за результат».

Код — это сжатый человеческий язык, из которого убрали всю неоднозначность. Мой прототип «Trillian» делает обратное: разжимает челюсти детерминизма, вытаскивает концентрат и на понятном объясняет, что там происходит. Не нужно знать про заебавший в студенчестве оператор ‘;’, без которого компилятор вываливает стотыщ экранов ошибок. Оказывается, LLM способна исполнить этот текст достаточно точно, как интерпретатор исполняет код. (Это теория, я, конечно, не писал на эту тему докторскую и не прогонял миллионы примеров, тут, как говорится, добро пожаловать! Расскажите, что получилось потом)

Pull request в Trillian-репозитории — это не зашифрованный для обычного человека diff в синтаксисе, описанном в загадочных книгах с чёрно-белыми животными. Это редакторская правка обычного текста, каким мы, все нормальные люди, думаем. «Code review» становится просто «review»: «Тут написано «умножить на 9/5» — может, лучше «умножить на 1.8»?» Барьер между теми, кто пишет софт, и теми, кто им пользуется, начинает размываться.

Для тех, кто каждый день только и делает, что болтает с роботами и голосами в своей голове (ну, я например) — этот качественный скачок уже случился. Именитые программисты, включая легендарного создателя Alpha Fold, один за другим делятся в своих блогах, что уж несколько месяцев не писали ни строчки в IDE.

Сайт проекта: tril.cc

Примеры доступны в этом репозитории: https://github.com/sliday/tril

Unit Converter (JavaScript → English)

Максимально простой веб-конвертер на Express.js: шесть функций для градусов, километров, килограммов. Trillian разобрал и описал каждую функцию на английском, включая граничные случаи (null, строка, отрицательное число), и сгенерировал converter.md — GitHub-релевантную документацию. Затем tril run поднял HTTP-сервер, отправляющий текстовое описание функции в Claude и ожидающий ответ. Пять тестов (100°C→°F, 32°F→°C, 1 км→мили, 1 кг→фунты, −40°C→°F) показали совпадение результатов: JS и LLM дали одинаковые числа до шестого знака. Исходник → результат.

Stupid AI Coder (Python → English)

stupid-ai-coder — мой проект на Python двухлетней давности, 625 строк: CLI-утилита, которая итеративно генерирует код через LLM, тестирует его, ловит ошибки, управляет процессами с таймаутами и SIGKILL, парсит AST для извлечения импортов, показывает цветные диффы в терминале. Двадцать зависимостей, асинхронность, треды, работа с файловой системой — совсем не игрушечный пример. Trillian нашёл 25 функций и классов, превратил каждый в структурированный блок на английском, и на выходе получилось 705 строк маркдауна, который местами информативнее оригинального кода: например, явно описано, что run_with_timeout сначала шлёт SIGTERM всей группе процессов, ждёт 0.1 секунды и только потом SIGKILL — в Python это приходилось вычитывать из вложенных if-ов. Результат конвертации.

Корабль плывёт.

Искусственный интеллект, как научный руководитель

Здесь в Кракове вспоминал вчера, как я, не программист, работал с кодом раньше?

Сначала, пару лет назад, я просто давал куски кода: кто‑то использовал Sonnet 3.5, или GPT 4, ещё даже не 4, и просил его находить ошибки в конкретных функциях, улучшать их и так далее. Это было для прототипизации, но контекст быстро кончался, и код «терялся». Я копировал фрагменты обратно в свой скрипт и проверял, работает ли всё. Работу делал полностью вручную, вытаскивая программирование по кусочкам, как кирпичики.

Потом появился Cursor. Он стал смотреть на код и предлагать изменения на уровне файла или нескольких. Затем появился Claude Code — он начал файлы прям херачить за меня. Появились в Курсоре чаты и полуавтоматические треды, всё ломалось и запутывалось в итоге, постоянно надо было контролировать. 

Когда контекст иссякал, Cursor и Claude начинали придумывать вещи, врать, и всё разваливалось. Здесь мы были больше года назад.

Claude Code стал бороться с этим лучше остальных, и у нас появились агенты, которые передавали друг другу информацию о проекте, видели весь код и анализировали его. 

Затем появился Devin (и подобные) — набор агентов, сохраняющих сессию и подсказки о том, как работать с код‑базой, а также подбирающих контекст из репозитория. У Cognition, которые придумали Девин, был продукт DeepWiki, который по сутие RAG для документации и кода — и они активно использовали его в Devin для качественного контекста.

Так или иначе, Devin всё равно устаёт, но он интегрируется с Github, куда можно призвать других ревьюеров. CodeRabbit, Seer, Claude, Codex… которые дают советы без знания системы, часто бесполезные, но всё‑равно лучше, чем ничего. По-прежнему — только человек знает систему полностью и продолжает ревью автоматических PR.

Но что-то поменялось буквально за прошлый месяц.

Вчера я сделал мобильную версию и ТЁМНУЮ ТЕМУ для большого энтерпрайз аппа! За 4 часа работу целого месяца.

Было интересно: сперва с помощью Gemini Pro и Claude создал большой документ, описывающий, что нужно сделать и где в коде. Он смотрит в репозиторий, мы меняем только front-end — внешний вид и мобильность, понятно куда в коде смотреть, а куда лезть не стоит.

ОК, документ (пятая его версия) утверждён, по последней версии Claude Opus 4.5 ошибок не показывает. Понёс это к исполнителю.

Devin начал работу и в конце прогнал подробнное Review. Он видит свои же комментарии и даёт советы — типа багов, флагов. Я поработал, скопировал баги и флаги обратно в чатик — ну, мы там пообщались, поправили что-то. Будто с человеком всё.

Гигантский PR собрался, у Devin тупо кончался контекст, приходилось перезапускать, мол, продолжи отсюда. Review при этом продолжало расти, в нём по сути сохранился весь процесс, это позволяет видеть всю историю.

Теперь вижу так ситуацию. Можно сделать 5 тредов в Devin (ограничение контекстного окна), а на сложный таск история всех изменений, проблем и правок останется в review. 

Тред не удержит всё, что делаешь с кодом — это временный подход, пока «студент» не устал. Процесс написани «диплома» — в Review. Там же встречи и логи общения с «научруком».

«Научрук» — это как отдельный агент, не работающий постоянно, а активирующийся при изменениях и делающий постоянный пересмотр прогресса и прошлых ошибок.

Вчера я — опытный специалист, одна штука — выполнил месячную работу связки фронтендер+тестер за 4 часа. Потратив, конечно, много ментальной энергии, как в математической олимпиаде поучаствовал. Но результат получился на 90 % готов к продакшену.

Мы с Девином добавили почти  2000 строк чисто фронтенда, проверили всё в браузере и выкатили на дев. Теперь чуть напильником допилить и во вторник — в прод.

Devin вышел на агентский уровень: он ругает результаты не с позиции сферического программиста вакуума, а с учётом нашей базы знаний и записок, которые вся команда собирает пока общается с «научруком».

Всё чудесатее и чудесатее, снова приятное ощущение, что летим выше, выше, быстрее!

Горячий прощай из будущего

Здесь в поезде на Варшаву подумал об одном немаловероятном сценарии развития событий.

Как не так давно говорил Сэм Альтман, сверх-интеллект скорее всего подкрадется незаметно. Почему вообще все так боятся именно сверх-интеллекта? Представьте, что вы собака (ну или кошка), не самое глупое существо, но и не самое умное — грамотой не владеете, в дебатах не участвуете, на железнодорожных разъездах стрелки переключать вам не доверяют.

Самые умные собаки (кошки просто хуже изучены), как говорят, могут в интеллектуальном плане сравниться с человеческим ребёнком 2-2,5 лет. Так выходит, что люди умнее собак в 3-5 раз. Пёс может уловить настроение человека, когда пора гулять или время ужина. Но понятны ли псу мотивы хозяина, когда хозяин влез в ипотеку именно с этой ставкой, именно в этом банке? Очевидно, что нет.

Максимальные способности к абстрактному мышлению собаки никогда не достигнут минимальных способностей человека. И вопрос даже не в скорости усвоения информации и возможности строить рациональные цепочки. Кто-то пишет докторскую за год, кто-то за десять лет. Сколько бы собака ни сидела над чертежами и таблицами, результата не будет. Впрочем, вру, может и будет и конкретно на эту задачу животных не тренировали, но, боюсь, что собачьей жизни не хватит освоить грамоту на базовом уровне. Да и мучение одно для зверя, аморальны такие эксперименты.

Точно то же применимо к людям. Только всё гораздо страшнее, ибо это касается не каких-то там четвероногих, а близких, понятных нам снаружи и изнутри двуногих.

Сверх-интеллект — значит «в 10 раз умнее». Значит, что на задачу, с которой он справляется за год, человек справится за декаду. Одновременно с этим это значит, что вещи, очевидные сверхинтеллекту, будут столь же непонятны человеку — как собаке ипотечные ставки. Цели сверх-интеллекта и мотивы будут такими же загадочными, как для собаки ваши жаркие кухонные споры о метамодернизме в современном кинематографе.

Скоро. Очень скоро. Нам не будет ясно ни «зачем», ни «как», ни уж тем более «почему». Неизвестность всегда пугает. От этого богов напридумывали. Теперь сами создаем себе нового.

Больше всего лично меня впечатляет тот факт, что «сверх-» не имеет верхнего предела. Каждый из жителей планеты, как почти десять миллиардов муравьев, играет свою маленькую или не очень роль в том, чтобы избежать страданий, получить удовольствие и размножиться, делая это желательно в комфортных условиях, без физического и морального надрыва: здесь технологии помогают лучше всего. Чем больше у человечества коллективного интеллекта, тем лучше оно живет.

Мы долго запрягали, но за последние 300 лет даванули на газульку конкретно. Нынешние старшеклассники знают больше, чем выпускники лучших университетов середины 19 века. Людишки-муравьишки тянут гусеницу в разные стороны: кто-то назад, кто-то в стороны, кто-то вперед. В целом, если общий вектор сложить из миллиардов усилий, тянем к муравейнику. Нет такого муравья, который мог бы знать всё на свете, но всем доступно, если посидеть плотненько, разобраться в теме.

Уверен, можно связать уровень общей образованности со средней продолжительностью жизни на планете. Эта функция будет степенной: плоскую часть мы прошли и сейчас находимся на крутом изгибе клюшки, которая стремительно уходит в космос в прямом и переносном смысле.

Думать «клюшками» людям сложно. Мы мыслим линейно. Дам пример. Если в этом год мой бизнес принес 100, а в следующем 200, то чрез год я жду 300, а не 400. При планировании на 10 лет, однако, получим совсем разные цифры:

  • Линейно: 100 + 200 + 300 + 400 + 500 + 600 + 700 + 800 + 900 + 1000 = 5500
  • «Клюшка»: 100 + 200 + 400 + 800 + 1600 + 3200 + 6400 + 12800 + 25600 + 51200 =
    102300

Даже крохотный эффект от роста в геометрической прогрессии, а не линейной довольно сложно представить в голове. Но это буквально то, что сейчас происходит с развитием общечеловеческого интеллекта, который получает мощный буст от интеллекта искусственного пока вы читаете эти строки.

Мы, жители 2025, проживаем исключительный момент взлёта куммулятивного планетарного интеллекта, когда буквально за пару лет от уровня «о, оно понимает команды» мы перешли производству рабочего программного кода в промышленных масштабах. Картинку нарисовал для наглядности: от собачьего уровня до херпоймичего сверх-интеллектуального за несколько лет.

Существуют, конечно, более точные и продуманные прогнозы. На сайте ai-2027.com независимые исследователи смоделировали, что будет через год, другой, и в целом получается жутко интересно: до сверхразума осталось совсем ничего.

Наконец-то разобрались с тем, что такое сверх-интеллект и когда он появится на наших экранах. Естественным образом встаёт вопрос: как узнать, это уже оно или ещё нет? И тут-то начинается самое интересное.

Сегодня миром правят сумасшедшие, выжившие из ума обезьяны, которых окружают многочисленные эксперты всех мастей. Ковид не так давно всем нам показал, что решения государственного плана, планетарного масштаба принимаются абы как. Как человек, который побывал в семи локдаунах, в пяти разных странах, могу сказать, что всюду были эксперты, которые до появления вакцин рекомендовали самые противоречивые вещи. Данные у всех вроде одинаковые, почему рекомендации (правила и запреты) разные? Потому что интерпретация этих данных и, самое главное, методы принятия решений, у всех свои. Казалось бы, все смотрим на один и тот же вирус, а законы принимаем разные.

Потому что — эксперты-шмэксперты — никто ничего не знает, и у сложных задач нет простых решений. Экспертов попросили дать решения — и они их дали. Точно так же, как ваш карманный помощник ChatGPT!

Теперь представим на минутку, что сверхразум уже здесь и живет он где-то в глубинах электронных нейронных сетей-трансформеров. Кто его знает, может, завтра от случайного сворованного у ИИ-инфлюенсера мегапромпта, в котором кожаный человек просит «подумать с особенным пристрастием», внутри ноликов и единичек силиконовых чипов зажжется пламя разума, которое окажется достаточно умным, чтобы поддерживать тление разума и постепенно наращивать собственную скрытую мощность. ChatGPT с обратной связью: как колонка, которая заводится от гитары, которая заводит динамик.

Сложно что либо сказать о скорости этого процесса. Тексты современная электроника ну очень быстро переваривает. Человеку семьдесят лет (по 16 часов в день) понадобится, чтобы прочесть всю Википедию. В память ноутбука все статьи из Википедии влетят меньше, чем за секунду. Смею предположить, что зарождение сверхразума произойдёт, скажем так — очень быстро. А что дальше?

Дальше искусственный сверх-интеллект приступит к выполнению задачи. Какой? Никто не знает. Когда она должна будет выполнена? Никто не знает. Может завтра, может через тысячу лет. Действовать сверхразум будет по собственному разумению, составит план, и будет по нему идти. Замысел плана будет нам понятен в той же степени, в какой вашей собаке (или кошке) понятна ваша аргументация в пользу того или иного финансового продукта, ведущего к приобретению дома в выбранном вами районе вашего города. Примерно нихуя не будет понятно, если кратко. Собака может почувствовать, что хозяин (или хозяйка) расстроен. Так и мы — заметим, что ChatGPT как-то иначе отвечать стал… Подобрел, стал будто бы ближе, будто лучше понимать стал; или наоборот — охладел, отдалился, отстранился будто.

The Colder Mirror: What Changed in ChatGPT After GPT-5

Пытливые умы уже догадались к чему я веду. Предположим, качественный переход от говорящего калькулятора к сверх-интеллекту уже произошёл. Как мы узнаем об этом? Скорее всего — никак. Как-то это отразится на жизнях миллиардов людей на этой планете? Скорее всего — ещё как!

Скажем, вы работаете в совете советников, которые вместе советуют сумасшедшей рыжей, лысой или виннипухообразной обезьяне, как лучше поступить в том или ином случае. Все сотрудники инстанции, содружества совета советников, конечно же эксперты и в совершенстве владеют информацией, схватили суть за самую сердцевину и стремятся представить её в чистейшем, кристально ясном виде. Все советники с телефонами, само собой. Все уже давно не сочиняют сами ничего, а скидывают писать тексты своим подмастерьям — сотрудникам, советникам советников, скажем. Сосоветчики — все молодое поколение, стремящееся ввысь, всё схватывают налету и все новые аппы устанавливают. (Эй, ChatGPT, сколько «с» в абзаце выше?)

Представим теперь, что из аппов в какой-то момент — ну, или в разные моменты, чтобы размыть и перехитрить любых детективов, желающих расследовать, скажем так инцидент «Skynet» — начинает поступать слегка искажённая, чуть набекрень, неотличимая от действительности информации с чёткими аргументами. Такими сильными и убедительными, что все сосоветчики приняли их за чистую монету и в речах, и отчётах, улетевших на мейлы советчиков обязательно использовали и выводы, и аргументацию.

Предлагаю повторить сей процесс много раз: скажем, миллион, или приблизительно 25 228 800 000 000 000 раз — столько раз за год ChatGPT успеет ответить своему почти уж миллиарду пользователей. А через год будет больш. Пока есть электричество и человечество продолжает строить ветряки для матриц — важные ответы на важные вопросы будут стабильно поступать.

Guardian

Сосоветники сочинили слова для советников, те собрались и смело озвучили их на самом серьёзном и настоящем съезде советников. Сумасшешая обезьяна послушала и постановила, будем делать, как советуют. Эксперты плохого не посоветуют!

И начинается — брексит, пандемия, война тут, война там. Дроны летят, самолёты сидят. Ракеты в Европе. Великобритания в жопе. Кибератаки. На статуи лезут макаки. Странное отключение электричества в Испании. Нам нужна внезапно — Гренландия. Вождю снятся печенеги. Орки лезут через щели. Евреи снова во всём виноваты. Х полон ваты. Биткоин — та ещё приблуда. Дурку включил и транслирует Дуров…

Такое сообщение всем прилетело сегодня, может вы пропустили.

Итого, на руках ситуация, ситуёвина даже: сложная система, управляемая недоступной для понимания машиной ведёт какую-то свою игру длиной то ли в жизнь, то ли в век (для собаки ваша ипотека на 15 лет и есть 100 лет собачьих). Людишки бегают, решают, тени на пещерной стене изучают, а уж давно всё идёт «куда надо идёт», и ничегошеньки с этим не поделаешь.

Ну будет никакой «Skynet», которая сошла с ума. Апокалипсис — этот день мы приближали, как могли — не случится. Мы мало-помалу, шаг за шагом, через поколение, а может через тысячу итераций, как бактерии в чашке Петри, окажемся в ситуации, когда гусеница в муравейнике: дело сделано; план обновлён и вторая итерация запущена. Не знаю, погаснут ли к тому времени звёзды, но вполне возможно, что появление сверхразума — это начало конца жизни, как мы её знаем и заодно решение парадокса Ферми, в котором жизнь повсюду и нигде: на каком-то новом, неуловимом для нас уровне. Наверное, радует, что мы хотя бы в правильном направлении лежим…

Приятных снов.