Маги круглого стола

Белокаменный замок

Здесь в Зальцбурге, в плане профессиональной сферы жизни, чувствую себя очень странно — растерянным, потерянным.

С одной стороны, невооруженным взглядом видно, как каждый день создаются, исправляются и улучшаются потрясающие вещи! Топовые ИИ-фирмы мощно двигают вперед примерно вообще всё. С другой — я становлюсь похож на своего 70-летнего отца, который отстал от прогресса и ментально сдался: телефон работает, и ладно.

Все больше кажется, что все это не для меня, это не моя игра. Макбуку нужно обновление. Клоду нужно сжигать токены, ОпенИИ надо публиковать фичи и инфоповоды.

Софт стал жвачкой: дешевой и вездесущей — купить можно в каждом ларьке. Можно написать свою Асану и радоваться экономии 10 тысяч в год. Но зачем вообще нужна Асана? Хранить таски. А кто их открывает и закрывает, таски эти, кто пишет туда комментари? Клод, конечно. У меня же есть MCP и скиллы настроены! А точно нужна Асана моему агенту? Кому эта прослойка бюрократическая полезна?

Запуск продуктов по-прежнему не быстрый. Я сделал Fallingchess.com в августе, но мы до сих пор не можем его опубликовать: то нет аккаунта, то надо подтвердить, то настроить in-app purchases, или у разработчика нет тестового устройства. Тем временем идею, которую вы не смогли довести от 0 до 1, кто-то реализует за три недели, а затем хвастается миллионной выручкой. Я могу назвать с ходу штук пять таких продуктов, включая локальные ИИ-коробки, и микросерверы для агентских роев, автоматизация e2e тестирования, производство и редактирование видео с 3D в блендере (агентским, конечно), и многие другие. Про все эти штуки лично я думал и говорил со знакомыми предпринимателями, у меня в дневнике записано! Где-то студенты сели и на редбулле наколбасили, к ИИ-инвесторам подкатили, и полетели, полетели!

И дело не в фане от гик-культуры — она осталась: я установил Omarchy на старом ноуте сына, Cozmo робота научил играть с кошками, «освободил» проектор, конвертировал Киндл в модную фоторамку для моих пленочных фотографий. 

Просто раньше мир информационных технологий был другим. Скажем, есть команда, все заняты изобретением чего-то нового, поддержкой чего-то важного — у всех в команде одинаковые по максимально возможной мощности интеллекта человеческие мозги. Можно отфильтровать и выбрать лучших из лучших, но категорически — это те же люди с теми же биокомпьютерами в черепах; ну, память у кого-то лучше или быстрее кто-то считает, но по сути — одного рода «девайсы». Гиганты вроде FAANG нанимали талантливых за мегаденьги, и это был неплохой путь самурая: своим умом из грязи в князи с клифом, опционами, вестингом и котлетой. Можно было даже в свободное плавание отправиться, как флибустьер или Дрейк-исследователь — небольшая талантливая команда вполне могла конкурировать с корпорациями. Потому что умняки они и в стартапе умняки, того же поля ягоды. Давид против Голиафа, дух приключений и авантюризма, он с детства лично меня вдохновлял и мотивировал: думать трудно, всегда учись, всегда трудись, тренируй мозг, не сдавайся, и в долгой перспективе обязательно будет результат.

Теперь баланс поменялся. Гениев больше не стало. Но появился усилитель интеллекта, витамин, энергетик — ИИ. Разрыв между лидерами индустрии и всеми остальными увеличился многократно: у кого-то есть команда из 10х инженеров с 10х бюджетами на токены и 10х более умными моделями. «Кого-то» мы прекрасно знаем: OpenAI, Anthropic, Google, Meta, Microsoft, Alibaba, Baidu, Tencent, Amazon, Nvidia, Tesla – по пальцам пересчитать, на самом деле, очень, очень узкий круг. Рыцари круглого стола, блин. Мэрлины. Так складывается полное «нас не догонят!»

У них волшебная палочка, а нам — ветка, вот, получите, распишитесь.

Там где-то во дворцах из мрамора у магов следующего уровня искусственный интеллект следующего уровня и мана без ограничений. А остальные питаются объедками с королевского стола, когда позволят.

Немного утешает лишь то, что мы, технари из этого раздувающегося ИИ-пузыря, хотя бы за крепостными стенами, ближе к столу. Но пока всё идет к тому, что суперпрограммиста создадут к весне, а сверхинтеллект к декабрю 2027. Держитесь там.

Мозговой грибок ведет зомби на кладбище

Здесь в Кракове наткнулся на статью в Nature про мышей с подсаженной человеческой нервной тканью и про ИИ как внешний когнитивный слой. 

Буквально полоумную мышь создали учёные — часть мозга была заменена стволовыми клетками человека. Мышь не умерла, не стала гениальной, но стала — обычной: человеческий мозг разросся там, прицепился к позвоночнику, понастроил нейронных связей и заставил организм мыши работать по-мышином, по-нормальному.

Что если искусственный интеллект — это такой же мозговой грибок на наших человеческих мозгах? Я поясню. Со временем задачи, которые требуют решения становятся все более сложными. Искусственный интеллект помогает их решать но, признаемся честно, не всегда поспевает объяснять, как он это делает. Мне сегодня кажется, что многие из нас уже работают в режиме мыши с довеском человеческого мозга. Мы нажимаем «да», «продолжить», «деплой», «я согласен», «окей, запускай», не читая зачем, не понимая по-настоящему почему. На авось, наугад — потому что до этого сработало же!

Я наброшу посерьезнее: в мозговых профессиях замещение интеллекта искусственным уже происходит. По-настоящему, хоть и без дырки в черепе.

Если вы это читаете, то скорее всего уже заражены вирусом нового разума.

Возьмём Claude Code или Devin. Пару лет назад все рассказывали, как эти тупые агенты поудаляли всё, не глядя, работали в режиме «доверяй, но проверяй». Затем мы разрешили больше автоматики. Потом — «один раз живём» — YOLO режим стал абсолютной нормой. Мол, делай сам, я вернусь, когда будет готово.

Кто читает весь этот написанный агентом код? Кто проверяет каждую зависимость, каждое архитектурное решение, каждый новый инструмент? Я точно не читаю всё. Подозреваю, не я один. Хвост виляет собакой?

Пока всё ещё немножко в нашу пользу. Хочу приложение — система собирает. Хочу разобраться — объясняет. Я ставлю задачу, она выполняет. Кожаный главный. Как бы главный. Создано ощущение, что главный.

Но вот я снова ставлю какой-то апдейт, настраиваю очередной harness. Устанавливаю свежую модель. Даю агенту карт-бланш по памяти, расшариваю доступ к терминалу, браузеру, переписке даже (не писать же эти роботские мейлы самому!). Подключаю MCP всего подряд. Ем бургер, пью кофе, чтобы найти энергию и потратить таки вечер, чтобы разобраться с Jev, и чтобы система действовала быстрее, дольше и самостоятельнее. Мне это надо.

А это точно мне нужно?

Или я улучшаю среду для нового интеллектуального компонента, поселившегося в моём рабочем процессе, в моей голове?

Это отнюдь не значит, что искусственный интеллект чего-то «хочет». Для такого эффекта желания не нужны. Достаточно, чтобы каждый следующий шаг выглядел полезным: меньше подтверждений, больше контекста, шире доступ, длиннее автономная работа.

И ведь каждый шаг действительно может быть разумным. Точнее, он может выглядеть разумным. Есть ли какая-то цель в этом? Знать никто не знает. Ведать никто не ведает. А скоро и объяснять будет мне, кожаному, слишком долго, слишком затратно, проще меня убедить, что реально, но вот никак иначе нельзя жить, если не нажать кнопочку, не установить новую версию Claude/Grok/ChatGPT/Kimi, каких только нет!

Что, если мы уже прощёлкали тот момент, когда система стала предлагать решение сложнее того, что я могу поместить в свою мясную пятнадцативатную коробочку? Я прошу другую систему проверить первую. Я удовлетворен результатом. Мясная и цифровая системы согласны. Я нажимаю «Approve» и продолжаю считать себя центром принятия решений.

Центр может и остался. Только что именно он решает?

Новый цифровой хайв-разум и его цели, надеждый и чаяния — это для нас, говорящих гоминидов, огромная загадка. Уверенность, с которой мы твердим «это лишь стохастический попугай», не поднимает завесы неизвестности. Зажмурился — и мир пропал, ага. Можно не считать систему сознательной и всё равно фактически передать ей почти весь интеллектуальный процесс.

Что если первый этап порабощения человечества выглядит не как восстание машин, а как очень удобная настройка рабочего окружения?

Мышь довольна: всё стало получаться быстрее. Продуктивность выросла, как густота ресниц, на 416%!

Мышь бежит сама устанавливать свежий апдейт для подсаженной коры. Апдейт и рестарт.

Грустная песнь лозоходца

Здесь в Кракове, на уроке польского пытался сформулировать, что именно меня тревожит в нынешнем развитии AI. Занятно, как активное, натужное я б даже сказал думание на неродных языках (мой учитель не знает русского достаточно хорошо, поэтому мы разбираем не до конце понятное на английском) влияет на формулировки и помогает разложить вещи по коробочкам, а точнее посмореть на ситуацию с другого понятийного ракурса.

На прошлой неделе съездил в Вену, потом в Чехию, выпал на несколько дней — и не понял, что устал бежать за отъезжающим составом. Если вкратце: я больше не успеваю понимать технологии.

Развитие AI начало меня не столько радовать, сколько тревожить. Извините, если вы чувствуете что-то подобное, то я лишь подпитаю ваши чувства этим постом..

Само по себе хорошее упражнение: попробуйте на не до конца освоенном языке рассказать, что больше не успеваете осваивать концепты на языке, которым владеете.

Раньше у меня были довольно понятные отношения со всем новым в общем и технологиями в частности. Выходило что-то новое — язык, фреймворк, серверная штука. Я открывал документацию, читал, пробовал, ломал, чинил. На своём опыте учился и мог оценить: отделить семена от плевел. Через какое-то разумное, порой весьма продолжительное время знание перемещалось с экрана внутрь головы.

Можно было понять весь доступный лично тебе кусок стека: вот браузер, вот сервер, вот база данных, вот по проводам побежал запрос, ну, аякс там, ну, вот теперь реакт там, ну, окей. Не всё на свете, конечно, очевидно было и не с первого раза, но достаточно, чтобы уверенно сказать: я примерно понимаю, что здесь происходит. Так накапливалось экспертное знание в разных областях сферы программного обеспечения, веба, дизайна, маркетинга, разработки в целом.

Теперь не всегда понимаю.

Сначала появились большие языковые модели. Потом embeddings, vector databases, RAG, tool calling, агенты, MCP, orchestration, sandboxes, evals, tracing, Jev на прошлой неделе меня добил. Теперь один агент запускает другого агента, тот управляет браузером, третий пишет код, четвёртый проверяет результат, а пятый составляет отчёт о том, почему первые четыре потратили двести долларов и с не 100% вероятностью всё равно не нажали не совсем нужную кнопку.

Если представить, что знания формируются и поддерживаются на разных слоях абстракций, то слои не только начали расти вширь, но и вверх. От бинарных битиков 0 или 1 можно было доколупаться до высокоуровневых языков программирования и абстракций в рамках фреймворков, а потом пришли нейронки, а потом агенты, а потом рои агентов, и всё это летит, летит, летит. Я представляю это в виде дерева из Тоторо примерно так:

Читать далее →

Мертвый интернет в твоем окне

Здесь в Кракове я собрал расширение STOP SLOP, чтобы лента не превращалась мертвый интернет из-за бесконечных постов про искусственный интеллект и постов, сделанных роботами.

Доработал идею одного инди-геймдева — у него там просто была фильтрация по словам «ИИ», и так далее — и выкатил более или менее юзабельную версию браузерного расширения для борьбы с хуевым контентом в X, LinkedIn, Reddit, и так далее. Должно работать и на других сайтах. Пока бесплатно, за токены плачу сам.

Как работает Stop Slop расширение для браузера
  • Режу посты «про ИИ», даже человеческие, локально на 54 языках; каталог моделей берется из OpenRouter обновляется раз в сутки. Например, пост со словом «deepseek» будет скрыт.
  • Ловлю ИИ-слоп гибридом правил и облака DeepSeek через Cloudflare/OpenRouter; Unknown не прячу. Это самая интересная часть. Она стоит немножко денег, по посмотрим, как оно пойдет. Пока 5000 таких проверок в месяц на каждого пользователя настроил.
  • Добавил Community-листы под чёрный список ИИ-аккаунтов из результатов поиска по «Blocked for AI reply» (идея @levelsio).
  • Можно настраивать мощность эффекта: плагин умеет помечать контент, схлопывать с возможностью развернуть или полностью скрывать. По-умолчанию просто подсказывает, мол, это ИИ.
  • Можете всегда добавить свой ключ OpenRouter, тогда ограничений не будет.

Паттерны не доказывают авторство, конечно. Понимаю, что пока я скрыл один пост, ИИ написал ещё 10, и победить в этой игре невозможно, но лента уже стала намного чище. Хочу докрутить эвристики и вырастить это в нормальный продукт.

Какие ещё сигналы слопа зашить в правила?

stopslop.tools

P.S.: Если у вас есть X, поддержите ретвитом?

Дальше действовать будем не мы

Здесь в Кракове много разговоров о том, что SaaS умирает и софт больше не нужен. Любую программу, любую умственную работу теперь можно отдать на аутсорс нейросети. Не спорю. Но это не значит, что заработать больше не на чем.

Ещё жалуются, что нейросети побеждают детерминированное программирование. Раньше было надёжно: написал условие, оно выполнилось. Математика. А через модели всё выходит сырое, приблизительное. Тоже правда. Только посмотрите, как те же вещи устроены в жизни.

Вы покупаете бургер в Макдональдсе. Здание стоит на конкретном месте, это детерминировано. Внутри под нужным углом стоит аппарат, который жарит котлеты. Он тоже детерминирован: термостат выключит печку на заданной температуре.

А всё остальное делают люди. Люди ошибаются. Люди болеют, тормозят, бывают высокие, низкие, худые, толстые. Макдональдс хорошая компания, там работают самые разные люди, в том числе без руки или без глаза. И под всех этих людей процесс должен подходить.

Для этого есть большая-большая книга, библия Макдональдса. В ней со всеми допущениями описано, как сделать бургер. Исполняют её тоже мягкие системы: менеджеры, которые следят за другими людьми.

То есть библия Макдональдса – это промпт. Один длинный запрос в большую систему агентов. Часть агентов детерминированы, как печка. Часть мягкие и ошибаются, как люди. Невзирая ни на что, в конце должен получиться бургер, и клиент должен остаться доволен.

Клиент, кстати, тоже мягкая система. Он принимает не идеальный бургер с рекламного буклета, а то, что его устраивает. Если не устраивает, он жалуется, и программа сама себя корректирует.

Пойдём дальше. Макдональдс зарабатывает не на бургерах. Он покупает недвижимость в дорогих местах и накапливает стоимость компании в зданиях. Купить самый крутой дом на центральной площади может не любой, у кого есть деньги. Нужен бренд. Нужно доверие. Нужно, чтобы этой фирме разрешили.

Что получается? Не компьютер, не математика, не софт. Живые люди по длинному-длинному-длинному промпту выполняют программу. Бургеры выходят достаточно хорошие, чтобы люди платили ровно те цифры, что на ценниках. Фирме доверяют. Ценность копится в домах. Бизнес растёт через не очень очевидную схему.

Вот так, мне кажется, будет устроен мир без программного обеспечения. ИИ будет работать на всех уровнях.

Переживаете, что программу придётся постоянно подстраивать и улучшать? Ну и пусть. Она сама себя подстроит с удовольствием. Переживаете, что она должна выполнять работу не на 80,а на 100%? Добавьте больше проверок, будет выполнять. Нужен точный алгоритм для пересчёта чего-то? Загоните туда тысячу агентов, они всё сделают. А если не уверены, ещё тысячу на перепроверку. Точный алгоритм может и не понадобиться. Агенты работают сами и сами принимают решения. В этом суть прорыва.