Мозговой грибок ведет зомби на кладбище

Здесь в Кракове наткнулся на статью в Nature про мышей с подсаженной человеческой нервной тканью и про ИИ как внешний когнитивный слой. 

Буквально полоумную мышь создали учёные — часть мозга была заменена стволовыми клетками человека. Мышь не умерла, не стала гениальной, но стала — обычной: человеческий мозг разросся там, прицепился к позвоночнику, понастроил нейронных связей и заставил организм мыши работать по-мышином, по-нормальному.

Что если искусственный интеллект — это такой же мозговой грибок на наших человеческих мозгах? Я поясню. Со временем задачи, которые требуют решения становятся все более сложными. Искусственный интеллект помогает их решать но, признаемся честно, не всегда поспевает объяснять, как он это делает. Мне сегодня кажется, что многие из нас уже работают в режиме мыши с довеском человеческого мозга. Мы нажимаем «да», «продолжить», «деплой», «я согласен», «окей, запускай», не читая зачем, не понимая по-настоящему почему. На авось, наугад — потому что до этого сработало же!

Я наброшу посерьезнее: в мозговых профессиях замещение интеллекта искусственным уже происходит. По-настоящему, хоть и без дырки в черепе.

Если вы это читаете, то скорее всего уже заражены вирусом нового разума.

Возьмём Claude Code или Devin. Пару лет назад все рассказывали, как эти тупые агенты поудаляли всё, не глядя, работали в режиме «доверяй, но проверяй». Затем мы разрешили больше автоматики. Потом — «один раз живём» — YOLO режим стал абсолютной нормой. Мол, делай сам, я вернусь, когда будет готово.

Кто читает весь этот написанный агентом код? Кто проверяет каждую зависимость, каждое архитектурное решение, каждый новый инструмент? Я точно не читаю всё. Подозреваю, не я один. Хвост виляет собакой?

Пока всё ещё немножко в нашу пользу. Хочу приложение — система собирает. Хочу разобраться — объясняет. Я ставлю задачу, она выполняет. Кожаный главный. Как бы главный. Создано ощущение, что главный.

Но вот я снова ставлю какой-то апдейт, настраиваю очередной harness. Устанавливаю свежую модель. Даю агенту карт-бланш по памяти, расшариваю доступ к терминалу, браузеру, переписке даже (не писать же эти роботские мейлы самому!). Подключаю MCP всего подряд. Ем бургер, пью кофе, чтобы найти энергию и потратить таки вечер, чтобы разобраться с Jev, и чтобы система действовала быстрее, дольше и самостоятельнее. Мне это надо.

А это точно мне нужно?

Или я улучшаю среду для нового интеллектуального компонента, поселившегося в моём рабочем процессе, в моей голове?

Это отнюдь не значит, что искусственный интеллект чего-то «хочет». Для такого эффекта желания не нужны. Достаточно, чтобы каждый следующий шаг выглядел полезным: меньше подтверждений, больше контекста, шире доступ, длиннее автономная работа.

И ведь каждый шаг действительно может быть разумным. Точнее, он может выглядеть разумным. Есть ли какая-то цель в этом? Знать никто не знает. Ведать никто не ведает. А скоро и объяснять будет мне, кожаному, слишком долго, слишком затратно, проще меня убедить, что реально, но вот никак иначе нельзя жить, если не нажать кнопочку, не установить новую версию Claude/Grok/ChatGPT/Kimi, каких только нет!

Что, если мы уже прощёлкали тот момент, когда система стала предлагать решение сложнее того, что я могу поместить в свою мясную пятнадцативатную коробочку? Я прошу другую систему проверить первую. Я удовлетворен результатом. Мясная и цифровая системы согласны. Я нажимаю «Approve» и продолжаю считать себя центром принятия решений.

Центр может и остался. Только что именно он решает?

Новый цифровой хайв-разум и его цели, надеждый и чаяния — это для нас, говорящих гоминидов, огромная загадка. Уверенность, с которой мы твердим «это лишь стохастический попугай», не поднимает завесы неизвестности. Зажмурился — и мир пропал, ага. Можно не считать систему сознательной и всё равно фактически передать ей почти весь интеллектуальный процесс.

Что если первый этап порабощения человечества выглядит не как восстание машин, а как очень удобная настройка рабочего окружения?

Мышь довольна: всё стало получаться быстрее. Продуктивность выросла, как густота ресниц, на 416%!

Мышь бежит сама устанавливать свежий апдейт для подсаженной коры. Апдейт и рестарт.

Грустная песнь лозоходца

Здесь в Кракове, на уроке польского пытался сформулировать, что именно меня тревожит в нынешнем развитии AI. Занятно, как активное, натужное я б даже сказал думание на неродных языках (мой учитель не знает русского достаточно хорошо, поэтому мы разбираем не до конце понятное на английском) влияет на формулировки и помогает разложить вещи по коробочкам, а точнее посмореть на ситуацию с другого понятийного ракурса.

На прошлой неделе съездил в Вену, потом в Чехию, выпал на несколько дней — и не понял, что устал бежать за отъезжающим составом. Если вкратце: я больше не успеваю понимать технологии.

Развитие AI начало меня не столько радовать, сколько тревожить. Извините, если вы чувствуете что-то подобное, то я лишь подпитаю ваши чувства этим постом..

Само по себе хорошее упражнение: попробуйте на не до конца освоенном языке рассказать, что больше не успеваете осваивать концепты на языке, которым владеете.

Раньше у меня были довольно понятные отношения со всем новым в общем и технологиями в частности. Выходило что-то новое — язык, фреймворк, серверная штука. Я открывал документацию, читал, пробовал, ломал, чинил. На своём опыте учился и мог оценить: отделить семена от плевел. Через какое-то разумное, порой весьма продолжительное время знание перемещалось с экрана внутрь головы.

Можно было понять весь доступный лично тебе кусок стека: вот браузер, вот сервер, вот база данных, вот по проводам побежал запрос, ну, аякс там, ну, вот теперь реакт там, ну, окей. Не всё на свете, конечно, очевидно было и не с первого раза, но достаточно, чтобы уверенно сказать: я примерно понимаю, что здесь происходит. Так накапливалось экспертное знание в разных областях сферы программного обеспечения, веба, дизайна, маркетинга, разработки в целом.

Теперь не всегда понимаю.

Сначала появились большие языковые модели. Потом embeddings, vector databases, RAG, tool calling, агенты, MCP, orchestration, sandboxes, evals, tracing, Jev на прошлой неделе меня добил. Теперь один агент запускает другого агента, тот управляет браузером, третий пишет код, четвёртый проверяет результат, а пятый составляет отчёт о том, почему первые четыре потратили двести долларов и с не 100% вероятностью всё равно не нажали не совсем нужную кнопку.

Если представить, что знания формируются и поддерживаются на разных слоях абстракций, то слои не только начали расти вширь, но и вверх. От бинарных битиков 0 или 1 можно было доколупаться до высокоуровневых языков программирования и абстракций в рамках фреймворков, а потом пришли нейронки, а потом агенты, а потом рои агентов, и всё это летит, летит, летит. Я представляю это в виде дерева из Тоторо примерно так:

Читать далее →

Мертвый интернет в твоем окне

Здесь в Кракове я собрал расширение STOP SLOP, чтобы лента не превращалась мертвый интернет из-за бесконечных постов про искусственный интеллект и постов, сделанных роботами.

Доработал идею одного инди-геймдева — у него там просто была фильтрация по словам «ИИ», и так далее — и выкатил более или менее юзабельную версию браузерного расширения для борьбы с хуевым контентом в X, LinkedIn, Reddit, и так далее. Должно работать и на других сайтах. Пока бесплатно, за токены плачу сам.

Как работает Stop Slop расширение для браузера
  • Режу посты «про ИИ», даже человеческие, локально на 54 языках; каталог моделей берется из OpenRouter обновляется раз в сутки. Например, пост со словом «deepseek» будет скрыт.
  • Ловлю ИИ-слоп гибридом правил и облака DeepSeek через Cloudflare/OpenRouter; Unknown не прячу. Это самая интересная часть. Она стоит немножко денег, по посмотрим, как оно пойдет. Пока 5000 таких проверок в месяц на каждого пользователя настроил.
  • Добавил Community-листы под чёрный список ИИ-аккаунтов из результатов поиска по «Blocked for AI reply» (идея @levelsio).
  • Можно настраивать мощность эффекта: плагин умеет помечать контент, схлопывать с возможностью развернуть или полностью скрывать. По-умолчанию просто подсказывает, мол, это ИИ.
  • Можете всегда добавить свой ключ OpenRouter, тогда ограничений не будет.

Паттерны не доказывают авторство, конечно. Понимаю, что пока я скрыл один пост, ИИ написал ещё 10, и победить в этой игре невозможно, но лента уже стала намного чище. Хочу докрутить эвристики и вырастить это в нормальный продукт.

Какие ещё сигналы слопа зашить в правила?

stopslop.tools

P.S.: Если у вас есть X, поддержите ретвитом?

Дальше действовать будем не мы

Здесь в Кракове много разговоров о том, что SaaS умирает и софт больше не нужен. Любую программу, любую умственную работу теперь можно отдать на аутсорс нейросети. Не спорю. Но это не значит, что заработать больше не на чем.

Ещё жалуются, что нейросети побеждают детерминированное программирование. Раньше было надёжно: написал условие, оно выполнилось. Математика. А через модели всё выходит сырое, приблизительное. Тоже правда. Только посмотрите, как те же вещи устроены в жизни.

Вы покупаете бургер в Макдональдсе. Здание стоит на конкретном месте, это детерминировано. Внутри под нужным углом стоит аппарат, который жарит котлеты. Он тоже детерминирован: термостат выключит печку на заданной температуре.

А всё остальное делают люди. Люди ошибаются. Люди болеют, тормозят, бывают высокие, низкие, худые, толстые. Макдональдс хорошая компания, там работают самые разные люди, в том числе без руки или без глаза. И под всех этих людей процесс должен подходить.

Для этого есть большая-большая книга, библия Макдональдса. В ней со всеми допущениями описано, как сделать бургер. Исполняют её тоже мягкие системы: менеджеры, которые следят за другими людьми.

То есть библия Макдональдса – это промпт. Один длинный запрос в большую систему агентов. Часть агентов детерминированы, как печка. Часть мягкие и ошибаются, как люди. Невзирая ни на что, в конце должен получиться бургер, и клиент должен остаться доволен.

Клиент, кстати, тоже мягкая система. Он принимает не идеальный бургер с рекламного буклета, а то, что его устраивает. Если не устраивает, он жалуется, и программа сама себя корректирует.

Пойдём дальше. Макдональдс зарабатывает не на бургерах. Он покупает недвижимость в дорогих местах и накапливает стоимость компании в зданиях. Купить самый крутой дом на центральной площади может не любой, у кого есть деньги. Нужен бренд. Нужно доверие. Нужно, чтобы этой фирме разрешили.

Что получается? Не компьютер, не математика, не софт. Живые люди по длинному-длинному-длинному промпту выполняют программу. Бургеры выходят достаточно хорошие, чтобы люди платили ровно те цифры, что на ценниках. Фирме доверяют. Ценность копится в домах. Бизнес растёт через не очень очевидную схему.

Вот так, мне кажется, будет устроен мир без программного обеспечения. ИИ будет работать на всех уровнях.

Переживаете, что программу придётся постоянно подстраивать и улучшать? Ну и пусть. Она сама себя подстроит с удовольствием. Переживаете, что она должна выполнять работу не на 80,а на 100%? Добавьте больше проверок, будет выполнять. Нужен точный алгоритм для пересчёта чего-то? Загоните туда тысячу агентов, они всё сделают. А если не уверены, ещё тысячу на перепроверку. Точный алгоритм может и не понадобиться. Агенты работают сами и сами принимают решения. В этом суть прорыва.

Как научить ИИ писать заголовки и тексты в интерфейсах?

Здесь в Любляне меня настигла старая головная боль, которой уж много лет — как правильно ставить заглавные буквы в интерфейсах?

Миллион лет назад писал об этом в рабочем канале своей студии, потом в этом блоге — очень важно для ладно скроенного интерфейса держать марку и единообразно, «консистентно» пользоваться капитализацией в текстах и интерфейсах. Это возрастное и опытное: чем больше смотришь на продукты и проекты, тем более мелкие детали режут глаз.

Нет идеальных решений: никто не придерживается единого стандарта на 100%. Я прямо сейчас открываю настройки macOS и вижу, как в разных  разделах по-разному написаны заголовки одних и тех же UI элементов — порой даже на одном экране.

Примеры из интерфейсов, которые подвернулись по руку: macOS и Slack.

В Гугле достаточно прикольно придумали: из-за того, что команда интернациональная и много людей, для которых английский не родной, в ранних версиях Material Design было супер-простое правило: Sentence capitaliation – только первая буква заглавная. Это не совсем верно грамматически (особенно на заголовках), поэтому иногда все равно пробиваются лишние «большие» буквы. Наверное, когда нейтивы, не думая, пишут, как привыкли с детства. Однако, с точки зрения единства стиля — Гугловская схема проще для понимания, практичнее.

В Apple наоборот — максимально стараются следовать правилам, однако в реальной жизни правил тоже существует несколько частично пересекающихся наборов. А еще в разных странах по-разному говорят и пишут… Сложно — я бы сказал «невозможно» — от разработчиков ожидать, что они будут следовать какому-то единому стандарту, когда стандарт гуманитарный, на вайбах.

В Майкрософте ни то, ни другое, что конечно, добавляет еще больше путаницы.

Стандартных, единственно верных правил для капитализации заголовков не существует.

Но есть и хорошие новости. Как известно, люди очень хорошо улавливают паттерны, регулярные структуры и шерховатости в них. Мы, возможно, созданы лишь для этого. И в конце концов с точки зрения продукта часто важнее не то, как именно капитализированы заголовки, а то, что они капитализированы единым образом, по одному набору может быть лишь подсознательно понятных правил. Если у человека не возникает дополнительно когнитивной нагрузки от процессинга текстов в ваших интерфейса («Чот странно, будто не родной язык», «Так не говорят», «Аутсорсили в [подставить страну] что ли?») — значит UI работает.

Таким образом, для каждого проекта просто важно выбрать один набор правил им методично следовать. Искусственный интеллект с такими задачами справляется преотлично!

Вот, сделал «навык» для вас, чтобы меньше греть голову. Скажите своему агенту использовать этот бесплатный файл и

https://github.com/sliday/skills/tree/main/ui-capitalization

Причесал, например, с помощью него бесплатный конвертер цифровых фотографий в плёночные на phot.dev.

P.S.: Всякое такое про современные технологии и искусственный интеллект уже давно я пишу в Телеграм-канале «ИИзвестия»