Здесь в Кракове, в связи с появление офигенных китайских моделей семейства DeepSeek, которые полностью опен-сорс и вполне конкурируют с дорогими коммерческими американскими мозгами o1 и даже o1 pro ($200/месяц, я напомню на секундочку), а стоят при этом в 10-15 раз дешевле… Появилось несколько идей о том, почему так происходит, и как будут развиваться события. Учитывая, что этот блог — навсегдашний склад мыслей на случай сингулярности или взрыва нейтронной бомбы над датацентрами соцсетей, зафиксирую мыслишки тут.

Я считаю, что секрет такого поразительного качества китайских моделей — это часть новой «гонки вооружений», в котором государства наращивают не ядерные боеголовки, а искусственный интеллект. Китай включился в игру и — я, безусловно, спекулирую тут и понятия не имею, как дела обстоят на самом деле, время покажет — задействует свою «коллективную силу ума», hive mind aka «мозговой улей», чтобы тренировать ИИ.

Тренировать — в примитивной форме буквально означает проверять ответы нейронной сети и ставить ответам оценки. Как тетрадки учитель проверяет. Так вот, моё сегодняшнее предположение таково: миллионы китайских людей занимаются проверкой фактов. И именно в Китае — есть чипы, есть люди, есть учёные, есть инженеры, и есть миллионы тестировщиков-трениров — это, как нигде в мире, стоит дёшево. И будет стоить ещё дешевле. Сейчас объясню почему.

Представьте себе диктатуру, которая субсидирует программу «улучшения нашего мегамозга ИИ», нанимая граждан в качестве человеческих верификаторов для контроля разговоров между ИИ и человеком. Эти верификаторы должны полагаться исключительно на общие знания и открытые данные, не используя сам ИИ. Чем сложнее вопросы или обсуждения, которые они просматривают, тем выше их зарплата от государства.

Учитывая общий упор на математику и точные науки в школе — общеизвестны факты: в Китае высокая конкуренция и культурно приемлемы муштра и трудолюбие — проверять ИИ на ошибки уровня американского первокурсника в Китае смогут любые школьники. Вместо работы курьером или карьеры в общепите — ты, молодой средне талантливый житель провинции идешь, трудишься мозгом, через интернет, в ГЦВИИ: Государственный Центр Верификации ИИ. Почему бы и нет?

Подобное обучение с обратной связью при участии людей в США, например, (а больше никто всерьез не работает в этой сфере) фактически невозможно — это просто слишком дорого: нужного числа работников просто нет, людей нет. Синтетические данные, за счёт которых сейчас растут модели семейства o1-o3 и самонастраивающийся ИИ могут помочь лишь до определённого момента. Между тем, китайские модели DeepSeek уже опережают конкурентов именно благодаря «ручному» подходу: из заурядного, «окейного» ИИ они делают превосходную систему посредством непрерывной человеческой проверки и перепроверки фактов. Принцип «мусор на входе, мусор на выходе» нивелируется дешёвой, «старомодной» ручной работой.

Ничего принципиально нового в этом методе нет. Было бы странно думать, что Китай идёт иным путём в этот раз. Абсолютно аналогичным образом Китай штампует кроссовки, одежду, электронику, игрушки и телевизоры и миллионы категорий других высококачественных, трудо- и наукоёмких товаров — всё это создаётся силами огромной массы квалифицированных рабочих, которых мотивируют деньги, возможности и, невозможно обойти стороной этот факт, государственная пропаганда. Китаю не нужно изобретать что-то радикально новое: он терпелив и как обычно доводит до совершенства уже существующие решения, копируя и улучшая их, делая продукцию в десять раз лучше и в десять раз дешевле, а затем повторяет этот процесс снова и снова. Так будет и с искусственным интеллектом.

Да, DeepSeek не расскажет вам о событиях 1989 года на главной площади Пекина. И про Винни-Пуха не будет распространяться. Но зато он не будет сливаться по зажатым западной woke-культурой вопросам. Каким ИИ будут пользоваться ваши дети? Им до лампочки политика, а вот без цензуры поболтать со всезнающим мозгом — какая разница откуда он родом и куда улетают данные? — пользователи выберут сами. Ровно так они выбрали ТикТок. Он прикольный. Пофик, что следит за каждым шагом. Как пчёлы на мёд налетят.

Я не говорю, что программа «мегамозга» уже запущена прямо сейчас, — но такое вполне возможно. И если это так, конкурировать с ней будет чрезвычайно сложно. Конечно, в США есть визионеры вроде Маска и Альтмана, однако у них нет подлинной «коллективной силы ума». 

Предстоящий год обещает быть жарким и напряжённым: ИИ съест этот мир.