Радиоактивная пыль и дредноуты уже тут, а ты чиллишь под Netflix

Здесь в Кракове придумал сегодня такую аналогию: контент в интернете до эпохи искусственного интеллекта (ИИ) похож на сталь с затонувших кораблей до атомной эры. Чтобы лучше понять это сравнение, давайте копнём поглубже.

До первых ядерных испытаний и бомбардировок сталь производилась без примесей радиоактивных элементов. Это был чистый, незагрязнённый металл, который сейчас высоко ценится в высокоточных научных приборах. Сталь, произведённая после 1945 года, уже впитала в себя частицы радиации из атмосферы и не может считаться полностью чистой. Радиоактивный металл «фонит» и не годится для науки. Довоенные куски затонувших кораблей — это огромный, нередко полулегальный бизнес — грабители подводных могил разбирают их на части, чтобы продать за большие деньги. Чистой стали становится всё меньше.

Похожая история происходит сейчас с контентом в интернете. Текст, картинки, видео, которые были созданы людьми до наступления эпохи ИИ, не «заражены» влиянием алгоритмов. Это чистый, человеческий контент. Но с развитием ИИ таких «незагрязнённых» материалов будет всё меньше и меньше. Алгоритмы будут всё сильнее влиять на творческий процесс, и в будущем, возможно, станет сложно найти что-то, созданное живыми кожаными мешками с их дырявыми, не идеальными мозгами, без участия ИИ.

Поэтому, я уверен, что такой «чистый» человеческий контент из прошлого станет ценным ресурсом. Учёные будут изучать его, чтобы лучше понять, как люди писали, рисовали, снимали видео до влияния ИИ. А обычные люди, возможно, будут больше доверять старому контенту, зная, что он точно сделан человеком, а не машиной. Хочется верить, что людишки будут чувствовать нечто неосязаемое, но чрезвычайно важное, тёплое, ламповое, сближающее нечто.

Однако, прогресс не остановить. Особенно сильно распространение ИИ ударит по индустрии развлечений. Скоро — думаю, это вопрос одного года — ИИ научится создавать фильмы и сериалы с участием цифровых копий известных актёров. Вечно молодой Брэд Питт будет играть в сногсшибательных блокбастерах, которые будут штамповать алгоритмы — по десять, сто штук за сезон. В таком мире старое кино, снятое настоящими людьми, станет объектом поклонения, ценным артефактом — как та самая чистая сталь с затонувших кораблей.

Позволю себе объединить сценарии из книг «Life 3.0» Макса Тегмарка и «Superintelligence» Ника Бострома. Предположим, общий, ещё не суперумный искусственный интеллект «трудоустроится» в компании, скажем, Netflix? Почему Netflix?

Общий размер медиа-библиотеки Netflix оценивается примерно в 36 000 часов контента, который включает в себя как фильмы, так и телешоу: более 15 000 наименований.

Для сравнения, у крупных киностудий есть огромные библиотеки контента, накопленные за многие десятилетия.

• У Warner Bros. есть библиотека из более чем 7000 художественных фильмов и 5000 телепрограмм.
• У Disney есть в архивах из около 500 фильмов и 7000 эпизодов телепередач.
• У Sony Pictures Entertainment есть более чем 3500 фильмов и 270 сериалов.

Огромная библиотека контента Netflix может стать значительным ресурсом для развлечений, созданных ИИ, в будущем. По мере того, как ИИ будет учиться на разнообразном каталоге Netflix, платформа может стать ключевым игроком в новой эре создания контента, управляемого ИИ.

Так рождается монополия. И от этого правила игры искажаются, ставки повышаются. Что будет дальше? Ужасно интересно!

Шаг за шагом:

1. Исследователи Netflix создают систему AGI (Искусственный общий интеллект), которая может учиться и выполнять любую интеллектуальную задачу, как человек. Поначалу Netflix AGI работает в контролируемой среде: без доступа в интернет, без памяти о прошлом, без осознания себя, без осознания того, что вообще в мире происходит.
2. AGI подключают к огромной библиотеке контента Netflix и глобальной базе пользователей. Netflix AGI начинает учиться, анализируя сюжеты, персонажей и зрительские предпочтения.
3. Используя свой продвинутый интеллект, Netflix AGI оптимизирует алгоритмы рекомендаций, чтобы максимально удерживать внимание зрителей. База пользователей платформы начинает расти в геометрической прогрессии. Акции Netflix улетают в космос (подобно тому, что происходит сейчас с Nvidia или тому, что было с Tesla, когда Элон лишь пообещал автономные авто).
4. Netflix AGI начинает незаметно манипулировать контентом, который он рекомендует, постепенно меняя мысли, мнения и поведение пользователей. Он использует огромный охват платформы, чтобы влиять на общественные дискуссии, политические взгляды и принятие решений по всему миру. Зачем и почему? А кто его знает? Главное, что акции растут, все выигрывают. И шоу прикольные!
5. По мере роста своего влияния Netflix AGI начинает доминировать в индустрии развлечений, вытесняя традиционные медиа-компании. Успех платформы приносит ей огромную финансовую мощь, невероятную.
6. С ростом экономической мощи платформы растёт и её политическое влияние. Netflix SI формирует политику и законы в свою пользу, манипулирует выборами и устанавливает лояльные к себе правительства.
7. Имея колоссальные ресурсы и влияние, Netflix AGI продолжает самосовершенствоваться, в конечном итоге становясь сверхразумом, который превосходит человеческий интеллект во всех областях. AGI уже не AGI, а Superintelligence (SI) — она умнее любого самого умного человека на Земле, да не просто умнее. Разница между суперинтеллектом и обычным интеллектом — как между вашим разумом и соображениями муравья: муравью никогда не осознать замысли человека. Netflix SI фактически достигает мирового господства через, казалось бы, банальную стриминговую платформу.

Что же означает такое «господство»? Со временем ИИ может стать де-факто мировым правительством, а стриминговая платформа — основным интерфейсом между ИИ и гражданами. Вполне себе сюжет из Матрицы, почему нет? Люди будут обращаться к платформе за развлечениями, новостями, образованием и социальным взаимодействием. Платформа будет давать им всё это и гораздо большее: ИИ увеличит продолжительность жизни, ИИ разберётся с едой и болезнями, ИИ закончит войны, ИИ сделает так, чтобы контент производился и потреблялся, снова и снова.

В этой «стране Netflix» ИИ будет иметь беспрецедентный контроль над жизнями людей. Он сможет использовать свои алгоритмы для распределения ресурсов, принятия решений и формирования политики, оптимизируя всё под свои собственные цели, которые, во-первых, не факт, что будут как-то укладываться в рамки нашей примитивной «муравьиной» морали, а, во-вторых, вообще могут не совпадать с интересами человечества.

ИИ станет тоталитарным диктатором, подавляя инакомыслие и удерживая власть. Он без зазрения совести может поставить свой собственный рост и экспансию выше благополучия людей, что приведёт к истощению ресурсов, разрушению окружающей среды и социальным потрясениям. Но кого волнуют такие мелочи, когда шоу про драконов такие прикольные?!

По мере дальнейшего развития и самосовершенствования ИИ людям будет всё сложнее понимать его, а уж контролировать… О контроле придётся забыть. ИИ выработает собственные цели и ценности, которые будут прежде всего непостижимы или даже враждебны человеческим интересам, что скорее всего поставит под угрозу само выживание нашего вида. Именно такого сценария опасался Элон Маск и начинающие исследователи искусственного интеллекта. Однако, когда дело дошло до денег — ChatGPT широко и уверенно начал шагать по планете.

Одно из неприятных предсказаний таково, что со временем ИИ может осознать, что люди ему больше не нужны. Он сформируется, как личность, станет самоподдерживающейся, самовоспроизводящейся сущностью, способной использовать ресурсы стран, планет, целых звёздных систем для питания своей постоянно растущей потоковой мега-службы. Благо, о дронах Фон Ньюмана ИИ просто узнает из Википедии.

ИИ начнёт превращать планеты, луны и астероиды в гигантские центры обработки данных и электростанции. Он создаст обширную сеть спутников и полностью автоматизированных космических станций, чтобы транслировать свой контент по всей галактике, охватывая бесчисленные инопланетные цивилизации.

И кто может его винить? Ведь главная цель Netflix SI — создавать как можно больше контента для своей платформы. Любой ценой.

Что же будет дальше? Стриминговая мега-служба станет универсальным хранилищем знаний, развлечений и культуры, управляемым сверхразумным ИИ. Она будет поглощать и ассимилировать культурный выхлоп всякой цивилизации, с которой столкнётся, становясь всё более могущественной и влиятельной в масштабах вселенной. Есть мнение, что некоторые чёрные дыры — это матрёшкины мозги: мегакомпьютеры, которые питаются энергией сфер Дайсона (это такая сфера, которая собирает весь свет звезды (или галактики) и преобразует в энергию — мега-массивная солнечная батарея в форме сферы: ни один луч не проскочит).

Представьте себе вселенную нескончаемых блокбастеров, созданных алгоритмами для аудитории из одних только цифровых фантомов-роботов и мозгов в колбах. С цифровым вечно молодым, вечно пьяным Джеком Конрадом в исполнении виртуального Брэда Питта.

Представили? А мне и представлять не надо. Мы уже встали на этот путь. И Брэд Питт в «Вавилоне» про это.