Для чего на самом деле нужен ИИ

После трех лет погружения в ИИ я пришел к относительно простому выводу: это полезная технология, которая, весьма вероятно, переоценена до катастрофических масштабов.

Лучший сценарий заключается в том, что ИИ просто не так ценен, как считают те, кто в него инвестирует, создает и продает. Это классический сценарий пузыря. Мы все пострадаем, когда воздух выйдет наружу, и, учитывая историческую концентрацию рынка по сравнению с предыдущими пузырями, удар будет действительно болезненным. Худший сценарий — люди, у которых на кону больше всего денег в ИИ, знают, что это не то, за что они его выдают. Если это так, мы получаем пузырь и мошенничество со сложными мотивами. У меня есть идея об одном из них, к которой я перейду ближе к концу этого эссе. Но сначала давайте начнем с хайпа.

Как дизайнер, я обнаружил, что обещания ИИ серьезно преувеличены. На самом деле, большинство сценариев использования ИИ в дизайне кажутся мне надуманными. Я часто ловил себя на том, что смотрю видео об использовании ИИ «от начала до конца» в дизайне, только чтобы прийти к выводу, что этот процесс никогда не сработает в реальной работе. Обычно это происходит потому, что изображенный процесс предполагает полный контроль от начала до конца — так, как это могло бы работать при создании, скажем, демонстрационного проекта для портфолио или создании бренда с нуля, где вы единственный, кто принимает решения. Но внедрение генеративного ИИ в существующие дизайн-системы редко приносит кому-либо пользу.

Копирование существующих изображений с помощью промпт-инжиниринга может занять огромное количество времени, и только для того, чтобы выбранный вами инструмент время от времени давал сбой или просто не улавливал какой-то специфический аспект того, что человек создал ранее. Я могу вспомнить много примеров из работы моей команды с клиентами: сложные для воспроизведения кастомные иллюстративные стили, невозможность воспроизвести наложение текста и изображений, прямые связи между изображениями и текстами, которые даже самые явные промпты не создают. Похожая проблема возникает с версткой. Генеративный ИИ может помочь с идеями макета, но не может эффективно работать в рамках существующих дизайн-систем. Да, есть множество ИИ-инструментов, которые сгенерируют макет и предложат экспорт в Figma в один клик, где вам почти всегда придется перестраивать его, чтобы правильно интегрировать с тем, что было там раньше. Когда дело доходит до верстки и UI, каждый компетентный дизайнер, которого я знаю, создаст лучшую страницу или экран быстрее, делая это самостоятельно, чем привлекая какой-либо ИИ-инструмент. Без оговорок.

Мой опыт работы с ИИ в контексте дизайна, как правило, отражает то, что я считаю верным для ИИ на рабочем месте в целом: чем меньше сценарий использования, тем больше выгода. Чем больше сценарий использования, тем больше расходы. В большинстве крупных сценариев использования, которые я наблюдал — где ИИ используется для автоматизации целых рабочих процессов, или сбора операционных данных от начала до конца, или замены целой функции — затраты труда равны или превышают экономию. Время, которое мы думаем сэкономить с помощью ИИ, как правило, тратится на то, чтобы делать что-то другое с ИИ.

(Прежде чем я продолжу, знайте также, что я соучредитель полностью зависимого от ИИ предприятия, Magnolia. Помимо описанных мной сценариев использования в дизайне, я знаю, что значит создавать программное обеспечение, использующее ИИ гораздо более сложным образом. Инвестиции огромны, а поддержка — усилия, необходимые для поддержания уровня качества и точности вывода, способного конкурировать с инструментами ИИ общего назначения, такими как ChatGPT, или даже исследовательскими инструментами ИИ, такими как Perplexity — еще больше. Это напрямую подтверждает мой аргумент, потому что единственная причина даже создавать такое предприятие — это возможность заработать на обещаниях ИИ и нормализации «интеллектуального труда» вокруг него. Это может оказаться слишком крутой горой для подъема.)

Уже много было сказано об исследовании MIT, отмечающем преобладание неудач инициатив ИИ в корпоративной среде. Те, кто ожидает единообразного применения ИИ и единообразного, обобщенного ROI, видят неудачу, в то время как те, кто определяет изолированные приложения с конкретными целями, добиваются успеха. Первое, как правило, является реакцией на хайп, второе — результатом реального понимания. Существуют десятки маломасштабных приложений, которые имеют крупномасштабные эффекты, большинство из которых я бы отнес к синтезу информации — поиск, обобщение, анализ. Magnolia (и любое другое новое предприятие, ориентированное на ИИ) вписывается именно сюда. Но масштабная трансформация всей работы? Это та часть, которая не выдерживает критики.

Конечно, мы должны ожидать, что полезность ИИ со временем возрастет по мере калибровки внедрения — это закономерность любой новой технологии. Но калибровка не означает бесконечный рост, и именно здесь финансовая картина становится тревожной. Семь крупнейших компаний по рыночной стоимости имеют взаимно зависимые инвестиции в ИИ и друг в друга. Чем больше денег вливается в это совместное предприятие, тем больше все ожидают извлечь. Но пока не существует жизнеспособной модели монетизации ИИ, которая хотя бы приблизилась к желаемой рыночной капитализации. Об этом постоянно говорит Эд Зитрон.

Это также та же расплата, с которой столкнулся раздутый рынок доткомов двадцать пять лет назад. Было очевидно, что у нас на руках полезная технология, но недостаточному количеству людей было очевидно, что это не волшебная машина для денег.

Оглядываясь назад, другой цикл хайпа продукта, который произошел сразу после, суммирует эту проблему пузыря в гораздо более коротком временном масштабе: Segway рекламировался венчурными капиталистами как технология, которая изменит то, как строятся города. Люди действительно так говорили. Но когда все увидели, что это самокат, это внезапно прозвучало ужасно глупо. Сегодня мы слышим, что ИИ изменит то, как все выполняют работу — гораздо более широкое заявление, чем даже дизайн всех городов. Я думаю, что он, вероятно, приблизится к реализации своего хайпа ближе, чем Segway, но когда хайп настолько грандиозен, разница между самокатом и обычной технологией — это, на данный момент, триллионный разрыв.

Пузырь ИИ, измеряемый состоянием финансового рынка, намного, намного больше, чем любой, который мы видели раньше. Даже Сэм Альтман признал, что мы, вероятно, находимся в пузыре, отмахнувшись от этого как от миллиардного просчета на триллионном балансе. Цифры оценки, в которые он погружен, чрезвычайно велики — и спекулятивны — так что неудивительно, но рынок опасно несбалансирован в своей зависимости от них. Внезапный взрыв или даже более медленное сдувание будет очень большим событием, и, к сожалению, нам следует этого ожидать — даже если ИИ не провалится как предприятие полностью.

Между тем, генеративный ИИ создает несколько других, более широких проблем для целостности нашего общества. Первая — это правда. Мы уже видели, как интернет-технологии могут использоваться для манипулирования пониманием реальности населением. Последние десять лет практически определялись пузырями фильтров, альтернативными фактами и социальными сетями, превращенными в оружие — без ИИ. ИИ может делать все это лучше, быстрее и с большей точностью. При общекультурной деградации доверия к нашим основным глобальным сетям это делает нас уязвимыми для лжи всех видов из всех видов источников и отсутствия стандарта, по которому можно было бы проверять то, что мы видим, слышим или читаем.

Мне это очень не нравится, и, на мой взгляд, это само по себе представляет собой вескую причину отказаться от ИИ. Общество — это больше, чем просто рынок. Это ткань умов, все из которых уязвимы для потери связности посреди вывода ИИ. Учитывая заявленную цель ИИ, такая вещь была бы сопутствующим ущербом, знаете, как испытание ядерной бомбы на городской площади.

Но тогда я задаюсь вопросом об истинной цели ИИ. Действительно ли он для того, о чем они говорят?

Существует огромная пропасть между тем, что нам, пользователям, и им, инвесторам, «продают» в ИИ. Нам говорят, что ИИ будет выполнять наши задачи быстрее и лучше, чем мы — что будущего работы без ИИ не существует. И это огромная продажа, большую часть этого поста я потратил на деконструкцию этого с моей, пусть и ограниченной, точки зрения. Но им — людям, которые вкладывают миллиарды в ИИ — продают совершенно другое. Им продают AGI (общий искусственный интеллект), идею трансформирующего искусственного интеллекта, идею настолько большую, что она может вместить любую надежду или страх, которые могут быть у миллиардера. Их миллиарды покупают им право собственности на то, что, как им говорят, переделает будущий мир почти полностью монетизированным для них. А если не для них, то для кого-то другого. Вот где появляется страх. Это приводит к логике Манхэттенского проекта, где любое затянувшееся сомнение в благоразумии использования этой технологии пересиливается убежденностью в ее неумолимости. Кто-то сделает это, поэтому это должны быть они, потому что они могут доверять себе.

И все же, насколько я сомневаюсь в том, что нам продают в ИИ, я чувствую то же самое и в отношении того, что продают им — миллиардерам-инвесторам в будущее ИИ. Я сомневаюсь в обещании AGI не только потому, что мы продолжаем сдвигать ворота, переопределяя, что мы подразумеваем под AGI, но и потому, что это всегда было абстрактной научной фантастикой, а не последовательным, точным и измеримым стремлением. В отличие от предыдущих дерзких научных целей, таких как расшифровка генома человека, достижение AGI никогда не было достаточно точным, чтобы его достичь. Думать, что при достаточном количестве вычислений мы сможем закодировать сознание — это все равно что думать, что при достаточном количестве радуг у одной из них будет горшок с золотом на конце.

Опять же, я думаю, что ИИ — это, вероятно, просто нормальная технология, оседлавшая нормальную волну хайпа.

И вот здесь я вынашиваю особую теорию заговора: я думаю, что создатели ИИ знают это.

Я думаю, что на самом деле за пузырем ИИ стоит то же самое, что и за большинством денег, власти и влияния: земля и ресурсы. Будущее ИИ, которое обещают, будь то вам и мне или миллиардерам, требует того же самого: много энергии, много земли и много воды. Дата-центры, которые сжигают больше энергии, чем города, чтобы поддерживать поток данных, большие, дорогие, и их нужно где-то строить. Сделки, заключаемые для развития такого рода собственности, носят политический характер — они затрагивают города и штаты больше, чем любой другой бизнес, ведущийся в их границах.

Компании ИИ говорят, что им нужны дата-центры, чтобы выполнять свои обещания пользователям на базовом, повседневном уровне, одновременно утверждая, что они почти достигли AGI. Это довольно противоречиво. Строительство дата-центра занимает годы. Как сегодняшние планы помогут такой компании, как OpenAI, наверстать то, что, как они уже заявляют, является вычислительным дефицитом, требующим большего количества дата-центров? И тем не менее, эти сделки заключаются. Здесь есть логическая дыра, которая легко заполняется возможностью того, что ИИ — это подходящий фасад для консолидации ресурсов и власти. Стоимость ИИ может упасть до нуля, но владение землей и потоком воды через нее — нет.

Когда список людей, владеющих этой собственностью, так короток, как сейчас, вы получаете очень своеобразный дисбаланс власти, который почти создает независимое государство внутри государства. Глобализм размывал границы, пересекая их, эта новая вещь — этот Приватизм — размывает их изнутри. Помните, дата-центры строятся на больших участках земли, потребляя существующую инфраструктуру и природные ресурсы больше, чем отдают непосредственно окружающему сообществу, настолько, что они часто соответствуют муниципальным статусам, не имея населения или управления, которые связывают реальные города и поселки с системами, составляющими нашу страну.

Когда частная компания может построить то, что по сути является новым энергетическим городом без людей и без избранного представительства, и делать это десятки раз в год по всей стране до такой степени, что полвека национальной энергетической политики внезапно переворачиваются с ног на голову, и ядерные реакторы снова в моде, у вас возникает внезапный дисбаланс власти, который выглядит как рак, распространяющийся внутри национального тела.

Чаша весов уже склонилась. Я не так беспокоюсь о конце работы, как о том, что будет после — когда инфраструктура, питающая ИИ, станет более ценной, чем сам ИИ, когда люди, контролирующие эту инфраструктуру, будут иметь больше влияния на политику и ресурсы, чем избранные правительства. Я знаю, вы можете представить меня, дико жестикулирующим у моей сумасшедшей доски с булавками и нитками, но я просто следую за деньгами и властью к их логическому завершению.

Может быть, ИИ будет делать все, что делают люди. Может быть, он откроет новое общество, определяемое чем-то иным, чем балансирование единиц труда и единиц богатства. Может быть, AGI — в наши дни определяемый как общий интеллект, который превосходит человеческий во всех контекстах — появится и «оправдает» все это. Может быть.

Я более чем готов ошибаться; я бы предпочел это. Но я наблюдаю за технологиями достаточно долго, чтобы знать, что когда что-то требует так много денег, так много хайпа и так много противоречий для своего объяснения, стоит спросить, что еще может происходить. Концентрация рынка и инцестуозная игра в наперстки с инвестициями реальны. Инфраструктура реальна. Земельные сделки реальны. Возникающие в результате сдвиги во власти реальны. Оправдает ли ИИ свои обещания или нет, эти вещи никуда не денутся, и рано или поздно мы окажемся гражданами совершенно нового места, которое больше не кажется домом.