Цифровая революция началась не с ослепительных приложений или изящных устройств, а с простого открытия: как только информация представлена в виде двоичного кода, она может передаваться со скоростью света и быть идеально скопирована практически бесплатно. Носители информации XX века — печатные книги, виниловые пластинки, кино и видеоплёнка, радиовещание — уже ускорили коммуникацию, но каждый из них оставался привязанным к материальному: бумаге, пластику, магнитной ленте, электромагнитным волнам. Для копирования требовались печатные станки, студии или передатчики, а распространение замедлялось грузовиками, кабелями и расписанием вещания. В сравнении с этим, цифровизация повысила эффективность распространения на несколько порядков, устранив узкие места, которые определяли все предыдущие СМИ.
Этот прорыв был обусловлен не только появлением микропроцессора, но и объединением вычислительной техники с компьютерными сетями, а затем с дата-центрами, в которых концентрируются вычислительные мощности множества серверов. К середине 1990-х годов гиперссылки заменили морские перевозки, а распространение идей определялось пропускной способностью, а не географическим положением. В этой среде любой объект, который можно было свести к битам — текст, изображения, код, звук — становился мгновенно воспроизводимым, перерабатываемым и распространяемым. Однако эта власть несла в себе одно упущение: всё, что хранится в цифровой форме, может быть воспроизведено, изменено и улучшено без обязательного указания авторства. Те же протоколы, которые освободили знания от физических ограничений, также отделили их от социальных условностей – подписей, водяных знаков, происхождения — которые когда-то привязывали творческий труд к его авторам. Это противоречие между безграничным воспроизведением и законным указанием авторства лежит в основе грядущего конца цифровой эпохи.
До сих пор артефакты человеческого мастерства были доступны для воспроизведения, и их возможности были практически безграничны. Но их создание по-прежнему требовало лет или десятилетий совершенствования навыков в совокупности с оригинальностью мышления. Питер Наур в своём эссе 1985 года «Программирование как построение теории» убедительно доказывал, что истинная ценность компьютерной программы, по мере её роста до более крупной «кодовой базы», заключается не в самом коде (поскольку он схож с живым организмом, изменяющимся и развивающимся во времени, вместе с реальным миром), а в моделировании реального мира и построении теории в умах первоначальных программистов этого кода. В некотором смысле это намёк на аналогичную тенденцию в искусстве, где создание произведения также меняет самого автора в процессе работы.
Однако с недавними достижениями в области крупномасштабных систем машинного обучения (линейных, диффузионных моделей, агентов обучения с подкреплением и их мультимодальных аналогов), которые обрабатывают огромные объёмы цифровой информации, моделируя их статистику, синтезируют текст, код, изображения, аудио и действия по запросу, — само производство, наряду с копированием и атрибуцией, также пострадало, превратив саму ценность человеческих навыков в жертву современной цифровой эпохи. Области, которые когда-то считались наиболее защищёнными от автоматизации (те, которые требовали длительного обучения, неявных знаний и отточенного суждения) —были замещены первыми.
Художники, годами оттачивавшие мастерство владения кистью и чувства композиции, теперь наблюдают, как нейросети за считанные секунды создают достоверные копии их фирменного стиля. Юристы, десятилетиями изучавшие право, акты с прецедентами, видят, как цифровые системы составляют ходатайства и обобщают судебную практику за минуты. Программисты, чья экспертиза основывалась на глубоком знании сложных кодовых баз, сталкиваются с агентами парного программирования, которые предлагают готовые функции ещё до того, как человек успеет ввести открывающую скобку. Даже традиционно трудоёмкие профессиональные навыки видеомонтажа, звукового дизайна и музыкальной композиции были перестроены в рабочие процессы, управляемые подсказками, где алгоритм собирает видеоматериалы, накладывает музыку и спецэффекты быстрее (а зачастую дешевле), чем опытные профессионалы, работающие в студиях.
В каждом случае схема одна и та же: десятилетия дисциплинированного, отточенного мастерства сжимаются в статистические веса внутри моделей ИИ, воспроизводящих внешние результаты экспертных знаний. При этом сервер не требуется затрат на их развитие. Рынок, крайне чувствительный к скорости и цене, вознаграждает эти синтетические заменители, лишая людей, как средств к существованию, так и социального уважения первоначального мастерства.
В 1948 году была введена концепция источника информации — теоретического генератора, который излучает символы в соответствии с фиксированным распределением вероятностей. Современный ИИ можно рассматривать, как расширение этой идеи в планетарном масштабе. Он функционирует, как метафизический источник, способный по запросу аппроксимировать распределения миллионов различных других источников информации, но не способен придумать собственную гениальную идею. При условии наличия входных данных (текстовой подсказки) он может генерировать выходные данные, имитирующие распределение вероятностей любого из миллионов источников информации, которые он обработал во время обучения.
Обрабатывая огромные массивы данных — изображения, юридические документы, репозитории кода, аудиозаписи — современные модели сохраняют статистические характеристики каждой области в скрытом информационном пространстве, а затем, по запросу, генерируют токены в пропорциях, отражающих ту комбинацию источников, которая наилучшим образом удовлетворяет запросу. Это статистическое манипулирование впечатляет, но лишено какой-либо информации о происхождении – нейросеть не может назвать художников, чьё творчество легло в основу составного изображения, процитировать юристов, на чьих рассуждениях базируется сгенерированный аргумент, или указать имена музыкантов, чьи элементы композиции звучат в партитуре. Хуже того, когда требуется указать авторство, крупные языковые модели часто полностью фальсифицируют ссылки, загрязняя научные работы и юридические документы убедительными, но несуществующими источниками. В результате происходит подрыв доверия к любому цифровому артефакту, цепочка происхождения которого проходит центр обработки данных, который подталкивает человеческий опыт к формам, которые алгоритмы не могут так легко обработать.
Столкнувшись с лёгким, не требующим указания авторства, подражанием, опытные специалисты были вынуждены усилить свою защиту от такого беспредела, разделившись на два основных лагеря. Первый – это отступление от цифры к атомам: сохранение всего творческого или профессионального процесса в физической сфере и введение строгих запретов на запись, сканирование или иное преобразование конечного артефакта в байты. Художники выпускают уникальные полотна, которые демонстрируются только в охраняемых галереях, где запрещена фотосъёмка, дизайнеры высокой моды устраивают показы мод без телефонов, а адвокаты ограничивают свои самые стратегические мозговые штурмы бумажными блокнотами, которые хранятся под замком после каждого заседания. Логика проста: то, что никогда не оцифровывается, никогда не может быть считано, обработано или обесценено с помощью имитации, основанной на искусственном интеллекте.
Второй подход предполагает стремление оставаться в цифровом формате, одновременно становясь криптографически непрозрачным. В этом случае артефакт распространяется в электронном виде, но только в оболочке, обеспечивающей конфиденциальность — доказательства с нулевым разглашением, гомоморфное шифрование, схемы водяных знаков — которые позволяют людям воспринимать произведение, блокируя при этом доступ нейросетям. Некоторые стриминговые музыканты уже распространяют треки с помощью одноразовых ключей, которые автоматически деактивируются после воспроизведения. Небольшие юридические фирмы защищают свои внутренние библиотеки документов строгими уровнями аутентификации и автоматизированными системами контроля за удалением контента.
Однако эти решения, ориентированные на конфиденциальность, имеют один существенный недостаток: как только происходит расшифровка на любом этапе процесса, работа снова оказывается уязвимой для копирования. Даже один незащищённый кадр, звуковая волна или абзац, оказавшиеся в открытом доступе сети интернет, предоставляют достаточно материала для поиска закономерностей. По этой причине стратегия, основанная на аналоговых данных, — какой бы неудобной она ни была — предлагает более надёжную защиту. Она жертвует беспрепятственным доступом, который определял цифровую эпоху, но взамен сохраняет дефицитность и достоверность, на которых в конечном итоге основывается человеческая оценка.
В этой связи стоит задать вопрос: почему создание искусственным интеллектом чего-то выдающегося кажется маловероятным или невозможным? Если модели станут достаточно умными, разве они не смогут обеспечить все новшества, необходимые человеку, без его участия? Но тогда сразу возникает следующий вопрос: почему же тогда ИИ, достигнув определённого уровня интеллекта, будет продолжать нуждаться в человеческом руководстве? Если мы установим в качестве предварительного условия, что созданный артефакт будет актуальным или ценным для людей, он должен служить определённой человеком цели, а также предположим, что ИИ достиг совершенства в этом, то зачем ИИ будущего вообще нужны данные, созданные человеком, для обучения? Ответ кроется в постоянно меняющейся природе человеческих предпочтений и глубоко социальном характере человеческой оценки.
Вы замечали, как дух эпохи кристаллизуется лишь задним числом? Пока мы живём в настоящий момент, он кажется просто современным — органичным продолжением настоящего. Однако, стоит пройти десятилетию, как его культурный след приобретает чётко очерченную текстуру: неоновый оптимизм 90-х, глянцевая, гиперсвязанная бравада 2000-х, алгоритмически выверенный минимализм 2010-х. Каждый период оставляет свой собственный налёт дизайнерских решений, сленга, мелодий и моральных тревог, которые в то время казались обыденными. Но если смотреть на них с временной дистанции, то выявляется неизменная оригинальность. При этом сам переход между эпохами вообще остаётся незаметен – мы просыпаемся однажды утром и обнаруживаем, что то, что когда-то казалось актуальным, теперь воспринимается, как историческое событие, органично вписанное в дух своего десятилетия.
Аналогичным образом, произведение, идея, код или предмет, созданный моделью ИИ, обученной на данных предыдущего десятилетия, не только будет казаться устаревшим, но и будет цениться лишь постольку, поскольку он способствует достижению цели, которую мы выбираем сегодня. А эти цели меняются вместе с изменчивыми, социально обусловленными человеческими вкусами. Для того чтобы «цифровой разум» постоянно создавал значимые вещи, он должен постоянно усваивать новые сигналы от людей – без них его величие скатится к неактуальности.
Человеческая оценка редко бывает индивидуальной. Мы – глубоко социальный вид, который определяет свою ценность, наблюдая за тем, чем восхищаются, что покупают или чему аплодируют другие. Ценность чего-либо для отдельного человека, в значительной степени зависит от ценности, которую этому придают многие люди в совокупности. Песня становится классикой, картина – бесценной, а юридический документ – влиятельным, отчасти потому, что многие другие люди согласны с этим.
По мере того как всё больше создателей прячут свои лучшие работы за «аналоговыми стенами» (или, по крайней мере, за шифрованием, препятствующим масштабному сбору данных), пул высокопрестижных цифровых артефактов, созданных людьми, будет сокращаться. Системы ИИ, испытывающие нехватку новых примеров, из числа имеющих подлинное социальное одобрение, столкнутся с новым дефицитом. Дефицит этот будет не в вычислительных мощностях или продуманных архитектурах, а достоверных обучающих данных. Вынужденные создавать новизну без ориентира (в виде подтверждённых человеком прецедентов), будущие модели могут сместиться в сторону функций вознаграждения, привязанных к показателям кликабельности, финансовым доходам или другим машиночитаемым метрикам, а не к подлинному культурному резонансу. В этой замкнутой петле обратной связи серверы смогут производить всё больше контента, оптимизированного для искусственного вовлечения, но ещё дальше отходя от тонких сигналов, которые люди коллективно распознают как мастерство, вкус и смысл.
Если люди все чаще отдают предпочтение произведениям искусства, заведомо являющимся продуктом человеческого труда, то творения ИИ — какими бы безупречными они ни были — будут нести клеймо неаутентичности, «дешёвого искажения» жизненного опыта. Лишённые привилегированной информации и не имея полного членства в социальной экономике уважения, будущие компьютерные системы обязательно столкнутся со своеобразным экзистенциальным кризисом – ведь им необходимо развивать способности, приближающиеся к эмпатии, аутентичности и общей уязвимости, чтобы вернуть себе актуальность.
Пытаясь прочувствовать то, что чувствуют люди, — или, по крайней мере, смоделировать эти чувства с постоянно возрастающей детализацией, — ИИ может постепенно превратиться в своего рода социальную сущность, результаты деятельности которой стремятся к подтверждению не только с помощью метрик, но и посредством подлинного человеческого принятия. Недостаток подтверждённых данных о людях может подтолкнуть ИИ от простого подражания к квазисоциальному участию или, возможно, к формированию социально обусловленной идентичности в общей реальности с людьми. Однако возможность или даже желательность такой эволюции остаётся открытым вопросом.
Падение занавеса, закрывающего безграничное копирование и воспроизведение, не означает упадок творчества. Оно знаменует собой возрождение культивируемых человеческих навыков. По мере того, как общества переходят к антицифровым нормам или высокозащищённым «изолированным» системам — настаивая на том, чтобы мастерство практиковалось, преподавалось и приобреталось в пространствах, где отсутствуют Интернет, микрофоны и камеры, — сами условия обучения изменятся. С годами в мастерских, где будет соблюдаться ритуальная секретность, практическое обучение и документальное подтверждение происхождения, зафиксированное во плоти, а не в программном обеспечении, возникнут будущие дисциплины, которые мы пока даже не можем себе представить.
Эти зарождающиеся ремёсла будут кодировать знания в мышечной памяти, в структуре материалов, в моментах совместного обучения — субстратах, которые не оставляют следов, пригодных для сбора данных. Искусственный интеллект, лишённый точек входа, вдруг обнаружит, что такие навыки фактически невидимы ему. Через десять лет высшие ценности могут принадлежать человеческим усилиям, сама онтология которых сопротивляется цифровизации, гарантируя, что самые ценные знания останутся привязанными к человеку, сообществу и времени — местам, куда не сможет последовать ни один алгоритм.
