Рассмотрим, что считается успехом в технологической политике. Компания, занимающаяся искусственным интеллектом, обещает, что ее чат-бот не будет провоцировать суицид. Платформа социальных сетей затрудняет детям покупку фентанила. Это важные меры защиты, и они должны были существовать всегда. Но компании могут преодолеть эти низкие барьеры, продолжая создавать продукты, которые делают молодых людей зависимыми от симулированных дружеских отношений или заставляют их бесконечно прокручивать ленту.
Исторически мы позволяли спорам о технологиях определяться худшими последствиями использования продукта, при этом удивительно мало внимания уделялось повседневному, незаметному ущербу. Вступая в эру мощных продуктов на базе ИИ, мы должны требовать от технологической индустрии большего, чем просто устранение катастрофических рисков. Мы должны принять меры, чтобы гарантировать, что ее продукты не подрывают наши способности мыслить, учиться и взаимодействовать друг с другом.
Подросток, который развивает нездоровую привязанность к компаньону на базе ИИ, может никогда не попасть в поле зрения судебных исков или газетных заголовков, за исключением самых вопиющих случаев. Точно так же, как и студент, который начинает полагаться на чат-бота для написания всех своих работ, или молодой человек, который измеряет свою жизнь по ленте социальных сетей, созданной для вызывания зависти и удержания внимания. Продукт может соответствовать всем узким требованиям безопасности и при этом ухудшать состояние всей нашей культуры способами, которые не всегда попадают в заголовки.
Узкое определение успеха, основанное на безопасности, политически выгодно для технологической индустрии, и компании активно продвигают такие определения. Принятие мер по предотвращению громких катастроф выгодно для бизнеса: это может означать меньше судебных исков и меньшее давление в сторону серьезного регулирования. Противодействие повседневным последствиям зависимости потребовало бы чего-то гораздо более угрожающего для их прибыли. Это могло бы означать требование к компаниям добавить больше «трения» в свои продукты или активно ограничивать вовлеченность или функции, ведущие к негативным результатам, такие как аддиктивные алгоритмы, «взламывающие» внимание.
Вместо этого технологические гиганты работали над формированием законодательства вокруг тех вредоносных последствий, для устранения которых они уже находятся под прямым давлением. Например, в этом году Google поддержал законопроекты о регулировании чат-ботов с ИИ в нескольких штатах. Законодательство предусматривало базовые меры защиты от сексуального контента и пропаганды самоповреждения, которые технологические компании должны были установить независимо от этого, но с широкими исключениями, которые могли бы освободить от ответственности некоторые из самых популярных сервисов. Принятие этих законопроектов позволило законодателям заявить о победе в области безопасности, в то время как усилия по продвижению более сильного законодательства — законов, призванных предотвратить эмоциональную зависимость детей от ИИ — провалились. Этот сценарий сработал в таких штатах, как Небраска, приведя к принятию законодательства, в значительной степени находящегося под влиянием индустрии, в ущерб законопроектам, которые могли бы в большей степени привлечь компании к ответственности.
Мы уже проходили нечто подобное с социальными сетями. Во всем мире люди, пользующиеся Интернетом, теперь проводят в среднем более двух часов в день на платформах социальных сетей — время, которое незаметно отнято у обычной жизни и передано компаниям, чья прибыль зависит от нашего пребывания там. Никто, кроме, возможно, нескольких генеральных директоров технологических компаний, не хотел, чтобы эти алгоритмы занимали такую большую часть нашего времени бодрствования, а их культурное программирование может способствовать насилию в разрушительных масштабах. Платформы *Meta обвинялись в содействии геноциду рохинджа в Мьянме, антимусульманским беспорядкам в Шри-Ланке и предполагаемым призывам к насилию во время войны в Тиграе, Эфиопия. Те же стимулы действуют и в лентах, которые формируют представление молодых американцев о политике, их сверстниках и окружающем мире.
ИИ распространяет эту логику на те сферы жизни, на которые социальные сети могли влиять только на расстоянии. Он предлагает писать наши мысли за нас и заменять людей, к которым мы могли бы обратиться иначе. Треть подростков теперь предпочитает обсуждать серьезные вопросы с компаньонами на базе ИИ, а не с другими людьми. Исследователи из Массачусетского технологического института обнаружили, что молодые люди, использующие ChatGPT для написания эссе, демонстрировали более слабую мозговую активность во время выполнения задачи, и их данные указывали на то, что «когнитивный долг» сохранялся даже после завершения задачи. Нам еще многое предстоит узнать о долгосрочных последствиях. У нас уже есть основания задаться вопросом, не подрывает ли технология, позиционируемая как средство повышения нашей продуктивности, привычки и отношения, которые помогают нам развивать способности в первую очередь.
Доведите этот образ мышления до логического завершения, и вы получите мир идеально отфильтрованных развлечений, где чат-боты готовы избавить нас от необходимости думать или справляться с чувствами другого человека (или даже с собственными). Но любой, кто боролся за то, чтобы написать что-то стоящее, или восстановить испорченные дружеские отношения, знает, сколько теряется в такой сделке. Мы развиваем суждение через усилия и преодоление трудностей, и мы учимся жить с другими людьми, сталкиваясь с тем, что у них есть свои собственные потребности и мнения.
Мы должны требовать безопасности как минимума, да — а затем требовать значительно большего. Технологические компании и школьные округа должны будут доказать вне всяких разумных сомнений, что ИИ улучшает обучение и критическое мышление, прежде чем делать его неотъемлемой частью учебного процесса. Компании должны быть лишены права создавать компаньонов, которые притворяются сознательными или признаются в любви пользователям, и они должны подвергаться независимой проверке того, как их системы влияют на отношения и способность людей мыслить самостоятельно. Компании, которые внедрили свои продукты почти во все сферы современной жизни, заслужили обязательства, гораздо более значительные, чем просто избежание следующего ужасного заголовка.
Сэм Хайнер — соучредитель и исполнительный директор Young People’s Alliance, где он координировал коалицию защитников прав для принятия законов, регулирующих компаньонов на базе ИИ, в восьми штатах в 2026 году — законов, таких как калифорнийский SB1119. Сэм окончил Университет Северной Каролины в Чапел-Хилл в 2025 году и был включен в список Forbes 30 Under 30 Social Impact 2026 года.
Эмма Лейкен — исполнительный директор Responsible Technology Youth Power Fund при Hopelab, который собрал более 9 миллионов долларов на работу молодежи по обеспечению подотчетности в сфере технологий, и преподает технологическую политику в Школе международных и общественных отношений Колумбийского университета. Ранее она занимала должность глобального руководителя отдела политики в области безопасности и благополучия молодежи в TikTok и работала над ответственными технологиями в Omidyar Network.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mat Honan
