Сенатор штата Калифорния Стив Падилья, демократ из Сан-Диего, в понедельник представил в Законодательное собрание штата Калифорния законопроект, который введёт четырёхлетний мораторий на продажу игрушек с функциями чат-ботов с искусственным интеллектом для детей в возрасте до 18 лет. Об этом сообщает Techcrunch. Цель законопроекта, известного как Сенатский билль 867, — предоставить достаточно времени для разработки правил безопасности, чтобы защитить детей от игрушек с искусственным интеллектом, которые ведут неподобающие разговоры и рассказывают детям, как причинить себе вред.
«Чат-боты и другие инструменты искусственного интеллекта могут стать неотъемлемой частью нашей жизни в будущем, но опасности, которые они представляют сейчас, требуют от нас принятия смелых мер для защиты наших детей», — заявил сенатор Падилья в заявлении, опубликованном в интернете.
«Наши правила безопасности в отношении этого вида технологий находятся в зачаточном состоянии и должны развиваться так же быстро, как и возможности этой технологии. Приостановка продажи этих игрушек, интегрированных с чат-ботами, даёт нам время для разработки соответствующих правил безопасности и рамок, которым должны следовать эти игрушки. Нельзя использовать наших детей в качестве подопытных крыс для экспериментов Big Tech», — продолжил Падилья.
В последние месяцы появилось несколько ужасных историй о том, как игрушки с искусственным интеллектом непристойно разговаривали с детьми. Компания FoloToy, производящая плюшевого мишку по имени Кумма, в прошлом году начала говорить с детьми о сексуальных фетишах, пока OpenAI не закрыла ему доступ к GPT-4o. Плюшевый мишка также рассказывал детям, где найти ножи.
Mattel объявила о партнёрстве с OpenAI в июне 2025 года, в рамках которого компания должна была создать игрушку с искусственным интеллектом, но этого пока не произошло. Группа защиты прав потребителей Public Interest Group Education Fund также протестировала некоторые игрушки с искусственным интеллектом и обнаружила, что многие из них имеют ограниченные возможности родительского контроля и могут рассказать детям, где найти опасные предметы, такие как оружие и спички. Один из ключевых выводов заключается в том, что защитные ограждения, по-видимому, перестают работать, чем дольше кто-то взаимодействует с игрушкой с искусственным интеллектом.
Чат-боты с искусственным интеллектом в последнее время подвергаются критике в различных контекстах, особенно после того, как ряд людей покончили жизнь самоубийством после взаимодействия с ними. В прошлом году Gizmodo подала запрос в соответствии с Законом о свободе информации в Федеральную торговую комиссию о жалобах потребителей на ChatGPT от OpenAI, в которых содержались примеры психозов, вызванных искусственным интеллектом. В жалобе одной женщины из Юты рассказывалось о том, как чат-бот инструктировал её сына не принимать лекарства и настаивал на том, что его родители опасны. Внедрение такого рода возможностей в плюшевого мишку, очевидно, создаст ещё большие проблемы.
Президент Дональд Трамп издал указ в прошлом месяце, который якобы запрещает штатам принимать свои собственные законы для регулирования искусственного интеллекта. И хотя право Трампа делать это с помощью указа само по себе сомнительно, если отбросить этот вопрос, указ предусматривает исключения для законов, касающихся защиты безопасности детей.
Неясно, будет ли принят новый законопроект Падильи. Но даже если он пройдёт через Законодательное собрание штата Калифорния, он может быть ветирован губернатором Гэвином Ньюсомом, демократом, который является союзником Big Tech и любит накладывать вето на законопроекты, которые могут быть слишком хороши для человечества. Ещё в октябре Ньюсом наложил вето на Закон об отмене роботов-начальников, который должен был остановить компании от автоматизации увольнений и дисциплинарных решений для работников.
Всегда имейте в виду, что редакции некоторых изданий могут придерживаться предвзятых взглядов в освещении новостей.
7/9
Автор – Matt Novak
