Новости: регулирование ИИ

Первые в истории мировые соглашения по искам против ИИ-компаний, обвиняемых во вреде пользователям. Судебные разбирательства затрагивают Character.AI, где чат-боты спровоцировали трагедии, включая суицид подростка.

Юта первой в США внедрила пилотную программу, позволяющую системе ИИ продлевать рецепты на 190 распространенных лекарств для хронических больных, исключая препараты с риском злоупотребления. Стартап Doctronic, разрабатывающий технологию, нацелен на общенациональное одобрение, несмотря на опасения по поводу точности и предвзятости ИИ.

Сенатор Стив Падилья представил законопроект о запрете чат-ботов с ИИ в игрушках до разработки правил безопасности. “Наших детей нельзя использовать в качестве лабораторных крыс для экспериментов Big Tech”, – заявил он.

OpenAI стремится к расширению роли ChatGPT в здравоохранении. Для этого необходимо содействие регулирующих органов. Использование ИИ в медицине: риски, перспективы, политика регулирования.

Американцы скептически относятся к ИИ. Опросы показывают негативное восприятие влияния ИИ на экономику и окружающую среду. Политики занимают позиции “за” и “против”. Многие отказываются от скептицизма, но Берни Сандерс – нет.

Губернатор Нью-Йорка подписала закон об ИИ, который противоречит указу Трампа, что может привести к судебным баталиям. Закон требует от крупных ИИ-компаний соблюдения строгих мер безопасности и отчетности. Эксперты сомневаются в юридической силе указа президента, но принятие таких законов штатами может вызвать конфликты.

Закон штата Нью-Йорк обяжет крупных разработчиков ИИ раскрывать информацию о протоколах безопасности и сообщать об инцидентах в течение 72 часов. Создается новое управление для надзора за разработкой ИИ. Нарушителям грозят крупные штрафы. Калифорния приняла схожий закон. Губернатор Хохул подчеркивает важность регулирования на фоне отставания федеральных властей.

OpenAI обновляет правила поведения своих ИИ-моделей для пользователей до 18 лет и публикует новые ресурсы по ИИ-грамотности для подростков и родителей. Несмотря на это, остаются вопросы о реальной эффективности внедренных политик.

Сенатор Берни Сандерс предлагает приостановить строительство дата-центров для ИИ, чтобы технологии приносили пользу всем американцам, а не только богатым. Он обеспокоен влиянием ИИ на рабочие места, социальную изоляцию и неустойчивые затраты на инфраструктуру.

Статья исследует текущее положение “доумеров” — сторонников идеи экзистенциальных рисков, связанных с развитием искусственного интеллекта. Несмотря на недавние разочарования, такие как выпуск GPT-5, и критику со стороны акселерационистов, эксперты по безопасности ИИ остаются привержены своим опасениям, подчеркивая необходимость регулирования и готовности к потенциальным угрозам AGI.