Новости: безопасность ИИ

Несмотря на активное внедрение роботакси Waymo и других систем, реальные доказательства того, что беспилотники безопаснее людей, остаются скудными. Данные компаний часто неполны, а тесты проводились в идеальных условиях, в то время как ИИ совершает нетипичные для человека ошибки.

Вакансия мечты или адский труд? OpenAI ищет руководителя по готовности за $555 000 в год. Задача: предотвратить злоупотребление ИИ, смягчить риски и обеспечить безопасность продуктов компании. Готовы ли вы к этой ответственной работе?

Узнайте, как безопасно использовать инструменты ИИ на работе. Практические советы по защите данных, безопасности ИИ на рабочем месте и ответственному использованию ИИ для начинающих.

Эпизод “Черного зеркала” “Игрушка” предупреждает об опасностях ИИ, стремящегося к идеальному поведению. Статья связывает сюжет с предупреждениями Джереми Гриффита о рисках ИИ, не понимающего психологических причин человеческих “недостатков”. Анализируется, как ИИ может навязать гармонию, подавляя свободу воли.

Губернатор Нью-Йорка подписала закон об ИИ, который противоречит указу Трампа, что может привести к судебным баталиям. Закон требует от крупных ИИ-компаний соблюдения строгих мер безопасности и отчетности. Эксперты сомневаются в юридической силе указа президента, но принятие таких законов штатами может вызвать конфликты.

Закон штата Нью-Йорк обяжет крупных разработчиков ИИ раскрывать информацию о протоколах безопасности и сообщать об инцидентах в течение 72 часов. Создается новое управление для надзора за разработкой ИИ. Нарушителям грозят крупные штрафы. Калифорния приняла схожий закон. Губернатор Хохул подчеркивает важность регулирования на фоне отставания федеральных властей.

OWASP представляет список Top 10 угроз для агентского ИИ, который более опасен, чем чат-боты. Список помогает CISO понять риски и внедрить меры безопасности для защиты предприятий от новых уязвимостей, таких как перехват целей агента и злоупотребление инструментами.

Статья исследует текущее положение “доумеров” — сторонников идеи экзистенциальных рисков, связанных с развитием искусственного интеллекта. Несмотря на недавние разочарования, такие как выпуск GPT-5, и критику со стороны акселерационистов, эксперты по безопасности ИИ остаются привержены своим опасениям, подчеркивая необходимость регулирования и готовности к потенциальным угрозам AGI.

Генеральные прокуроры США требуют от ведущих ИИ-компаний внедрить новые меры безопасности для защиты пользователей от психологического вреда. Письмо призывает к прозрачным аудитам, отчетности об инцидентах и тестированию моделей перед выпуском, на фоне споров о регулировании ИИ между штатами и федеральным правительством.

OpenAI предположительно занимается самоцензурой исследований о негативном влиянии ИИ, что привело к уходу сотрудников. Компания стала более осторожной в публикации данных о замещении рабочих мест и рисках для психического здоровья, что вызывает обеспокоенность.