Компания OpenAI сообщила, что в течение нескольких недель сотрудничает с конкурентами Anthropic и Google по вопросам управления безопасностью и рисками, связанными с ИИ. То, что началось как публичное предупреждение от исследователя Anthropic, теперь превратилось, возможно, в самое масштабное сотрудничество между тремя ведущими лабораториями в области ИИ.
Как сообщает Bloomberg, руководитель отдела глобальной политики OpenAI Крис Лехейн заявил, что компании работают над различными способами объединения усилий и сотрудничества в области безопасности ИИ, добавив при этом, что OpenAI не считает, что такая работа требует освобождения от антимонопольного законодательства США.
Все началось с ухода из компании бывшего исследователя OpenAI и Anthropic Джейкоба Коксона, который обвинил обе компании в гонке к самосовершенствующемуся сверхинтеллекту без ответственного подхода. Он заявил, что сотрудники этих компаний искренне верят, что ИИ «может уничтожить нас всех к концу десятилетия», и добавил, что лаборатории «играют с нашими жизнями».
Что еще хуже, это предупреждение не было проигнорировано его бывшими коллегами, и руководитель отдела по обеспечению согласованности Anthropic Эван Хьюбингер публично поддержал Коксона, заявив, что лично оценивает вероятность того, что ИИ уничтожит все человечество в течение следующего десятилетия, более чем в 10%.
Это событие переросло в более широкую дискуссию о том, следует ли замедлять разработку передовых ИИ-систем.
Через несколько дней генеральный директор Anthropic Дарио Амодеи опубликовал эссе под названием «Мы должны регулировать передовые разработки» («We Must Pace the Frontier») и призвал компании замедлить темпы совершенствования своих наиболее мощных систем.
Предложение Амодеи включает предоставление независимым сторонним экспертам по безопасности постоянного доступа внутрь этих передовых ИИ-компаний, а также согласование общих стандартов безопасности между лабораториями и, в конечном итоге, международную координацию. Anthropic также заявила, что сама начнет внедрять предложение о независимых экспертах.
Сэм Альтман также написал в X и поддержал эту идею, как и Илон Маск.
Официальных заявлений от какой-либо из этих компаний о том, остановят ли они или ограничат ли разработку передовых моделей, не поступало, поэтому пока неизвестно, приведут ли эти обсуждения к каким-либо реальным действиям.
Источник: Reuters, Bloomberg
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Karthik Mudaliar
