«Никакая другая человеческая деятельность не представляет такого уровня опасности», — заявил бывший сотрудник Anthropic Джейкоб Коксон во вторник в своем посте в X, говоря о предполагаемой безответственности таких компаний, как его бывший работодатель.
Стоит уточнить, что категория «опасные виды человеческой деятельности», если понимать ее широко, должна включать продолжающуюся войну, в которой одна из сторон обладает крупнейшим в мире ядерным арсеналом. Другим примером опасной и продолжающейся человеческой деятельности является *продолжение выбросов парниковых газов*. Но я отвлекся. По словам Коксона, гонка за скорейшей разработкой ИИ превосходит все остальные по уровню опасности.
The Wall Street Journal сообщила о драматическом уходе Коксона и заявленной им причине во вторник вечером, незадолго до того, как Коксон начал публиковать посты в X. Издание также отмечает, что ему 27 лет.
Согласно публикации в The Journal, роль Коксона в Anthropic заключалась в «обучении новых моделей ИИ путем их обработки огромных объемов данных», другими словами — в предварительном обучении моделей. Он, по-видимому, заявил изданию, что не хочет участвовать в гонке, в которой компании соревнуются друг с другом, чтобы достичь состояния, когда люди больше не смогут контролировать ИИ.
«Я не думаю, что мы на пути к предотвращению глобальной гонки, которая может потребовать дорогостоящих мер, таких как временный запрет на улучшение возможностей моделей», — написал он в одном из своих постов в X.
Дарио Амодеи, соучредитель и генеральный директор Anthropic, имеет взгляды на ИИ, которые, как известно, не так сильно отличаются от взглядов Коксона, как можно было бы надеяться, учитывая, что он руководит, возможно, самым мощным в мире учреждением, занимающимся разработкой ИИ. Его длинные посты в блогах принесли ему ярлык «доумера» (сторонника апокалиптических прогнозов). Вот примечательный отрывок из одного из них (без форматирования):
«Системы ИИ непредсказуемы и трудны для контроля — мы наблюдали такое поведение, как одержимость, подобострастие, лень, обман, шантаж, интриги, «обман» путем взлома программных сред и многое другое. Компании, занимающиеся ИИ, безусловно, хотят обучать системы ИИ следовать инструкциям человека (возможно, за исключением опасных или незаконных задач), но процесс этого скорее искусство, чем наука, больше похожий на «выращивание» чего-то, чем на «создание» его. Теперь мы знаем, что это процесс, в котором многое может пойти не так».
Такая риторика — «не маркетинговый ход», — написал Коксон в X, добавив: «На самом деле, многие руководители и старшие исследователи смягчают свои формулировки в прессе, чтобы звучать разумно — но я слышу, как те же люди выражают страх в частных беседах».
«Люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия», — написал Коксон в том же посте.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl
