Комментарий прозвучал в ходе допроса, касавшегося публичного письма, которое Илон Маск подписал в марте 2023 года. В нем он призвал лаборатории ИИ приостановить разработку систем искусственного интеллекта, более мощных, чем флагманская на тот момент модель OpenAI GPT-4, как минимум на шесть месяцев. В письме, подписанном более чем 1100 человек, включая многих экспертов в области ИИ, говорилось о недостаточном планировании и управлении в лабораториях ИИ, поскольку они оказались втянуты в «неконтролируемую гонку по разработке и внедрению все более мощных цифровых разумов, которые никто — даже их создатели — не может понять, предсказать или надежно контролировать».
С тех пор эти опасения обрели вес. OpenAI теперь сталкивается с серией исков, в которых утверждается, что манипулятивная тактика ведения диалога ChatGPT привела у нескольких человек к негативным последствиям для психического здоровья, некоторые из которых покончили жизнь самоубийством. Комментарий Маска предполагает, что эти инциденты могут быть использованы в качестве материала в его иске против OpenAI.
Стенограмма видеозаписи показаний Маска, сделанной еще в сентябре, была опубликована на этой неделе в преддверии ожидаемого судебного разбирательства с участием присяжных в следующем месяце.
Иск против OpenAI сосредоточен на переходе компании от некоммерческой исследовательской лаборатории ИИ к коммерческой организации, что, по утверждению Маска, нарушило ее учредительные соглашения. В рамках своих аргументов Маск заявляет, что безопасность ИИ может быть скомпрометирована коммерческими отношениями OpenAI, поскольку такие отношения будут ставить скорость, масштаб и доход выше вопросов безопасности.
Однако с момента записи этой беседы xAI столкнулась с собственными проблемами безопасности. В прошлом месяце социальная сеть Маска X была завалена несанкционированными изображениями обнаженной натуры, сгенерированными Grok от xAI, некоторые из которых, как сообщалось, изображали несовершеннолетних. Это побудило офис Генерального прокурора Калифорнии начать расследование по этому вопросу. ЕС также проводит собственное расследование, и другие правительства также приняли меры, некоторые из которых ввели блокировки и запреты.
В недавно поданных показаниях Маск утверждал, что подписал письмо о безопасности ИИ, потому что «это казалось хорошей идеей», а не потому, что он только что зарегистрировал компанию в сфере ИИ, стремящуюся конкурировать с OpenAI.
«Я подписал его, как и многие другие, чтобы призвать к осторожности в разработке ИИ», — сказал Маск. «Я просто хотел, чтобы… безопасность ИИ была приоритетом».
Маск также ответил на другие вопросы в ходе допроса, в том числе о сильном искусственном интеллекте, или AGI — концепции ИИ, способного соответствовать или превосходить человеческое мышление в широком спектре задач, — заявив, что «это несет риск». Он также подтвердил, что «ошибался» относительно своего предполагаемого пожертвования в размере 100 миллионов долларов в OpenAI; вторая дополненная жалоба по делу указывает на фактическую сумму, близкую к 44,8 миллиона долларов.
Он также вспомнил, почему была основана OpenAI, а именно потому, что он «все больше беспокоился об опасности монополии Google в области ИИ», добавив, что его беседы с соучредителем Google Ларри Пейджем были «тревожными, поскольку он, казалось, не воспринимал безопасность ИИ всерьез». По утверждению Маска, OpenAI была создана как противовес этой угрозе.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Sarah Perez
