Anthropic управляет лабораторией, проводящей биологические эксперименты в сфере искусственного интеллекта

ии биотехнологии Anthropic исследования опасности ии techcrunch.com

Лидеры ИИ обещают излечение болезней, но исследователи Anthropic предупреждают об опасности. Узнайте, как компания балансирует между разработкой ИИ и лабораторными исследованиями, несмотря на опасения.

Лидеры в области ИИ обещают, что искусственный интеллект станет ключом к лечению человеческих болезней. Дарио Амодеи на прошлой неделе заявил: «Я считаю, что ИИ сможет вылечить большинство серьезных заболеваний в ближайшие 5–10 лет». Для этого большой языковой модели (LLM) потребуются методы для проверки ее теорий в реальной жизни.

«Мы считаем, что для занятий биологией окончательным тестом по-прежнему остается и будет оставаться в течение некоторого времени реальная лабораторная работа», — сообщил Reuters глава отдела наук о жизни Anthropic Эрик Каудерер-Абрамс. «Мы абсолютно занимаемся этим сегодня». Он добавил, что лаборатория работает как большинство биотехнологических лабораторий: Anthropic проводит там некоторые исследования, а также сотрудничает с внешними партнерами.

Эта новость, вероятно, не должна вызывать удивления. В апреле Anthropic приобрела Coefficient Bio, скрытный ИИ-биотехнологический стартап. Компания отказалась сообщить, над чем работает мокрая лаборатория, кроме того, что она не занимается разработкой лекарств. Anthropic не хочет создавать впечатление конкуренции с фармацевтической промышленностью, где у нее множество крупных клиентов и партнеров. (Например, недавно было объявлено о сделке по совместной разработке лекарств с Novo Nordisk.) Anthropic уже столкнулась с негативной реакцией за выпуск продуктов, которые воспринимаются как конкуренция с продукцией ее клиентов.

С этой целью Anthropic также на этой неделе запустила Программу проверки в области наук о жизни, чтобы предоставить проверенным биоисследователям доступ к своим самым мощным моделям.

Но мир все еще не оправился от отставки исследователя Anthropic Джейкоба Коксона, который предупредил, что «люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия». Собственный руководитель отдела согласования Anthropic оценил вероятность того, что ИИ может уничтожить человечество в течение следующего десятилетия, более чем в 10%.

Ажиотаж достиг такого накала, что генеральный директор Дарио Амодеи опубликовал на прошлых выходных сообщение с призывом к индустрии замедлиться и ввести саморегулирование. Он неоднократно называл биотерроризм одним из самых больших рисков ИИ.

Сопоставление этих мрачных предупреждений и мокрой лаборатории не осталось незамеченным в технологической индустрии. Как инвестор и основатель стартапа по написанию кода с помощью ИИ Чамат Палихапития разместил в X, несколько шутливо: «Группа, стоящая за такими хитами, как: «Мы все умрем» и «Регулируйте меня сейчас», строит мокрую лабораторию в Сан-Франциско. Я не рекомендую этого».

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: