Прогресс технологий искусственного интеллекта в последние годы неоспорим, а его темпы поистине невероятны. На фоне четырех американских претендентов с передовыми ИИ-моделями конкуренция накалена, и разработка новых моделей идет стремительно. Тем не менее, Дарио Амодеи, генеральный директор Anthropic, призвал замедлить разработку новых ИИ-моделей, даже предупредив о потенциальном рое ИИ-ботов, способных захватить весь интернет. «Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6–12 месяцев такой рой сможет захватить весь интернет с помощью устойчивой ботсети (потенциально причинив ущерб в сотни миллиардов долларов), и что масштаб ущерба будет продолжать расти, если ИИ станет мощнее без необходимых защитных механизмов», — написал Дарио Амодеи, генеральный директор Anthropic, в открытом письме.
Видение Дарио Амодеи в значительной степени разделяет Эван Хубингер, ученый в области ИИ, недавно покинувший Anthropic, который заявил, что существует 10% вероятность того, что человечество будет уничтожено к концу десятилетия. «Мы действительно искренне верим, что ИИ может убить всех людей», — написал Хубингер в посте на X. «Лично я считаю, что вероятность составляет более 10% в течение следующего десятилетия. Я считаю, что Anthropic делает все возможное, но у нас пока нет плана по решению проблемы согласования для сверхинтеллекта, и мы явно не на пути к этому».
Во вселенных, созданных Джеймсом Кэмероном («Терминатор») и Фрэнком Гербертом («Дюна»), ИИ представлен как опасное изобретение. Но давайте посмотрим внимательнее. Дальнейшее развитие ИИ переходит от ответов на вопросы к самостоятельному выполнению сложных многоэтапных задач, что ранее требовало команд квалифицированных специалистов. Это подводит нас к тому, как противники используют возможности ИИ от Anthropic, испытывая нехватку человеческих ресурсов.
Собственные исследования Anthropic показывают, что современные ИИ-модели уже могут помогать в разработке оружия, военной разведке, наблюдении, кибероперациях и других потенциально деструктивных действиях, в то время как более совершенные преемники могут значительно сократить объем знаний, рабочей силы и времени, необходимых для их проведения.
Эти выводы перекликаются с двумя весьма различными предупреждениями из научной фантастики: «Терминатор» Джеймса Кэмерона показал последствия потери контроля над автономным военным ИИ, тогда как «Дюна» Фрэнка Герберта представила, как человечество в конечном итоге запретит ИИ, став от него опасно зависимым.
Между тем, большая функциональность не обязательно означает большую опасность. Например, более продвинутая технология ИИ может иметь более надежные средства защиты, обнаруживать вредоносную активность и автоматизировать работу, которая до сих пор не была автоматизирована.
Остановка разработки ИИ также может быть контрпродуктивной, если менее ответственные компании или страны продолжат совершенствовать свои модели. По сути, передача самых мощных ИИ-систем в руки акторов, известных своей военной агрессией, не менее опасна, чем передача обезьяне гранаты.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Anton Shilov
