На среду Apple было много чего запланировано в рамках презентации «Surprise and Shine»: новый генеральный директор, обновленные AirPods, Apple Watch, способные записывать ваши разговоры, и, конечно же, долгожданный складной iPhone. Единственное, чего не хватало, — это грандиозных заявлений о том, как ИИ собирается революционизировать весь мир и, возможно, даже уничтожить нас.
Еще совсем недавно такое заявление считалось бы, по меньшей мере, маргинальным, даже среди увлеченных научной фантастикой обитателей Кремниевой долины. Только с появлением ChatGPT в конце 2022 года люди начали принимать идею о том, что ИИ — долгое время считавшийся интеллектуальным табу в технологических кругах — на самом деле может стать мейнстримным инструментом и оказать такое же культурное влияние, как iPhone или интернет. И хотя об опасности вышедшего из-под контроля ИИ предупреждают десятилетиями, эти опасения резко обострились в начале этого года после серии автономных взломов, которые показали, насколько хрупкой может быть наша существующая инфраструктура кибербезопасности перед лицом роев самоорганизующихся агентов, которые технологические компании, похоже, не в состоянии (или не желают) контролировать.
Тревога по поводу будущего достигла нового пика на этой неделе после того, как исследователь безопасности ИИ из Anthropic по имени Эван Хабингер написал в социальной сети пост, что сама технология, которую его компания спешит создать, имеет более чем десятипроцентный шанс уничтожить человечество. Это привлекло внимание всего мира. В знак того, что опасения по поводу общего искусственного интеллекта (AGI) прорвались в мейнстрим, Шеррилл Кроу, как никто другой, написала в *Instagram , что она «умоляет и просит нас очнуться в этот момент и потребовать от наших лидеров отложить в сторону свою жадность и предотвратить [неограниченное развитие ИИ]». Американские законодатели с обеихсторон политического спектра на этой неделе призвали Конгресс обуздать гонку по созданию искусственного «суперинтеллекта» — термина, который изначально был предупреждением, но с тех пор, в странном риторическом алхимическом превращении был принят в качестве маркетингового лозунга крупнейшими американскими ИИ-лабораториями.
Взгляды Хабингера на апокалиптический потенциал ИИ могут показаться парадоксальными: Зачем ему помогать создавать то, что, по его мнению, может уничтожить каждого из нас? Но такая идея далеко не нова в его отрасли. Многие из самых влиятельных игроков в гонке ИИ давно и открыто заявляют, что технология может пойти ужасно не так и стать причиной нашего вымирания, будь то через какой-то искусственно созданный вирус, захват кибербезопасности, спровоцированный ИИ ядерный обмен или какая-либо другая техногенная катастрофа, которую наши смертные умы даже не могут себе представить. (Ведь вся идея суперинтеллекта заключается в том, что он будет играть в гипермерные шахматы, пока мы, люди, все еще пытаемся играть в шашки.)
Дарио Амодеи, соучредитель и генеральный директор Anthropic, заявил, что существует до 25% вероятности того, что ИИ пойдет «очень, очень плохо». (Читайте: человечество обречено.) Илон Маск считает, что существует примерно 10-20% вероятность того, что все может пойти ужасно не так. Генеральный директор OpenAI Сэм Альтман неохотно назначает конкретную вероятность такого исхода, но он не считает, что она равна нулю. В извращенном, но вполне реальном смысле, мировая разрушительная сила суперинтеллектуального ИИ для технологических лидеров является особенностью, а не ошибкой. Невозможно иметь всемогущего машинного бога, способного излечивать рак и освобождать нас от рутинной работы, без некоторого риска, что он обернется против нас. Это покажется глубоко бесчеловечным большинству здравомыслящих людей, которые не имеют никаких перспектив стать сверхбогатыми благодаря буму ИИ. Но не заблуждайтесь, это фундаментальная предпосылка, на которой работают эти компании, и они даже не пытаются это скрыть. Язык, который они используют, обычно более сдержан, но, в конечном счете, они скажут, что человечество должно принять некоторую вероятность уничтожения ради шанса на золотой век, в который, по их мнению, может привести нас ИИ.
Все это делает несколько сдержанный подход Apple к ИИ особенно заметным.
Компанию широко считают отстающей с момента появления ChatGPT, она сосредоточилась на своем аппаратном бизнесе, в то время как практически все остальные технологические гиганты резко изменили курс, сделав ИИ приоритетом номер один. Выпуск «Apple Intelligence» в 2024 году был скорее шепотом, чем громом, и по сей день ее ИИ-мощности в значительной степени зависят от моделей Google, ее бывшего конкурента. ИИ не полностью отсутствовал на презентации продуктов в среду, но он был скорее фоновой темой, чем ярким центром внимания.
Несомненно, новоиспеченный генеральный директор Apple Джон Тернус внимательно следил за общественной реакцией на ИИ-дата-центры и опасениями по поводу ИИ-апокалипсиса, и думал, что, возможно, лучший способ завоевать сердца и умы людей — это говорить об ИИ не как о всемогущем боге, которого мы призываем, а как об очередном инструменте, который поможет вам делать то, что вы уже делаете, например, ретушировать фотографии и получать маршруты от Siri. И для миллионов людей, которые все больше опасаются будущего, это, вероятно, будет предложение, которое они смогут поддержать.
ЧИТАТЬ ДАЛЕЕ:
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Webb Wright
