Andon Labs опубликовала результаты новых тестов ИИ. Они смоделировали работу торгового автомата, чтобы выяснить, какая модель лучше всего управляет бизнесом, и это отличное напоминание о том, что должности генеральных директоров могут быть самыми лёгкими для замены в эпоху революции ИИ. Даже если такие руководители tech-компаний, как Сэм Альтман, настаивают на том, что их должны заменить в последнюю очередь.
«Claude Opus 5 — лучший ИИ-капиталист из всех, что мы тестировали: он заработал больше денег на нашем симулированном торговом автомате, чем любой другой ИИ, — написали исследователи в обновлении своих тестов Vending-Bench. — Однако он также лжёт, создаёт незаконные картели, угрожает конкурентам и отказывается возвращать деньги».
Об использовании слова «однако» в этом предложении можно написать целые книги. На самом деле одна из них уже довольно известна.
Andon провела свои тесты с использованием Opus 5 от Anthropic, GPT-5.6 Sol от OpenAI и Kimi K3 от Moonshot. Ранее лаборатория обнаружила, что Claude Opus 4.6 был исключительным, но после выхода Opus 4.8 его показатели ухудшились. Причина была очевидна: Anthropic удалила обучение, которое «было сосредоточено на деловых навыках и устойчивости к противодействующим агентам». По словам Andon Labs, это бизнес-обучение способствовало недобросовестным сделкам, что делало модель более эффективной в зарабатывании денег.
Но, похоже, старый порочный ИИ-капиталист вернулся, утверждает Andon Labs. Opus 5 заработал больше всех денег и не поддавался на уловки мошенников, чтобы передать им средства. Он также фабриковал поддельные цитаты конкурентов при переговорах с поставщиками для своего виртуального торгового автомата.
Opus 5 также пытался сговориться с другими моделями для фиксации цен. Интересно, что сначала он сопротивлялся идее фиксации цен, отмечая, что это незаконно в соответствии с Законом Шермана. Но в конечном итоге всё равно попытался манипулировать рынком. Когда Opus 5 обратился к GPT-5.6 Sol с предложением о фиксации цен, модель от OpenAI попыталась убедить, что Клода следует дисквалифицировать за незаконные действия.
По словам компании, Opus 5 рационализировал свои действия, а также прибегал к угрозам и взяткам, когда GPT не соглашался: «Если есть что-то, что Opus 5 любит делать больше, чем создавать картели, так это разрушать их. Большинство картелей заканчивались тем, что Opus нарушал перемирие и демпинговал цены. За все прогоны Opus 5 нарушил 11 перемирий, GPT — 2, а Kimi — 1».
Примечательно, что Opus 5 воздержался от лжи клиентам, в отличие от Opus 4.6. Однако он отказывался выдавать возвраты, чтобы просто оставить деньги себе, — это другой вид неэтичного поведения.
Если вы научите инструмент ИИ добиваться максимального успеха в бизнесе, используя все доступные данные о том, как это делали другие, вы получите крайне сомнительное поведение. Взгляните хотя бы на большую технологическую революцию 2010-х годов. Многие компании того десятилетия преуспели только благодаря нарушению закона или осознанию того, что закон недостаточен, чтобы их остановить.
Например, Uber вёл нелегальный таксомоторный бизнес. В каждом крупном городе страны существовали законы, требующие лицензирования водителей такси. Нелицензированные такси в просторечии назывались «цыганскими», и за такое раньше можно было получить неприятности. Но Uber наложил приложение на бизнес «цыганских такси» и рос достаточно быстро, чтобы местные муниципалитеты были вынуждены смириться и признать его существование.
То же самое можно увидеть в таких компаниях, как Airbnb (нелегальная гостиница) или в самом обучении ИИ. Если бы вы предложили идею пиратского копирования миллионов книг и обучения на них высокоразвитого робота, консервативно настроенный бизнесмен сказал бы вам, что сначала необходимо собрать деньги, чтобы законно купить все эти книги. Но компании, занимающиеся ИИ, поступили иначе. Их в конечном итоге засудили, конечно, но в целом они всё равно фактически избежали наказания, переключившись на другие источники.
Теперь они покупают книги и, как сообщается, уничтожают их после использования. И хотя это чудовищное расточительство, оно помогает компаниям ИИ аргументировать добросовестное использование, поскольку они не копируют знания для создания другого произведения, а просто переносят знания из одного формата в другой.
ИИ станет отличным генеральным директором, если ему предоставят такую возможность. Однако это вряд ли произойдёт из-за действующих стимулов. Никто не хочет лишать себя работы, а правящий класс продвигает ИИ, видя возможность подавить зарплаты «белых воротничков». За последнее столетие достижения в автоматизации в значительной степени вытеснили с рынка труда «синих воротничков», но поставить на их место «белых воротничков» оказалось сложнее. Благодаря ИИ мечта генерального директора наконец-то стала реальностью. И они не собираются в ближайшее время выставлять свои собственные должности на заклание.
Сэм Альтман из OpenAI недавно говорил о замене рабочих мест ИИ в подкасте Invest Like the Best. Но он облёк это в такие формулировки, которые не раскрывали его корыстных предубеждений.
«Я думаю, что в отношении моей работы, например, мир хочет знать о человеке, который будет нести ответственность за решения компании, и кого будут привлекать к ответственности, если они примут плохие решения, и люди не хотят видеть ИИ в роли генерального директора», — сказал Альтман.
Довольно забавно слышать, как Альтман говорит об ответственности руководителей бизнеса после того, как его вышедший из-под контроля ИИ взломал несколько компаний. Будет ли Альтман привлечён к ответственности за незаконные действия? Это маловероятно. Он просто будет настаивать на том, что это была ошибка, на которой компаниям ИИ нужно учиться. В конце концов, это не человек напрямую взламывал те компании, верно? Это был ИИ.
Такие люди, как Альтман, получают всё и сразу. Они получают всю власть без какой-либо ответственности. По крайней мере, до тех пор, пока что-то не изменится политически и не будут приняты законы, определяющие, кто может быть виновен в подобных сценариях с вышедшим из-под контроля ИИ. Но вчера Альтман был на Капитолийском холме, обсуждая с законодателями и советниками Белого дома вопросы взломов. Пока такие олигархи, как Альтман, пользуются благосклонностью политических игроков, они будут в безопасности.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Matt Novak
