Microsoft ранее активно продвигала свои сервисы на базе ИИ среди пользователей, особенно с запуском ПК Copilot+ PC, но, похоже, даже сама компания не доверяет своему творению. Согласно Условиям использования Microsoft Copilot, обновленным в октябре прошлого года, большая языковая модель (LLM) искусственного интеллекта предназначена исключительно для развлекательных целей, и пользователям не следует полагаться на нее для получения важных советов. Хотя это может быть стандартной оговоркой, это довольно иронично, учитывая, как настойчиво компания хочет, чтобы люди использовали Copilot в рабочих целях, и как глубоко интегрировала его в Windows 11. «Copilot предназначен только для развлекательных целей. Он может допускать ошибки и работать не так, как задумано», — говорится в документе. «Не полагайтесь на Copilot для получения важных советов. Используйте Copilot на свой страх и риск». Это ограничение касается не только Copilot. Другие большие языковые модели ИИ имеют схожие оговорки. Например, xAI заявляет: «Искусственный интеллект быстро развивается и по своей природе является вероятностным; следовательно, он может иногда: а) выдавать результат, содержащий «галлюцинации», б) быть оскорбительным, в) неточно отражать реальных людей, места или факты, или г) быть неприемлемым, неуместным или иным образом не подходящим для предполагаемого вами использования». Это может показаться очевидным для тех, кто знаком с принципами работы LLM, но, к сожалению, некоторые люди воспринимают результаты работы ИИ как истину в последней инстанции, даже те, кто должен знать лучше. Мы видели это на примере сервисов Amazon, после того как некоторые сбои в работе AWS были якобы вызваны ошибкой бота для написания кода на ИИ, когда инженеры позволили ему решить проблему без надзора. Веб-сайт Amazon также пострадал от нескольких инцидентов с «большим радиусом поражения», связанных с «изменениями, выполненными с помощью генеративного ИИ», в результате чего старших инженеров вызвали на совещание для урегулирования ситуации. Хотя генеративный ИИ является полезным инструментом и действительно может повысить производительность, это все еще просто инструмент, который не несет ответственности за любые допущенные им ошибки. Из-за этого люди, которые его используют, должны быть осторожны, всегда подвергать сомнению его результаты и перепроверять их. Но даже если вы осведомлены об ограничениях современных технологий ИИ, люди подвержены «предвзятости автоматизации», при которой мы склонны отдавать предпочтение результатам, полученным от машин, и игнорировать данные, которые могут им противоречить. ИИ может усугубить это явление, особенно поскольку он может создавать результаты, которые выглядят правдоподобно или даже правдиво при беглом взгляде. Компании в целом обычно добавляют подобные оговорки к своим продуктам и услугам, чтобы защитить себя от судебных исков. Но по мере того, как технологические компании, занимающиеся ИИ, продвигают свои сервисы как идеальное средство повышения производительности, они могут преуменьшать риски, связанные с использованием инструментов ИИ, только для того, чтобы привлечь платящих клиентов и окупить миллиарды, вложенные в оборудование и таланты.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jowi Morales
