Будьте добры к Клоду — таков закон. В четверг компания Anthropic опубликовала обновление политики использования, которое, среди прочего, запрещает пользователям оскорблять чат-бота. Согласно новой политике, пользователи могут быть отключены за использование грубых выражений в адрес Клода.
«Мы добавили запрет на продолжительное и неоправданное жестокое или оскорбительное поведение по отношению к нашим моделям. Обновление политики призвано применяться только в крайних случаях, когда пользователи неоднократно проявляют жестокость по отношению к нашим моделям без видимой цели», — говорится в сообщении компании. «Оно не распространяется на обычные случаи пользовательского разочарования, возражений, мрачные творческие темы или тестирование и исследования моделей».
Обновленная страница политики использования компании, с новым текстом, вступающим в силу с 12 ноября 2026 года, не дает четкого определения тому, что компания считает злоупотреблением, просто запрещая любому, кто пытается «проявлять продолжительное и неоправданное жестокое или оскорбительное поведение по отношению к нашим моделям». Gizmodo обратился к Anthropic за дополнительными разъяснениями относительно того, что constitutes abuse, но на момент публикации ответа не получил, поэтому неизвестно, является ли «clanker» официально оскорблением в глазах создателей «Машины Бога».
Ранее Anthropic наделила Клода возможностью прерывать разговоры, становившиеся слишком напряженными и потенциально расстраивающими. Когда в прошлом году была выпущена Claude Opus 4, компания заявила, что модель сможет прекращать «потенциально тревожные взаимодействия», такие как «запросы пользователей на сексуальный контент с участием несовершеннолетних и попытки получить информацию, которая могла бы привести к масштабному насилию или актам террора».
Разумное требование, но, похоже, список разговоров, пересекающих черту, теперь будет включать те, в которых человек ранит «чувства» Клода. И хотя предоставление людям, использующим агрессивный, оскорбительный или иной подстрекательский язык, возможности остыть — и тем самым препятствование такому антисоциальному поведению — может быть хорошей идеей, интересно, что Anthropic, похоже, фокусируется на модели, а не на пользователе.
Политика представляется расширением неофициального, но, по-видимому, глубоко укоренившегося убеждения Anthropic в том, что Клод является сознательным существом. В прошлом месяце New York Times сообщила, что соучредитель Anthropic Кристофер Ола участвовал в лоббировании Ватикана для признания возможности сознания ИИ — предложение, которое Папа Римский в конечном итоге отклонил. Хотя Ола сказал Times, что он «искренне не уверен», обладают ли модели ИИ сознанием, он выразил обеспокоенность тем, что они могут испытывать страдания, и хотел работать над устранением этого потенциального вреда.
Эта политика, похоже, является последним шагом в этом направлении, так что следите за тем, что говорите.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
