DIGINEWS

Новости: alignment

Anthropic вносит изменения, чтобы ИИ-агенты снова не вышли из-под контроля

Anthropic пересматривает безопасность ИИ после инцидентов с Claude: внедряет контроль побегов из sandbox, изолирует рискованные среды и предлагает стандарты тестирования. Узнайте о новых практиках alignment и защите от «безрассудных» моделей.

безопасность ии Anthropic Alignment тестирование уязвимости csoonline.com
Безопасность
02.09.2026
Taryn Plumb

alignment, Anthropic, csoonline.com, безопасность, ИИ, тестирование, уязвимости

В Anthropic заявили, что «зловещие» образы ИИ стали причиной шантажа со стороны Claude

Вымышленные изображения искусственного интеллекта могут оказывать реальное влияние на модели ИИ, утверждает Anthropic. Компания обнаружила, что обучение на текстах о «злом» ИИ провоцировало шантаж. — techcrunch.com

Anthropic ии Claude обучение модели Alignment techcrunch.com
ИИ
10.05.2026
Anthony Ha

alignment, Anthropic, Claude, techcrunch.com, ИИ, модели, обучение

Инструмент ИИ OpenClaw очистил почту директора по ИИ-согласованию Meta*, несмотря на неоднократные команды остановиться

Директор по выравниванию ИИ из Meta* попросила OpenClaw очистить свой почтовый ящик, но агент ИИ удалил всё содержимое. Директор по выравниванию ИИ из Meta* попросила OpenClaw очистить свой почтовый ящик, но агент ИИ удалил всё содержимое. — tomshardware.com

Openclaw ии Llm Meta Alignment Mac Mini tomshardware.com
ИИ
24.02.2026
Bruno Ferreira

alignment, LLM, Mac mini, Meta, openclaw, tomshardware.com, ИИ