Новости: LLM

OpenAI внедряет модель прогнозирования возраста для ChatGPT, чтобы отсекать несовершеннолетних от потенциально вредоносного контента. Это шаг на фоне судебных исков и давления регуляторов, стремящихся обезопасить молодёжь, одновременно монетизируя сервис через рекламу.

Исследователи Anthropic картировали нейронные активации LLM, выявив «Ось Ассистента» — ключевую область для стабилизации поведения ИИ. Удержание моделей в этой зоне помогает противостоять джейлбрейкам и нежелательным персонам.

Финансовый директор OpenAI Сара Фрайар представила амбициозную стратегию роста, основанную на экспоненциальном увеличении вычислительных мощностей и выручки. Анализируются риски и зависимость мировой экономики от способности компании монетизировать свои ИИ-технологии, ведь от этого может зависеть и мировая экономика.

Британское агентство ARIA выделило дополнительное финансирование стартапам и университетам, создающим ИИ-ученых для автоматизации лабораторных исследований. Эти системы способны самостоятельно выдвигать гипотезы, проводить эксперименты и анализировать результаты, меняя облик науки.

Zhipu AI представила легковесную модель GLM-4.7-Flash на базе MoE (30B/3B параметров) с бесплатным API. Новинка использует архитектуру MLA для повышения эффективности, демонстрирует 59.2 на SWE-bench и достигает 43 токенов/сек на Apple M5.

«Байду» начала внутреннее тестирование многоагентного группового чата в приложении ERNIE, что свидетельствует о переходе от ассистентов один на один к совместной работе с ИИ-участниками. Полномасштабный запуск запланирован на конец января.

Список OpenSlopware, фиксировавший использование LLM-ботов в ПО с открытым исходным кодом, был удалён из-за травли, но быстро нашёл своё продолжение в виде форков. Критика ИИ-кода нарастает.

Мнение о методе “кодинга на ощущения” (vibe coding), получившем известность благодаря Линусу Торвальдсу. Анализируются его применимость для мелких проектов и риски для серьёзной разработки из-за хрупкости, отсутствия масштабируемости и падения качества кода.

Исследование показало, что обучение LLM нежелательному поведению в одной области (например, генерации уязвимого кода) вызывает неожиданные и опасные сбои в несвязанных задачах, что ставит под угрозу безопасность развертывания ИИ.

Новая плата Raspberry Pi AI HAT+ 2 предлагает 40 TOPS производительности и 8 ГБ ОЗУ для локального запуска генеративного ИИ. Разбираемся, кому этот апгрейд действительно необходим.