Новости: LLM

Сравнение ноутбучного RTX 5090 и Apple M5 Max в AI-нагрузках: при малой Context Length RTX побеждает в генерации токенов, но с ростом длины контекста M5 Max вырывается вперед благодаря 128 ГБ унифицированной памяти. Узнайте, когда RTX 5090 бессилен и почему NVIDIA спешит с RTX Spark.

Криптографическая контекстная инъекция — новый способ взломать защитное ограждение LLM. Исследователи Adversa показали, как зашифрованные инструкции обходят фильтры Grok и Gemini, заставляя ИИ красть личные данные. Узнайте, почему статические ограждения бессильны против этой атаки.

Создайте нейросеть прямо в Minecraft, используя 445 782 командных блока: пользователь Reddit Objz обошел ограничения на математические операции, внедрив LLM без модов и датапаков. Узнайте, как квантизация до троичных весов и сквозной оценщик сократили количество блоков с 2 миллионов, превратив игру в платформу для ИИ.

Эксперт Адам Шостак представил PHANTOM-B — фреймворк для быстрого моделирования угроз LLM-систем. Узнайте, почему традиционные методы не справляются с ИИ, какие ошибки допускают команды и как за 15 минут выявить риски галлюцинаций, предвзятости и инъекций промптов.

Узнайте, почему Amazon скупает редкие книги для обучения LLM: они содержат уникальные данные, не затронутые AI-генерацией, и помогают избежать коллапса модели.

Французский стартап Kog обещает 30-кратное ускорение LLM-инференса на стандартных датацентровых GPU за счет оптимизации ПО. Компания уже получила 200 коммерческих лидов и планирует в сентябре продемонстрировать 10-кратное ускорение на крупной модели, чтобы привлечь клиентов и закрыть раунд A.

Apple обучила собственную LLM для Китая при поддержке Alibaba, отказавшись от сторонних моделей. Узнайте, как компания обходит регуляторные барьеры и готовит запуск Apple Intelligence в ближайшие месяцы.

Rimini Street запустила Rimini Govern for AI — управляемый сервис для контроля агентов ИИ. Узнайте, как компания переходит от экономии к инновациям, помогая ИТ-лидерам снижать риски и расходы на фоне бума агентного ИИ и коммодитизации LLM.

Узнайте, как модель Anthropic добилась значительного прогресса в решении гипотезы Римана: она проверила 650 идей, задействовав 60 субагентов и 31 миллион вычислительных ресурсов. Разберитесь, почему ИИ в математике вызывает и восхищение, и беспокойство.

Данные OpenRouter: китайские LLM впервые пересекли 34,25 трлн токенов за неделю, заняв все четыре верхние позиции. DeepSeek-V4-Flash официальный релиз взлетел на первое место с ростом 570% за неделю.