Новости: LLM

Оказывается, старый ИИ-графический процессор Nvidia V100 эпохи Turing все еще весьма производителен сегодня, даже с 16 ГБ видеопамяти. Ютубер заполучил вариант SMX всего за $100, переделал его под интерфейс PCIe x16 еще за $100 с помощью адаптера и получил весьма впечатляющие результаты в тестах ИИ-инференса и NVR. — tomshardware.com

Тестирование на проникновение систем на базе ИИ выявляет больше критических уязвимостей, чем в устаревших системах. Отчет Cobalt показал, что 32% проблем LLM — высокорисковые, что почти в 2,5 раза выше, чем в среднем по корпоративным системам. — csoonline.com

Moonshot AI, разработчик Kimi, закрыла раунд финансирования на ~$2 млрд при оценке свыше $20 млрд. Инвесторами выступили Meituan Longzhu, China Mobile и CPE源峰. Компания привлекла почти $4 млрд менее чем за полгода, став самым обеспеченным ИИ-стартапом в Китае. — pandaily.com

Браузер Chrome тайно загружает модель Gemini Nano. Автор проверил ее работу в интерфейсе, похожем на ChatGPT, и обнаружил забавные галлюцинации, включая вымышленного президента Джона Ф. Линкольна. — gizmodo.com

Годовая регулярная выручка Moonshot превысила $200 млн в апреле благодаря росту платных подписок и использованию API. Лаборатория ИИ Moonshot AI привлекла $2 млрд при оценке $20 млрд. — techcrunch.com

Судья отклонил ходатайство Nvidia об отклонении иска о нарушении авторских прав, заявив, что ее фреймворк NeMo Megatron имеет не нарушающее авторские права применение и что она не несет ответственности за пиратство, совершаемое ее пользователями. — tomshardware.com

На конференции Code with Claude компания Anthropic представила функцию «мечтания» для агентов Claude, позволяющую сохранять важные данные в памяти. Также 5-часовые лимиты использования будут удвоены для пользователей Pro и Max Claude Code. — arstechnica.com

По мере развертывания LLM и ИИ-агентов фокус смещается с известных угроз (внедрение промптов, утечка данных) на тихий риск: отравление данных ИИ. Эксперты обсуждают, как загрязнение или злонамеренное отравление данных, включая RAG-конвейеры, искажает понимание реальностью. — csoonline.com

Злоумышленники адаптируют атаки на цепочки поставок для нацеливания на ИИ-агентов по кодированию, которые автономно сканируют NPM и PyPI. Появляются приманочные пакеты с убедительными описаниями, а также атаки, использующие галлюцинации LLM. — csoonline.com

Поставщики используют разные форматы. Эта технология переводит их все, чтобы вы могли оптимизировать работу своего SOC. — theregister.com