Новости: promptfoo

OpenAI приобретает стартап Promptfoo для усиления проверки безопасности ИИ-агентов, поскольку компании внедряют автономные системы. Инструменты Promptfoo позволяют тестировать LLM-приложения на устойчивость к атакам, таким как prompt injection и jailbreak. — csoonline.com

Сделка подчеркивает, как передовые лаборатории стремятся доказать, что их технологии могут безопасно использоваться в критически важных бизнес-операциях, после того как OpenAI приобрела Promptfoo для интеграции в свою платформу ИИ-агентов. — techcrunch.com