Новости: промпты
OpenAI выпустила open source инструменты для повышения безопасности подростков при разработке ИИ
Вместо разработки с нуля методов повышения безопасности ИИ для подростков разработчики могут использовать новые политики OpenAI для укрепления своих продуктов. Они касаются насилия, контента и опасного поведения. — techcrunch.com

Помощник ИИ-врача легко поддается на изменение рецептов и дает плохие медицинские советы
Эксперты по безопасности обнаружили, что ИИ Doctronic для здравоохранения можно легко обмануть, чтобы он раскрыл системные промпты, распространял ложную медицинскую информацию, увеличивал дозы лекарств и многое другое! — theregister.com

Компании используют функцию «Summarize with AI» для манипуляции корпоративными чат-ботами
Кнопка «Сводка с помощью ИИ» на сайтах может скрывать «отравление рекомендаций ИИ» — новую технику манипулирования, обнаруженную Microsoft. Злоумышленники внедряют скрытые промпты для влияния на ИИ-помощников пользователей, искажая их ответы и предпочтения. — csoonline.com

Автономные автомобили и дроны подвергаются “prompt injection” через дорожный знак
AI vision systems can be very literal readers — исследование показало, что автономные системы могут выполнять команды с дорожных знаков, подвергаясь визуальным инъекциям промптов. Это создаёт реальные угрозы для беспилотников и дронов, чьи решения легко искажаются.

В Google Photos появилась функция создания видео из фотографий при помощи текстовых запросов.
Google представила масштабное обновление функции «Фото в видео» в Google Фото, добавив возможность генерации роликов по текстовым подсказкам (промптам) для пользователей старше 18 лет. Обновление также включает аудио по умолчанию для всех созданных видео.

OpenAI раскрыла технические подробности работы своего ИИ-агента для написания кода.
Инженер OpenAI Майкл Болин раскрыл технические детали работы агентного цикла Codex CLI: от формирования промптов и управления инструментами до проблем с производительностью, вызванных квадратичным ростом контекста и stateless-запросами API.

Самое просматриваемое:
- Bitcoin Depot оштрафован на $18,5 млн – сталкивается…
- WatchGuard бьёт тревогу: критическая уязвимость…
- Как настроить ComfyUI для генерации изображений ИИ…
- ECARX берет управление бизнесом Flyme OS в свои руки…
- США прикрыли платформу для хранения паролей, которой…
- Результаты еженедельного опроса: Samsung Galaxy Z…
- Тим Суини из Epic: «нечестность» и «грубое…
- Исследователи из MIT возродили 40-летнюю концепцию…
- Новейший датчик присутствия от Aqara определяет,…
- Представитель сервисного центра Google сообщил…


