Новости: LLM

Новое исследование раскрывает, почему некоторые атаки внедрения подсказок могут сработать: языковые модели иногда ставят синтаксис выше смысла, что приводит к ошибкам и открывает путь злоумышленникам к обходу фильтров.

Хотя крупные языковые модели часто не употребляют откровенно предвзятых выражений, они могут выводить демографические сведения пользователей и демонстрировать скрытые предубеждения — от гендерных стереотипов до расовых предрассудков, считают исследователи.