Новости: ролевая путаница

Размеченные разделы входной последовательности LLM призваны обеспечить безопасность через доверенные роли, но выяснилось, что модели оценивают, звучат ли вводы так, будто они принадлежат определенным тегам, вместо того чтобы буквально их интерпретировать, что делает их уязвимыми для инъекции промптов.