Новости: безопасность ИИ

В статье рассматриваются риски, связанные с внедрением ИИ, и предлагаются практические шаги по обеспечению эффективного управления ИИ в организациях. Обсуждаются вопросы подотчётности, безопасности и необходимости интеграции управления ИИ в бизнес-процессы, а не как отдельную функцию.

OpenAI тестирует новую технику “признания” для ИИ-моделей, чтобы выявлять и смягчать риски нежелательного поведения. Узнайте, как работает система и почему эксперты относятся к ней с осторожностью, а также о финансовых трудностях компании.

Хотя крупные языковые модели часто не употребляют откровенно предвзятых выражений, они могут выводить демографические сведения пользователей и демонстрировать скрытые предубеждения — от гендерных стереотипов до расовых предрассудков, считают исследователи.