Новости: предвзятость

Узнайте, как большие языковые модели (LLM) могут создавать новые социальные предрассудки даже без исходных данных — результаты исследования Принстона и Чикаго.

Узнайте, как LLM (ChatGPT, Claude, Gemini) развивают собственные предубеждения при найме, стереотипизируя кандидатов сильнее людей. Исследование Принстона и Чикаго: умные модели o3 и R1 — самые предвзятые. Поймите, как память и цели ИИ влияют на дискриминацию и что с этим делать.

Отчет о системе извлечения тем из публичных консультаций подчеркивает важность проверок на основе человеческого фактора и LLM. — computerweekly.com

Развертывание LFR полицией Эссекса не продолжится до тех пор, пока не будут снижены риски, связанные с предвзятостью и неточностью. Полиция приостановила технологию после аудита ICO. — computerweekly.com

Женщины провели эксперимент, чтобы выяснить, проявляет ли новый алгоритм LinkedIn сексизм, и пришли к выводу, что да. Однако эксперты отмечают, что проблема гораздо сложнее и связана с неявной предвзятостью ИИ и особенностями обучения моделей.

В Великобритании разгорается скандал: надзорный орган раскритиковал МВД за сокрытие предвзятости в алгоритмах распознавания лиц, используемых полицией. Утечка данных показала неравномерную точность технологии, особенно для представителей азиатской и чернокожей рас.