«Изначально Frontier Labs будут добровольно предоставлять модели для проверки в Орган по стандартам за 30 дней до выпуска», — говорится в сообщении. «Как только протокол оценки покажет свою эффективность и надежность, может быстро последовать формализация, что будет означать, что Frontier Models должны будут пройти его для развертывания на рынке США. Лаборатории также будут работать с Органом по стандартам над устранением любых критических уязвимостей после выпуска».
Предлагаемая система будет опираться на внеплановые проверки, проведенные правительством США в отношении Mythos от Anthropic и Sol от OpenAI. Эти проверки вызвали значительную критику из-за отсутствия технической экспертизы и непрозрачного принятия решений о том, когда модель может быть выпущена. В соответствии с предложенным регулятором Хассабиса эти решения могут быть переданы новой организации, поддерживаемой правительством США, но финансируемой индустрией ИИ и действующей независимо.
Перспектива регулирования ИИ остается спорной как для технологической индустрии, так и для администрации Трампа. Совсем недавно советник Белого дома по ИИ и генеральный партнер a16z Шрирам Кришнан отверг возможность создания регулятора ИИ в исполнительной ветви власти, заявив: «FDA для ИИ не будет».
Создание органа по стандартам как саморегулируемой организации наподобие FINRA может стать способом решения этих проблем. Хассабис представляет, что регулятор будет укомплектован представителями open-source и техническими экспертами из отрасли, а также получит финансовую поддержку от лабораторий ИИ, необходимую для их удержания. Они могли бы даже передать часть оценок растущему пулу групп по безопасности ИИ, которые смогут специализироваться на конкретных рисках.
«Сила этого подхода в том, что он будет ориентирован на технические аспекты, одновременно поддерживая инновации и стимулируя ответственное поведение», — утверждает Хассабис. «Он предназначен для того, чтобы не отставать от ускорения в этой области и адаптироваться к самым серьезным рискам по мере их выявления, и может быть ужесточен, если того потребует серьезность ситуации».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Russell Brandom
