Anthropic даёт METR доступ «как у сотрудников» для аудита безопасности ИИ

Anthropic сообщает, что начала давать доступ «как у сотрудников» команде из METR — некоммерческой организации, которая оценивает передовые модели ИИ. Это конкретный шаг после обещания усилить независимый аудит и присоединения к White House Accord on Super Intelligence. Подробности — в посте Anthropic.

Что означает такой доступ

Онбордили шестерых сотрудников METR с техникой компании, офисным местом и доступом к внутренним инструментам, который Anthropic называет примерно таким же, как у собственных команд оценки рисков. Вне узких категорий (данные клиентов, адвокатская тайна, сведения об архитектуре моделей) сотрудников поощряют делиться информацией как с коллегой по alignment-рискам.

METR будет публиковать анализ уровней риска, инцидентов или практик. Anthropic не может наложить вето, но может требовать правок в этих категориях. METR вправе публично сказать, считает ли правку обоснованной, не раскрывая удалённое.

Три уровня и другие партнёры

Anthropic описывает три уровня доступа — от узких проверок с согласованием публикации до встроенной модели как у METR. Также работает с SecureBio, Accenture и Faculty, и ведёт ранние разговоры с другими, в том числе Hugging Face.

Для тех, кто следит за регулированием ИИ, это не про новую модель, а про проверку, приживётся ли глубокий и публичный сторонний доступ внутри конкурентной лаборатории.