Anthropic даёт внешнему аудитору доступ уровня сотрудника

Что произошло

Anthropic предоставила внешним оценщикам «доступ уровня сотрудника» для проверки рисков своих моделей. Первым таким партнёром стала некоммерческая организация METR, которая ранее работала с OpenAI, Anthropic, Google и Meta. Теперь команда METR работает непосредственно в офисе создателя Claude и имеет доступ к его оборудованию и внутренним системам.

Почему это важно

Расширение роли сторонних оценщиков — один из главных конкретных шагов, которые лаборатории предлагают на фоне растущих опасений по поводу того, какой ущерб более способные ИИ-системы могут нанести экономике, кибербезопасности и человечеству в целом. Компания выполняет обещание усилить защитные механизмы, поскольку существуют тревоги, что технология может выйти из-под контроля с катастрофическими последствиями.

Ключевая деталь: публикация без согласования

Особенность договорённости в том, что внешний аудитор может публиковать свои выводы без одобрения Anthropic. Это отличает такой формат от обычных внутренних проверок, где компания сама решает, что и когда обнародовать. Возможность независимой публикации результатов — важный сигнал для рынка и регуляторов.

Контекст индустрии

METR уже имеет опыт сотрудничества с ведущими лабораториями. Приглашение внешней команды с широким доступом — заметный сдвиг в практике: раньше оценка рисков чаще оставалась внутренним делом разработчиков. Теперь лаборатории пытаются продемонстрировать готовность к внешнему контролю.

Что остаётся неясным

Открытыми остаются вопросы о том, насколько глубоким будет доступ на практике, как будет организовано взаимодействие встроенной команды с сотрудниками Anthropic и какие именно системы и оборудование окажутся в распоряжении оценщиков. Также пока не раскрыто, как часто и в каком формате METR будет публиковать отчёты.

Почему за этим стоит следить

Если модель «встроенного аудитора с правом публикации» приживётся, она может стать отраслевым стандартом. Для пользователей и бизнеса это означает больше прозрачности в вопросах безопасности ИИ-продуктов, а для регуляторов — готовый пример того, как может выглядеть внешний надзор за разработчиками передовых моделей.