Anthropic применила подход «Яндекса» к исследованию безопасности ИИ

Что произошло

Американская компания Anthropic применила подход, реализованный в технологии Petals, разработанной в «Яндексе», для исследования рисков безопасности ИИ. Об этом сообщает CNews. Речь идёт о распределённой работе с большими языковыми моделями, когда вычисления и части модели распределяются между разными участниками сети.

В чём суть подхода Petals

Petals — это технология, позволяющая запускать большие языковые модели распределённо: разные узлы сети берут на себя отдельные части модели и обмениваются данными в процессе генерации. Такой подход снижает требования к отдельному устройству и позволяет объединять ресурсы множества участников.

Почему это важно для безопасности

Распределённые схемы работы с ИИ создают новые классы рисков: от утечек данных между узлами до возможностей манипулирования вычислениями. Anthropic, по данным источника, использовала принцип Petals, чтобы смоделировать такие сценарии и оценить, как они могут проявляться на практике.

Контекст исследований Anthropic

Anthropic известна работами по безопасности и интерпретируемости ИИ. Компания регулярно публикует исследования о поведении больших моделей и потенциальных угрозах, связанных с их применением. Использование подхода, реализованного в Petals, показывает, что распределённые архитектуры становятся предметом отдельного изучения.

Что это значит для рынка

Интерес крупного игрока к распределённым схемам указывает на то, что такие технологии выходят за рамки экспериментов и становятся частью повестки по безопасности ИИ. Для разработчиков это сигнал о необходимости учитывать риски распределённых вычислений при проектировании собственных решений.

Ограничения материала

В сообщении источника не раскрываются детали исследования Anthropic: не указаны конкретные сценарии, методология и результаты. Поэтому выводы о практической значимости работы пока делать преждевременно — они станут яснее после публикации первичных материалов.