Удаленные чаты с ИИ на Android можно восстановить: исследование ORISA

Локальные ИИ-ассистенты на Android часто воспринимаются как более приватная альтернатива облачным сервисам: запросы обрабатываются прямо на устройстве и не отправляются на сторонние серверы. Однако исследование Технологического института Джорджии показывает, что удаление переписки не обязательно стирает ее следы из памяти смартфона.

Что такое ORISA и как она работает

Исследователи создали криминалистический инструмент ORISA. Он ищет в оперативной памяти Android-устройства фрагменты диалогов с локальным ИИ-ассистентом, собирает их и загружает обратно в модель, формируя рабочий сеанс. Пока ассистент запущен, части разговора хранятся в памяти устройства — и, как выяснилось, могут оставаться там даже после того, как пользователь удалил чат.

Эксперимент с Project Note Keeper

Для проверки инструмента исследователи собрали вымышленного ассистента Project Note Keeper в открытом Android-приложении ChatterUI, предназначенном для запуска ИИ-моделей на смартфоне. Ассистенту сообщили 100 выдуманных фактов о некоем проекте, после чего переписку удалили. ORISA извлекла из памяти остатки диалога и воссоздала рабочую сессию. На просьбу перечислить заметки о проекте восстановленный ассистент назвал 26 фактов — больше, чем помнил исходный ассистент до удаления чата. Тот мог обратиться только к 14 фактам, поскольку разговор превысил объем, который модель способна удерживать в памяти.

Масштаб тестирования

Всего ORISA протестировали на десяти Android-приложениях с тремя ИИ-моделями в 60 различных конфигурациях. Во всех случаях инструмент находил сохранившиеся в памяти данные переписки. Это указывает на системный характер проблемы, а не на единичную особенность конкретного приложения.

Что это значит для приватности

Результаты исследования поднимают важный вопрос: можно ли считать локальные ИИ-ассистенты по-настоящему приватными, если удаленные данные остаются в оперативной памяти. Пользователям, которые рассчитывают на полное удаление конфиденциальных диалогов, стоит учитывать этот нюанс. Разработчикам приложений с локальными моделями, вероятно, потребуется уделить больше внимания очистке памяти после удаления чатов.

Ограничения исследования

Стоит отметить, что эксперимент проводился на вымышленном ассистенте и открытом приложении ChatterUI, а не на массовых коммерческих продуктах. Тем не менее, тестирование на десяти приложениях и трех моделях в 60 конфигурациях дает основания предполагать, что проблема может быть распространенной. Дополнительные детали о методологии и возможных способах защиты стоит уточнять в оригинальной публикации исследователей.