Новый метод позволяет извлекать конфиденциальные данные из LLM

Восемь учёных из нескольких институтов, включая ELLIS Institute Tübingen и Институт интеллектуальных систем Общества Макса Планка, опубликовали препринт исследования, демонстрирующий успешную атаку на LLM-модели таких гигантов, как Anthropic, OpenAI и Google. Метод позволяет получить доступ к внутренним рассуждениям моделей, которые обычно скрыты от пользователей.

В ходе тестирования своего подхода исследователи смогли извлечь 62 ключа API и 33 пароля из зашифрованных блоков данных в публичных репозиториях. Это показывает, что даже скрытые от пользователя внутренние процессы LLM могут содержать уязвимости, которые приводят к утечке чувствительной информации.