Эксперимент: Изменение фактов в нейросети GPT-2 XL методом ROME

Обновление знаний в больших языковых моделях (LLM) — сложная и ресурсоемкая задача, так как обычно требует полного переобучения или дообучения модели. Однако недавний материал на Habr продемонстрировал метод точечного редактирования ROME (Rank-One Model Editing), который позволяет вносить конкретные фактические изменения без необходимости дорогостоящего процесса переобучения.

Суть эксперимента заключалась в том, чтобы изменить местоположение Эйфелевой башни в модели GPT-2 XL с Парижа на Рим. После применения метода ROME модель была протестирована с помощью различных запросов о местоположении башни, успешно подтверждая новое, искусственно введенное, знание. Это показало, что ROME способен эффективно модифицировать отдельные фактические утверждения, сохраняя при этом общую целостность модели.

Такой подход к редактированию весов модели имеет важное значение для развития нейросетей. Он открывает возможности для быстрого и экономичного обновления информации, исправления ошибок или адаптации моделей к меняющимся данным, не тратя колоссальные вычислительные ресурсы на полное переобучение. Технология ROME ориентирована на повышение гибкости и актуальности LLM в реальных условиях.