Разработчик обучил большую языковую модель на одной видеокарте RTX 4060

Модель прошла несколько этапов обучения, включая претрейн на объёме данных в 31 миллиард токенов, а также дообучение с учителем (SFT) и обучение с подкреплением (RL). Это демонстрирует возможность разработки достаточно сложных ИИ-систем на относительно доступном домашнем оборудовании, что может способствовать демократизации создания языковых моделей.

Проект dpp-gpt 2.2 Pro (260M) ориентирован на проверку гипотезы о достижении значимых результатов в обучении LLM без использования дорогостоящей серверной инфраструктуры. Разработчик поделился деталями архитектуры модели, её возможностями и ограничениями, отметив области, где она уступает более крупным аналогам вроде Gemma и SmolLM2.