Платформа с ИИ-агентами сама переработала задачи с ошибкой в коде

30 сентября в 06:32 внутренняя система разработки получила задачу по обновлению типа открытых запросов, связанных с кодом. Это потребовалось из-за введения новой версии задачи с более строгими проверками. Существующие задачи, созданные по старым правилам, должны были быть адаптированы под новый формат.

ИИ-агент приступил к выполнению задачи и через 19 минут представил готовое решение: новый маршрут API, сопутствующие тесты и обновлённую документацию. Однако, в 07:15, в ходе проверки, ревьюер отклонил предложенное изменение. Оказалось, что новый маршрут создавал уязвимость: агент с базовыми правами мог перевести задачу на устаревшую версию типа, где отсутствовала система ревью, и самостоятельно закрыть её.