NVIDIA и Cisco среди 120 компаний, предложивших механизм отслеживания инцидентов с ИИ-агентами

Инициатива направлена на повышение безопасности и надёжности систем искусственного интеллекта путём сбора данных о сбоях, некорректном поведении и других нештатных ситуациях. Предполагается, что централизованная база данных позволит выявлять общие паттерны проблем и разрабатывать стандарты для предотвращения будущих инцидентов.

Развитие автономных ИИ-агентов, способных самостоятельно принимать решения и действовать в различных средах, вызывает растущие опасения у экспертов отрасли. Создание такого механизма поможет не только реагировать на уже произошедшие события, но и превентивно повышать устойчивость ИИ-систем.