ИИ-ошибка едва не спровоцировала инцидент ВМС США с китайским судном

Инцидент произошел, когда автоматизированная система навигации и целеуказания, использующая ИИ, классифицировала китайский балкер как военный корабль, представляющий потенциальную угрозу. Система дала рекомендацию к перехвату, основываясь на неверных данных, что привело к началу подготовки экипажа американского военного корабля к операции.

К счастью, человеческое вмешательство предотвратило эскалацию: офицеры ВМС США провели дополнительную проверку и оперативно выявили ошибку ИИ, отменив приказ. Детальный анализ показал, что система искусственного интеллекта не смогла корректно распознать тип судна и его гражданскую принадлежность, что подчеркивает необходимость постоянного контроля со стороны человека при использовании автономных решений в критически важных областях.