Эксперты сравнивают системные ограничения ИИ с ипотечным кризисом

Обсуждение проблем развития ИИ всё чаще выходит за рамки технических вопросов. Аналитики, включая некоторых, кто предсказал ипотечный кризис 2008 года, отмечают, что текущие вызовы в развитии ИИ-агентов могут быть не просто рисками, а признаками структурной неустойчивости. Это означает, что если не изменить подход, система может достичь точки, где доминирующим станет хаос, а не контролируемое развитие.

Ключевое отличие между риском и структурной неустойчивостью заключается в их природе. Риск поддаётся оценке и управлению, его можно включить в бюджет и учесть в стратегиях. Структурная неустойчивость же является пороговым явлением: когда система пересекает определённую грань, она переходит в неконтролируемое состояние, независимо от вероятности отдельных рисков.

Подобная ситуация наблюдалась на рынке ипотечных облигаций, где отдельные игроки, как Джон Полсон и Майкл Бьюрри, заблаговременно распознали фундаментальные проблемы, пока большинство продолжало действовать по старым правилам. Их успех был связан не с оценкой конкретных рисков, а с пониманием общей обречённости системы при сохранении её текущей траектории развития. Сейчас похожие тенденции прослеживаются в области искусственного интеллекта, где без пересмотра базовых принципов его создания и применения можно столкнуться с непредсказуемыми последствиями.

Это поднимает вопросы о необходимости глубокого анализа текущих подходов к разработке и внедрению ИИ, особенно в части создания автономных агентов. Эксперты призывают к переосмыслению методологий, чтобы избежать потенциального коллапса или неконтролируемого развития, которое может привести к серьёзным сбоям и нежелательным эффектам в различных сферах применения ИИ.