Эксперты опасаются потери контроля над самообучающимся ИИ четвёртого поколения

Последние достижения в области искусственного интеллекта демонстрируют появление систем, способных к непрерывному самообучению и совершенствованию. Эксперты выражают беспокойство, что по мере развития этих систем, достигших уже четвёртого поколения, их внутренние механизмы принятия решений и логические связи могут стать настолько сложными, что человек не сможет их полностью понять.

Такая непостижимость логики ИИ несёт в себе риски, связанные с потенциальной потерей контроля над его действиями. Если разработчики и пользователи не смогут отслеживать и интерпретировать, как именно система приходит к тем или иным выводам, это может привести к непредсказуемым последствиям, особенно в критически важных областях применения.