Создатель ИИ Джеффри Хинтон предупредил об угрозе потери контроля над нейросетями

Профессор Джеффри Хинтон, пионер в области искусственного интеллекта и один из ключевых разработчиков архитектуры нейронных сетей, публично предупредил о рисках, связанных с бесконтрольным развитием ИИ. Он считает, что по мере совершенствования нейросетей человечество может столкнуться с ситуацией, когда управление этими системами станет невозможным, что в итоге поставит под угрозу само существование цивилизации.

Ранее Хинтон покинул Google, чтобы иметь возможность свободно высказывать свои опасения относительно безопасности и этических аспектов ИИ, не будучи связанным корпоративными обязательствами. Он неоднократно подчеркивал необходимость ответственного подхода к разработке ИИ и создания механизмов, предотвращающих негативные сценарии.

Заявления Хинтона вписываются в общую дискуссию о регулировании ИИ, которая активно ведется в научном сообществе и среди мировых политиков. Многие эксперты призывают к разработке международных стандартов и протоколов безопасности для предотвращения потенциальных угроз, связанных с развитием суперинтеллекта и автономных систем.