Профессор Стюарт Рассел усомнился в возможности полного выравнивания ИИ с целями человека
Профессор компьютерных наук Калифорнийского университета в Беркли Стюарт Рассел, известный специалист по искусственному интеллекту, выразил сомнение в том, что ИИ когда-либо сможет полностью соответствовать человеческим целям и ценностям.
Стюарт Рассел, один из ведущих экспертов в области искусственного интеллекта и автор книги «Человечество совместимое с ИИ», считает, что полное согласование систем искусственного интеллекта с сложными и часто противоречивыми человеческими целями может оказаться фундаментально недостижимым. Эта позиция вызывает широкую дискуссию в научном сообществе, особенно на фоне быстрого развития больших языковых моделей, таких как GPT-6.
По его мнению, основной вызов заключается в сложности и динамичности человеческих ценностей, которые не могут быть просто «загружены» в алгоритм. Это поднимает вопросы безопасности и контроля над мощными системами ИИ, способными принимать решения, которые могут идти вразрез с интересами общества, если их цели не будут идеально согласованы с человеческими.
Проблема «выравнивания» (alignment) является ключевой в разработке безопасного и полезного искусственного интеллекта. Рассел подчеркивает, что недостаточно просто обучить ИИ выполнять задачи, важно, чтобы он понимал и уважал базовые человеческие принципы, избегая непредвиденных негативных последствий. Его комментарии заставляют разработчиков и исследователей вновь задуматься о долгосрочных перспективах и рисках развития ИИ.
Часто задаваемые вопросы
Кто такой Стюарт Рассел?
Стюарт Рассел — это профессор компьютерных наук Калифорнийского университета в Беркли, ведущий эксперт в области искусственного интеллекта и автор книги «Человечество совместимое с ИИ».
В чем заключается проблема выравнивания ИИ с целями человека?
Проблема выравнивания заключается в том, чтобы заставить искусственный интеллект не просто выполнять задачи, но и действовать в соответствии со сложными и динамичными человеческими ценностями и принципами, избегая непредвиденных негативных последствий.
Почему полное согласование ИИ с человеческими ценностями может быть невозможно?
По мнению Стюарта Рассела, человеческие ценности слишком сложны, противоречивы и изменчивы, чтобы их можно было полностью формализовать и интегрировать в алгоритмы ИИ, что делает задачу полного выравнивания крайне трудной или даже недостижимой.
Источник: Google News ZH · 人工智能 · Rusability ИИ


Комментарии (0)
Без регистрации. Комментарии проверяются автоматически перед публикацией.
Пока нет комментариев. Будьте первым!