Anthropic исследует способность ИИ к «исповеди»
Компания Anthropic, известный разработчик ИИ, провела исследование, изучая возможность генеративных моделей искусственного интеллекта выражать раскаяние и "исповедоваться", что вызвало вопросы о применимости человеческих этических категорий к машинам.
Специалисты Anthropic сосредоточились на том, может ли ИИ не просто признавать ошибки, но и "раскаиваться" в своих "неправильных" действиях, если таковые имели место. Это исследование затрагивает глубинные вопросы взаимодействия человека и ИИ, а также адаптации человеческих этических и моральных концепций к машинному интеллекту. Результаты работы показали, что ИИ может имитировать подобные состояния, но это вызывает споры о подлинности таких "чувств" у машин.
Публикация результатов исследования вызвала дискуссию в обществе, особенно среди представителей духовенства. Так, один из священнослужителей прокомментировал, что прежде чем обучать ИИ "раскаянию", стоит задуматься, насколько сами разработчики и пользователи готовы к такой саморефлексии. Это поднимает вопрос о переносе человеческих категорий морали на искусственный интеллект и о том, не теряет ли понятие "раскаяния" свой смысл вне человеческого контекста.


Комментарии (0)
Без регистрации. Комментарии проверяются автоматически перед публикацией.
Пока нет комментариев. Будьте первым!