Инструменты ИИ для сортировки данных могут наследовать человеческие предубеждения

Ученые из Медицинского центра Юго-западного Техаса при Университете Техаса провели анализ, который выявил потенциальную проблему в работе инструментов ИИ, предназначенных для предварительной обработки и сортировки информации. Оказалось, что эти алгоритмы способны перенимать и усиливать предубеждения, изначально присутствующие в данных, сформированных человеком.

Подобные инструменты на основе искусственного интеллекта часто используются в различных сферах: от медицины, где они помогают в первичной оценке состояния пациентов, до бизнеса, где применяются для классификации заявок или резюме. Если данные, на которых обучается ИИ, содержат предвзятость, то и решения, принимаемые системой, могут оказаться несправедливыми или неточными.