Центром экспертизы по реализации федерального проекта «Искусственный интеллект» был проведен анализ более 100 случаев как мировой, так и российской практики, когда ИИ выступал как реальный или потенциальный источник угрозы человеку.
Ситуации с прямым или косвенным вредом человеку, возникающих из-за ошибок и неточностей работы алгоритмов, сфокусированы в 3 категориях:
- Непреднамеренная дискриминация (>30 примеров в мире): Ошибки в отборе и найме сотрудников, отказ в кредите.
- Причинение физического вреда человеку (≈5–10 примеров в мире)
- Ненадежность ИИ (<5 примеров в мире)
Примеры подходов к снижению рисков использования ИИ:
- Решение за человеком
- Использование систем оценки технологий ИИ на предмет возможной дискриминации
- Тестирование систем ИИ на выявление «слабых мест»
