В отчете дается обзор алгоритмов в области основных классов объяснимых алгоритмов. В качестве базового сравнения авторы оценивают, насколько хорошо объяснения, предоставляемые людьми, соответствуют четырем принципам объяснимости искусственного интеллекта. Эта оценка дает представление о проблемах проектирования объяснимых ИИ-систем.
4 принципа разработки объяснимого ИИ:
- Пояснение: Системы предоставляют сопутствующие доказательства или причины для всех результатов.
- Содержательность: Системы предоставляют объяснения, понятные отдельным пользователям.
- Точность объяснения: объяснение правильно отражает системный процесс генерации выходных данных.
- Пределы знаний: Система работает только в условиях, для которых она была разработана, или когда система достигает достаточной уверенности в своих результатах.
