Этика и безопасность ИИ
2023 Маркировка контента, созданного с помощью искусственного интеллекта: эффект, опасности и направления на будущее/Labeling AI-Generated Content: Promises, Perils, and Future Directions, MIT
Labeling AI-Generated Content: Promises, Perils, and Future Directions
21.12.2023
MIT Sloan School of Management
Перейти к источнику
Документ посвящен перспективам маркировки ИИ-контента как способа обеспечения безопасного внедрения ИИ.
Основное содержание:- Маркировка - это стратегия снижения рисков, связанных с генеративным искусственным интеллектом. Этот подход предполагает применение видимых обозначений на контенте, чтобы предупредить пользователей о присутствии элементов, созданных ИИ, в Интернете (например, в социальных сетях, новостных сайтах или поисковых системах).
- Хотя существует мало прямых доказательств эффективности маркировки единиц контента, созданных искусственным интеллектом, научная литература предполагает, что предупреждающие надписи могут существенно снизить веру в такой контент. Таким образом, есть основания полагать, что маркировка могла бы помочь информировать общественность о средствах массовой информации, созданных искусственным интеллектом.
- В этой статье предлагается структура, помогающая разработчикам государственной политики и платформам взвесить различные факторы, связанные с маркировкой контента, созданного искусственным интеллектом в Интернете.
- Во-первых, утверждается, что, прежде чем разрабатывать программы маркировки и политику, связанную с генеративным ИИ заинтересованные стороны должны определить цель (цели), для достижения которых предназначена маркировка. Здесь различаются две такие цели:
- Информирование зрителей о механизме, посредством которого был создан или отредактирован данный фрагмент контента (т.е. с использованием инструментов генеративного ИИ или без них).
- Уменьшение вероятности того, что контент вводит в заблуждение своих зрителей (результат, который не обязательно зависит от того, был ли контент создан с использованием искусственного интеллекта).
Затем мы выделяем несколько важных вопросов и задач, которые необходимо учитывать при разработке, оценке и внедрении политики и программ маркировки, включая необходимость:
- Определить, какие типы контента маркировать и как надежно идентифицировать этот контент в большом масштабе.
- Рассмотреть выводы, которые зрители сделают как о маркированном, так и о немаркированном контенте.
- Оценить эффективность подходов к маркировке в разных контекстах, включая различные медиа-форматы, страны и подгруппы населения.
