Цель этого отчета - оценить, как развитие языковых моделей может повлиять на деятельность широкого общества и представление новостей в СМИ, а также какие шаги можно предпринять для смягчения потенциальных угроз от таких технологий.
Основное содержание:
- Потенциал языковых моделей конкурировать с контентом, написанным человеком, предполагает, что эти модели - как и любая мощная технология - могут предоставить явные преимущества пропагандистам, которые решат их использовать. Эти преимущества могли бы включить новые тактики влияния и сделать сообщения кампании гораздо более индивидуальными и потенциально эффективными.
- Для злоумышленников, стремящихся распространять пропаганду - информацию, предназначенную для формирования восприятия в интересах действующего лица, - эти языковые модели обещают автоматизировать создание убедительного и вводящего в заблуждение текста для использования в операциях влияния, вместо того, чтобы полагаться на человеческий труд.
- Технический прогресс в языковых моделях вряд ли остановится, поэтому любая попытка понять, как они повлияют на будущие операции по оказанию влияния, должна учитывать ожидаемый прогресс. Языковые модели, вероятно, станут более удобными для использования (упрощая применение моделей к задаче), надежными (уменьшая вероятность того, что модели выдают результаты с очевидными ошибками) и эффективными (повышая экономическую эффективность применения языковой модели для операций влияния).
- Некоторые меры по смягчению последствий, вероятно, окажутся социально невыполнимыми, в то время как другие потребуют технических прорывов. Другие могут привести к неприемлемым рискам снижения. Вместо этого, чтобы эффективно смягчить угрозу, вероятно, потребуется подход всего общества, сочетающий в себе множество мер.
- Эффективное управление потребует совместного подхода между различными учреждениями, такими как разработчики искусственного интеллекта, СМИ и правительственные учреждения. СМИ будет трудно узнать, использует ли конкретная кампания по дезинформации языковые модели, если они не смогут работать с разработчиками искусственного интеллекта, чтобы приписать этот текст модели.
