Общее развитие ИИ

2024 Осведомленность о ситуации - На десятилетие вперед/Situational Awareness - The Decade Ahead, Leopold Aschenbrenner

Situational Awareness - The Decade Ahead

английский Возможности В мире 2024
13.06.2024 Leopold Aschenbrenner
Перейти к источнику
Данная работа посвящена перспективам развития сильного ИИ и написана бывшим сотрудником OpenAI - Leopold Aschenbrenner.
Краткое содержание:
  • Экстраполяция существующих тенденций в вычислениях, расходах, алгоритмическом прогрессе и потребностях в энергии подразумевает AGI (полностью автоматизированные удаленные рабочие места) к ~2027 году.
  • Искусственный интеллект значительно ускорит сами исследования в области ИИ, что приведет к созданию сверхчеловеческого интеллекта через ~1 год после сильного ИИ.
  • Сверхразум даст решающее стратегическое преимущество в военном отношении, значительно ускорив развитие науки и техники.
  • Потребление электроэнергии будет более узким местом для масштабирования центров обработки данных, чем инвестиции, но останется возможным внутри США за счет использования природного газа.
  • Усилия по обеспечению безопасности ИИ в США будут неуместны, если не защищать технологию AGI. Исследования AGI в США должны использовать значительно более совершенную кибербезопасность, чтобы защитить как весовые коэффициенты моделей, так и алгоритмические секреты. Согласование систем сверхчеловеческого ИИ - сложная техническая задача, но, вероятно, выполнимая, и мы должны выделить на это много ресурсов.
  • Китай по-прежнему конкурентоспособен в гонке ОИИ, что может привести к тоталитарному мировому режиму. Таким образом, США должны победить, чтобы сохранить либеральный мировой порядок.
  • В течение нескольких лет и КПК, и правительство США, вероятно, «проснутся» и осознают огромный потенциал и близость сверхразума и выделят огромные ресурсы на «победу».
  • Правительство США национализирует НИОКР AGI, чтобы повысить безопасность и избежать кражи секретов, а также не допустить, чтобы неограниченные частные субъекты стали самыми влиятельными игроками в мире.
  • Это означает, что большая часть текущей работы по управлению ИИ, сосредоточенной на регулировании ИИ-компаний, упускает суть, поскольку AGI скоро будет национализирована.