2024 Осведомленность о ситуации - На десятилетие вперед/Situational Awareness - The Decade Ahead, Leopold Aschenbrenner
Situational Awareness - The Decade Ahead
13.06.2024
Leopold Aschenbrenner
Перейти к источнику
Данная работа посвящена перспективам развития сильного ИИ и написана бывшим сотрудником OpenAI - Leopold Aschenbrenner.

Краткое содержание:
- Экстраполяция существующих тенденций в вычислениях, расходах, алгоритмическом прогрессе и потребностях в энергии подразумевает AGI (полностью автоматизированные удаленные рабочие места) к ~2027 году.
- Искусственный интеллект значительно ускорит сами исследования в области ИИ, что приведет к созданию сверхчеловеческого интеллекта через ~1 год после сильного ИИ.
- Сверхразум даст решающее стратегическое преимущество в военном отношении, значительно ускорив развитие науки и техники.
- Потребление электроэнергии будет более узким местом для масштабирования центров обработки данных, чем инвестиции, но останется возможным внутри США за счет использования природного газа.
- Усилия по обеспечению безопасности ИИ в США будут неуместны, если не защищать технологию AGI. Исследования AGI в США должны использовать значительно более совершенную кибербезопасность, чтобы защитить как весовые коэффициенты моделей, так и алгоритмические секреты. Согласование систем сверхчеловеческого ИИ - сложная техническая задача, но, вероятно, выполнимая, и мы должны выделить на это много ресурсов.
- Китай по-прежнему конкурентоспособен в гонке ОИИ, что может привести к тоталитарному мировому режиму. Таким образом, США должны победить, чтобы сохранить либеральный мировой порядок.
- В течение нескольких лет и КПК, и правительство США, вероятно, «проснутся» и осознают огромный потенциал и близость сверхразума и выделят огромные ресурсы на «победу».
- Правительство США национализирует НИОКР AGI, чтобы повысить безопасность и избежать кражи секретов, а также не допустить, чтобы неограниченные частные субъекты стали самыми влиятельными игроками в мире.
- Это означает, что большая часть текущей работы по управлению ИИ, сосредоточенной на регулировании ИИ-компаний, упускает суть, поскольку AGI скоро будет национализирована.