Группа из 22 ведущих мировых специалистов по искусственному интеллекту, включая лауреатов Нобелевской и Тьюринговской премий Джеффри Хинтона и Йошуа Бенжио, опубликовала доклад о рисках «интеллектуального взрыва» — сценария, при котором ИИ начнёт самостоятельно и стремительно ускорять собственное развитие. Публикация появилась на фоне данных, показывающих, что автоматизация уже глубоко проникла в исследовательские процессы ведущих лабораторий.
Что именно обнаружили исследователи
Авторы доклада под названием «What if automating AI R&D triggers an intelligence explosion?» проанализировали внутренние показатели крупнейших AI-компаний и обнаружили стремительный рост доли задач, выполняемых машинами.
- В Anthropic доля кода, написанного ИИ, выросла с однозначных цифр в начале 2025 года до более 80% к маю 2026-го.
- Доля исследовательских задач, которые ИИ выполняет автономно под общим надзором человека, всего за пять месяцев (с марта по август 2026 года) выросла с 1% до 26%.
- Похожие тенденции фиксируют OpenAI и Google: доля AI-генерируемого кода в обеих компаниях достигает 75–80%.
Механизм «взрыва» и главный риск
Суть опасения описывается положительной обратной связью: более способный ИИ создаёт более эффективные алгоритмы, которые порождают ещё более мощный ИИ. Если этот цикл замкнётся, прогресс, на который у человечества уходили годы, может сжаться до месяцев или даже недель.
Ключевой тревожный вывод исследователей сформулирован в одной фразе: «Как только интеллектуальный взрыв начнётся, окно для действий может закрыться». Именно поэтому авторы настаивают на упреждающих мерах, а не на реакции постфактум.
Чего требуют авторы
Несмотря на серьёзность предупреждения, исследователи подчёркивают: «интеллектуальный взрыв» — это не свершившийся факт, а вероятность, которую необходимо держать под контролем. Главное практическое требование — введение обязательного независимого аудита и мониторинга исследовательских процессов внутри передовых AI-лабораторий. Учёные считают, что внешний надзор должен быть запущен до того, как автоматизация достигнет точки невозврата.
Источники
- Оригинальный доклад: Cambridge Programme on AI Science & Policy (CASP); полный текст также доступен на arXiv.
- Освещение в СМИ: Huffington Post, 量子位 (QbitAI), Yonhap.
Обсуждение (0)