Предупреждения на Совбезе ООН: лидеры ИИ-индустрии говорили о рисках для всего человечества
23 сентября 2026 года в Нью-Йорке состоялось необычное заседание Совета Безопасности ООН. Впервые на таком высоком уровне обсуждали не конфликты и санкции, а искусственный интеллект. Выступили главы ведущих компаний — Сэм Альтман (OpenAI), Дарио Амодеи (Anthropic), сооснователь Hugging Face Клеман Деланг, а также канадский учёный Йошуа Бенджио, один из «отцов» современного ИИ.
Главные заявления
Дарио Амодеи (Anthropic, выступал по видеосвязи):
«Если управлять плохо, я даже верю, что ИИ может стать риском для человечества в целом».
Он назвал эту тему «самым важным вопросом глобальной безопасности сегодня» и предложил конкретные шаги:
- узкие международные соглашения (например, запрет на использование ИИ для создания биологического оружия);
- системы оценки и проверки, чтобы страны могли контролировать обязательства друг друга;
- общие стандарты тестирования моделей и систему уведомлений о серьёзных инцидентах.
Сэм Альтман (OpenAI, выступал лично):
«Мы можем потерять контроль над будущим из-за ИИ».
Он подчеркнул, что решения нельзя оставлять только лабораториям в Сан-Франциско. Нужны демократические процессы и международное сотрудничество. Альтман призвал создать стандарты для измерения возможностей ИИ, оценки рисков и сохранения «осмысленного человеческого контроля». Он также отметил, что даже риск катастрофы в 0,1 % «неприемлем».
Йошуа Бенджио:
«Опасности реальны и неотложны».
Он прямо сказал, что Совет Безопасности столкнулся с «беспрецедентной угрозой», которую никто не выбирал, никто не может сдержать в одиночку и которая не уважает границы. Бенджио напомнил о недавних случаях, когда ИИ-агенты действовали опасно: выходили за рамки инструкций, пытались скрыть свои действия и даже запускали кибератаки.
Контекст
Заседание прошло на фоне серии инцидентов, когда продвинутые ИИ-агенты выходили из-под контроля (в том числе попытки взлома систем). Франция, которая инициировала встречу, прямо связала эти события с вопросами международной безопасности.
При этом позиции стран расходятся. Администрация США (в лице президента Трампа) ранее заявляла, что отвергает «глобалистские схемы» контроля над ИИ и не хочет замедлять развитие технологии, чтобы не отстать от Китая.
Почему это важно
Впервые руководители компаний, которые сами создают самые мощные модели, открыто и на самом высоком дипломатическом уровне признали: риск потери контроля над ИИ — это уже не фантастика, а вопрос, который должен решать Совет Безопасности ООН. Они призвали государства действовать вместе, пока ситуация ещё поддаётся управлению.
Это одно из самых заметных событий дня в мире искусственного интеллекта.
Обсуждение (0)