Автор: 
В Совбезе ООН обсудили вопросы искусственного интеллекта. Глава ООН – о будущем ИИ: прогресс и новые вызовы для человечества Мир и безопасность
Искусственный интеллект (ИИ) не просто меняет наш мир – он его революционизирует. Об этом заявил Генеральный секретарь ООН в четверг, выступая на министерском заседании Совета Безопасности по вопросам искусственного интеллекта, которое проходило под председательством Госсекретаря США Энтони Блинкена.
Генеральный секретарь напомнил, что в июле 2023 года он уже предупреждал Совет о скорости развития ИИ, подчеркнув, что темпы этого прогресса будут только расти.
Стремительное развитие технологий
Он отметил, что современные модели ИИ становятся все более мощными, универсальными и доступными. Задачи, которые раньше требовали многолетнего опыта, теперь выполняются за считанные мгновения. Однако столь стремительный рост технологий «опережает нашу способность регулировать их», что вызывает вопросы об ответственности, равенстве, безопасности и сохранении человеческого контроля.
«ИИ без человеческого контроля оставит мир “слепым” – особенно в вопросах глобального мира и безопасности», – предупредил глава ООН.
Читайте также:
Семь областей, в которых ИИ изменит науку и технологии
При этом, по его словам, инструменты ИИ уже приносят пользу в странах, страдающих от конфликтов и нестабильности, например в сфере разминирования или для прогнозирования голода.
Риски для международной безопасности
Однако ИИ также представляет угрозу для глобальной стабильности. Генеральный секретарь выразил обеспокоенность использованием ИИ в военных целях.
«Недавние конфликты стали полигоном для тестирования военных применений ИИ», – отметил он, добавив, что такие системы, как автономное наблюдение за границами и предиктивная полиция, поднимают фундаментальные вопросы о правах человека и верховенстве закона. По его словам, гонка вооружений в области ИИ создает предпосылки для просчетов и ошибок.
«Самое важное – ИИ разрушает фундаментальный принцип человеческого контроля над использованием силы», – подчеркнул Генеральный секретарь. Он также предупредил о катастрофических последствиях внедрения ИИ в управление ядерным оружием, которое «мы должны предотвратить любой ценой».
Информационные войны и экологические риски
Кроме того, ИИ представляет угрозу информационной добросовестности. Глава ООН отметил, что с помощью технологий создаются реалистичные «дипфейки», которые могут «провоцировать дипломатические кризисы, подрывать стабильность и основы общества». Он подчеркнул, что эти инструменты могут использоваться для манипулирования общественным мнением и распространения дезинформации.
Еще одним важным аспектом является экологический след ИИ. Генеральный секретарь обратил внимание на высокое энергопотребление центров обработки данных и конкуренцию за редкие ресурсы, что вызывает геополитическое напряжение.
Регулирование ИИ
«Беспрецедентные вызовы требуют беспрецедентного глобального сотрудничества» – заявил Генсек. Он отметил усилия ООН по выработке универсальной стратегии, включая две резолюции Генеральной Ассамблеи по вопросам сотрудничества и регулирования ИИ, создание консультативного орган по ИИ и принятие Глобального цифрового договора.
«Наши следующие шаги будут решающими – и выбор, который мы сделаем сегодня, определит наше будущее»,– подчеркнул Гутерриш. ИИ, как отметил Генеральный секретарь, может либо служить на благо человечества, либо стать источником нестабильности и угроз.
Он призвал государства-члены незамедлительно создать Международную научную панель по вопросам ИИ и начать Глобальный диалог по регулированию ИИ. Глава ООН также вновь обратился к мировому сообществу с призывом запретить автономное оружие к 2026 году.
«Я призываю вас объединить усилия ради безопасного, стабильного и инклюзивного будущего ИИ», – подчеркнул он.
Человечество на перепутье
Профессор Фэй-Фэй Ли из Стэнфордского института искусственного интеллекта, ориентированного на человека, более 25 лет изучает и разрабатывает технологии искусственного интеллекта. По ее словам, человечество никогда в своей истории не находились «на таком уникальном пересечении научных возможностей и глобальной ответственности».
В последнее время работа профессора Ли сосредоточена на новой технологии – пространственном интеллекте в эпоху генеративного ИИ. Речь идет о том, как системы ИИ взаимодействуют с трехмерным виртуальным и физическим миром. Эта технология может принести человечеству не только пользу, но и новые угрозы, подчеркнула эксперт.
Она привлекла внимание к таким негативным сторонам, как алгоритмическая предвзятость, дезинформация и использование автономных систем. «Но нам многое еще предстоит понять о масштабах этих опасных явлений и их последствиях», – отметила докладчица. Эти проблемы можно преодолеть только через глобальное сотрудничество, сказала она.
ИИ как двигатель «новой эры Просвещения»
На заседании Совбеза также выступил Ян Лекун, известный ученый, который отвечает за внедрение технологии ИИ в компании Meta, владеющей Facebook и Instagram. Он отметил, что в ближайшие десятилетия ИИ станет повсеместным: виртуальные помощники на базе умных устройств будут сопровождать людей в повседневной жизни, предоставляя мгновенный доступ к информации на любом языке.
Лекун также подчеркнул, что будущее ИИ неразрывно связано с открытостью технологий. Он обратил внимание на успех открытой модели Llama от Meta, которая с момента запуска в 2023 году была скачана 650 миллионов раз, став основой для десятков тысяч приложений в самых разных областях – от сельского хозяйства до здравоохранения.
Лекун отметил, что современные ИИ-системы ограничены в своих возможностях: они не обладают памятью, не понимают реальный мир и не умеют планировать. Однако в ближайшие десятилетия эти ограничения будут преодолены, и ИИ станет мощным инструментом для решения глобальных проблем, таких как изменение климата и борьба с хроническими заболеваниями.
Ян Лекун сравнил влияние ИИ с изобретением печатного станка, назвав его возможным катализатором «новой эпохи Просвещения». Он призвал международное сообщество объединить усилия для разработки открытых ИИ-моделей, которые станут общим ресурсом человечества и двигателем глобального прогресса.
