Автор: 
Заседание Совбеза по искусственному интеллекту. Угроза человечеству или гарантия безопасности? В Совбезе обсудили будущее ИИ Мир и безопасность
Искусственный интеллект с захватывающей дух скоростью трансформирует повседневную жизнь, информационное пространство, мировую экономику и оказывает влияние на международную безопасность. С таким словами в среду на открытых дебатах высокого уровня по ИИ в Совбезе ООН выступил Генеральный секретарь Антониу Гутерриш.
«Вопрос не в том, повлияет ли ИИ на международный мир и безопасность, а в том, как мы будем формировать это влияние», – сказал глава ООН.
Инструмент защиты или оружие?
При ответственном использовании, отметил Гутерриш, ИИ поможет предотвращать конфликты и защищать население, в том числе за счет выявления потенциальных вспышек насилия. ИИ также используется в разминировании и других областях.
При этом он также может превратиться в оружие. Искусственный интеллект уже активно используется в конфликтах.
«Кибератаки с использованием ИИ могут уничтожить критически важную инфраструктуру или нарушить ее работу в считанные минуты. Возможность фальсифицировать и манипулировать аудио- и видеоматериалами угрожает целостности информации, усиливает поляризацию и может спровоцировать дипломатические кризисы», – сказал Генсек.
ИИ, международная безопасность и роль Совбеза
Одна из основных целей открытых дебатов в Совете – стимулировать обсуждение вопросов снижения рисков, связанных с использованием ИИ, и максимизации его преимуществ в контексте международного мира и безопасности с учетом потенциальной роли Совбеза в этом процессе.
«Совет [Безопасности] и государства-члены ООН должны обеспечить, чтобы военное использование ИИ находилось в полном соответствии с международным правом и Уставом ООН», – сказал Гутерриш.
Человеческий контроль
Он подчеркнул, что человек должен контролировать любое решение о применении силы.
«Судьба человечества не может быть оставлена на усмотрение алгоритма. Люди всегда должны сохранять контроль над решениями, касающимися жизни и смерти», – заявил он.
Гутерриш также призвал создать глобальную нормативную базу для использования ИИ.
ИИ может подвергнуть риску все человечество
Учитывая значительный прогресс в разработке технологий искусственного интеллекта, которые могут как способствовать укреплению, так и подрывать международную безопасность, члены Совета Безопасности в последнее время стали уделять больше внимания этому вопросу. Сегодняшняя встреча – третье официальное заседание Совета, посвященное ИИ. Великобритания провела первое заседание по этой теме в июле 2023 года, а США – второе в декабре 2024 года.
Дебаты на полях Недели высокого уровня Генассамблеи ООН проходят под председательством Южной Кореи. В них приняли участие приглашенные докладчики: Еджин Чой, старший научный сотрудник Института ИИ, ориентированного на человека, при Стэнфордском университете и Йошуа Бенжио, профессор Монреальского университета, сопрезидент некоммерческой организации LawZero.
Бенжио предупредил, что человечество в настоящее время не знает, как контролировать самые передовые системы искусственного интеллекта. Это уже создает серьезные проблемы, отметил он, напомнив о недавних инцидентах с участием чат-ботов, которые могли поставить под угрозу жизнь людей с психическими расстройствами.
Читайте также:
Глава ООН: навыки в сфере ИИ – ключ к расширению прав молодежи в цифровую эпоху
Профессор добавил, что ИИ может превзойти людей в выполнении большинства когнитивных задач в течение ближайших пяти лет.
«Если возможности моделей искусственного интеллекта продолжат превосходить человеческие возможности без научных гарантий их безопасности…, мы достигнем точки, когда ИИ сможет действовать необратимо, выйдя из-под чьего-либо контроля и подвергая риску все человечество», – сказал Бенжио.
«Мы должны быть осторожны и не уступить наш коллективный человеческий и национальный суверенитет компаниям или используемым ими моделям ИИ. Мы должны действовать немедленно, чтобы сообща снизить все эти риски. Эта проблема не ограничивается пределами одной страны, а угрожает всем нам», – добавил он, обращаясь к членам Совбеза.
Демократизация ИИ
Еджин Чой заявила о необходимости обеспечить, чтобы системы ИИ представляли все сообщества, а также были доступны всему населению планеты. Для этого еще очень многое предстоит сделать, отметила она.
«Мы должны сместить акцент на то, что действительно важно для человечества: языковое и культурное разнообразие и плюралистические ценности. Современные ведущие модели ИИ неэффективны для многих языков, кроме английского, и отражают ограниченные культурные установки», – сказала профессор.
Это приводит к систематическому исключению целых сообществ из процессов развития ИИ и максимизации преимуществ его использования. Чой подчеркнула, что системы изначально должны создаваться восприимчивыми к различным языкам, контекстам и перспективам.
Она призвала к созданию общественной инфраструктуры ИИ, которая будет доступна каждому.
