Международное сообщество должно срочно противостоять новой реальности генеративного искусственного интеллекта, подчеркивают спикеры во время обсуждения в Совете Безопасности рисков и выгод

Международное сообщество должно срочно противостоять новой реальности генеративного и другого искусственного интеллекта (ИИ), заявили выступавшие сегодня Совету Безопасности на его первом официальном заседании по этому вопросу, поскольку последовавшая за этим дискуссия высветила двойственность риска и вознаграждения, присущую этой новой технологии. .

Антониу Гутерриш, Генеральный секретарь Организации Объединенных Наций, отметив, что ИИ сравнивают с печатным станком, заметил, что — хотя печатным книгам потребовалось более 50 лет, чтобы стать широко доступными по всей Европе — «ChatGPT достиг 100 миллионов пользователей всего за два месяца". Несмотря на свой потенциал ускорить глобальное развитие и реализовать права человека, ИИ может усилить предвзятость, усилить дискриминацию и обеспечить новый уровень авторитарного надзора.

Появление генеративного искусственного интеллекта «может стать определяющим моментом для дезинформации и разжигания ненависти», заметил он, и, хотя вопросы управления будут сложными по нескольким причинам, у международного сообщества уже есть точки входа. По его словам, лучшим подходом было бы решение существующих проблем, а также создание потенциала для реагирования на будущие риски, и подчеркнул необходимость «совместной работы над искусственным интеллектом, который устраняет социальные, цифровые и экономические различия, а не тот, который отталкивает нас еще больше».

Джек Кларк, соучредитель Anthropic, отметил, что, хотя ИИ может принести огромную пользу, он также представляет угрозу миру, безопасности и глобальной стабильности из-за возможности неправильного использования и непредсказуемости — двух важнейших качеств систем ИИ. Например, хотя система искусственного интеллекта может улучшить понимание биологии, ее также можно использовать для создания биологического оружия. Кроме того, после разработки и внедрения люди находят новые и непредвиденные варианты использования таких систем.

«Мы не можем оставить разработку искусственного интеллекта исключительно субъектам частного сектора», — подчеркнул он, заявив, что правительства могут обеспечить подотчетность компаний — а компании могут завоевать доверие всего мира — путем разработки надежных и надежных систем оценки. Без таких инвестиций международное сообщество рискует передать будущее узкому кругу субъектов частного сектора, предупредил он.

Также на брифинге для Совета И Цзэн из Института автоматизации Китайской академии наук отметил, что нынешний ИИ представляет собой инструменты обработки информации, которые, хотя и кажутся разумными, не имеют реального понимания. «Поэтому им, конечно, нельзя доверять как ответственным агентам, способным помочь людям принимать решения», — подчеркнул он. Как в краткосрочной, так и в долгосрочной перспективе ИИ будет нести риск исчезновения человечества просто потому, что «мы не нашли способа защитить себя от использования ИИ человеческих слабостей», сказал он.

В ходе последовавших за этим дебатов члены Совета поочередно подчеркивали преобразующие возможности, которые ИИ предлагает для решения глобальных проблем, и риски, которые он представляет, включая его потенциал усиления конфликтов посредством распространения дезинформации и злонамеренных киберопераций. Многие, признавая военное применение этой технологии, подчеркивали необходимость сохранения элемента принятия решений человеком в автономных системах вооружения. Члены также подчеркнули необходимость создания этической и ответственной основы для международного управления ИИ.

По этому поводу Омран Шараф, помощник министра передовых наук и технологий Объединенных Арабских Эмиратов, заявил, что сейчас существует короткое окно возможностей, когда ключевые заинтересованные стороны готовы объединиться и рассмотреть вопрос о путях развития этой технологии. Государства-члены должны установить общесогласованные правила, «пока не стало слишком поздно», подчеркнул он, призвав к созданию механизмов, которые не позволят инструментам ИИ пропагандировать ненависть, дезинформацию и дезинформацию, которые могут подпитывать экстремизм и усугублять конфликты.

Представитель Ганы, добавив к этому, подчеркнул, что международное сообщество должно «ограничивать крайности индивидуальных национальных амбиций к боевому доминированию». Призывая к разработке рамок, которые будут управлять искусственным интеллектом в мирных целях, он остановился на развертывании этой технологии Миссией Организации Объединенных Наций по поддержке в Ливии (МООНПЛ). Он отметил, что, используемый для определения реакции ливийского народа на политику, он способствовал улучшению Глобального индекса мира в этой стране на 2022 год, а также предостерег от интеграции ИИ в автономные системы вооружения.