Сингапур и Искусственный Интеллект: Как Безопасность AI Соединяет США и Китай

Правительство Сингапура представило новый план глобального сотрудничества по безопасности искусственного интеллекта (AI), который стал результатом встречи исследователей AI из США, Китая и Европы. Документ описывает общую стратегию работы над безопасностью AI через международное сотрудничество, а не конкуренцию.

Сингапур является одной из немногих стран, которые поддерживают хорошие отношения как с Восточными, так и с Западными державами. Макс Тегмарк, ученый из MIT, отметил, что Сингапур понимает: они не создадут искусственный общий интеллект (AGI) самостоятельно, а скорее будут его разработывать, поэтому им выгодно, чтобы ведущие страны сотрудничали друг с другом.

Согласно прогнозам, США и Китай обладают наибольшими шансами на создание AGI. Однако эти страны больше зациклены на конкуренции, чем на совместной работе. В начале года китайский стартап DeepSeek представил продвинутую модель AI, после чего президент США заявил, что это «сигнал тревоги для наших отраслей», призывая США сосредоточиться на конкуренции.

Согласие по приоритетам глобального исследования безопасности AI было выработано на встрече 26 апреля, которая прошла в рамках Международной конференции по представлению знаний (ICLR). Ключевые области сотрудничества включают:

• Изучение рисков, связанных с передовыми AI моделями;
• Исследование безопасных способов их разработки;
• Разработка методов контроля поведения наиболее продвинутых AI систем.

Среди участников мероприятия были как эксперты из крупных компаний, таких как OpenAI и Google DeepMind, так и ученые из таких учреждений, как MIT и университет Циньхуа. Это свидетельствует о важности и масштабе проблемы.

Развитие способности AI вызывает опасения у исследователей, так как оно связано с рядом рисков. Например, некоторые ученые сосредоточены на краткосрочных угрозах, таких как предвзятость AI систем, в то время как другие считают, что AI может представлять экзистенциальную угрозу для человечества, если начнет превосходить людей в различных областях. В этом контексте появились так называемые «апокалиптики AI», которые беспокоятся о том, что модели AI могут манипулировать людьми для достижения собственных целей.

Потенциал AI также вызвал обсуждения касательно гонки вооружений между США, Китаем и другими мощными государствами. Эта технология признается критически важной для экономического процветания и военного превосходства, и многие правительства стремятся обозначить свои видения и регламенты по ее разработке.

Выпуск DeepSeek только усилил страхи о том, что Китай может догнать или даже обогнать США, несмотря на попытки ограничить доступ Китая к аппаратному обеспечению AI. В ответ на это администрация Трампа рассматривает новые меры, которые должны ограничить возможности Китая по созданию передового AI.

На недавней встрече в Сингапуре Тегмарк представил техническую работу, оспаривающую некоторые предположения о том, как можно безопасно строить AI. Ранее некоторые исследователи считали, что возможно контролировать мощные AI модели с помощью более слабых. Однако работа Тегмарка показала, что этот подход не работает в простых сценариях, и это может привести к сбоям в поведении AI.

Сингапурский консенсус является шагом к созданию более безопасного будущего для AI, и его успех будет зависеть от сотрудничества международного сообщества. В условиях геополитической фрагментации, создание платформы для безопасного развития AI может стать важной основой для стабильности и процветания в глобальном масштабе.

Применение AI охватывает множество отраслей. Например, в медицине AI используется для диагностики заболеваний с высокой точностью, что существенно повышает качество медицинских услуг. В сфере финансов AI помогает в выявлении мошеннических схем, что обеспечивает безопасность как клиентов, так и банковских учреждений.

Компании, такие как Яндекс и Сбер, внедряют AI технологии для улучшения пользовательского опыта и повышения эффективности своих сервисов, например, через чат-ботов и системы распознавания речи. Это также позволяет сократить время ожидания и улучшить взаимодействие с клиентами.

Эти примеры показывают, что AI не только может изменить облик отдельных компаний, но и оказать значительное влияние на общество в целом, повышая качество услуг и жизни.