Существовавший до недавнего времени лишь на страницах фантастических произведений искусственный интеллект постепенно превращается в угрозу. Эксперты предупреждают о начале гонки вооружений в сфере искусственного интеллекта, об этом сообщают журналисты раздела «Новости мира» интернет-издания для деловых людей «Биржевой лидер» со ссылкой на «Коммерсантъ».
Накануне на площадке Российского совета по международным делам (РСМД) прошла конференция, посвященная искусственному интеллекту (ИИ). На мероприятии эксперты совета и профильные специалисты рассказали присутствующим о возможном влиянии новых технологий на международные отношения и разные сферы жизни общества. Среди прочего в представленном на конференции докладе содержится предупреждение об опасности возникновения новой гонки вооружений в сфере технологий искусственного интеллекта.
Авторы пишут, что еще совсем недавно ИИ существовал только на страницах произведений научной фантастики, сейчас он является одной из самых перспективных и активно развивающихся технологий. В разных областях используется технологии ограниченного ИИ, но в науке до сих пор присутствуют мифы, связанные с данным разработками. Образы популярной культуры часто сравнивают искусственный интеллект с ящиком Пандоры. Подобный алармизм кажется беспочвенным лишь на первый взгляд, поскольку на повестке дня уже стоит вопрос о разработке «сильного» искусственного интеллекта, способного самостоятельно принимать управленческие решения.
Эксперты полагают, что создание подобной технологии представляет собой угрозу не только теперешней системе глобального разделения труда. Не исключено, что новая технология заставит человечество менять существующий миропорядок и архитектуру международной безопасности. Авторы документа обращают внимание на обострение противоречий и кризис доверия в отношениях между великими державами. На таком фоне возникновение новой гонки вооружения в сфере технологий ИИ является реальной опасностью.
Контроль за оружием массового уничтожения (ядерным, химическим и биологическим) регулируется международными договорами и конвенциями. Однако разработка военных технологий искусственного интеллекта сейчас остается за пределами международных механизмов правового регулирования.
В конце августа государства, выступающее за запрет смертоносных автономных систем вооружений, созданных на основе технологий ИИ, не смогли получить мандат ООН на выработку юридически обязывающего международного договора в данной сфере. Такими оказались результаты прошедших в Женеве переговоров в рамках площадки Конвенции по негуманному оружию. Среди других стран против введения радикальных ограничений выступили и российские делегаты.
Запретить автономных роботов-убийц предлагают несколько государств, среди которых Австрия, Аргентина, Боливия, Бразилия и Ватикан. Идею о введении запрета подобных технологий (от беспилотников до танков и систем ПВО) поддерживают 26 стран. По информации аналитиков американской исследовательской компании MarketsandMarkets, глобальный рынок технологий искусственного интеллекта военного назначения в прошлом году составил 6,26 миллиарда долларов. По мнению экспертов, к 2025 году этот показатель увеличится до 18,82 миллиарда долларов.
Ведущие страны мира поменяют геополитические и военные доктрины.
В РСМД полагают, что в будущем искусственный интеллект будет активнее использоваться военными и гражданскими, в том числе в вопросах, касающихся обеспечения стратегической стабильности. При этом соображения общегуманитарного характера участвующие в гонке страны вряд ли будут учитывать, поскольку получение нового и более совершенного оружия позволит вырваться вперед в технологической гонке.
Согласно прогнозу аналитиков, в большинстве развитых стран поменяются геополитические и военные доктрины. Разработку национальных военных программ на базе искусственного интеллекта уже анонсировали в Китае, США, Индии, Франции и Великобритании. Соответственно изменятся модели сосуществования государства и бизнеса. Основатель компании Witology, председатель Лиги независимых IT- экспертов Сергей Карелов предполагает, что объединение ресурсов и целей государства и бизнеса для достижения военного превосходства, скорее всего, станет причиной всемирного торжества авторитарно-демократической модели интеграции интересов власти и бизнеса. Эту модель, по словам эксперта, довольно успешно использует Китай.
США и КНР авторы доклада считают безусловными лидерами в области развития технологий искусственного интеллекта. В вопросах сохранения и расширения военного преимущества Пентагон делает ставку на искусственный интеллект, потенциальное применение которого в военной области может быть разнообразным. Новая Стратегия национальной обороны США включает прогноз о том, что искусственный интеллект скорее всего внесет коррективы в характер вооруженных противостояний.
Сергей Карелов констатирует, что в гонке за технологии искусственного интеллекта аутсайдерами оказались все страны кроме лидеров (США и Китай). Технологически развитые государства вроде Франции, Германии, Южной Кореи или Индии несопоставимы со странами третьего мира по уровню развития технологий, но и тем и другим придется превратиться в колонии стран-лидеров. Россию составители доклада называют «особым аутсайдером», который потенциально сможет составить конкуренцию в борьбе за лидерство.
