Гонка вооружений в области искусственного интеллекта

Гонка вооружений в области искусственного интеллекта — гонка вооружений в области автономных боевых систем. Отмечается с середины 2010-х годов, в основном, между великими державами. Является частью второй холодной войны[1][2].

Автономный боевой дрон Corax

Терминология

В широком смысле любое соревнование в области искусственного интеллекта (ИИ) рассматривается как «гонка вооружений»[3][4]. Соревнование в военных применениях ИИ обычно пересекается со стремлением к господству в других областях, как военных, так и гражданских[5].

Ситуация по странам

Великобритания

В 2015 году правительство Великобритании выступило против запрета на смертоносное автономное оружие, заявив, что «международное гуманитарное право уже предусматривает достаточное регулирование для этой области», но что всё оружие, используемое вооружёнными силами Великобритании, будет «под человеческим надзором и контролем»[6].

Израиль

Израильский противорадиолокационный дрон Harpy предназначен для запуска наземными войсками и автономного полёта над районом, с целью поиска и уничтожения радаров, соответствующих заранее определённым критериям[7]. Также ожидается применение искусственного интеллекта в автономных наземных системах и роботизированных транспортных средствах, таких как Guardium MK III и более поздних версиях[8]. Эти роботизированные машины используются для охраны границы.

Китай

В области развития искусственного интеллекта Китай проводит стратегическую политику военно-гражданского слияния[9][10]. По мнению китайского руководства, развитие технологий ИИ имеет решающее значение для будущего глобального военного и экономического превосходства[5]. К 2030 году Китай планирует создание индустрии искусственного интеллекта стоимостью 150 млрд долларов[11]. Пекин выделил 2 миллиарда долларов на создание парка развития искусственного интеллекта[12]. По данным газеты Japan Times, ежегодные частные китайские инвестиции в ИИ составляют не менее 7 миллиардов долларов в год. В 2017 году китайцы получили почти в пять раз больше патентов на ИИ, чем американцы[13].

Россия

Российский генерал Виктор Бондарев, главнокомандующий ВВС России, заявил, что ещё в феврале 2017 года Россия работала над ракетами с искусственным интеллектом, которые могут переключаться между целями в полёте[14]. Военно-промышленный комитет России одобрил планы по обеспечению 30 % боевой мощи России за счёт роботизированных платформ с дистанционным управлением и искусственным интеллектом к 2030 году[15]. В мае 2017 года генеральный директор российского оборонного подрядчика Kronstadt Group, заявил, что «уже существуют полностью автономные операционные системы ИИ, которые предоставляют средства для кластеров БПЛА, когда они выполняют задачи автономно, разделяя задачи между собой и взаимодействуя»[16]. Россия тестирует несколько автономных и полуавтономных боевых систем, таких как боевой модуль «нейросети» Калашникова с пулемётом, камерой и ИИ, которые, как утверждают её создатели, могут принимать собственные решения о наведении без вмешательства человека[17].

В сентябре 2017 года, обращаясь к более чем миллиону учащихся в 16000 российских школах в рамках Национального дня знаний, президент России Владимир Путин заявил: «Искусственный интеллект — это будущее не только для России, но и для всего человечества. Кто станет лидером в этой сфере, тот станет правителем мира». Путин также сказал, что было бы лучше не допустить, чтобы какой-либо отдельный субъект достиг монополии, но что если Россия станет лидером в области ИИ, они поделятся своими «технологиями с остальным миром, как мы делаем сейчас с атомными и ядерными технологиями»[18][19][20].

Российское правительство категорически отвергает любой запрет на автономные системы оружия летального действия, предполагая, что такой запрет можно легко обойти[21][22].

США

Автономный военный корабль США «Морской охотник», 2016 год

В 2014 году бывший министр обороны Чак Хейгел сформулировал «третью стратегию компенсации», согласно которой быстрое развитие искусственного интеллекта определит следующее поколение ведения войны[23]. Согласно данным аналитической компании Govini, министерство обороны США увеличило инвестиции в искусственный интеллект, большие данные и облачные вычисления с 5,6 млрд долларов в 2011 году до 7,4 млрд долларов в 2016 году[24]. В ноябре 2019 Комиссия по национальной безопасности США подтвердила, что ИИ имеет решающее значение для превосходства США в области военных технологий[25].

В качестве примера военного применения ИИ можно привести автономный военный корабль Sea Hunter, предназначенный для продолжительного автономного плавания без экипажа[17]. С 2017 года временная директива Министерства обороны США требует, чтобы решение о летальном применения автономного оружия принимал оператор[26]. Однако серьёзную озабоченность вызывает то, как эти требования будут соблюдаться.

Предложения по международному регулированию

Регулирование автономного оружия является новым разделом международного права[27]. Контроль за военным использованием ИИ потребует создания новых международных норм[1][2][28]. В 2014 году специалист по искусственному интеллекту Стив Омохундро предупредил, что «автономная гонка вооружений уже происходит»[29]. В 2017 году более ста экспертов подписали открытое письмо с призывом к ООН заняться проблемой летального автономного оружия[30][31]. Однако на ноябрьской 2017 г. сессии Конвенции ООН о конкретных видах обычного оружия (КНО) дипломаты не смогли договориться даже о том, как определять такое оружие[32]. По состоянию на 2017 год двадцать две страны призвали к полному запрету летального автономного оружия[33].

Многие эксперты считают, что попытки полностью запретить автономное оружие не реалистичны[34]. В отчёте Белфер-центра Гарварда за 2017 год говорится, что применение ИИ сравнимо по эффекту с ядерным оружием[35][36]. В отчёте также утверждается, что «Предотвратить расширенное военное использование ИИ, вероятно, невозможно» и что «необходимо преследовать более скромную цель безопасного и эффективного управления технологиями», такую как запрет на подключение мертвеца к ядерному арсеналу[37]. Сложность контроля заключается в том, что обнаружение нарушений договора будет чрезвычайно трудным[38][39][40].

Другие мнения

В 2015 году десятки тысяч людей, включая таких учёных, как физик Стивен Хокинг, владелец фирмы Tesla Илон Маск и Стив Возняк из Apple подписали обращение, призывающее к запрету летальных автоматизированных систем оружия[32].

Многие эксперты предупреждают, что автономное оружие неизбежно попадёт в руки террористических группировок, таких как Исламское государство[41].

Американский специалист по ИИ Гэри Маркус считает[42]:

Нет никаких сомнений и в том, что вскоре искусственный интеллект найдёт применение в автономных системах вооружения, хотя у нас пока остаётся некоторая надежда на то, что такое оружие будет запрещено, подобно химическому или биологическому.

Примечания

  1. Geist, Edward Moore (2016-08-15). “It's already too late to stop the AI arms race—We must manage it instead”. Bulletin of the Atomic Scientists. 72 (5): 318—321. Bibcode:2016BuAtS..72e.318G. DOI:10.1080/00963402.2016.1216672. ISSN 0096-3402.
  2. Maas, Matthijs M. (2019-02-06). “How viable is international arms control for military artificial intelligence? Three lessons from nuclear weapons”. Contemporary Security Policy. 40 (3): 285—311. DOI:10.1080/13523260.2019.1576464. ISSN 1352-3260.
  3. Roff, Heather M. (2019-04-26). “The frame problem: The AI "arms race" isn't one”. Bulletin of the Atomic Scientists. 75 (3): 95—98. Bibcode:2019BuAtS..75c..95R. DOI:10.1080/00963402.2019.1604836. ISSN 0096-3402.
  4. For Google, a leg up in the artificial intelligence arms race (англ.), Fortune (2014). Дата обращения 11 апреля 2020.
  5. Allen. Understanding China's AI Strategy. Center for a New American Security. Center for a New American Security. Дата обращения: 15 марта 2019.
  6. Gibbs. Elon Musk leads 116 experts calling for outright ban of killer robots, The Guardian (20 August 2017). Дата обращения 24 декабря 2017.
  7. 'Killer robots': autonomous weapons pose moral dilemma | World| Breakings news and perspectives from around the globe | DW | 14.11.2017 (англ.), DW.COM (14 November 2017). Дата обращения 12 января 2018.
  8. Slocombe, Geoff (2015). “Uninhabited Ground Systems (Ugs)”. Asia-Pacific Defence Reporter. 41 (7): 28—29.
  9. Technology, Trade, and Military-Civil Fusion: China's Pursuit of Artificial Intelligence, New Materials, and New Energy | U.S.- CHINA | ECONOMIC and SECURITY REVIEW COMMISSION. www.uscc.gov. Дата обращения: 4 апреля 2020.
  10. Why China could win the new global arms race, BBC, 22.12.2021
  11. China seeks dominance of global AI industry, Financial Times (15 October 2017). Дата обращения 24 декабря 2017.
  12. Metz. As China Marches Forward on A.I., the White House Is Silent, The New York Times (12 February 2018). Дата обращения 14 февраля 2018.
  13. The artificial intelligence race heats up, The Japan Times (1 March 2018). Дата обращения 5 марта 2018.
  14. Russia is building a missile that can makes its own decisions (англ.), Newsweek (20 July 2017). Дата обращения 24 декабря 2017.
  15. Walters, Greg. Artificial Intelligence Is Poised to Revolutionize Warfare (англ.). Seeker (6 сентября 2017). Дата обращения: 15 сентября 2021.
  16. Russia is developing autonomous "swarms of drones" it calls an inevitable part of future warfare (англ.), Newsweek (15 May 2017). Дата обращения 24 декабря 2017.
  17. Smith. Is 'killer robot' warfare closer than we think?, BBC News (25 August 2017). Дата обращения 24 декабря 2017.
  18. Artificial Intelligence Fuels New Global Arms Race, WIRED. Дата обращения 24 декабря 2017.
  19. Clifford. In the same way there was a nuclear arms race, there will be a race to build A.I., says tech exec, CNBC (29 September 2017). Дата обращения 24 декабря 2017.
  20. Radina Gigova. Who Vladimir Putin thinks will rule the world, CNN (2 September 2017). Дата обращения 22 марта 2020.
  21. Russia rejects potential UN 'killer robots' ban, official statement says, Institution of Engineering and Technology (1 December 2017). Дата обращения 12 января 2018.
  22. Examination of various dimensions of emerging technologies in the area of lethal autonomous weapons systems, Russian Federation, November 2017. Дата обращения: 12 января 2018.
  23. US risks losing AI arms race to China and Russia, CNN (29 November 2017). Дата обращения 24 декабря 2017.
  24. Davenport. Future wars may depend as much on algorithms as on ammunition, report says., Washington Post (3 December 2017). Дата обращения 24 декабря 2017.
  25. Interim Report. — Washington, DC : National Security Commission on Artificial Intelligence, 2019.
  26. US general warns of out-of-control killer robots, CNN (18 July 2017). Дата обращения 24 декабря 2017.
  27. Bento, Lucas (2017). “No Mere Deodands: Human Responsibilities in the Use of Violent Intelligent Systems Under Public International Law”. Дата обращения 2019-09-14.
  28. Тиханычев О.В. О правовых и этических аспектах автономного использования робототехнических комплексов в сфере вооружённого противоборства (рус.) // Вопросы безопасности. — 2019. № 3. С. 33-42. doi:10.25136/2409-7543.2019.3.28960.
  29. Markoff. Fearing Bombs That Can Pick Whom to Kill, The New York Times (11 November 2014). Дата обращения 11 января 2018.
  30. Gibbs. Elon Musk leads 116 experts calling for outright ban of killer robots, The Guardian (20 August 2017). Дата обращения 11 января 2018.
  31. An Open Letter to the United Nations Convention on Certain Conventional Weapons. Future of Life Institute. Дата обращения: 14 января 2018.
  32. Rise of the killer machines, Asia Times (24 November 2017). Дата обращения 24 декабря 2017.
  33. 'Robots are not taking over,' says head of UN body on autonomous weapons, The Guardian (17 November 2017). Дата обращения 14 января 2018.
  34. Sorry, Banning 'Killer Robots' Just Isn't Practical, WIRED (22 August 2017). Дата обращения 14 января 2018.
  35. AI Could Revolutionize War as Much as Nukes, WIRED. Дата обращения 24 декабря 2017.
  36. McFarland. 'Slaughterbots' film shows potential horrors of killer drones, CNNMoney (14 November 2017). Дата обращения 14 января 2018.
  37. Allen, Greg, and Taniel Chan. «Artificial Intelligence and National Security.» Report. Harvard Kennedy School, Harvard University. Boston, MA (2017).
  38. Antebi, Liran. «Who Will Stop the Robots?.» Military and Strategic Affairs 5.2 (2013).
  39. Shulman, C., & Armstrong, S. (2009, July). Arms control and intelligence explosions. In 7th European Conference on Computing and Philosophy (ECAP), Bellaterra, Spain, July (pp. 2-4).
  40. Тиханычев О.В. Постановка проблемы обеспечения безопасности алгоритмов интеллектуальных систем (рус.) // Национальная безопасность / nota bene. — 2020. № 5. С. 45-55. doi:10.7256/2454-0668.2020.5.33286.
  41. Wheeler. Terrorists 'certain' to get killer robots, BBC News (30 November 2017). Дата обращения 24 декабря 2017.
  42. Маркус, Дэвис, 2021, с. 53.

Литература

  • Гэри Маркус, Эрнест Дэвис. Искусственный интеллект: Перезагрузка. Как создать машинный разум, которому действительно можно доверять = Rebooting AI: Building Artificial Intelligence We Can Trust. М.: Интеллектуальная Литература, 2021. — 304 с. — ISBN 978-5-907394-93-3.
This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.