Чи знають держави, що володіють ядерною зброєю, про наслідки розгортання автономних військових систем на основі штучного інтелекту?

Останній ажіотаж щодо штучного інтелекту, викликаний випуском ChatGPT у листопаді 2022 року, сформував спільне уявлення про домінування великих технологічних компаній у сфері штучного інтелекту (ШІ). Однак державні розробки у сфері ШІ здається залишилися поза увагою. Чи є відповідні правила, доступні для громадськості? Чи знають великі держави про можливі наслідки автономних військових систем, керованих
ШІ?

У звіті Комісії національної безпеки США зі штучного інтелекту в березні 2021 року було окреслено поглиблення загроз, які становлять кібератаки та кампанії з дезінформації з використанням ШІ. Директива Міністерства оборони США (DoD) 3000.09 про автономію систем озброєння (з поправками, що вступили в силу 25 січня 2023 року) передбачає, що «DoD розроблятиме та впроваджуватиме можливості штучного інтелекту… володіючи здатністю виявляти та уникати непередбачуваних наслідків, а також здатність для відключення або дезактивації розгорнутих систем, які демонструють ненавмисну поведінку». Таким чином, визнаються можливі наслідки розгортання автономних військових систем, керованих ШІ. Крім того, громадськість і міжнародна спільнота знають про запроваджені процедури.

Китай не опублікував жодного документа подібного до DoDD 3000.09, який би визначав процеси придбання, розробки, тестування та розгортання автономних військових систем, керованих ШІ. Політика Китаю щодо цього
питання може бути таємною, однак міжнародна спільнота повинна принаймні знати про існування такої процедури відповідно до стандартів міжнародного права війни. Має бути чітке підтвердження того, що лише люди можуть дозволити використання ядерної зброї.

Зазнаючи значних втрат у розв’язаній війні проти України, росія намагається отримати підтримку Китаю у сфері використання ШІ, можливо, і у військових цілях. Нещодавно анонсований російсько-китайський регіональний бізнес-форум за участю прем’єра Держради Китаю та прем’єрміністра росії 23 травня 2023 року в Шанхаї спрямований на налагодження співпраці щодо ШІ. Очікується розробка відкритої угоди з регулювання та застосування ШІ, відкриття китайськими фахівцями в росії спільних центрів досліджень і розробок ШІ, просування спільної метрики для оцінки моделей в ШІ, випуск спільного журналу типових ситуацій з ШІ тощо.

Участь у форумі Китайського індустріального альянсу штучного інтелекту, Національної команди штучного інтелекту, Китайської асоціації штучного інтелекту, Китайської академії наук, Шанхайського університету Цзяо Тун та інших університетів, а також Мінекономрозвитку росії, Міністерства цифрового розвитку росії, Національного центру розвитку штучного інтелекту при уряді росії, Альянсу щодо штучного інтелекту, російських університетів та наукові організацій, включаючи Сколтех не надають чітких сигналів можливого обговорення автономних військових систем, керованих ШІ. Проте хтозна, про що піде мова на непублічних консультаціях?..

© Міжнародна академія інформації