США та Росія вилучили етичні норми з проєкту договору ООН про ШІ-зброю
Американські та російські дипломати спільно вилучили з проєкту глобальної угоди ООН ключові положення про людський контроль і безпеку зброї зі штучним інтелектом, повідомляє The Washington Post.
Американські та російські дипломати спільними зусиллями вилучили з проєкту глобального договору ООН щодо регулювання зброї зі штучним інтелектом ключові положення про безпеку та людський контроль. Про це повідомляє The Washington Post із посиланням на трьох осіб, обізнаних із перебігом переговорів, та відповідні документи.
За даними видання, на початку вересня сотні дипломатів зібралися в Женеві для розробки першої глобальної угоди щодо використання смертоносної автономної зброї. В останній день переговорів представники США та Росії на закритому засіданні протягом 15 годин переробляли документ. Обидві країни залучили приблизно по десять юристів, що значно перевищило дипломатичну присутність інших делегацій.
Згідно з джерелами, американські та російські дипломати прибрали формулювання, яке вимагало від автономної системи працювати «передбачуваним» та «надійним» способом, і вилучили пункт, що зобов'язував враховувати етичні міркування під час використання ШІ-зброї. Крім того, представники США та Росії прибрали положення, яке вимагало, щоб люди перевіряли визначені ШІ військові цілі перед завданням удару.
Один зі співрозмовників видання назвав процес редагування угоди «смертю від тисячі дрібних порізів». Зміни до цієї угоди, деталі якої раніше не розголошувалися, демонструють, як Сполучені Штати і Росія намагалися послабити глобальні правила регулювання смертоносної зброї зі штучним інтелектом.
Бурхливе обговорення в Женеві відбувалося на тлі того, як Пентагон прагне швидко впровадити ШІ у свою стратегію ведення бойових дій, поки тривають дебати щодо екзистенційних ризиків, пов'язаних із розвиненим штучним інтелектом. За даними видання, американські військові вже використовували ШІ компанії Anthropic для виявлення та завдання ударів по майже 1000 цілях у перші 24 години конфлікту з Іраном.
За словами заступниці директора з питань озброєнь Human Rights Watch Веріті Койл, послаблення правил означатиме, що «машини зможуть приймати рішення про життя і смерть без контролю з боку людини». Вона наголосила, що це призведе до збільшення шкоди для цивільного населення та пришвидшить перехід до «більш ризикованої, автоматизованої війни».
У січні 2023 року Міністерство оборони США оновило директиву DOD Directive 3000.09, яка регулює використання автономних систем озброєння. Документ, ухвалений за адміністрації Джо Байдена, містив низку положень, подібних до тих, які згодом вилучили з документа ООН, зокрема вимогу про залучення людини до оцінки і перевірки автономних та напівавтономних систем озброєнь. Крім того, документ зобов'язував операторів систем зі штучним інтелектом дотримуватися законів і звичаїв війни, а також відповідних міжнародних договорів.
У серпні 2024 року генеральний секретар ООН Антоніу Гутерреш оприлюднив доповідь, у якій назвав вибір цілей для ураження алгоритмами «моральною межею, яку не можна перетинати», та закликав до 2026 року укласти обов'язковий міжнародний договір для повної заборони систем, які діють без людського контролю.
У грудні 2024 року Генеральна Асамблея ООН переважною більшістю голосів ухвалила першу резолюцію щодо смертоносної автономної зброї. Документ створив основу для подальших переговорів щодо глобального договору в рамках ООН. Тоді проти ухвалення виступили лише три країни: Росія, Білорусь та КНДР.
4
