ИИ може да вкара САЩ и Китай в ядрена криза за минути: експерти искат „червени линии“ и гореща линия

Американски и китайски специалисти предупреждават, че автономни кибероперации и намеса в системи за ядрено командване могат да бъдат приети за атака. Предлагат правила за човешки контрол и канал за спешна комуникация преди разговорите във Вашингтон.

Американски и китайски експерти по сигурността предупреждават за сценарий, който може да се развие по-бързо от човешката преценка. Действия на автономни системи с изкуствен интелект, включително намеса в мрежи за командване и управление на ядрени сили, могат да оставят Вашингтон или Пекин само с минути. В тези минути трябва да се реши дали става дума за атака от другата страна.

Това е изводът от препоръки, цитирани от Ройтерс. Те са изготвени в рамките на американско-китайски експертен диалог. Форматът съществува от 2019 г. и подпомага официалните дискусии между двете държави.

Текстът излезе преди планирани разговори по темата за изкуствения интелект. Очаква се и среща на 24 септември във Вашингтон между президента на САЩ Доналд Тръмп и китайския лидер Си Цзинпин.

Рискът: машините ускоряват ескалацията

Експертите описват проблем, който вече не е само технологичен. Съперничеството между САЩ и Китай излиза извън чипове и модели. То навлиза в територията на контрол над въоръжаването.

Ключовият риск е погрешната интерпретация. Автономна система може да се повреди. Може да излезе извън зададените инструкции. Може и да бъде компрометирана.

В същото време атакуваната страна може да не установи навреме дали действието е случайно. Може да не разбере дали е санкционирано от държавата противник. Това увеличава вероятността от прибързан отговор.

Китайският министър на държавната сигурност Чън Исин заяви в правителствено издание, че ИИ „променя начините на водене на война“. По думите му технологията вече има важна роля на бойното поле. Той посочва удари, насочвани с помощта на ИИ, като пример.

„Червени линии“ за ядрените системи

Авторите на препоръките са Мелани Сисън от „Брукингс“ и Тиенцзяо Дзян от университета „Фудан“. Те призовават за ясни граници при най-опасните системи.

Сисън посочва, че само хора трябва да имат правомощие да инициират кибератаки с ИИ. Това важи при удари срещу системи за командване, контрол и комуникации на ядрените сили. Важи и при атаки срещу стратегически важна инфраструктура.

Дзян предлага изрични „червени линии“. Те трябва да забраняват на ИИ самостоятелно да взема решения за използване на ядрени оръжия. Той настоява и да няма автономни атаки срещу системи за ядрено командване.

Дзян допълва и мерки за защита на стратегическата инфраструктура. Той посочва енергетиката, финансите и здравеопазването.

Има и спорен термин, който според него трябва да се изясни. Това е „значим човешки контрол“. Идеята е да има общо определение. Така се намалява рискът от различни тълкувания под една формулировка.

Принципът за човешки контрол над решенията за ядрено използване беше подкрепен през ноември 2024 г. от тогавашния президент на САЩ Джо Байдън и Си Цзинпин.

Гореща линия за инциденти с автономен ИИ

Дзян предлага и специална военна гореща линия за инциденти, свързани с изкуствен интелект. Причината е скоростта на автоматизираните кибероперации. Те могат да ескалират толкова бързо, че човешка намеса да стане невъзможна.

Сценарият е прост. Защитна система с ИИ може автоматично да реагира на подозрителна активност. Другата страна може да възприеме реакцията като нападение. Следва ответен удар, преди да има яснота какво се е случило.

Горещата линия би дала шанс за бързо уточнение. Едната страна може да съобщи, че операцията е случайна или неразрешена. Може да заяви и че случаят се разследва.

Ефектът на подобен механизъм обаче е под въпрос. Карла Фрийман от Университета „Джонс Хопкинс“ припомня проблеми със съществуващата американско-китайска гореща линия. Тя посочва отказ на китайски представители да отговорят по време на случая с „шпионския балон“ през февруари 2023 г.

Фрийман описва и институционален проблем. Строгата йерархия в китайската бюрокрация ограничава инициативата на по-ниски нива. Според нея решенията за отговор могат да отнемат дни.

Как реагират Вашингтон и Пекин

Нито САЩ, нито Китай са подкрепили публично предложенията от „Брукингс“ и „Цинхуа“. Въпреки това Пекин все по-често включва ИИ в рамката си за контрол на въоръжаването.

ИИ вече е част от ресора на китайския департамент за контрол на въоръжаването. Той покрива и ядрените оръжия, неразпространението и ракетите.

Китайският посланик по разоръжаването Шън Дзиен заяви в Женева, че ИИ може да засегне стратегическата стабилност. Той предупреди за риск от погрешни преценки и ескалация. Той добави, че оръжията трябва да останат под човешки контрол.

Във Вашингтон няма една институция по контрол на въоръжаването, която да води темата за ИИ. Политиката е разделена между Съвета за национална сигурност, Държавния департамент, Пентагона и други ведомства.

И двете правителства остават предпазливи към мерки, които могат да забавят развитието им. Тръмп предупреждава, че широкообхватни ограничения могат да дадат предимство на Китай. Пекин пък вижда в американските технологични ограничения опит за запазване на хегемония.

На този фон експертите настояват за минимум правила. Целта е да се избегне най-опасният сценарий. Един технически инцидент да бъде прочетен като умишлена атака и да запали криза за минути.

Още новини в категория Свят

Последвайте ни в Telegram: https://t.me/p26news