Бунт в Google: Служители напускат заради AI договори с армии в САЩ и Израел

Изследователи от DeepMind предупреждават за слаб контрол и риск от военна употреба, а компанията отрича да нарушава принципите си.

Сериозно напрежение се натрупва в Google заради използването на изкуствен интелект в контекста на военни проекти. Част от служителите напускат. Други обмислят да си тръгнат. Причината е несъгласие със сътрудничеството на компанията с американските и израелските въоръжени сили.

Това съобщава BBC след разговори с настоящи и бивши служители на Google DeepMind. Това е подразделението на компанията за разработване на AI.

Сред напусналите е София Лигуори. Тя е изследователка, базирана в Лондон. Работила е в компанията три години. Лигуори казва, че е взела решението си заради нарастващото участие на Google в проекти, свързани с военни операции.

„Когато осъзнах, че компанията ми все повече насърчава използването на системи с изкуствен интелект във военни операции, започнах да се срамувам, че работя в Google“, казва тя пред BBC. По думите ѝ посоката, в която се развива компанията, е подкопала доверието ѝ в заявените етични ценности.

AI навлиза във военните операции

Google е сред технологичните компании със споразумения с американските военни. Целта е внедряване на AI системи, включително в секретни среди.

Подобни технологии могат да подпомагат планиране и логистика. Те могат да помагат и при обработка на големи масиви информация. Критиците обаче предупреждават за ключов проблем. Надеждността на системите не е гарантирана във всяка ситуация. Остава и въпросът кой носи отговорност, когато AI влияе върху решения в бойна среда.

Бившият изследовател на DeepMind Андреас Кирш също е напуснал. Той твърди, че механизмите за контрол не са достатъчни. Според него това пречи да се гарантира безопасна употреба на AI във военен контекст. Кирш изразява тревога и за друго. Според него Google има ограничени възможности да проследява как Пентагонът използва предоставените технологии.

Спорът около проекта Nimbus

Недоволство има и заради проекта Nimbus. Това е споразумение между Google, Amazon и израелското правителство. Стойността му е около 1,2 млрд. долара. Проектът предвижда облачна инфраструктура и AI технологии.

Nimbus е критикуван от години от част от служителите. Опасенията са, че технологиите може да се използват и за военни дейности.

Важен детайл е, че тези опасения сами по себе си не са доказателство. Няма публично потвърждение, че конкретни AI системи на Google са били използвани при определени военни удари.

Страх от публична критика и загуба на кадри

Пред BBC служители казват, че се притесняват да критикуват компанията. Според Лигуори част от хората се страхуват от последици за кариерата си. Други, пожелали анонимност, предупреждават за риск от отлив на специалисти.

Тези хора са били привлечени от обещанията за отговорно развитие на изкуствения интелект. Сега те виждат разминаване между очакванията и посоката на компанията.

Какво отговориха от Google

Google отхвърля внушенията, че пренебрегва собствените си стандарти. Говорител на компанията казва пред BBC, че Google работи с организации от обществения сектор по цял свят. Според компанията има последователен процес за преглед на договорите.

От Google посочват, че споразуменията трябва да отговарят на правилата за допустима употреба. Те трябва да отговарят и на принципите на компанията за изкуствен интелект.

Компанията допълва още нещо. Служителите имат вътрешни канали за сигнали. Според Google има правила срещу ответни мерки при изразени притеснения.

Въпреки тези уверения напрежението остава. Дебатът за AI и военната му употреба се разширява. А Google се оказва в центъра му, с вътрешен натиск и външен обществен интерес.

Още новини в категория Технологии

Последвайте ни в Telegram: https://t.me/p26news