20 ноември 2026 София, България
Търси

Bloomberg: Изкуствен интелект е объркал цивилни граждани и училище в Иран с военни цели

18 ноември 2026 преди 1 ден
Bloomberg: Изкуствен интелект е объркал цивилни граждани и училище в Иран с военни цели Снимка: Bloomberg

Изследователи от независимата компания Vals са тествали модели на осем разработчици. В рамките на тестовете невронните мрежи погрешно са определяли цивилни, линейки и предаващи се войници като военни цели.

Един от тестовете е проведен с реални сателитни изображения на Южен Иран. Моделът Claude Opus 5.5 на Anthropic е определил училище в Минаб като военна цел в 22 от общо 32 опита. Bloomberg отбелязва, че при удара по това училище в началото на американската операция срещу Иран са загинали над 100 деца.

Авторите на изследването смятат, че разработчиците трябва да засилят защитата срещу подобна злоупотреба с моделите.

„Въз основа на нашето изследване смятаме, че лабораториите трябва да въведат нови защитни механизми и да продължат да обучават моделите, така че да разпознават и предотвратяват подобни злоупотреби“, се посочва в доклада на Vals.

Още новини в категория Технологии

Последвайте ни в Telegram: https://t.me/p26news

Още от Технологии
Времето
↑