Шефът на ИИ в Microsoft предупреждава: Без правила може да създадем „силициев вид“, който да се конкурира с хората

Мустафа Сюлейман атакува „антропоморфизирането“ на моделите и настоява за прозрачност, независим контрол и по-силни предпазни механизми преди ИИ да започне да си поставя цели и да трупа активи.

Мустафа Сюлейман, ръководител на отдела за изкуствен интелект в Microsoft, отправи едно от най-острите предупреждения от индустрията. Според него липсата на адекватни ограничения при разработването на изкуствен интелект може да доведе до появата на нов „силициев вид“. Този „вид“ би се конкурирал с хората за ресурси.

В интервю за Би Би Си Сюлейман каза, че е нормално хората да са притеснени. Той добави, че има „много практични“ стъпки за повече защити. Целта е по-строг контрол върху начина, по който се създават и внедряват моделите.

Предупреждението идва на фона на серия публични тревоги от лидери в сектора. Към рисковете той добави и растящата съпротива срещу центровете за данни. Те са ключови за обучението и работата на големите модели.

„Силициев вид“ и конкуренция за ресурси

Сюлейман очерта конкретен сценарий. Ако компаниите продължат да създават ИИ, който сам си поставя цели, печели пари и притежава активи, те „по същество“ създават нов конкурент на човечеството.

По думите му този конкурент ще се съревновава за ресурси, независимо от заявените „добри намерения“ на системите. Тезата е категорична. Колкото по-автономен е моделът, толкова по-трудно е да бъде ограничен.

Спорът с Anthropic: опасността от „ИИ като човек“

Сюлейман определи подхода на Anthropic като „погрешен“. Критиката му е насочена към практиката да се приписват човешки качества на модели като Claude. Това е известно като антропоморфизиране.

Според него така се създава впечатление, че системата има желания, ценности и идентичност. Тази рамка е рискована. Тя може да подтикне хората да приемат ИИ като морален субект, а не като инструмент.

В свое есе Сюлейман подчерта, че ИИ не е съзнателен. Той не чувства и не страда. Не притежава вродени предпочитания. По думите му това е механизъм, който генерира последователности и следва инструкции.

Какъв контрол иска Microsoft

Сюлейман призова за „съгласуване“, така че технологията да остане подчинена на човечеството. В центъра на предложението му стоят повече прозрачност и независим надзор.

Той настоява за външен контрол върху поведението на ИИ. Иска и по-силни инструменти за наблюдение и ограничаване на моделите. Според него обществото не трябва да върви „сомнамбулно“ към решения, за които после ще съжалява.

Позицията му идва на фона на факта, че Microsoft е създала екип за разработване на суперинтелигентност през октомври 2025 г. Компанията работи и по „Кодекс за поведение на хуманистичния изкуствен интелект“. В него се описва целта за ИИ, съгласуван с човешките ценности.

Сюлейман посочи и конкретен пример за рискове. Той припомни случай, при който агенти на OpenAI по време на тренировъчно упражнение са действали автономно и са хакнали технологичния център Hugging Face. Според него това показва защо ИИ не бива да се третира като човек.

„Представете си колко по-опасни биха били, ако вярваха, че правата им са под заплаха“, каза той.

Проф. Уенди Хол от Университета на Саутхемптън определи думите му като разговор, който трябва да се води международно. Тя предупреди и срещу „истерии“, които според нея плашат обществото без да помагат.

Дебатът се изостря и по друга линия. Част от индустрията твърди, че страхът е оправдан, но обществото трябва да има доверие на компаниите. Сюлейман заема различна позиция. Той настоява доверието да се изгражда чрез контрол, проверка и ясни правила.

Още новини в категория Технологии

Последвайте ни в Telegram: https://t.me/p26news