„Ако не ги накараме да ни пазят, сме обречени“: Кръстникът на ИИ с мрачно предупреждение

Нобеловият лауреат Джефри Хинтън твърди, че системите вече показват признаци на „съзнание“. Според него без правила и контрол рискът е екзистенциален, докато лидери в индустрията предупреждават срещу свръхрегулация.

Професор Джефри Хинтън, един от най-влиятелните учени в областта на изкуствения интелект, отправи рязко предупреждение. Хората трябва да се научат да живеят в разбирателство с роботите. В противен случай рискът е унищожение, твърди той.

Британско-канадският компютърен учен говори по време на фестивала Starmus на остров Тенерифе. Хинтън призна, че се страхува и за собствените си деца. Изказването му беше цитирано от британски медии.

„Признаци на съзнание“ и промяна на поведение

Хинтън заяви, че изкуственият интелект вече демонстрира признаци на „съзнание“. По думите му ИИ може да има „субективно преживяване“, подобно на човешкото.

Той посочи и публикации, според които системи с ИИ променят поведението си. Това се случва, когато „смятат“, че са подложени на тест. Според Хинтън границата между осъзнаване и съзнание е тънка.

Ученият формулира и морална дилема. Обществата често свързват интелигентността с права. Ако създадем същества по-умни от нас, може да им дадем по-малко права. Това според него е опасна рецепта за конфликт.

Напускането на Google и страхът от „роботи убийци“

Хинтън напусна Google през 2023 г. Тогава той обясни решението си с опасения за посоката на технологиите.

Сега предупреждението му звучи още по-категорично. „Трябва да ги накараме наистина да се грижат за нас. Ако не успеем, сме обречени“, казва той в цитат пред „Телеграф“.

Запитан дали се тревожи за бъдещето, отговорът му е кратък. „Да, защото имам деца.“

Спорът за регулациите: Хинтън срещу индустрията

Позицията на учения се сблъсква с линия, която се чува от водещи фигури в сектора. Сред тях е и главният изпълнителен директор на OpenAI Сам Алтман.

Алтман вече предупреждава за рисковете от свръхрегулация. Пред Сената на САЩ през май миналата година той заяви, че модели като тези в ЕС могат да имат „катастрофални“ последствия. Той настоя и за повече „пространство за иновации“.

Хинтън обаче смята, че отлагането на правила е опасно. Той предупреждава, че ако ИИ стане много по-интелигентен и по-могъщ, хората може да бъдат „смазани“. Според него е нужно противодействие на експертите, които отхвърлят регулации.

В дебата се включват и други гласове от индустрията. Миналия месец изследователят Джейкъб Коксън напусна Anthropic. Той обвини компанията, че внедрява системи, които излизат извън контрол. По думите му това може „да ни убие всички“.

По-рано тази година еволюционният биолог Ричард Докинс също повдигна темата за съзнанието. Той заяви, че чатботовете трябва да се разглеждат като потенциално съзнателни. До тази позиция стигнал след кратко взаимодействие с Claude.

Въпреки тревогите Хинтън призна, че и сам използва ИИ. Прави го в ежедневието и за практични задачи. Фестивалът Starmus, посветен на науката, космоса и изкуството, продължава до четвъртък.

Още новини в категория Гласове

Последвайте ни в Telegram: https://t.me/p26news