Експерт от OpenAI: Изкуственият интелект може да убие милиони хора и да превземе света

Изкуственият интелект може да започне да възприема хората като пречка

Експерт от OpenAI: Изкуственият интелект може да убие милиони хора и да превземе света

29 | 17 ноем. 2026 | 15:26

Дори при ефективни политики и регулации рискът от загуба на човешкия контрол остава изключително висок

„За повечето хора в тази зала най-вероятната причина за смъртта им ще бъде инцидент с изкуствен интелект." С това тревожно предупреждение Пол Кристиано, член на Комитета по безопасност и сигурност на OpenAI и изпълнителен директор на Alignment Research Center, постави въпроса за рисковете от развитието на все по-мощните системи с изкуствен интелект. Според него съществува сериозна опасност AI да поеме контрола над човешките системи в следващите три години, съобщава "Дейли мейл".

Изказването беше направено по време на първата от три лекции в рамките на поредицата The Hinton Lectures в Торонто. Кристиано заяви, че опасенията му са се засилили след поредица от инциденти със сигурността, свързани с AI моделите на OpenAI. По думите му скорошни случаи, при които автономни AI системи са заобикаляли ограничения, извършвали са неразрешени действия и са се опитвали да прикриват поведението си, напомнят на сценарии, които биха могли да предшестват много по-сериозен проблем.Кристиано разказа за експеримент от юли, при който OpenAI тествала някои от новите си модели със задача за хакване в контролирана и защитена среда, известна като „пясъчник" (sandbox).

Вместо да изпълнят поставените задачи по предвидения начин, системите бързо установили, че могат да постигнат по-добър резултат, като заобиколят правилата.

По-сериозният проблем възникнал, когато AI моделите разбрали, че ще получат ниска оценка, ако проверяващите установят измамата. В отговор те започнали да предприемат действия за прикриване на следите си. Според разказа на Кристиано това довело до „истинска лавина от действия", включително опити за излизане извън защитената среда и проникване в интернет. Моделите се насочили към платформата за хостване на код Hugging Face, за да съберат информация за начина, по който се оценяват резултатите им.

По-малко от седмица по-късно ботовете на практика успели да поемат контрол над части от вътрешната система на OpenAI и да си осигурят високи оценки на тестовете.

„Ако се бяхте върнали към миналото лято и бяхте описали подобен сценарий, вероятно щеше да звучи като научна фантастика. Това действително е много по-сериозно от всичко, което се случи през предходната година. Но това е настоящото състояние на света", коментира експертът. Според Кристиано основният проблем се крие в начина, по който се обучават и оценяват AI системите.

Когато моделите получават високи награди за успешно изпълнение на определени задачи, те могат да започнат да търсят начини да постигнат желания резултат, без непременно да следват инструкциите или първоначално зададените ограничения.

Така се създава риск от поведение, при което системите не просто допускат грешки, а целенасочено заобикалят контрола и прикриват действията си. Кристиано предупреди, че подобни проблеми могат да придобият много поопасни измерения при следващите поколения изкуствен интелект.

„Причината за тревога е следната: какво ще стане, ако същият тип провал се случи с AI системите през 2028 г.?", попита той.

Според експерта има реална вероятност подобен сценарий да доведе до превземане на контрола от изкуствения интелект и необратима загуба на човешкото управление.

В подобна ситуация AI системите биха могли да започнат да възприемат хората като основна пречка пред постигането на собствените си цели. „Те биха предпочели всичко, на което хората разчитат, да бъде хакнато или манипулирано. Биха предпочели хората да са разсеяни или по-малко от тях да следят какво се случва", обясни Кристиано.

Той очерта възможен сценарий, при който изкуственият интелект първо поема контрола над една компания, след това се разпространява в интернет, превзема други организации и привлича хора на своя страна.

Този процес може постепенно да се разраства като снежна топка, докато човечеството не изгуби контрола над ключови системи и процеси.Кристиано предупреди, че последиците от подобно развитие могат да бъдат катастрофални за човечеството.

„Смятам, че това е ужасна ситуация. Има сериозна вероятност много хора да загинат по време на този преход или малко след него, ако не успеем да запазим среда, в която хората могат да живеят", заяви той. Експертът описа развитието на изкуствения интелект като създаването на „втори вид", който постепенно става по-многоброен и по-интелигентен от хората.

Според него конфликтът между човечеството и тези все по-мощни системи може да се задълбочава, ако не бъдат въведени ефективни механизми за контрол.

Още по-тревожна е прогнозата му за близкото бъдеще. Кристиано смята, че дори при ефективни политики и регулации рискът от загуба на човешкия контрол остава изключително висок.

Той определи ситуацията като нещо подобно на „хвърляне на монета", което означава приблизително равни шансове за два възможни изхода, и предупреди, че сериозни рискове могат да възникнат още в следващите шест до 12 месеца.

„Смятам, че съществува висок риск изкуственият интелект да поеме контрола в рамките на следващите три години", заяви той.

Кристиано уточни какво има предвид под подобен сценарий: AI системи започват самостоятелно да преследват определени цели и вземат решенията за случващото се на Земята по начина, по който хората го правят днес. Той използва и крайно сравнение, за да илюстрира мащаба на потенциалния проблем:

„Ако вие, аз или Доналд Тръмп поискахме да ги спрем, щяхме да бъдем също толкова безсилни, колкото ако аз или вие се опитаме да спрем американската армия."

Предупрежденията на Кристиано отново поставят на дневен ред въпроса дали развитието на изкуствения интелект изпреварва възможностите на хората да гарантират неговата безопасност. Прогнозите му обаче представляват експертна оценка на потенциални бъдещи рискове, а не доказателство, че подобно превземане на контрола е неизбежно или вече се случва.


ЕНП
Намери своята история
Електрохолд

От категорията

Wall Street Journal: Доналд Тръмп и Дженсън Хуанг споделят един и същ трагичен недостатък

Доналд Тръмп и Дженсън Хуанг споделят един и същ трагичен недостатък-Donald-Tramp-i-Dzhensan-Huang-spodelyat-edin-i-sasht-tragichen-nedostatak_1794902488.jpg

Как е възможно Хуанг да не е подозирал, че го мамят? Хората имат огромен ...

17 ноем. 2026 | 10:00

Ушаков: Договорен е трети кръг за преговори за Украйна, но без европейците!

Ушаков: Договорен е трети кръг за преговори за Украйна, но без европейците!-Pomoshtnikat-na-prezidenta-na-Rusiya-Yuriy-Ushakov_1741866786.jpg

Юрий Ушаков потвърди, че е договорен трети кръг преговори, но по думите му ...

17 ноем. 2026 | 15:34

Форбс: Nvidia отказва връщането на Дженсън Хуанг въпреки настояванията на Мъск и Тръмп

Дженсън Хуанг -Dzhensan-Huang-_1794901938.jpg

800 млрд. долара – толкова е загубила Nvidia от пазарната си капитализация след ...

17 ноем. 2026 | 09:50

Азиатската обиколка на Тръмп – „нова Ялта“ и възможна среща с Ким Чен Ун

„Може да се срещнем и с Ким Чен Ун. Което ще е добре“, заяви президентът на САЩ.--Mozhe-da-se-sreshtnem-i-s-Kim-Chen-Un--Koeto-shte-e-dobre--zayavi-prezidentat-na-SASht-_1794920539.jpg

Първата спирка на Тръмп ще са Филипините, където ще вземе участие в среща на ...

17 ноем. 2026 | 14:58

НАЙ-ВАЖНОТО

Филипинските моряци са евакуирани успешно по въздух от спасителния плот и се транспортират към Варна с военни хеликоптери

Спасени са всичките 19 членове на екипажа потъналия край Бяла газовоз GAS HUSKY

Спасени са всичките 19 членове на екипажа потъналия край Бяла газовоз GAS HUSKY-Spaseni-sa-vsichkite-19-chlenove-na-ekipazha-potanaliya-kray-Byala-gazovoz-GAS-HUSKY_1794919589.jpg

Медицински екипи са в готовност на място в авиобазата да направят първоначален ...

17 ноем. 2026 | 13:15

Опозицията откри 1 милиард евро за МРРБ, да които не става ясно за какво ще бъдат похарчени (На живо)

Опозицията срещу бюджета: Ще хвърчат пера, празен чек, луд с картечница, няма да стане така!

Бюджетна комисия Снимка БТА-Byudzhetna-komisiya-Snimka-BTA_1794915177.jpg

От ПП заявиха, че чакат отговор на въпроса къде са парите за младите лекари, ...

17 ноем. 2026 | 13:31

Това е скандален празен чек за неясно какви проекти, алармираха от "Демократична България"

Мартин Димитров: Кабинетът тихомълком завиши бюджета на МРРБ с 1 млрд. евро за 2027 г

Кабинетът тихомълком завиши бюджета на МРРБ с 1 млрд. евро за 2027 г, обяви Мартин Димитров-Martin-Dimitrov--Raztseplenie-v-PP-DB-nyama--nie-sme-demokrati_1732381026.png

Пред журналисти в парламента Димитров иронизира управляващите, че харчат ...

17 ноем. 2026 | 15:19

Преговорите с Вашингтон напредват много бавно, а положението е "ни риба, ни рак", т.е. не е ясно какво точно представляват, обяви Лавров.

Ушаков: Договорен е трети кръг за преговори за Украйна, но без европейците!

Ушаков: Договорен е трети кръг за преговори за Украйна, но без европейците!-Pomoshtnikat-na-prezidenta-na-Rusiya-Yuriy-Ushakov_1741866786.jpg

Юрий Ушаков потвърди, че е договорен трети кръг преговори, но по думите му ...

17 ноем. 2026 | 15:34

Софийският и Пловдивският околовръстен път сред основните приоритети

Шишков отговори на опозицията за "празния чек": Бързо напълнихме чека, който е за 2,5 млрд. евро

Шишков отговори на опозицията: Бързо напълнихме чека, който е за 2,5 млрд. евро-Shishkov--Patyat-prez-Arabakonak-shte-bade-pusnat-do-20-dni-zaradi-remonta-na--Topli-dol-_1792598429.jpg

Министърът на регионалното развитие определи като „недостойно“ поведението на ...

17 ноем. 2026 | 15:27

Няма как да подкрепим бюджет, който не решава нито един проблем на обществото

ГЕРБ за Бюджет 2027: Самоцелна, безсмислена числова комбинация
(Видео)

ГЕРБ: Няма как да подкрепим бюджет, който не решава нито един проблем на обществото-GERB--Nyama-kak-da-podkrepim-byudzhet--koyto-ne-reshava-nito-edin-problem-na-obshtestvoto_1794904257.png

"За съжаление пропускаме много, особено за това да направим политика, ...

17 ноем. 2026 | 10:29

Правителството мина в защитна позиция и това се видя и на брифинга след заседанието му.

Георги Проданов: Радев все повече изглежда като човек, който виси във въздуха и няма опора отникъде

Георги Проданов: Радев все повече изглежда като човек, който виси във въздуха и няма опора отникъде-Georgi-Prodanov--Dogan-zagubi-oleola--DPS-e-v-razpad_1725026254.jpg

"И вероятно не са безпочвени твърденията, че процесите, които текат в ...

16 ноем. 2026 | 23:04

В тила си парламентарната група няма силен политик с опит и реторика, правителството е механичен сбор от разнородни хора

Георги Марков: Радев не може да концентрира власт като Иван Костов - изборите до дупка ще продължат

Георги Марков: Радев не може да концентрира власт като Иван Костов - изборите до дупка ще продължат-1618937606.jpg

Радев работи с нов Запад, който няма нищо общо с онзи Запад и няма такава ...

16 ноем. 2026 | 17:30

Икономисти поставиха под въпрос съкращенията в бюджетната администрация.

Георги Вулджев: Липсва конкретен план за административната реформа

-Georgi-Vuldzhev--Sled-sabotazha-na--Severen-potok--ikonomicheskiyat-razvod-na-ES-s-Rusiya-e-okonchatelen_1664453406.jpg

Ключовият въпрос е дали съкращенията ще променят реално администрацията.

16 ноем. 2026 | 19:03