Кръстникът на изкуствения интелект: Съжалявам за работата си, рисковете са страшни

Чатботът скоро може да надмине нивото на информация, което притежава човешкият мозък

Кръстникът на изкуствения интелект: Съжалявам за работата си, рисковете са страшни

20484 | 3 май 2023 | 22:09

Хинтън бе категоричен, че някои от опасностите, свързани с чатботовете с изкуствен интелект, са "доста страшни". "В момента те не са по-интелигентни от нас, доколкото мога да кажа. Но мисля, че скоро биха могли да станат."


Джефри Хинтън, смятан за кръстник на изкуствения интелект, напусна работа, предупреждавайки за нарастващите опасности, свързани с развитието на тази технологична област. 75-годишният специалист се оттегли от Googlе, като заяви, че сега съжалява за работата си в сферата на изкуствения интелект, съобщи „Ню Йорк Таймс“.


Пред „Би Би Си“ Хинтън бе категоричен, че някои от опасностите, свързани с чатботовете с изкуствен интелект, са "доста страшни".
"В момента те не са по-интелигентни от нас, доколкото мога да кажа. Но мисля, че скоро биха могли да станат." Д-р Хинтън също така призна, че възрастта му е повлияла на решението му да напусне технологичния гигант, като заяви: "Аз съм на 75 години, така че е време да се пенсионирам."
Пионерските изследвания на д-р Хинтън в областта на невронните мрежи проправиха пътя на настоящите системи за изкуствен интелект като ChatGPT. В изкуствения интелект (ИИ) невронните мрежи са системи, наподобяващи човешкия мозък по начина, по който учат и обработват информация. Те дават възможност на ИИ да се учи от опита си, както би го направил човек.  

Британско-канадският когнитивен психолог и компютърен учен заяви, че чатботът скоро може да надмине нивото на информация, което притежава човешкият мозък. "Точно сега виждаме, че неща като GPT-4 ни засенчват по количеството общи знания, които имат, и то с много голяма разлика. По отношение на разсъжденията той не е толкова добър, но вече може да прави прости разсъждения", допълва ученият. "И като се има предвид скоростта на напредъка, очакваме нещата да се подобрят доста бързо. Така че трябва да се тревожим за това."


Хинтън говори за "лоши субекти", които ще се опитат да използват изкуствения интелект за "лоши неща". "Това е просто най-лошият сценарий, нещо като кошмар“, уточни той. "Можете да си представите, например, как някой субект с лоши намерения като руския президент Владимир Путин реши да даде на роботите възможност да създават свои собствени подцели."


"Стигнах до заключението, че видът интелект, който развиваме, е много различен от този, който имаме“, добавя Хинтън. "Ние сме биологични системи, а те са цифрови системи. И голямата разлика е, че при цифровите системи имате много копия на един и същ набор от величини, на един и същ модел на света“, заяви той. "И всички тези копия могат да се учат поотделно, но споделят знанията си незабавно. Това е все едно да имате 10 000 души и когато един човек научи нещо, всички автоматично да го знаят. И ето как тези чатботове могат да знаят много повече от всеки един човек“, посочи ученият.


Мат Клифърд, председател на британската Агенция за съвременни изследвания и изобретения, който говори в лично качество, заяви, че думите на Хинтън "подчертават скоростта, с която се увеличават възможностите на изкуствения интелект". "Тази технология има огромни перспективи, но е от съществено значение светът да инвестира сериозно и спешно в безопасността и контрола на ИИ", каза той. 


Д-р Хинтън подчертава, че не иска да критикува Google и че технологичният гигант е бил "много отговорен". "Всъщност искам да кажа някои добри неща за Google. И те ще са по-достоверни, ако не работя за Google". В свое изявление главният учен на Google Джеф Дийн заяви, че в момента компанията работи по въпроса за „отговорния подход към изкуствения интелект“, като допълни: „Непрекъснато се учим, за да разберем възникващите рискове, като същевременно правим смели иновации".


Намери своята история

От категорията

“Дейли Мейл”: Тръмп може да лежи до 100 години в затвор, ако бъде осъден по всичките седем обвинения

“Дейли Мейл”: Тръмп може да лежи до 100 години в затвор, ако бъде осъден по всичките седем обвинения-Tramp-shte-se-izpravi-pred-pravosadieto-vav-vtornik-Snimka-AP-BTA_1680239516.jpg

Правни експерти обаче са категорични: разследването срещу него няма да му ...

10 юни 2023 | 00:03

На Тръмп са повдигнати федерални обвинения заради класифицирани документи

На Тръмп са повдигнати федерални обвинения заради класифицирани документи-Pet-izvoda-ot-istoricheskoto-obvinenie-sreshtu-Tramp_1680272124.jpg

Те са за възпрепятстване на правосъдието, за унищожаване или фалшифициране на ...

9 юни 2023 | 08:21

ISW: Украйна проведе контраофанзивни операции с различен резултат в три сектора на фронта

ISW: Украйна проведе контраофанзивни операции с различен резултат в три сектора на фронта -ISW--Ukrayna-provede-kontraofanzivni-operatsii-s-razlichen-rezultat-v-tri-sektora-na-fronta-_1686288943.jpg

Украинските сили ще претърпят загуби, включително на западно и съветско ...

9 юни 2023 | 08:34

Путин потвърди, че украинската офанзива е започнала

Путин потвърди, че украинската офанзива е започнала-Vladimir-Putin--Tsenite-na-energiyata-se-doblizhavat-do-ikonomicheski-obosnovano-ravnishte_1684951741.jpg

По думите на руския президент боевете продължават от пет дни, но „украинските ...

9 юни 2023 | 21:23

Най-важното

Главният прокурор поиска да бъде изслушан на закрито заседание на НС по дела за корупция и злоупотреба с власт

Атанас Славов: Какво ли е обърнало тактиката на Гешев, че да иска да говори пред парламента

Атанас Славов-1595315224.jpg

Гешев няколко пъти е идвал в парламента, задавани са му въпроси и обикновено ...

10 юни 2023 | 08:11

Турция се превърна в силен играч на глобално ниво, политическата конюнктура сближи Анкара и Москва

Любомир Кючуков: Милитаризацията на Черно море е основен риск, кабинетът да изработи ясна позиция

Любомир Кючуков: Милитаризацията на Черно море е основен риск, кабинетът да изработи ясна позиция-Lyubomir-Kyuchukov--Balgariya-tryabva-da-e-po-blizo-do--patsifistite--v-Evropa_1665482079.jpg

Формулата на настоящото правителство и начинът му на формиране не дават особени ...

9 юни 2023 | 13:58

Не е ясно кога и от кого е построено и обзаведено луксозното помещение, както и за каква цел се е ползвало

Скандал! Откриха таен апартамент от 500 кв.м на 5-тия етаж на правителствена болница „Лозенец”

Скандал! Откриха таен апартамент от 500 кв.м на 5-тия етаж на правителствена болница „Лозенец”-Skandal--Otkriha-taen-apartament-ot-500-kv-m-na-5-tiya-etazh-na-pravitelstvena-bolnitsa--Lozenets-_1686343689.jpg

Никой от болницата не е имал достъп до въпросното място, не е ясно и с какви ...

9 юни 2023 | 23:46

Средствата са за системи за сигурност на помещенията за съхранение на класифицирано оборудване и въоръжение

Парламентът одобри нов договор за 7,2 млн. долара за изтребителите F-16

Парламентът одобри нов договор за 7,2 млн. долара за изтребителите F-16-1644321495.jpg

Влизането в сила на този договор има пряко отражение върху сроковете за ...

9 юни 2023 | 17:25

Никой не може да доминира в тази комисия, защото се касае за конституцията на България, поддчерта той

Пеевски след среща с правосъдния министър: В новата конституция предвиждаме да няма главен прокурор

Делян Пеевски: В новата конституция предвиждаме да няма главен прокурор-Delyan-Peevski--V-novata-konstitutsiya-predvizhdame-da-nyama-glaven-prokuror_1686311077.jpg

Никога не съм казвал, че се работи само върху проекта на конституция на ДПС, ...

9 юни 2023 | 14:09

БСП трескаво чете папките "Барселонагейт" в деловодството на парламента

Нинова: В парламента крият Борисов, внасяме проект за решение за сваляне на имунитета му

Депутатите от БСП се запознават с искането за имунитета на Борисов
Сн. БНР-Deputatite-ot-BSP-se-zapoznavat-s-iskaneto-za-imuniteta-na-Borisov-Sn--BNR_1686299841.jpg

След като те нищо не правят, той няма доблестта сам да си го даде, ...

9 юни 2023 | 11:34

Във връзка с конкретни досъдебни производства, свързани с корупция по високите етажи на властта и търговия с влияние, посочва той

Гешев поиска да бъде изслушан в закрито заседание на НС по дела за корупция и търговия с влияние

Гешев поиска изслушване в НС за корупция по високите етажи на властта и търговия с влияние-1629385698.jpg

Главният прокурор посочва, че изслушването следва да се проведе при закрити ...

9 юни 2023 | 16:14

След края на мандата си той може да излезе на партийния терен

Георги Киряков: Радев ще търси да обедини всички недоволни - не сега, след три години

Георги Киряков: Радев ще търси да обедини всички недоволни - не сега, след три години-1583697474.png

Президентът натрупа достатъчно символен капитал, за да го изостави толкова ...

9 юни 2023 | 16:52

Около създаването на ПП имаше отворена ниша, ситуацията вече няма да се повтори

Юлий Павлов: Потенциалът на една президентска партия не е голям – между 2 и 6 процента

Юлий Павлов: Потенциалът на една президентска партия не е голям – между 2 и 6 процента-1660803152.png

Поне две трети от избирателите на ГЕРБ-СДС и на ПП-ДБ одобряват формата на ...

9 юни 2023 | 20:33