Кръстникът на изкуствения интелект: Съжалявам за работата си, рисковете са страшни

Чатботът скоро може да надмине нивото на информация, което притежава човешкият мозък

Кръстникът на изкуствения интелект: Съжалявам за работата си, рисковете са страшни

27399 | 3 май 2023 | 22:09

Хинтън бе категоричен, че някои от опасностите, свързани с чатботовете с изкуствен интелект, са "доста страшни". "В момента те не са по-интелигентни от нас, доколкото мога да кажа. Но мисля, че скоро биха могли да станат."


Джефри Хинтън, смятан за кръстник на изкуствения интелект, напусна работа, предупреждавайки за нарастващите опасности, свързани с развитието на тази технологична област. 75-годишният специалист се оттегли от Googlе, като заяви, че сега съжалява за работата си в сферата на изкуствения интелект, съобщи „Ню Йорк Таймс“.


Пред „Би Би Си“ Хинтън бе категоричен, че някои от опасностите, свързани с чатботовете с изкуствен интелект, са "доста страшни".
"В момента те не са по-интелигентни от нас, доколкото мога да кажа. Но мисля, че скоро биха могли да станат." Д-р Хинтън също така призна, че възрастта му е повлияла на решението му да напусне технологичния гигант, като заяви: "Аз съм на 75 години, така че е време да се пенсионирам."
Пионерските изследвания на д-р Хинтън в областта на невронните мрежи проправиха пътя на настоящите системи за изкуствен интелект като ChatGPT. В изкуствения интелект (ИИ) невронните мрежи са системи, наподобяващи човешкия мозък по начина, по който учат и обработват информация. Те дават възможност на ИИ да се учи от опита си, както би го направил човек.  

Британско-канадският когнитивен психолог и компютърен учен заяви, че чатботът скоро може да надмине нивото на информация, което притежава човешкият мозък. "Точно сега виждаме, че неща като GPT-4 ни засенчват по количеството общи знания, които имат, и то с много голяма разлика. По отношение на разсъжденията той не е толкова добър, но вече може да прави прости разсъждения", допълва ученият. "И като се има предвид скоростта на напредъка, очакваме нещата да се подобрят доста бързо. Така че трябва да се тревожим за това."


Хинтън говори за "лоши субекти", които ще се опитат да използват изкуствения интелект за "лоши неща". "Това е просто най-лошият сценарий, нещо като кошмар“, уточни той. "Можете да си представите, например, как някой субект с лоши намерения като руския президент Владимир Путин реши да даде на роботите възможност да създават свои собствени подцели."


"Стигнах до заключението, че видът интелект, който развиваме, е много различен от този, който имаме“, добавя Хинтън. "Ние сме биологични системи, а те са цифрови системи. И голямата разлика е, че при цифровите системи имате много копия на един и същ набор от величини, на един и същ модел на света“, заяви той. "И всички тези копия могат да се учат поотделно, но споделят знанията си незабавно. Това е все едно да имате 10 000 души и когато един човек научи нещо, всички автоматично да го знаят. И ето как тези чатботове могат да знаят много повече от всеки един човек“, посочи ученият.


Мат Клифърд, председател на британската Агенция за съвременни изследвания и изобретения, който говори в лично качество, заяви, че думите на Хинтън "подчертават скоростта, с която се увеличават възможностите на изкуствения интелект". "Тази технология има огромни перспективи, но е от съществено значение светът да инвестира сериозно и спешно в безопасността и контрола на ИИ", каза той. 


Д-р Хинтън подчертава, че не иска да критикува Google и че технологичният гигант е бил "много отговорен". "Всъщност искам да кажа някои добри неща за Google. И те ще са по-достоверни, ако не работя за Google". В свое изявление главният учен на Google Джеф Дийн заяви, че в момента компанията работи по въпроса за „отговорния подход към изкуствения интелект“, като допълни: „Непрекъснато се учим, за да разберем възникващите рискове, като същевременно правим смели иновации".


Намери своята история
ГЕРБ
Илия Лазаров СДС

От категорията

Висш началник от Генералния щаб на руската армия е арестуван за подкуп в особено големи размери

Ген. Вадим Шамарин-Gen--Vadim-Shamarin_1716452099.jpg

Началникът на Главното управление на комуникациите на въоръжените сили на ...

23 май 2024 | 11:12

Макрон пристигна в разтърсваната от насилие Нова Каледония

Макрон пристигна в разтърсваната от насилие Нова Каледония-Makron-izrazi-silna-podkrepa-za-gruzinskata-prezidentka--zaplashena-ot-impiychmant-Snimka-AP-BTA_1694066140.jpg

Президентът промени графика си, за да измине около 16 000 км, подтикнат от ...

23 май 2024 | 08:21

Сирски предлага на Зеленски нова стратегия за отбрана - градовете да станат укрепени райони

Александър Сирски и Володимир Зеленски-Aleksandar-Sirski-i-Volodimir-Zelenski_1715713223.jpg

Твърди се още, че главнокомандващият предлага полевите позиции да се използват ...

23 май 2024 | 12:55

Мария Захарова: Тревожа се за състоянието на Бербок. Или има нещо с паметта, или с логиката ѝ

Мария Захарова изрази загриженост за състоянието на Аналена Бербок-Mariya-Zaharova-izrazi-zagrizhenost-za-sastoyanieto-na-Analena-Berbok_1716453160.jpg

Официалният представител на руското външно министерство припомни, че Москва се ...

23 май 2024 | 11:31

Най-важното

Така работим ние - ЗАЕДНО С ХОРАТА, в името на една по-добра България и Европа!, заявиха те

Делян Пеевски и Йордан Цонев осигуриха 800 000 лв за джамията Ибрахим паша в Разград

Делян Пеевски и Йордан Цонев осигуриха 800 000 лв за джамията Ибрахим паша в Разград-Delyan-Peevski-i-Yordan-Tsonev-osiguriha-800-000-lv-za-dzhamiyata-Ibrahim-pasha-v-Razgrad_1716457031.jpg

Подкрепата за вероизповеданията и религиозните храмове - паметници на културата ...

23 май 2024 | 12:22

С разделителни линии и без спазване на правилата на демокрацията няма как да успеем

Рая Назарян: Нужни са ярки политически фигури с ясна програма за пълен управленски мандат

Рая Назарян: Нужни са ярки политически фигури с ясна програма за пълен управленски мандат-Raya-Nazaryan--Nuzhni-sa-yarki-politicheski-figuri-s-yasna-programa-za-palen-upravlenski-mandat_1716454981.jpg

„От всички партии има експерти, с които имаме общи инициативи, общи решения, ...

23 май 2024 | 11:55

Нека вашите млади хора да бъдат по-силно вкоренени в България, казал Светият отец

Румен Радев: Папата пожела повече деца на България (Видео)

Румен Радев: Папата пожела повече деца на България (Видео)-Rumen-Radev--Papata-pozhela-poveche-detsa-na-Balgariya--Video-_1716457534.jpg

С папа Франциск обсъдихме, че най-голямото предизвикателство в момента е да се ...

23 май 2024 | 12:43

Ще бъде изложен за сбогуване в енорийската църква "Свети Августин"

След 76 години: Ковчегът на Фердинанд поема към България в понеделник

Цар Фердинанд -1537534543.jpg

След смъртта му Фердинанд е поставен в т. нар. пътуващ ковчег, защото ...

23 май 2024 | 08:39

Димитър Главчев даде на ДАНС спирането на последния лифт

Извънредно заседание на Столичния съвет! На фокус - лифтовете и движението по "Патриарха"

Извънредно заседание на Столичния съвет! На фокус - лифтовете и движението по "Патриарха"-Snimka--BTA_1711647308.jpg

Проблемът с модернизирането на съоръженията на територията на Природен парк ...

23 май 2024 | 08:29

И.ф. главен прокурор е на работна визита в САЩ по покана на Департамента по правосъдие

Шефът на ФБР награди Сарафов за принос в борбата срещу трансграничната организирана престъпност

И.ф. главен прокурор Борислав Сарафов-Glaven-prokuror-Sarafov-izprati-do-ministara-na-pravosadieto-stanovishte-ot-imeto-na-Prokuraturata_1713514827.png

Постигната е договореност в офиса на ФБР в София да бъде изпратено аташе, чийто ...

23 май 2024 | 09:05

Устройството очевидно е вътре в стаята в старата ни партийна централа, която вече не ползваме

Андрей Цеков от ПП-ДБ потвърди за скандалните записи: Правени са в старата ни партийна централа

Андрей Цеков от ПП-ДБ потвърди за скандалните записи: Правени са в старата ни партийна централа-Tsekov--Sredstvata-za-sanirane-nyama-da-stignat-za-vsichki-kandidatstvashti_1705224303.jpg

Една политическа кампания се случва чрез пари от субсидии и от дарения. Аз ...

23 май 2024 | 09:49

Христо Иванов довърши картината с думите, че Пеевски никога няма да се освободи от санкциите

Как се влиза в "Магнитски" по български - чрез доноси. Кирил Петков и Христо Иванов ги уреждат

Как се влиза в "Магнитски" по български - чрез доноси. Кирил Петков и Христо Иванов ги уреждат-Kak-se-vliza-v--Magnitski--po-balgarski---chrez-donosi--Kiril-Petkov-i-Hristo-Ivanov-gi-urezhdat_1716448537.jpg

Неудобните за ПП и ДБ и олигархичният им създател и покровител Иво Прокопиев ...

23 май 2024 | 10:14

Скандалът КЕШ, който застигна “Продължаваме промяната”, не трябва да ни изненадва

Валерия Велева: Вонята под юргана. Въпросът е да има кеш!

Валерия Велева: Вонята под юргана на Промяната. Въпросът е да има кеш.-1638786584.jpg

Проблемът е, че Киро, Асен и Лена бяха натресени като отрицание на порочните ...

22 май 2024 | 13:11