Зашто је кум вештачке интелигенције забринут

Преузето са сајта недељника НИН, на којем је објављено 13. октобра 2024.

“Немамо искуства са стварима које су паметније од нас”: Зашто је кум вештачке интелигенције забринут

ЕПА / Кyодо/Неwсцом / Неwсцом / Профимедиа

Научник Џефри Хинтон са универзитета у Торонту у Канади, коме је заједно са Џоном Хопфилдом са америчког Принстона, као пионирима вештачке интелигенције додељена Нобелова награда за физику, изјавио је да вештачка интелигенција мења начин живота, али и ствара нове претње по човечанство. Хопфилд и Хинтон су награду добили за открића и проналаске који су поставили темеље за машинско учење.

Хинтон, који је познат као “кум вештачке интелигенције”, држављанин је Канаде и Британије и ради на Универзитету у Торонту, док је Хопфилд Американац који ради на Принстону.

Вештачке неуронске мреже које су они развили користе се у науци и медицини, а “постале су такође део нашег свакодневног живота, на пример у препознавању лица и превођењу језика”, изјавила је Елен Мунс, чланица Нобеловог комитета при Краљевској шведској академији наука.

“Немамо искуства са стварима које су паметније од нас. Биц́е то дивно искуство у многим аспектима. Међутим, морамо да бринемо о бројним могућим последицама, посебно о претњи да ове ствари измакну контроли” рекао је Хинтон.

Хинтон је предвидео да ц́е вештачка интелигенција имати “огроман утицај” на цивилизацију и да ће донети побољшања у продуктивности и здравственим услугама, преносе “Вијести”.

“Промене ће бити попут оних које су се десиле током индустријске револуције”, рекао је у разговору с новинарима и званичницима Краљевске шведске академије наука.

“АИ ће надмашити људе на интелектуалним способностима”

Хинтон је рекао да ће вештачка интелигенција, уместо да надмаши људе у физичкој снази, премашити човекове интелектуалне способности.

“Немамо искуства са стварима које су паметније од нас. Биц́е то дивно искуство у многим аспектима. Међутим, морамо да бринемо о бројним могућим посљедицама, посебно о претњи да ове ствари измакну контроли”, рекао је Хинтон.

Нобелов комитет, који је одао почаст науци која стоји иза вештачке интелигенције, такође је поменуо страхове о могућности да технологија измакне контроли.

Мунс је рекла да, иако доноси “огромну корист, њен брзи развој је такође изазвао забринутост у вези са нашом будућношћу. Људи колективно носе одговорност за коришћење ове нове технологије на безбедан и етичан начин, зарад добробити човечанства”.

Хинтон је 1980-их помогао у развијању технологије која је била кључна у обучавању машина како да “уче” исправљањем грешака док оне не нестану.

Његов тим на Универзитету у Торонту касније је одушевио колеге користећи неуронску мрежу да победи на престижном такмичењу у области идентификовања слика, ИмиџНет, 2012. године. Неуронска мрежа коју су они пројектовали била је толико добра у распознавању слика, да је надмашила све претходне алгоритме и директно утицала на доста имитатора у овом пољу, што је довело до успона модерне вештачке интелигенције.

Хинтон је са колегама 2019. године освојио и најпрестижније признање у области информатике, Турингову награду.

“Дуго су људи мислили да је оно што радимо бесмислица”, рекао је Хинтон за Асошиејтид прес 2019.

“Мислили су да смо занесени и да је веома изненађујуц́е да ми, наизглед интелигентни људи, траћимо време на то. Моја порука младим истраживачима је: Немојте се обесхрабрити ако вам сви кажу да је глупо то што радите”, изјавио је нобеловац.

Хопфилд (91), креирао је асоцијативну меморију која може да складишти и реконструише слике и друге типове образаца у подацима, саопштио је Нобелов комитет.

Хинтон је користио Хопфилдову мрежу као основу за нову мрежу која користи другачији метод, “Болцманову машину”, за коју је Комитет рекао да може научити да препозна карактеристичне елементе у задатој врсти података.

Упозорења и забринутост због ОпенАИ

Илија Сутскевер, Хинтонов бивши ученик, након рада у Гуглу, покренуо је, заједно са Семом Алтманом, непрофитабилну компанију ОпенАИ, одговорну за ЦхатГПТ, четбот настао 2022. године.

Хинтон, који је надгледао Сутскевера током његовог рада на докторату, присетио се оригиналне идеје ОпенАИ, која је била фоксирана на сигурност вештачке интелигенције. Временом, фокус се, под вођством Сем Алтмана, пребацио ка приступу вођеним профитом, што је промена која је штетила основна начела организације.

На конференцији за штампу поводом добијене награде, Хинтон је поменуо и свог ученика и то колико је на њега поносан.

“Много сам поносан на свог ученика који је отпустио Сем Алтмана”, пренео је “Бизнис Инсајдер”.

Сем Алтман
Фото: ПРОФИМЕДИА / Јасон Редмонд / АФП / Профимедиа

Алтман и Сутскевер су заједно основали компанију, а онда је, у новембру прошле године, одбор одлучио да покрене отказни поступак јер, како наводе, “Алтман није био искрен и отворен са одбором”. Само неколико дана касније Алтман је враћен на позицију директора,  а Сутскевер је јавно исказао жаљење што је желео да отпусти партнера. Он је, међутим, у мају ове године напустио компанију и покренуо нову под називом “Сигурна Суперинтелигенција” (Сафе Суперинтеллигенце).

Хинтон је у једном интервју у марту рекао како је Сусткевер имао бољи увид у то шта вештачка интелигенција доноси, али и опасности које прете.

“Када смо радили наш пројекат 2012. године, деловало је да дигиталне интелигенције нису ни близу добре као људи. У то време нисмо мислили да ће она моћи да се носи са озбиљним проблемима. Илија је променио своје мишљење пре мене. Испоставило се да је у праву”, изјавио је Хинтон, пренео је “Бизнис Инсајдер”.

Хинтон је одувек био забринут за коришћење вештачке интелигенције у војне сврхе, али и због ризика да нова технологија може заменити људске послове са ботовима и алгоритмима. Премда је мислио да ово неће представљати прави проблем још много деценија, све се променило када је видео напредак вештачке интелигенције и начин на који она може да копира, али и надмаши човека. Он је дао отказ у компанији Гугл како би могао слободније да говори о опасностима технологије чијем стварању је допринео.

“Када сам дао отказ, желео сам да могу да упозорим људе да на дуге стазе, ове технологије могу да нас надмаше и да се отму контроли. Ово није научна фантастика, ово је реалност”, рекао је тада Хинтон, преноси “Торонто Стар”.

Видети и:
https://www.nin.rs/drustvo/vesti/58913/dobitnik-nobelove-nagrade-ai-menja-nacin-zivota-i-stvara-nove-pretnje-po-covecanstvo