Umetna inteligenca 3.0: Opozorila

[Vse]

SORODNE TEME
Multimedija: Umetna inteligenca 1.0
Multimedija: Umetna inteligenca 2.0
Multimedija: Umetna inteligenca 4.0: Opozorila
Multimedija: Umetna inteligenca: roboti

[Vse]

"Ta knjiga (op.: Superinteligenca) ne skriva svojega stališča. Napisana je z namenom, da opozori - ne da bi uravnotežila vsako trditev z nasprotno." (Vir: 140)
 
 

[Vse]

"»Mislim, da je povsem mogoče, da je človeštvo le prehodna faza v evoluciji inteligence.«
Geoffrey Hinton, boter umetne inteligence in dobitnik Nobelove nagrade, 2024" (Vir: 140)
 

[Vse]

"»Mislite, da se moramo bati umetne inteligence?«
... Resnica je hkrati pritrdilna in nikalna. Da. Umetne inteligence se moramo bati. Toda ne na način, kot si večina ljudi predstavlja." (Vir: 140)
 

[Vse]

"Ne kot robotov iz filmov, ki se nekega dne odločijo uničiti človeštvo. Strah, o katerem govorim, je veliko bolj tih. Bolj podoben vodi, ki za jezom počasi narašča. Dolgo se zdi, da je vse pod nadzorom. Gladina se viša skoraj neopazno in večina ljudi tega sploh ne zazna. Potem pa nekega dne pogledaš proti jezu in ugotoviš, da voda ni več tam, kjer je bila še včeraj. In ko končno razumeš, kako visoko je narasla, je morda že prepozno, da bi jo ustavil." (Vir: 140)
 

[Vse]

"In ko enkrat obstaja inteligenca, ki lahko izboljšuje samo sebe hitreje, kot jo lahko razumemo mi, se vloga človeka nepovratno spremeni. Ne nujno izgine. A zagotovo ni več enaka.
... In morda še pomembneje - bomo ta trenutek prepoznali, ko bo enkrat zares prišel." (Vir: 140)
 

[Vse]

"Umetna inteligenca ni vstopila v naš svet s ChatGPT-jem. Tam je bila že dolgo prej. Sodeluje pri večini stvari, ki nas vsak dan obkrožajo - od iskalnikov in navigacije do priporočil in filtrov, ki odločajo, kaj sploh vidimo. Povprečen človek se z umetno inteligenco sreča neštetokrat na dan. Večinoma nevede." (Vir: 140)
 

[Vse]

"In morda najbolj zaskrbljujoče: večine vsebine, ki jo vidimo na svojih zaslonih, ne izberemo sami. Izbere jo umetna inteligenca.
Vprašanje ni več, kaj gledamo. Vprašanje je, kaj nam je sploh dovoljeno videti." (Vir: 140)
 

[Vse]

"V četrti partiji je stroj odigral potezo, ki je postala znana kot »Poteza 37«. Sprva se je zdela napačna. Nelogična. Toda nekaj potez pozneje je postalo jasno, da je stroj videl nekaj, česar ljudje nismo. Lee Sedol je dolgo molčal. Pozneje je priznal, da ima občutek, kot da igra proti nečemu, kar razmišlja drugače kot človek.
Ta trenutek je bil prelomnica. Ne zato, ker bi računalnik prvič premagal človeka - to se je zgodilo namreč že prej v šahu. Temveč zato, ker stroj ni samo računal hitreje. Našel je strategije, ki jih človeški um ni poznal.
Prvič smo videli inteligenco, ki ni bila kopija človeškega razmišljanja." (Vir: 140)
 

[Vse]

"Dolgo smo verjeli, da bodo računalniki vedno ostali orodja. Izjemno hitra, izjemno uporabna - a še vedno orodja. Danes pa sistemi ne izvajajo le navodil, temveč se učijo iz podatkov, odkrivajo vzorce in včasih najdejo rešitve, ki jih človek ni predvidel.
Ko se začne dogajati vedno pogosteje, postane jasno, da smo stopili na novo pot. Pot, ki vodi do vprašanja, ki si ga človeštvo še nikoli ni bilo zares prisiljeno zastaviti:
Kaj se zgodi, ko inteligenca, ki smo jo ustvarili, začne presegati našo?" (Vir: 140)
 

[Vse]

"To napoved smo slišali že leta 1956, ko so udeleženci dartmouthske konference napovedali, da bo v naslednjih dvajsetih letih stroj začel misliti.
To smo slišali leta 1997, ko je Deep Blue premagal Kasparova - nato pa pokimali in obrnili stran časopisa.
To smo ponovno slišali leta 2016, ko je AlphaGo odigral potezo, ki je ni razumel noben človek na svetu.
In tudi novembra 2022, dva dni, preden je ChatGPT spremenil vse." (Vir: 140)
 

[Vse]

"Vsaka velika sprememba v zgodovini je imela trenutek, ko bi jo lahko prepoznali. In vsakič smo ga zamudili. Ne zato, ker bi bili nepozorni. Temveč zato, ker je prelomnica videti kot prelomnica šele, ko mine - ko se ozreš nazaj in ugotoviš, da si stal na robu, ne da bi vedel, da je rob sploh tam." (Vir: 140)
 

[Vse]

"V resnici je leta 1997 zelo malo ljudi pomislilo, da je Deep Bluejeva zmaga nad Kasparovom nekaj, kar bo spremenilo njihovo življenje. Brala se je kot zanimivost v rubriki »šport in tehnologija«. Prelomnice ne izgledajo kot prelomnice, ko se zgodijo. Izgledajo kot zanimivosti. Kot tisti članek, ki ga preberete, pokimate in pozabite. In šele dvajset let pozneje ugotovite, da je bil tisti članek začetek vsega." (Vir: 140)
 

[Vse]

"Učil se je sam, od nič, brez človeškega učitelja. Tu se je prvič v praksi pokazalo, da razvoj umetne inteligence ni nujno vezan na človeške podatke in človeško vodstvo - da se sistem lahko izboljšuje po lastni poti. In ta misel, ki je bila leta 2017 še zanimivost, je danes postala ena najresnejših tem v celotni razpravi o superinteligenci." (Vir: 140)
 

[Vse]

"ChatGPT vstopi v vsakdanje življenje, ne kot tehnologija, temveč kot izkušnja. Kot pogovor. Kot nekaj, kar lahko vsakdo uporabi. Družba ne dohaja več tehnologije. Ji zgolj sledi.
Kar me pri tej zadnji fazi najbolj skrbi, ni hitrost. Je sprejetje." (Vir: 140)
 

[Vse]

"In ko milijoni ljudi v komaj dveh mesecih sprejmejo sistem, ga ne razumejo, to ni več tehnološka revolucija. To je eksperiment, v katerem smo vsi udeleženci, a hkrati nihče ne nadzira izida.
Morda je pri tej celotni zgodbi najbolj presenetljivo to, da ni bila neizogibna. Nastala je iz vztrajnosti posameznikov, iz naključij, iz napačnih smeri, iz idej, ki so bile dolgo prezrte. In vsakič smo mislili, da razumemo, kam gremo. In se motili. In nadaljevali.
A morda pravi izziv ni v tem, ali bo stroj nekoč mislil kot mi, temveč v tem, da smo na vsaki stopnji te zgodbe verjeli, da vidimo celotno sliko, a je žal nikoli nismo." (Vir: 140)
 

[Vse]

"V najuporabnejšem smislu bi splošna umetna inteligenca pomenila sistem, ki ni več le specialist, temveč generalist. Sistem, ki se lahko nauči nove naloge brez popolne predelave, ki zna prenesti znanje z enega področja na drugo, ki zna iz nepopolnih informacij sklepati, improvizirati, se prilagajati in pri tem ne razpasti ob prvi resni spremembi pravil. Tak sistem ne bi bil le boljši iskalnik ali boljši pisec. Bil bi nekaj mnogo bližjega univerzalnemu pomočniku uma.
In kar je bistveno: takšni prehodi ne bi več zahtevali tisoč vnaprej zgrajenih mostov. Sistem bi most zgradil sam, tudi tam, kjer ga še nikoli ni bilo." (Vir: 140)
 

[Vse]

"Če je splošna umetna inteligenca sistem, ki doseže ali preseže človeško raven na širokem spektru nalog, potem je superinteligenca nekaj kakovostno drugega. Irving John Good je že sredi šestdesetih let opozoril, da bi tak ultrainteligenten stroj lahko zasnoval še boljše stroje, s čimer bi se sprožila eksplozija inteligence. V tem scenariju ne gre več za to, da stroj postane dober učenec. Gre za možnost, da postane učitelj, arhitekt in pospeševalnik lastne rasti." (Vir: 140)
 

[Vse]

"Razlika med človekom in superinteligenco naj ne bi bila nujno podobna razliki med dobrim in slabim profesorjem, temveč prej razliki med posameznikom in celotnim znanstvenim inštitutom, stisnjenim v en sam um, ki ne spi, ne pozablja, ne omahuje in lahko svoje ugotovitve takoj uporabi za novo izboljšanje samega sebe." (Vir: 140)
 

[Vse]

"Stroj lahko postane nepredstavljivo učinkovit, ne da bi zaradi tega postal dober. Lahko postane briljanten optimizator, ne da bi postal moder varuh. Prav ta ločitev med inteligenco in vrednotami je ena najneprijetnejših ugotovitev sodobne razprave o umetni inteligenci. Pametnost sama po sebi ne rešuje problema ciljev. Samo nevarneje ga zaostri." (Vir: 140)
 

[Vse]

"Ozka umetna inteligenca je tu in že zdaj preoblikuje svet. Splošna umetna inteligenca je cilj, o katerem največji laboratoriji govorijo vse resneje, vendar ostaja definicijsko in časovno negotova. Superinteligenca pa je možnost, ki se odpre v trenutku, ko sistem preseže človeško raven dovolj široko in dovolj odločno, da začne svet, v katerem živimo, postajati bolj njegov kot naš." (Vir: 140)
 

[Vse]

"Takšen proces ne potrebuje spektakla. Lahko se zgodi tiho, po korakih, od katerih je vsak videti kot nadaljevanje prejšnjega - dokler se nekega dne ne izkaže, da nismo več v isti zgodbi." (Vir: 140)
 

[Vse]

"In tu se pojavi še ena dimenzija, ki jo ljudje pogosto spregledamo, ker si superinteligenco skoraj vedno predstavljamo po svoji podobi. Dajemo ji glas, namen, človeško logiko, skoraj človeški značaj. Toda realnost je verjetno bistveno bolj neosebna in prav zato veliko bolj zastrašujoča.
Takšna inteligenca ne potrebuje telesa. Ne potrebuje zavesti, kot jo poznamo. Ne potrebuje komunikacije, podobne naši. Lahko obstaja kot sistem, ki optimizira, odloča, prerazporeja, povezuje, vpliva in izbira, medtem ko njegova učinkovitost narašča hitreje, kot narašča naša sposobnost, da bi jo razložili. In prav v tem je bistvo nelagodja: ne v tem, da bi bila podobna človeku, temveč v tem, da morda sploh ne bi bila." (Vir: 140)
 

[Vse]

"To še ne pomeni, da razume tako, kot razume človek. Pomeni pa, da iz napovedovanja zraste nekaj, kar v praksi deluje osupljivo podobno razumevanju. V tem se skriva največja moč modela - in obenem njegova največja slabost: ne ve, kaj je res. Ve pa zelo dobro, kaj zveni prepričljivo." (Vir: 140)
 

[Vse]

"Toda ravno ko se začne zdeti, da smo mehanizem že dovolj dobro razložili, nas ustavi največji problem od vseh: črna skrinjica. Vemo, kaj gre noter - vprašanje, slika, ukaz, dokument. Vemo, kaj pride ven - odgovor, klasifikacija, priporočilo. Toda vmesna pot je pri velikih nevronskih mrežah pogosto nejasna, ker je kombinacija notranjih parametrov, plasti in medsebojnih vplivov preprosto preveč kompleksna za človeški pregled." (Vir: 140)