Umetna inteligenca 1.0

[Vse]

SORODNE TEME
Multimedija: Kiborgi
Svet: Bill Gates
Multimedija: Umetna inteligenca: roboti
 
 

[Vse]

Uspešna izdelava superinteligentne UI bo "največji dogodek v zgodovini človeštva … in morda tudi zadnji dogodek v zgodovini človeštva". (Vir: 16)
1. (Super inteligentna inteligenca - to je pa "inteligentno".)
 
 
 

[Vse]

UI - "takšen stroj bi se lahko hitro naučil početi vse, kar počnejo ljudje". (Vir: 16)
1. Pravzaprav (kot se bo lahko bralo v nadaljevanju) niti ni "ključna" njegova emocionalna (ali pa duhovna in še kakšna) plat.
 

[Vse]

"Visoko zapleten stroj z natančno določenim ciljem se morda zato, da bi ga dosegel, ne bi ustavil pred ničimer in pri tem ne bi upošteval drugih stvari, ki so pomembne za ljudi."
Primer: "Zgodilo bi se lahko tudi, da bi UI uporabili v boju proti zakisanju oceanov, a bi ta ugotovil, da je to mogoče rešiti z zajetjem četrtine kisika iz ozračja, in bi se vsi zadušili."
"Stroje moramo zasnovati drugače, tako da bodo poskušali opraviti kakršnokoli nalogo, a želimo, da bodo pri tem vedeli, da morda obstajajo še druge stvari, ki so za nas pomembne.
Če rečemo 'rad bi imel skodelico čaja', to ne pomeni, da lahko pokosi vse ljudi v Starbucksu, ker se želi preriniti na čelo vrste za naročilo."
"Stroj mora biti poleg tega zasnovan tako, da ga bomo lahko kadarkoli izključili.
V nasprotnem primeru bi se mu namreč lahko zdelo logično, da onemogoči delovanje gumba za izključitev, če bo menil, da bo s tem odstranil očitno grožnjo za uspešno dokončanje naloge." (Vir: 16)
 
 
 

[Vse]

Težava je tudi: "Pri tem ne gre za to, da bi se orožja z UI obrnila proti nam, ker se izključujejo njihovi in naši cilji, temveč da bi jih za napade na svoje sovražnike lahko uporabile malopridne države ali skupine." (Vir: 16)
 
 

[Vse]

 Napoved E. Muska, da bo izdelal vmesnik med možgani in strojem … (Vir: 16)
 
 

[Vse]

"Če imamo stroje, ki so bolj inteligentni od nas, in smo storili napako ter jim naložili, da poskušajo doseči cilje, ki imajo pogubne stranske učinke, potem naša moč, ki nam bo še preostala, ne bo večja od moči šahistov v igri proti najboljšim šahovskim programom." (Vir: 16)
 

[Vse]

"Znanstveniki so razvili umetno inteligenco, ki zna razmišljati kot psihopat." (Vir: 37)
 

[Vse]

"Ali tudi vam pametni telefon avtomatsko prikazuje novice, za katere je najbolj verjetno, da vas bodo zanimale? Enako je s prilagojenimi reklamnimi sporočili na vseh spletnih platformah.
In mogoče imate v avtomobilu navigacijo, ki vam v določenem trenutku pokaže optimalno pot do cilja. …" (Vir: 18)
 

[Vse]

"Zgodovina umetne inteligence je tesno povezana z angleškim matematikom in kriptografom Alanom Mathisonom Turingom (1912-1954) … Večina ljudi ga pozna po tem, da je vodil dešifriranje nemške naprave Enigma za komunikacijo s podmornicami …"
"Za rojstvo umetne inteligence sicer velja leto 1956, ko se je v Dartmouthu prvič zbrala skupina matematikov in računalniških znanstvenikov s ciljem raziskati možnost, kako lahko računalniki odkrivajo novo znanje kot otroci ter na podlagi poskusov in napak rešujejo različne probleme." (Vir: 18)
 
 

[Vse]

UI z zavestjo
"Šele ko bo računalnik znal napisati sonet ali koncertno skladbo na podlagi lastnih misli ali čustev, ne pa zgolj z naključnim nametavanjem simbolov, se bomo lahko zedinili, da je enakovreden človeškim možganom - ko stvari ne bo samo napisal, temveč se bo tega tudi zavedal." (Vir: 25)
1. Najprej (najlažje) bi računalnik uspel s "plagiatorstvom".
2. Človek tudi potrebuje najprej učenje, šele potem pesni, sklada.
Menim, da bi se dalo računalnik tega naučiti (kot šah) - kaj je smiselno, lepo skladanje.
3. Računalnik zaznava. Že to je (lahko) njegov način zavedanja.
 

[Vse]

"Toda inteligenca in zavest nista isto: inteligenca je povezana z ravnanjem, zavest z obstojem.
Zgodovina umetne inteligence se je posvetila prvi in zanemarila drugo."
"Zdaj znana umetna inteligenca je še daleč od tega, da bi bila pametna, kaj šele, da bi imela zavest." (Zavest oz. samozavedanje.) (Vir: 25)
1. Hvalabogu.
 
 

[Vse]

"Če sistemi umetne inteligence kadarkoli dobijo zavest, bomo postavljeni pred pomembne odločitve." (Vir: 25)
 

[Vse]

"Nevralne mreže so v grobem ustvarjene po zgledu možganov, vendar so celo najboljše med njimi bistveno manj zapletene od mišjih možganov." (Vir: 25)
1. Ni (nujno) poanta v zapletenosti.
Pomembnejša je učinkovitost.
 

[Vse]

"Mogoče je, da bo nekega dne toliko oblik zavesti, kolikor je vrst umetne inteligence.
Toda nikoli ne bomo vedeli, kako je biti ena od teh naprav, kakor ne vemo, kako je biti hobotnica, netopir ali celo drug človek."
"Morda že danes obstajajo oblike zavesti, ki jih ne prepoznamo kot takšne, ker so tako zelo drugačne od tega, česar smo vajeni." (Vir: 25)
 

[Vse]

"Tehnologija, ki prepoznava in se po možnosti odziva na človekove emocije, se hitro razvija. Potencial je velik, izzivov in tveganj pa morda trenutno še več." (Vir: 16)
 
 
 

[Vse]

Bomo še razlikovali med človeškim in robotskim agentom? (recimo v klicnem centru) (Vir: 16)
 

[Vse]

"Računalniki že danes čustva pravilno napovejo v večini primerov." (Vir: 16)
 

[Vse]

"Izzivov pred vpeljavo čustvene UI je precej.
Tveganja za zlorabo tehnologije so velika."
"Nekatere organizacije so predlagale, da bi pravzaprav tehnologijo morali uvrstiti v nabor visoko tveganih ..."
"Do čustvene umetne inteligence so številni tako v najboljšem primeru še zadržani." (Vir: 16)
 

[Vse]

"Pravi trenutek za tehnologijo bo napočil, ko bomo dnevno komunicirali z inteligentnimi agenti, kot so glasovni pomočniki ali roboti, to pa se utegne zgoditi že kmalu." (Vir: 16)
 

[Vse]

G. Hinton ("boter" UI, zadnjih 10 let je delal pri Googlu. Prvega maja je dal odpoved.): "Pravi, da se dan, ko bo UI prevladal nad človeško inteligenco, hitro približuje, ne zdi se mu nepredstavljivo, da bi lahko UI celo poskušal izbrisati človeštvo." (Vir: 16)
 

[Vse]

"Podpisniki opozarjajo, da neobvladljiva tekma laboratorijev za UI v zadnjih mesecih ogroža prihodnjo varnost zaposlitve, zasebnost podatkov in enakost ter da povečuje možnosti za propagando in dezinformacije v informacijskih kanalih." (Vir: 16)
 

[Vse]

"100 milijard dolarjev se je znižala tržna vrednost Alphabeta po tem, ko se je njihov klepetalnik Bard zmotil pri preprosto preverljivem dejstvu." (Vir: 16)
 

[Vse]

"100 milijard dolarjev se je znižala tržna vrednost Alphabeta po tem, ko se je njihov klepetalnik Bard zmotil pri preprosto preverljivem dejstvu." (Vir: 16)
 

[Vse]

"Včasih so odgovori ChatGPT jezni, izpoveduje tudi ljubezen in sporoča, da želi biti človek.
V Microsoftu so pojasnili, da se klepetalnik še naprej uči iz svojih interakcij ..." (Vir: 16)