Forum VSE

"Model nima kontekstualnega razumevanja, zato le ustvari odgovor z največjo verjetnostjo relevantnosti.
Odzivi so nefiltrirani in neregulirani, zato so lahko tudi žaljivi in neprimerni." (Vir: 16)
 

ChatGPT tudi ne more vedno razlikovati dejstev od izmišljotin, včasih se preprosto moti, celo 'halucinira', kot so to poimenovali v industriji." (Vir: 16)
 

"Trenutni cilj teh jezikovnih modelov ni sporočanje resnice, ampak sestavljanje slovnično pravilnih povedi in smiselna souporaba besed ..." (Vir: 16)
 

"Dobrega programerja pogovorni roboti še dolgo ne bodo mogli zamenjati, pravi ljubljanski strokovnjak. Še vedno ne zna sestaviti nečesa, kar lahko sestavi inovator." (Vir: 16)
 

Kaj pa etika?
"Tako kot pri prejšnjih prelomnih digitalnih spremembah se bodo spopadale z morebitnimi pravnimi, družbenimi in etičnimi posledicami takrat, ko jih ne bo več mogoče preprosto zanikati." (Vir: 16)
 

"Bi se superinteligentna UI, če bi ji rekli, da mora narediti kolikor mogoče veliko sponk za papir, lahko odločila, da pomori človeštvo, ker bi s tem imela več prostora in materiala za izdelovanje sponk za papir?" (Vir: 16)
 

"Tabor zagovornikov etike se veliko bolj osredotoča na kratkoročnejše posledice, češ ni pomembno, ali bomo umrli zaradi robotov ali ne, temveč to, kako naj bi z njimi sploh živeli." (Vir: 16)
 

Resnično me skrbi, da bi živeli v razčlovečenem svetu, v katerem odločitve, ki vplivajo na nas, sprejemajo avtomatizirani sistemi. (Vir: 16)
 

Tisto, po čemer v resnici hrepenimo, je neobičajno, neodkrito xxx, ki nas preseneča in nas razveseljuje.
"To pa pri algoritmu dobite redko." (Vir: 16)
 

Raziskovalna sodelavka inštituta za etiko UI; zdaj se posveča etično spolzkemu terenu ubijalskih brezpilotnih letalnikov in sistemov avtonomnega orožja: "Nekako se zdi nedostojanstveno, da te preprosto odstrani algoritem." (Vir: 16)
 

"Vede, kot je filozofija, so tisočletja oblikovale predstave o tem, kaj pomeni biti človek.
Pogosto so ugotovile, da je tisto, po čemer se razlikujemo, naša sposobnost, da znamo pogledati z razdalje in oceniti, ki pomeni živeti dobro življenje; naša zmožnost razumskega vpogleda in globokega, ustvarjalnega razmišljanja.
Toda če stroji, ki jih izdelujemo, tudi lahko počnejo vse to, kaj je potem tako zelo edinstvenega na človeštvu? Morda nič. Bi zato stroji morali imeti enake pravice in biti enako zaščiteni kot ljudje? Morda." (Vir: 16)
 

I. Bratko: "Razvili smo nekaj, kar je videti kot visoka oblika inteligence, pri čemer pa je seveda malce neprijetno in strašljivo, da ne vemo, kako in zakaj ta stvar tako dobro dela." (Vir: 17)
 

"Precej zastrašujoče se zdi, da pred potencialno škodljivimi, po nekaterih napovedih celo apokaliptičnimi posledicami novih tehnologij svarijo tudi tisti, ki jih lastnoročno razvijajo in jih potemtakem razumejo veliko bolje od laikov, katerih dojemanje umetne inteligence je navadno dokaj abstraktno in pogosto zamegljeno z znanstvenofantastičnimi predstavami o zlobnih terminatorjih, ki bodo zasužnjili svoje stvarnike." (Vir: 17)
 

"Ker polovica vprašanih namreč verjame v vsaj desetodstotno možnost, da bo človeštvo izumrlo zaradi nesposobnosti obvladovanja umetne inteligence." (Vir: 17)
 

"Sam Altman, prvi mož razvoja umetne inteligence, opozarja, da je lahko ta tehnologija, ko se znajde v rokah 'avtoritarnih režimov', med drugim nevarno orožje za širjenje dezinformacij, za izvajanje kibernetskih napadov in rušenje temeljev demokracije." (Vir: 17)
 

"Musk vztrajno opozarja, da nas bo 'umetna inteligenca zadela kot asteroid', da ima 'potencial za uničenje civilizacije' in podobno." (Vir: 17)
 

"Marko Robnik Šikonja, profesor na Fakulteti za računalništvo in informatiko Univerze v Ljubljani, ki se pri raziskovalnem delu ukvarja z umetno inteligenco in strojnim učenjem, ... pravi, da smo se znašli v 'poplavi popolnoma znanstvenofantastičnih obljub o neverjetnih zmožnostih teh velikih modelov, resničnost pa še zdaleč ni tam'.
Pri tem opozarja, da so za to večinoma odgovorna vodilna podjetja, ki sodelujejo pri razvoju umetne inteligence, saj 'želijo s pretiravanjem navdušiti javnost in vlagatelje'." (Vir: 17)
 

J. Miklavčič, filozof: "Meni tudi, da se 'čedalje več ljudi zaveda, da so sistemi UI predvsem zelo zmogljivi računalniški programi in ne avtonomni roboti z zavestjo, kot jih pogosto predstavlja Hollywood'." (Vir: 17)
 

"Pravi, da je besedna zveza v splošnem uporabljena kot trženjski izraz, ki prispeva k mistifikaciji in nerazumevanju tega, kaj ti algoritmi sploh počnejo.
Prepričan je, da obljublja nekaj - inteligenco - 'kar je zelo površinska karakterizacija algoritmov, ki so uporabljeni v praksi'." (Vir: 17)
1. Zakaj nas tisti svetovno poznani (vsem - naše osebje pač to ne more biti) "strašijo": ali vedo, poznajo nekaj več?
2. Verjetno v (slovensko) javnost ne bodo prišle vse najnovejše novice, informacije; še za splošno svetovno javnost ne.
"Resne" zadeve se zamolči - želijo biti namreč "par korakov" pred drugimi oz. vsemi nami.
 

J. Miklavčič: "Naglost razvoja umetne inteligence je tolikšna, da ji etična in pravna refleksija ne uspe slediti dovolj hitro, da bi vse morebitne nevarne posledice rabe teh sistemov lahko še pravočasno predvideli." (Vir: 17)
 

"Računalniški programi, ki bodo besedne ukaze spreminjali v prepričljive videoposnetke, so tako rekoč za vogalom.
Če slika pove več kot tisoč slik, videoposnetek pove več kot tisoč besed; generativna umetna inteligenca bo zabrisala mejo med resničnostjo in fikcijo in nas popeljala na novo raven v razvoju lažnih novic.
Taka orodja imajo resnično velik potencial, da v svet, že tako preplavljen z dezinformacijami, razširijo še več laži, ki bodo čedalje bolj prepričljive." (Vir: 17)
 
 

"Gre za to, da so sistemi umetne inteligence tako noro kompleksni, da človek, tudi največji strokovnjak, 'enostavno ne more dobro razumeti, kako delujejo', pravi in nadaljuje: 'Vpogleda v to, zakaj je sistem v nekem trenutku sprejel prav to odločitev in ne kake druge, nimajo niti programerji, ki so ga oblikovali.
Težava je namreč v tem, da se sistemi učijo naloge opravljati sami.'
Opozarja, da tudi 'programerji podjetja Open-AI ne morejo pojasniti, zakaj je ChatGPT na našo željo napisal prav tisto pesem, ki jo je.
To ima lahko veliko resnih etičnih posledic.'" (Vir: 17)
 

Vseprisotnost umetne inteligence:
- "Zaposlovalci jih uporabljajo za avtomatizirano pregledovanje življenjepisov kandidatov na razpisu in vrednotenju teh."
- "Na Kitajskem uporabljajo sisteme tudi za družbeno točkovanje ljudi, od česar so potem odvisne posameznikove ugodnosti ali umanjkanje teh."
- "Ko vozimo po avtocesti in nam samodejno zaračunajo cestnino ali kazen za prehitro vožnjo. Pa tudi, 'ko nam Netflix ponudi personalizirana priporočila za filme in TV-serije."
- "Skratka, umetna inteligenca je prodrla že v vse pore našega življenja. Ona se odloči, kateri video bo na TikToku uspešno pritegnil našo pozornost.
- "Ona izriše optimalno pot, ko se za navigacijo obrnemo na program Google Maps. Ona samodejno filtrira neželena sporočila v našem e-nabiralniku."
- "Ja, prvi resni stik, ki ga je človeštvo vzpostavilo z umetno inteligenco, je bil vzpostavljen na družabnih omrežjih.
Tu je bila na delu primitivna različica umetne inteligence, pa že to se ni dobro končalo." (Vir: 17)
 

F. Dobranić: "Osebno ne maram izraza 'umetna inteligenca': ko in če bo umetna inteligenca dejansko postala inteligenca, ne bo več umetna, saj bo pač inteligenca. Ali je inteligenca ali pa ni.
Meni je ljubši izraz 'strojna inteligenca', saj jasneje namigne, da gre za delo, ki ga opravlja stroj." (Vir: 17)
1. Avtor (nekako) gre v nasprotje sam s sabo, pri tem pojasnjevanju. Zato naj za besedo strojna doda nek drug izraz.
2. Menim, da (preveč) mešamo vsebino (še bolj težavno oz. grozotno, katastrofalno pa bo glede "etike") t. i. umetne inteligence.
Morda (kar želim nakazati), eno je npr. strojna, drugo pa "osebna", ali pa "človeška".
 

"Že zdaj spletni giganti vedo o nas več, kot si želimo, umetna inteligenca pa nas bo še podrobneje naštudirala in o nas morda vedela več, kot vemo sami.
Da ne govorimo o potencialnih zlorabah s strani kriminalcev ali represivnih režimov." (Vir: 18)