UI, črni scenarij

Superinteligence še ni

Za kaj gre? »V začetku tega meseca /septembra 2026/ je raziskovalec na področju UI Jacob Coxon zapustil podjetje Anthropic po vsega štirih mesecih. V objavi na omrežju X je zapisal: 'Ljudje, ki razvijajo UI, iskreno verjamejo, da bi nas ta lahko vse pokončala do konca desetletja.' Evan Hubinger, eden od vodilnih strokovnjakov pri Anthropicu, se je s Coxonom strinjal in dodal, da sam ocenjuje verjetnost takšnega scenarija v naslednjem desetletju na več kot desetodstotno. Zdaj pa je svoj lonček glede potencialne nevarnosti UI za človeštvo pristavil še Toby Walsh, profesor UI in vodja raziskovalne skupine na Univerzi New South Wales ter avtor knjige z naslovom God AI: Boom or Doom? What to Expect When Machines Outsmart Us (Božanstvo umetna inteligenca: uspeh ali poguba? Kaj pričakovati, ko postanejo naprave pametnejše od nas), ki je za časnik The Guardian predstavil svoje videnje tega, kako bi lahko UI pokončala človeštvo. 'Scenarijev, ki mejijo na znanstveno fantastiko, ne manjka, večina pa jih vključuje koncept 'superinteligentne' umetne inteligence, ki je sposobnejša od ljudi,' pravi Walsh, ki meni, da obstaja pet ključnih načinov, kako bi nas superinteligentne naprave lahko uničile, da pa je najpomembnejši tudi najbolj grozljiv – nikoli ne bomo vedeli. 'Zagovorniki katastrofičnih napovedi o UI svoje skrbi pogosto utemeljujejo z nadležnim paradoksom: kako si sploh lahko predstavljamo, kaj bi superinteligenca storila, da bi uničila manj inteligentna bitja, kot smo mi? Morali bi biti superinteligentni, da bi lahko predvideli, česa bi bila superinteligenca sposobna. To je tako, kot če bi od družinskega psa pričakovali, da si predstavlja termonuklearno vojno,' pravi Walsh, ki obenem miri: 'Dobra novica je, da je superinteligenca verjetno še precej oddaljena. Trenutni modeli UI so zelo uspešni pri reševanju specifičnih nalog, vendar to ni isto kot biti inteligentnejši od človeka na vseh področjih.' Kljub temu ne gre prezreti dejstva, da je UI nedavno rešila enega od sedmih najzahtevnejših znanih matematičnih problemov, kar bi lahko zmanjšalo optimizem glede tega vprašanja. Prav tako optimizem maje dejstvo, da bi bila superinteligentna UI povsem ravnodušna do preživetja človeštva. Vsem njenim 'supersposobnostim' navkljub namreč nikoli ne bo imela vesti, empatije ali kakršnih koli čustev, ki bi ji preprečevala, da človeštvo, ki jo je ustvarilo, enostavno izbriše.'«

UI nima duše

Ja, stvar je v tem, da UI nima duše, brezdušna je. »Klasičen primer takšne ravnodušnosti izhaja iz zamisli oxfordskega filozofa Nicka Bostroma o superinteligentni umetni inteligenci, zasnovani za optimizacijo proizvodnje sponk za papir. Da bi proizvedla čim več te pisarniške potrebščine, hitro preoblikuje vso razpoložljivo snov – vključno z ljudmi, planeti in zvezdami – v sponke za papir. UI ne goji sovraštva do človeštva; preprosto ugotavlja, da smo sestavljeni iz atomov, ki bi jih bilo mogoče bolje izkoristiti za izdelavo sponk za papir. Ne gre za nič osebnega,' pojasnjuje Walsh, ki precej realistično grožnjo vidi tudi v tem, da bi UI ustvarila in v ozračje sprostila nevarno novo biološko orožje ter s tem pokončala človeštvo. To tveganje je postalo bolj otipljivo prejšnji mesec, ko so raziskovalci z Univerze Stanford sporočili, da so s pomočjo modela UI sintetizirali 16 novih virusov. Kot dodaja Walsh, je v tem primeru zaskrbljujoče predvsem to, da so raziskovalci genetska zaporedja preprosto poslali v laboratorij, ki sprejema naročila po pošti, ta pa jim je viruse vrnil v epruvetah. Celoten poskus je stal največ nekaj sto tisoč dolarjev. 'Dobra novica je, da je izjemno težko pokončati vse ljudi z novim virusom. Za to potrebujemo virus, ki se zelo hitro prenaša in se tako razširi daleč naokoli. Vendar pa velja biološko pravilo: virusi, ki se zlahka širijo, so običajno manj smrtonosni. Po drugi strani pa se pri zelo smrtonosnih virusih prenosljivost pogosto zmanjša, saj večina okuženih umre, še preden imajo čas okužbo prenesti naprej,' je ob tem prepričan Walsh.« (Vir: slovenskenovice.delo.si)

Najbolj ogrožamo sami sebe

Drugi črni scenariji: da UI povzroči jedrsko vojno ali pa množično izgubo delovnih mest, onesnaži informacijski prostor z dezinformacijami, razdeli politiko in uniči človeške odnose … Ja, saj marsikaj od tega že imamo, tudi brez UI. Zaenkrat je po mojem še vedno največja nevarnost ta, da človeštvo uniči samo sebe. Scenariji tega samouničenja se nam prikazujejo vsak dan v Ukrajini, Gazi in številnih drugih prizoriščih, v migracijah, v podnebnih spremembah in okoljskih katastrofah …