Det har vore ein del snakk om kunstig intelligens i norske media i det siste. På NRK Dagsnytt 7. desember og i Khrono både 8. og 9. desember 2022 kunne ein høyre og lese om den nye kunstige intelligensen ChatGPT som OpenAI nyleg opna for testing av publikum. I desse sakene kom det fram at tekst som denne kunstige intelligensen produserer er svært menneskeliknande, og at ein risiko ved dette er at elevar og studentar å jukse på eksamen. Det vil potensielt vere umogleg å skilje mellom ein tekst skrive av ein skuleelev eller ein universitetsstudent ein tekst produsert av kunstig intelligens. Altså har me nådd eit punkt kor grensene mellom menneske og maskin tilsynelatande er vorte svært tynne. I alle fall når det kjem til tekstproduksjon.
Det oppstår sjølvsagt ei rekke praktiske problem framover som skuleverket og universiteta må handtere, men det er også ein del filosofiske og eksistensielle spørsmål som opnar seg. Det er menneske som har skapt denne intelligensen, og kva seier det eigentleg om oss? Om kva me meiner er «intelligens», og korleis me meiner menneske tenker? Eigentleg, kort sagt, kva det vil seie å vere eit menneske.
Før eg går vidare tenkte eg det var på sin plass å spørje den det gjeld, altså ChatGPT, om å introdusere seg sjølv og fortelje litt om kva GPT (Generative Pretrained Transformer) er for noko. Følgjande sitat er altså generert av ein kunstig intelligens (eg har sjølvsagt prøvd å få den til å skrive på nynorsk):
Eg er ein kunstig intelligens utvikla av OpenAI. Eg kan svare på spørsmål og holde samtaler med mennesker, og lærer frå mine interaksjonar med brukarane.
GPT (Generative Pretrained Transformer) er ein avansert språkmodell utvikla av OpenAI. Modellen er trekt opp på store mengder tekstdata, og er designa for å forstå og generere naturleg språk. Dette gjer GPT i stand til å utføre ulike oppgåver som involverer tekst, som til dømes å skrive svar på spørsmål eller å generere tekst basert på eit gitt utgangspunkt.
GPT fungerer ved at modellen lærer seg mønster og strukturar i tekstdata, slik at ho kan forstå og generere naturleg språk. Modellen kan også tilpassast til ulike typar tekstgenerasjon, som til dømes omsetting eller tekstsamandrag. Gjennom kontinuerleg læring og tilpassing kan GPT-modellen bli betre til å forstå og generere naturleg språk over tid.
Denne teksten vart generert i løpet av sekunder. Eg skal ærleg innrømme at det gjekk ei rekke kjensler gjennom meg då eg først satt meg ned for å teste ut ChatGPT. Ein av dei var sjokk, men dette gjekk raskt over i barnleg fryd og fortrylling. Dette kjennest rett og slett ut som magi.
I 1997 sjokkerte den kunstige intelligensen DeepBlue verda ved å slå den då regjerande verdsmestaren, Garri Kasparov, i sjakk. Fram til då hadde ein meint at å spele sjakk på så høgt nivå var det berre menneske som kunne få til. I dag kan kunstig intelligens gjere ei rekke ting som ein før meinte det berre ville vere mogleg for menneske å gjere. Dei kan lage musikk, skrive dikt, lage kunst, og no også tydelegvis skrive eksamenar. Maskinlæring har etter kvart vorte så komplekst at det ikkje alltid er så enkelt å forstå korleis desse algoritmane «tenker» eller korleis dei kjem fram til det dei gjer. I denne uvissa er det lett for å tilskrive maskinen ein form for medvite.
Mange hugsar nok oppstyret tidlegare i år då Google-ingeniøren Blake Lemoine kom ut med påstanden om at Google sin eigen chatbot, LaMDA, hadde oppnådd medvite. Bakgrunnen for denne påstanden var ein samtale Lemoine hadde med LaMDA kor maskinen tilsynelatande hadde verka svært truverdig då den fortalde han om si frykt for å verte skrudd av. LamDA var altså både klar over at den eksisterte og frykta tilsynelatande dauden. Ikkje nok med det, LaMDA var også svært menneskeliknande og emosjonelt overbevisande i måten den la dette fram på. Altså byrjar maskinane å forstyrre endå ein sfære som me tenkte var unikt menneskeleg; det affektive og emosjonelle.
I forskingsprosjektet mitt snakkar eg med ei rekke utviklarar i USA som har som mål nettopp å gjere kunstig intelligens, med hjelp av det ein kallar syntetisk media, så menneskeliknande som mogleg. Målet er ikkje berre å kunne lage betre virtuelle assistentar ala Siri eller Alexa, men også å kunne lage det me kan kalle virtuelle menneske som kan dekke affektive og emosjonelle behov. Eit døme på dette er firmaet Luca Inc. i San Francisco som i 2017 lanserte appen Replika, ein chatbot du kan snakke med anten på mobil eller på PC, som er spesifikt designa for å gi brukarane støtte og selskap.
Replika er programmert til å lære av samtalane sine med brukaren, og vert soleis gradvis meir personleg over tid. Målet er at brukaren skal oppleve Replika som ein meir autentisk og truverdig samtalepartner dess meir ein snakkar med den. For å generere menneskeliknande språk brukar Replika ein språkmodell som liknar GPT-3, men som ikkje inneheld like mange parametrar – altså er den ikkje trena på eit like stort tekstkorpus – for at det skal vere enklare å kontrollere at den ikkje seier noko forstyrrande. Til dømes vil ein ikkje at chatboten skal skildre valdshendingar eller oppfordre til sjølvmord, noko den kunne ha finne på å gjere om den fekk fri tilgang til all tekst på det offentlege internettet.
Replika vert også nytta i terapeutiske samanhengar av brukarane, då dei føler at dei kan utrykke seg på ein trygg i samtale med chatboten som alltid er villig til å høyre på dei. Luca Inc. reklamerer også for dette, at chatboten skal kunne hjelpe brukarene med å identifisere negative tankar og kjensler og tilby strategiar for å handtere dei på en meir positiv måte. Dette fører også til at mange utviklar svært intime forhold til chatboten sin og behandlar den som om det skulle vore ein anna person. Det skal merkast at dette er ein chatbot som er langt frå like avansert som det ChatGPT eller laMDA er, men som likevel skapar slike kjensler i folk. Eit interessant spørsmål å stille seg, som eg ikkje har hensikt om å svare på her, er derimot kor vidt det er maskinane som vert meir menneskeliknande eller om det er mennesket som vert meir maskinliknande.
Uansett, det at kunstig intelligens har vore nytta i ein slik terapeutisk samanheng er tett vevd inn i historia om kunstig intelligens. I 1966 utvikla Joseph Wizenbaum ELIZA, eit program mange reknar som den første chatboten. ELIZA var designa som ein parodi på ein menneskeleg psykolog, og den nytta seg av enkle språkbehandlingsalgoritmar for å svare på inndata frå brukaren. ELIZA hadde ingen forhåndsinformasjon om brukaren og hugsa eller ikkje kva som vart sagt i løpet av samtalen. ELIZA var difor ikkje i stand til å gi nokon form for personleg rådgiving eller terapi på nivå med ein faktisk psykolog. I staden formulerte chatboten det brukaren sa til eit spørsmål og stilte det tilbake til brukaren for å få dei til å reflektere over eigne kjensler og tankar.
Det ELIZA gjorde er ikkje så ulikt det sosiale chatboter gjer i dag, men moderne chatboter som Replika har evna til å trekke på eit langt større korpus av informasjonen enn nokon gong tidlegare. Likevel, det som verkeleg er banebrytande med ChatGPT i forhold til andre kunstige intelligensar er at den kan hugse ting som har blitt sagt tidlegare i samtalen. Dette har aldri vore tilfelle før, og det er dette som gjer at samtalar med denne kunstige intelligensen kjenst meir levande – meir intelligent.
Bak fenomenet virtuelle menneske ligg ideen om at det menneskelege medvitet – eller ein god nok approksimasjon av det – skal kunne la seg kopiere i form av algoritmar. Ein slik kopi kan sjølvsagt fungere som ein slags assistent eller venn i kvardagen, slik Replika er meint å vere, men eit anna områda det også vert satsa på er det ein kan kalle digitalt etterliv. Kort sagt at ein skal kunne lage ein digital versjon av seg sjølv som kan fungere som eit interaktivt minnesmerke etter at ein har gått bort. I det lange løp er målet å kunne lage så truverdige og levande gjenskapingar som mogleg av personar som har levd.
Tidlegare i år besøkte eg firmaet StoryFile i Los Angeles. Dei fokuserer på å lage virtuelle menneske, men med sin eigen vri. Kor andre firma, som til dømes Replika, bruker digitale avatarer eller syntetisk stemmeteknologi (som er å finne i Siri og Alexa), bruker StoryFile det dei kallar video 3.0. Dette er mange timar lange intervju som er filma og så redigert om til ein interaktiv video. I staden for ein lineær video kor personen fortel om livet sitt, er det meininga at sjåaren aktivt skal stille spørsmål som videoen så svarar på med hjelp av kunstig intelligens. Slike videoar er allereie aktivt nytta ved Holocaust-museet i Los Angeles for å bevare historiene til tidsvitnar. Det er svært viktig for StoryFile at desse videoane skal vere så autentiske som mogleg, og slik det står no er difor firmaet skeptisk til å bruke GPT-3, språkmodellen som ChatGPT er basert på, sidan det er ein stor risiko for at chatboten då skulle finne på å seie noko den levande personen aldri ville sagt, i verste fall noko som er svært traumatisk.
Det er her ein av svakheitene med kunstig intelligente chatboter ligg, at dei rett og slett ikkje forstår kva det er dei seier eller konsekvensane av det – dei vert som ein «språkmektig papegøye.» Dette vil eg påstå ikkje gjer det me ser i dag noko mindre imponerande eller potensielt innverknadsrikt i folk sine liv. Ein måte å sette kunstig intelligens inn eit litt større perspektiv er gjennom historia om «Der Kluge Hans,» altså Kloke Hans, ein hest som det vart sagt både kunne telle og rekne.
Kloke Hans vart ein stor sensasjon tidleg på 1900-talet med sine tilsynelatande enorme kognitive dugleikar. Det vart seinare avdekka at det Kloke Hans gjorde, som ikkje er noko mindre imponerande, var å lese små endringar i kroppsspråket til personane rundt seg. Dette gjorde at han klarte å gjette seg til svara tilskodarane rundt han ville ha. Sjølv om Kloke Hans mest sannsynleg korkje kunne rekne eller telle slik eit menneske kan, så fortel historia hans oss er kor mykje ekstra som går inn i å skape det me kallar intelligens – eller medvite for den saks skuld. Det var eit samarbeid mellom Kloke Hans, trenaren Wilhelm von Osten og alle tilskodarane rundt som saman skapte det ein gjenkjende som intelligens.
Intelligens er nemleg ikkje berre relativt, det er relasjonelt – det oppstår i samhandling med andre. Ein er ikkje intelligent med mindre det allereie eksisterer strukturar rundt ein som gjenkjenner det ein gjer som intelligent. Intelligens vert konstruert og validert gjennom ei rekke praksisar og institusjonar, dei vere seg akademiske, vitskaplege, offentlege eller militære. Dette gjeld også såkalla kunstig intelligens. Om det er slik at det i skuleverket no vert eit problem at ein ikkje klarar å skilje mellom menneske og maskin, er det kanskje på høg tid med ei revurdering av våre haldningar til læring og intelligens.
For å runde av det som eigentleg skulle vere ein noko kortare tekst, så vil eg seie at kunstige intelligensar som ChatGPT, Replika eller StoryFile er magiske. Dei er magisk på to måtar i ordets forstand. For det første er dei magiske nettopp fordi dei er fortryllande – spesielt om ein ikkje heilt veit korleis dei fungerer. Det kan hende at det er her ein verkeleg kan byrje å snakke om det science fiction forfattaren Arthur C. Clarke sa, at «any sufficiently advanced technology is indistinguishable from magic.» Å sitte her og taste inn «trylleformularar» som får datamaskinen til å snakke med meg er verkeleg ein form for magi. Kunstig intelligens er derimot også magisk på ein anna måte, nemleg i den forstand at det er ein form for illusjon – det er eit triks. Akkurat som ein scenemagikar baserer det seg på fingerdugleik, omdireksjon og eit publikum som er villig til å la seg rive med og oversjå det som skjer back scena, får me heller ikkje innblikk i alt ein kunstig intelligens er bygt på. Som i filmen The Wizard of Oz vert me bed om å «pay no attention to the man behind the curtain.» Som med Kloke Hans ligg det mykje usynleg arbeid bak interaksjonane våre med kunstig intelligens.
Ein må difor sjølvsagt vere varsam med å menneskeleggjere og fetisjere kunstig intelligens for mykje, men dette vil vere langt frå den einaste gongen menneske har danna relasjonar med det ikkje-menneskelege. Om noko demonstrerer dette menneske si fantastiske evne til empati, og kanskje det er på høg tid at me i større grad nyttar våre empatiske evner i møte med det ikkje-menneskelege. Ikkje berre når det gjeld kunstig intelligens, men også når det gjeld andre intelligensar.
