Ordstyrer Bjørn Vatne åpner samtalen mellom teknologiforsker Elisabeth Austad Asser og filosof Ole Martin Moen med en rød knapp. Et trykk, og internett forsvinner for alltid.

Vatne spør:

– Hvis du kunne skru av internett i dag, ville du gjort det?

Asser lar knappen være.

– Det er en fantastisk teknologi som vi har fått i verden. Internett er det, og kunstig intelligens også. Det kan brukes, hvis det brukes riktig, på fantastiske måter som kan hjelpe oss til å løse ting vi virkelig trenger, sier Asser.

Moen vil vite premissene før han svarer.

– Er det for alltid? Det kan ikke gjenopprettes? spør Moen.

– For alltid. Hvorfor lar du være? spør Vatne.

– Da ville man blokkere muligheten for all digital kommunikasjon mellom mennesker for all fremtid. Det er mange goder som står og faller på dette. Teknologi er faktisk stort sett veldig, veldig nyttig. Det er det som gjør oss til mennesker, svarer Moen.

Samtalen, arrangert i samarbeid mellom Human-Etisk Forbund Møre og Romsdal og Bjørnsonfestivalen, tar utgangspunkt i Assers bok «Teknologiens makt». Premisset er dermed ikke at teknologien skal bort. Spørsmålet er hva den gjør med oss når den blir en stadig større del av verden vi lever i.

Teknologien som gjorde kunnskap mulig

Vatne prøver en ny tankelek:

– Hvis dere skal velge verdenshistoriens viktigste teknologi?

– Språket, svarer Asser.

Moen vil presisere:

– Jeg ville tenke skriftspråket. Det at vi kan høre fortiden og begynne å akkumulere kunnskap.

Vatne konstaterer at de dermed har et felles utgangspunkt, før han spør:

– Men hvis språk er teknologi: Hva er egentlig teknologi?

Asser går til det greske «techne» og Aristoteles. En håndverker måtte kjenne materialet, formen og metoden, forklarer hun. Men det var ikke tilstrekkelig.

– For virkelig å ha dyden techne måtte du også ha en fjerde innsikt, og det handler om formålet. Hvorfor fremstiller du dette bordet? sier Asser.

Hun trekker linjen til vår egen tid:

– Det er kanskje her det har gått litt skeis for oss i moderniteten. Vi kan veldig mye om de tre første årsakene. Vi vet alt om materiale og metode og hvordan vi fremstiller det. Men vi har kanskje ikke en helt sånn forståelse av hvorfor vi fremstiller teknologien.

Moen vil ikke la etymologien avgjøre hva teknologi betyr i dag.

– Jeg ville kanskje bare oversatt det litt hverdagslig og sagt at teknologi betyr smart håndverk. Etymologien kan være nyttig, men den er sjelden uttømmende, sier Moen.

Han peker rundt seg og konkretiserer:

– Mikrofonen er teknologi. Lyset er teknologi. Klærne er teknologi. Stolene dere sitter på er teknologi. Vi har en såpass bred felles forståelse at det er forsvarlig å gå videre til substansen.

Når verden blir en ressurs

Vatne fører samtalen til Martin Heidegger og essayet «Spørsmålet om teknikken» fra 1953, som Asser bruker i boka.

– Hvorfor er Heidegger relevant når vi skal snakke om KI? spør Vatne.

– Det interessante er at det heter «Spørsmålet om teknikken», ikke spørsmålet om teknologi. Teknikken er mer metoden vi i moderniteten forholder oss til verden på og utvikler teknologiene våre innenfor, svarer Asser.

Vatne utfordrer premisset:

– Men en vanlig innvending mot kritikken av KI er at dette bare er et verktøy. Hvordan kan et verktøy ha makt?

– Ingen teknologi er nøytral i seg selv. Det ligger politiske føringer i teknologier. De er utformet på måter som får oss mennesker til å gjøre ting på visse måter, sier Asser.

Hun bruker hammeren som eksempel:

– Språkmodellen er et verktøy som en hammer, men den er også noe mer. Hammeren forteller ikke snekkeren hvor spikeren skal plasseres eller hvordan plankene skal settes sammen.

Her understreker Asser et skille som lett forsvinner når alt omtales som KI.

– Det er viktig å skille mellom språkmodeller og analytisk KI. Språkmodeller er én type KI-teknologi. Så har du den analytiske KI-en man har holdt på med i bank, forsikring og andre næringer i mange år. Man kan godt være mot språkmodeller og veldig for analytisk KI.

Moen er skeptisk til Heidegger, men ikke til hele problemstillingen.

– Heidegger minner noen ganger litt om en språkmodell hvor det bare kommer ut veldig, veldig mye, og det kan høres tilforlatelig ut, men det er vanskelig å finne substansen, sier Moen.

Men han gir Heidegger noe:

– Han har noen poenger. Teknologier former valgsituasjonene våre. Når vi ser en stol, ser vi noe vi kan sette oss på. Vi ser verden gjennom mulighetene den gir oss. Etter hvert som mennesker former omgivelsene mer og mer, lever vi også i omgivelser som er tilrettelagt for at vi skal gjøre bestemte ting.

Asser mener det er nettopp her Heideggers kritikk blir aktuell:

– Vi forholder oss til den naturlige verden med et syn om at alt skal kunne måles, stykkes opp og utnyttes. Et tre ser vi først og fremst på som en ressurs som skal kunne brukes.

Moen utfordrer henne:

– Men er ikke det også det en bever gjør? Jeg vil tro at en bever ser på et tre som en ressurs.

– Jeg tror den har et mer relasjonelt forhold til sine omgivelser, svarer Asser.

Effektivitet som hellig gral

For Asser ligger problemet ikke bare i at vi bruker verden, men i verdien vi organiserer bruken rundt.

– Hvis bare alt gjøres om til data, tenker man at vi kan få til hva som helst. Men det er ekstremt reduksjonistisk, sier Asser.

Vatne spør hvilken verdi som styrer denne utviklingen.

– Effektivitet. Den instrumentelle verdien effektivitet er fremdeles opphøyd som den hellige gral i samfunnet, svarer Asser.

Hvis noe gjør oss mer effektive, mener hun, blir effektiviteten ofte i seg selv begrunnelsen for at teknologien skal tas i bruk.

– Hvis noen finner opp noe som gjør oss mer effektive, enten det er å bevege oss mer effektivt eller skrive mer effektivt, så er det nok til å rettferdiggjøre at det settes ut i verden.

Og tempoet øker. Der eldre teknologier kunne bruke tiår eller århundrer på å spre seg, kan nye digitale tjenester nå tas i bruk av millioner på uker og måneder.

Moen nærmer seg problemet fra en annen side:

– Vi kan måle at dette er suksesskriteriet, og så gå i retning av det. Problemet i et maskinelt, industrielt system er at du veldig effektivt kan ha kursen mot et mål, men det er ikke egentlig det målet du vil ha.

Vatne spisser argumentet:

– Så vi kan bli svært effektive til å gjøre feil ting?

– Vi kan miste av syne alle de andre tingene som er viktige, men som ikke like lett lar seg operasjonalisere. Verden er mye mer full av usikkerhet og mye mer avhengig av skjønnsmessige avgjørelser, svarer Moen.

Mellom mennesket og verden

Asser mener det også skjer noe med avstanden mellom mennesket og omgivelsene.

– Teknologien kommer inn i vår tilværelse og legger seg mellom oss mennesker og den naturlige verden, sier Asser.

Hun bruker bonden som eksempel. Der bonden tidligere sto med hendene i jorden, sitter han etter mekaniseringen i traktoren.

– Man flytter seg lenger og lenger fra den naturlige verden. Det kan vi også si skjer med teknologien vi utsettes for nå.

Språkmodellen kan, mener Asser, legge seg mellom mennesker på samme måte.

– Vi får chatboter som legger seg mellom oss. Det finnes mennesker som heller liker å være sammen med chatboten sin enn med mennesker fordi det er mer behagelig.

Moen reagerer på skillet mellom det naturlige og det kunstige.

– Naturen er en kjøttkvern. Jeg tror ikke beverens verden er en yoga-retreat, sier Moen.

Vatne spør hvor Moen i stedet vil trekke skillet.

– Landbruk er også teknologi. Det er en type bioteknologi. Forskjellen jeg heller ville trukket fram, er mellom tilrettelagte miljøer og miljøer som ikke er tilrettelagt for oss. Vi lever mer og mer i en verden som er laget og designet av mennesker, eventuelt av noen som har mer makt enn andre, og som dytter oss i en retning, svarer Moen.

Vil de oss vel?

Vatne mener de nå nærmer seg kjernen i samtalen:

– Noen har utviklet noe vi tar i bruk ganske ukritisk. Vet vi om de som har skapt det, vil oss vel?

Han trekker fram hvordan språkmodeller som skriver norsk, samtidig kan være gjennomsyret av amerikanske språklige og kulturelle strukturer.

– Det kan bli en slags språkimperialisme. Er vi naive fordi teknologien gir oss ting så lettvint og effektivt? spør Vatne.

Asser mener svaret må ses i lys av hvor avhengige vi allerede er blitt. Hun viser til Donald Trumps angrep på mangfold og inkludering etter at han igjen kom til makten.

– Det er kanskje den største gaven han har gitt oss, fordi angrepene gjorde noe som lenge hadde vært usynlig, veldig tydelig. Når amerikanske teknologiselskaper og institusjoner samtidig begynte å trekke tilbake arbeid med mangfold og inkludering, ble det lettere å se at teknologien vi har stolt på fra 1990-tallet og fram til nå, ikke er nøytral, sier Asser, og fortsetter:

– Den er utviklet innenfor bestemte amerikanske politiske, økonomiske og kulturelle rammer. Vi har stolt på den fordi den har fungert og gjort oss mer effektive, men Trumps angrep viste hvor sårbare vi blir når infrastrukturen vår i så stor grad er kontrollert av aktører som ikke nødvendigvis deler verdiene våre, sier Asser.

Men denne tilliten kan ikke tas for gitt:

– Vi kan ikke stole på de som står bak denne teknologien lenger. Og de har makt til å kunne gjøre veldig mye. Nå har teknologien begynt å bli en del av infrastrukturen vår, på samme måte som kloakk og strøm.

Moen deler mistanken om selskapenes interesser, men trekker et skille mellom motiv og resultat.

– Vil de oss vel? Sannsynligvis ikke. De vil tjene penger. Men vi kan ikke hoppe fra at de som står bak ikke har gode intensjoner, til at teknologien derfor vil være dårlig, sier Moen.

Det vi liker, er ikke alltid det vi verdsetter

Vatne spør hvorfor vi da tar teknologien så raskt i bruk.

Asser mener svaret blant annet ligger i menneskets forhold til bekvemmelighet.

– Vi liker det som er friksjonsfritt. Vi liker vekst, vi liker det raske. Vi liker det som er enkelt, behagelig og komfortabelt, sier Asser.

Vatne utfordrer henne:

– Men er ikke det nettopp det teknologien skal gjøre?

– Utfordringen er at det vi liker, veldig sjelden er det samme som det vi verdsetter, svarer Asser.

Hun bruker sjokolade som eksempel: Den umiddelbare belønningen kan være sterk, samtidig som den langsiktige verdien ligger et annet sted.

– Det vi liker er ofte kortsiktig og kontekstavhengig. Det vi verdsetter krever mer langsiktighet og krever at vi faktisk står i ubehag en liten stund, fordi vi vet at det gavner oss på sikt.

Det er denne forskjellen Asser mener teknologien kan sette under press.

– Det som kan skje, er at vi setter det vi egentlig verdsetter i spill til fordel for det vi liker.

Et orakel uten gangsyn

Moen har selv undersøkt hvor mye språkmodellene er å stole på. Da han spurte om Augustin av Hippo, produserte modellen en overbevisende, men uriktig sammenheng basert på ordet «Hippo».

– Man er litt naiv hvis man tenker at her har vi funnet et orakel som alltid har rett, sier Moen.

Han har også spurt en språkmodell hva Ole Martin Moen mener om kunstig intelligens.

– Den prøvde å trekke sammen forskjellige kilder. Det hørtes plausibelt ut, men jeg er ikke veldig overbevist om at det var det jeg mente.

Moen mener problemet ikke er at modellene ikke kan formulere seg.

– De mangler gangsyn. De klarer å tukle det til på de utroligste måter og så pakke det inn på en måte som på overflaten ser tilforlatelig ut.

Likevel ser han betydelig nytte, særlig i programmeringslignende oppgaver, katalogisering og behandling av store informasjonsmengder.

Uenigheten om den generelle intelligensen

Mot slutten vender Vatne seg mot løftet som har trukket enorme investeringer til teknologiselskapene: kunstig generell intelligens, AGI.

– Hvorfor hevdes det stadig at den er rett rundt hjørnet? spør Vatne.

– Penger. Det handler om å bygge opp narrativer som gjør at investorer kommer til å kaste penger etter KI, svarer Asser.

Vatne følger opp:

– Men hvorfor mener du at det er tull?

– Fordi det er snakk om språkmodeller, svarer Asser.

For henne er skillet grunnleggende. Språkmodellen arbeider med menneskets språklige uttrykk for verden, ikke med selve erfaringen av å være i den.

– Språk er et menneskeskapt verktøy for kommunikasjon. Det er et annenhåndsuttrykk for det å være menneske. Disse modellene har ingen førstehåndskunnskap om det å være et menneske i verden, sier Asser.

Moen trekker en annen konklusjon.

– Jeg tror ikke generell kunstig intelligens er umulig. Den greier allerede å sette sammen ting raskere enn mennesker på mange områder, og den kommer til å spille en større og større rolle, sier Moen.

Uenigheten står dermed mellom Assers avvisning av forestillingen om at dagens språkmodeller nødvendigvis leder fram til generell intelligens, og Moens syn på en utvikling som ikke kan avskrives. Under denne uenigheten ligger spørsmålet samtalen har kretset rundt hele veien: Hvem bestemmer formålet når teknologien blir infrastruktur, og hva risikerer vi å nedprioritere når effektivitet blir målestokken for det som skal innføres?

Om boken:

‍