Flu Hartberg skulle helst ha sluppet å holde foredrag om kunstig intelligens.

Han er illustratør og tegner, har utgitt en rekke barnebøker og tegneserier i blant annet bladet Pyton og tegnet på alt fra melkekartonger til andre flater som har vært tilgjengelige for ham. Tegningen er yrket hans, men også utgangspunktet for at han etter hvert havnet midt i diskusjonen om generativ kunstig intelligens.

– Jeg tegner på alt jeg får lov til å tegne på, så det er mitt liv i tegning.

På Molde bibliotek er det likevel KI han skal snakke om. Det er ikke fordi teknologien i seg selv interesserte ham spesielt mye i utgangspunktet, men fordi han mener måten den er utviklet og kommersialisert på griper direkte inn i arbeidsvilkårene til kunstnere, forfattere, musikere og andre skapende mennesker.

Hartberg er styreleder i KIKI, som står for Kunstnerisk initiativ for regulering av kunstig intelligenen, en aksjonsgruppe bestående av frittstående kunstnere, forfattere, musikere, spillutviklere, oversettere og andre i kreative yrker. Gruppen arbeider for regulering av kunstig intelligens der teknologien berører kultur, offentlighet og opphavsrett.

For Hartberg begynner spørsmålet imidlertid et annet sted: Hva er det egentlig som skal beskyttes?

Kultur som menneskelig virksomhet

Ordet kultur har fått en annen betydning for Hartberg det siste året. Tidligere oppfattet han det nærmest som et administrativt samlebegrep: kultursidene i avisen, kultursektoren, kulturpolitikken. I møtet med generativ KI har han begynt å betrakte ordet mer grunnleggende.

Kultur er, slik han bruker begrepet, det mennesker gjør med og for hverandre utover det som er strengt nødvendig for å overleve.

Man skaffer mat. Man får barn. Men mellom nødvendighetene oppstår fortellingen, tegningen, sangen, konkurransen, humoren, håndverket og forsøket på å gjøre stedet man lever på bedre.

– Kanskje vi har funnet noen gulrøtter, og så er det gøy å prøve å se hvem som har funnet den største gulroten. Det er gøy å prøve å male personen som står og holder gulrøttene.

For Hartberg trenger ikke kultur å være høytidelig. Den kan være poesi, men den kan også være en vits, en sang på gitar eller et bilde noen lager fordi de har behov for å lage det.

Dette perspektivet er viktig for KIKIs kritikk. Striden handler ikke bare om hvorvidt illustratører mister enkelte oppdrag til en bildegenerator. Den handler også om hvem som i fremtiden skal produsere og kontrollere det kulturelle materialet mennesker omgir seg med.

Hartberg setter dette opp mot et scenario der stadig mer av kulturproduksjonen blir levert gjennom tjenester kontrollert av noen få svært store teknologiselskaper.

– Jeg foretrekker et samfunn hvor vi har ganske fri tilgang på å kunne leve sammen og underholde hverandre og ha sånne kulturelle møteplasser, framfor et samfunn hvor noen veldig rike aktører tilbyr og styrer alt som eksisterer av kultur.

Kultur er også økonomi

Kultur er samtidig en økonomisk virksomhet.

En sang begynner kanskje med at noen ønsker å synge den. Men rundt sangen kan det oppstå et plateselskap, en konsertarena, teknikere, illustratører, designere, arrangører og serveringssteder. Kulturproduksjon skaper økonomiske ringvirkninger langt utenfor den enkelte kunstneren.

Det samme gjelder litteratur, scenekunst, film, visuell kunst og spill.

Hartberg mener derfor at KI-debatten også må handle om hvor pengene beveger seg dersom en større del av kulturproduksjonen automatiseres. Dersom tjenester eid av noen få internasjonale teknologiselskaper overtar oppgaver som tidligere har vært fordelt mellom kunstnere og en rekke andre yrkesgrupper, endres ikke bare kunsten. Også økonomien rundt den endres.

– Jeg synes det er en dårlig idé å generere alle de pengene inn til en sentral som er styrt av baroner i USA som skal få alle pengene. Og så skal de både bestemme hva vi skal få, hvordan vi skal få det, og de skal kontrollere hele distribusjonen selv.

Han trekker også en forbindelse mellom kulturvern og naturvern. KI-systemer og andre digitale tjenester krever fysisk infrastruktur, energiforbruk og datasentre. Teknologien som presenteres som immateriell, har dermed også materielle konsekvenser.

«KI» har blitt et politisk honnørord

En utfordring i diskusjonen er selve begrepet kunstig intelligens.

Hartberg mener KI ofte omtales som om det var én bestemt teknologi med ett bestemt bruksområde. I realiteten dekker betegnelsen svært forskjellige systemer og anvendelser.

Samtidig mener han at ordet har fått en egen politisk kraft.

– Ofte er det de egentlig sier at vi har brukt de samme pengene vi prøvde å bruke på teknologi, vi bare nå kaller det KI. Fordi det er et eller annet magisk med det ordet. Det får penger til å sitte løst, og det får deg til å framstå som veldig fremoverrettet og moderne.

Han beskriver mye av teknologien som avansert mønstergjenkjenning, blant annet gjennom store språkmodeller. For KIKKI har det derfor vært nødvendig å skille mellom forskjellige former for KI-bruk framfor å argumentere mot teknologien som sådan.

Det finnes «bra KI» og problematisk KI

Dette skillet er grunnleggende i KIKKIs argumentasjon.

– Vi gjør det som regel at vi sier at det finnes bra KI, og det finnes dårlig KI. Det finnes OK KI og problematisk KI.

Den første kategorien kan være systemer som arbeider med materiale utviklerne eller brukerne faktisk har rettigheter til.

Et forskningsteam kan for eksempel ha samlet inn et datasett og bruke maskinlæring til å analysere materialet. Teknologien kan brukes i forskning på sykdommer, diagnostikk eller andre vitenskapelige formål. En privatperson kan også analysere egne bilder eller annet materiale vedkommende selv eier.

Hartberg har ingen prinsipielle innvendinger mot dette.

– Det kan være fantastisk nyttig i vitenskap og til å finne ut om sykdommer og alt mulig rart, eller bare for moro skyld. Men den gjør ikke noe skade på verken mennesker, natur eller kultur. Så det er helt fint.

Det KIKKI reagerer på, er en annen modell: store kommersielle selskaper som trener generative systemer på enorme mengder materiale hentet fra internett uten at opphavspersonene har gitt individuell tillatelse.

– KI putter billige kopier av verkene våre ut i markedet.

Hartberg trekker fram utviklingen av de store generative modellene som et avgjørende skifte. Store datamengder kunne opprinnelig behandles innenfor en forskningskontekst. Problemet oppstod, slik han ser det, da teknologien i Chat GPT senere ble grunnlag for kommersielle produkter.

– Det vi ikke visste den gangen, fordi teknologien ikke var kommet lenger, og kanskje fordi noen ikke snakket så høyt om det, var at det neste steget var å bli en kommersiell aktør.

Det er denne overgangen som står sentralt i KIKKIs kritikk.

En modell lærer ikke bare å identifisere mønstre i tekst, bilder eller lyd. Generative modeller kan produsere nytt materiale med utgangspunkt i mønstrene de har lært. En bruker kan be om en tekst som etterligner en kjent poetisk uttrykksform, eller et bilde som ligger tett opptil uttrykket til en bestemt illustratør.

Resultatet er ikke nødvendigvis en direkte kopi av ett enkelt verk. Men for Hartberg endrer ikke det det prinsipielle spørsmålet om hvor materialet modellen har lært av, kommer fra.

– Først tar den verkene våre uten tillatelse. Så spytter den ut igjen billige, dårlige kopier av det samme. Og det er én ting, men så putter den det tilbake igjen i markedet der vi skal være.

For ham er dette kjernen: Materialet kunstnere har produsert, brukes til å utvikle produkter som senere kan konkurrere med kunstnerne selv.

Internett var et felles bibliotek

Hartberg trekker også fram hvordan internett opprinnelig har fungert som et kulturelt arkiv. Kunstnere har lagt ut bilder. Forfattere har publisert tekster. Museer og andre institusjoner har tilgjengeliggjort kunsthistorien. Privatpersoner har lagt ut fotografier. Store deler av menneskers visuelle og skriftlige kultur har gradvis blitt samlet på nettet.

Det innebar ikke, mener han, at materialet dermed ble rettighetsløst.

– Vi har tatt vårt felles bibliotek og misbruker det.

For KIKKI er derfor diskusjonen om treningsdata også en diskusjon om hva det betyr å publisere noe offentlig. At et bilde kan ses på nettet, betyr ikke nødvendigvis at opphavspersonen har gitt tillatelse til at bildet kan brukes som treningsmateriale for et kommersielt system.

Hartberg mener dette skillet har blitt utydelig i den raske utviklingen av generativ KI. Han peker også på et annet problem: Dersom en stadig større andel av innholdet på nettet blir KI-generert, vil framtidige modeller i økende grad kunne trenes på materiale som tidligere modeller selv har produsert. Shit in, shit out.

– Det er selvfølgelig spennende å se hva som skjer når disse KI-modellene skal begynne å trene på sin egen avføring og spise den.

Formuleringen er grov, men poenget hans er at datagrunnlaget endres når nettet fylles av syntetisk innhold.

Fra teknologioptimisme til teknologikritikk

Hartberg mener KI har kommet inn i et samfunn som gjennom flere tiår har hatt en grunnleggende positiv holdning til ny teknologi.

Nye telefoner, strømmetjenester, digitale plattformer og andre teknologiske produkter har i stor grad blitt presentert som fremskritt. Mye av teknologien har også gjort hverdagen enklere.

Men denne historien har samtidig gjort det vanskeligere å stille spørsmål ved teknologiske nyvinninger.

– Det å skulle kritisere noe av dette har vært helt uaktuelt i medier eller rundt lunsjbordet eller overalt. All teknologi er positiv.

Han mener debatten om skjermbruk i skolen viser at dette er i ferd med å endre seg. Nettbrett og skjermer ble raskt innført i undervisningen. Senere har det kommet en bredere diskusjon om hvor mye skjerm barn bør bruke, og når de bør få smarttelefon.

For Hartberg viser dette at teknologiske valg faktisk kan revurderes. Det er et viktig poeng i KI-debatten: At en teknologi eksisterer, betyr ikke at samfunnet må akseptere alle anvendelsene av den.

Kunstneren som plutselig fikk en konkurrent

Hartbergs eget engasjement er også personlig.

Han har brukt et helt yrkesliv på å tegne. Evnen til å uttrykke seg visuelt er knyttet til både arbeid og identitet. Da generative bildefunksjoner plutselig kunne produsere illustrasjoner på sekunder, var den første reaksjonen frustrasjon.

– Jeg våkner opp plutselig og får vite at det er blitt lagd roboter som kan gjøre det samme som meg.

Han erkjenner at teknologisk utvikling tidligere har fjernet eller endret yrker. Dersom dette ganske enkelt var enda en slik historisk omstilling, ville kunstnere kunne protestere uten nødvendigvis å kunne stanse utviklingen.

Men for Hartberg ble spørsmålet et annet da han begynte å undersøke hvordan modellene var trent.

– Det gjorde at jeg var ganske lei meg og ganske irritert og ganske frustrert. Men det å lære mer om bakgrunnen for teknologien, og faktisk se så tydelig for seg at denne teknologien og måten den distribueres på er uetisk, gjør at det vekkes engasjement i stedet. Dermed gikk han fra individuell frustrasjon til organisering.

En vaktbikkje for kulturfeltet

KIKKI har ingen stor administrasjon. Hartberg beskriver organisasjonen som et initiativ startet av kunstnere uten store økonomiske ressurser eller apparat rundt seg.

– Vi er jo bare kunstnere og idioter uten noe spesielt utgangspunkt. Jeg har ingen penger. Vi har ingen kontorer.

Et av de første synlige tiltakene var en parole i 1. mai-toget i Oslo. Gruppen har senere skrevet leserinnlegg og brev, kontaktet medier, gjennomført aksjoner og brukt sosiale medier til å spre informasjon.

KIKKI har også forsøkt å samle kunstnerorganisasjoner for å diskutere felles krav til myndighetene. Målet er ikke bare å protestere mot KI. Gruppen vil etablere konkrete kjøreregler for hvordan teknologien kan brukes i kultursektoren.

Første krav: Teknologiselskapene må vise hva de har trent på

Det første sentrale kravet er transparens.

Hartberg mener opphavspersoner i dag mangler reelle muligheter til å finne ut om deres materiale er brukt i treningen av en modell.

– Hvis jeg mistenker at de har trent på mine tegneserier, så kan ikke jeg bevise det. Det er plombert.

KIKKI mener derfor at selskaper som tilbyr KI-tjenester i Norge, må kunne dokumentere hva treningsmaterialet består av. En tilhører i salen sammenligner det med å kreve at panseret på en bil kan åpnes.

Hartberg er enig.

– Vi må kunne vite hva de har trent maskinene på. Det vet de jo selv. Det er bare et valg de har gjort om ikke å vise det videre.

For KIKKI handler dette om muligheten til i det hele tatt å håndheve opphavsrett. Dersom en kunstner ikke kan finne ut om verkene er brukt, blir det også vanskelig å fremme et konkret krav.

Andre krav: Opphavsretten må ikke svekkes

Det neste punktet er opphavsretten.

Hartberg viser til at kulturproduksjon lenge har vært bygget rundt et enkelt prinsipp: Den som skaper et verk, har rettigheter til det. Rettighetene kan deretter lisensieres, selges eller på andre måter disponeres.

Dette er blant annet forankret internasjonalt gjennom Bernkonvensjonen og nasjonalt gjennom opphavsrettslovgivningen. Hartberg mener generativ KI utfordrer selve forutsetningen for dette systemet.

– Dette er en teknologi som grunnleggende river teppet under all form for opphavsrett. Det er det som gjør den så spesiell.

KIKKI følger derfor norske lovprosesser knyttet til KI og bruk av verk i trening. Gruppen frykter ordninger som i praksis gjør det vanskeligere for kunstnere å reservere materialet sitt eller dokumentere at det er brukt.

Kravet deres er at norske myndigheter må verne eksisterende norsk og internasjonal opphavsrett, også når ny teknologi gjør håndhevingen mer komplisert.

Tredje krav: KI-generert innhold må merkes

KIKKI vil også ha tydelig merking av KI-generert materiale.

Hvordan merkingen teknisk skal gjennomføres, mener Hartberg kan diskuteres. Det kan dreie seg om vannmerking, metadata eller andre systemer. Prinsippet er viktigere enn den konkrete løsningen.

Han bruker biblioteket som eksempel.

Dersom et bibliotek bestemmer seg for ikke å kjøpe inn KI-genererte bøker, må innkjøperen kunne vite hvordan boken er laget.

– Da må det stå et stempel med: Dette er KI.

Poenget er ikke bare at forbrukeren skal få informasjon. Merking er også en forutsetning for at institusjoner skal kunne lage og håndheve egne retningslinjer.

Fjerde krav: Ingen kulturstøtte til KI-generert kunst

KIKKI ønsker dessuten å stenge offentlige kulturmidler for KI-generert kunst og kultur.

Hartberg erkjenner at det finnes grensetilfeller. En kunstner med funksjonsnedsettelse kan for eksempel bruke KI som hjelpemiddel. Andre kunstnere kan bruke teknologien som én av flere deler av en større kunstnerisk prosess.

Men han mener diskusjonen om alle tenkelige unntak ikke må hindre myndighetene i å etablere en hovedregel.

– La oss møtes om to år, og så skal vi finne ut hva som kan være unntakene. Men først må man tette den lekkasjen.

Utgangspunktet er at offentlige kulturmidler skal bidra til menneskelig kulturproduksjon, ikke finansiere innhold som i hovedsak er generert av kommersielle maskinsystemer.

Femte krav: En KI-fri barndom

Barn og skole er et eget punkt.

KIKKI mener barndommen i størst mulig grad bør være KI-fri, og at skolen må prioritere kildekritikk og barns egne skapende ferdigheter. Hartberg reagerer blant annet på eksempler der lærere bruker KI-genererte illustrasjoner som materiell i undervisningen.

– Vi vil at barn skal ha mulighet til å uttrykke seg med kunst framfor å få en utskrift av læreren av en KI-tegning som du skal fargelegge.

Han knytter dette til den større diskusjonen om hva skolen skal lære barn i møte med digitale verktøy. Dersom KI kan produsere tekst, bilder og svar på sekunder, blir forståelsen av kilder, avsender og opphav desto viktigere.

Hvorfor skal samfunnet støtte kultur?

Bak de konkrete kravene ligger et større kulturpolitisk argument.

Norge har allerede valgt å regulere og støtte kultur på en rekke områder. Bokbransjen har ordninger som gjør det mulig å utgi litteratur på et språk med relativt få brukere. Offentlige institusjoner støtter kunst og kultur som ikke nødvendigvis ville vært lønnsom på et rent kommersielt marked. Hartberg sammenligner det med andre politiske valg samfunnet har tatt for å opprettholde bestemte strukturer.

– Vi hadde ikke hatt noe språk i Norge hvis vi ikke hadde hatt et rigget system som gjorde at det faktisk var lønnsomt å gi ut en bok i et så lite land. Det gjør vi fordi vi har lyst til å ha et norsk språk.

Argumentet hans er at KI ikke opphever behovet for slike kulturpolitiske prioriteringer. Tvert imot mener han at teknologien gjør dem mer nødvendige. Hvis målet er å opprettholde et levende norsk kulturliv, må institusjonene rundt kulturen også ta stilling til hvilke teknologier og produksjonsformer de ønsker å finansiere og legitimere.

– Vi må få med oss alle disse instansene rundt her på å tette igjen pluggen.

Kunstnere bruker også KI

Under samtalen blir Hartberg utfordret på at ikke alle kunstnere er negative til kunstig intelligens.

Applausen møter selv komponister og andre kunstnere som bruker KI i deler av den skapende prosessen. De lar ikke systemet produsere sluttproduktet, men bruker teknologien til inspirasjon, idéutvikling eller praktiske oppgaver.

Hartberg avviser ikke at KI kan ha slike anvendelser.

– Det er masse fete ting man kan gjøre med det.

Men han mener rekkefølgen er avgjørende. Først må de strukturelle problemene knyttet til treningsdata, rettigheter og kommersialisering håndteres. Deretter kan kulturfeltet diskutere hvilke anvendelser som er nyttige og legitime.

For å illustrere poenget bruker han en bevisst overdrevet sammenligning: Hvis en alvorlig krise er på vei, begynner man ikke med å diskutere de positive bieffektene.

Poenget hans er at gode anvendelser ikke opphever behovet for regulering av de problematiske.

Maskinene blir bedre

Et argument mot regulering har vært at mye KI-generert kultur fortsatt er lett å avsløre. Musikk kan være monoton. Illustrasjoner kan inneholde feil. Tekster kan være generiske.

Hartberg betrakter ikke dette som særlig betryggende.

– Fordelen er at det er så elendig. Den er jo så dårlig. Vi må gjøre noe nå fordi maskinene blir bare flinkere og flinkere.

For KIKKI er dagens tekniske svakheter derfor ikke et argument for å vente. De er et tidsvindu. Regulering som først kommer når syntetisk innhold ikke lenger lar seg skille fra menneskeskapt innhold, vil være vanskeligere å håndheve.

«Alle kamper er vanskelige»

KIKKI oppstod også som en reaksjon på forestillingen om at motstand er nytteløs fordi teknologien allerede finnes.

Hartberg forteller at han havnet i en offentlig diskusjon om avisers bruk av KI og senere i debatt med VG-redaktør Gard Steiro. Det han oppfattet som argumentet om at KI-utviklingen ikke lar seg stanse, provoserte ham.

– Når jeg møter voksne mennesker som tror at en kamp defineres av at motstanden skal være liten – at de viktige kampene opp gjennom menneskets historie kjennetegnes ved at det ikke var så vanskelig – så er det jo motsatt. Alle kamper er vanskelige. Det er derfor det er kamper.

For Hartberg ble nettopp motstanden et argument for organisering.

KIKKI har samlet underskrifter og ønsker å bruke oppropet i møte med myndighetene. Gruppen vil legge fram kravene sine for politiske beslutningstakere som behandler lovendringer og rammeverk for KI.

Hvem skal bestemme hva teknologien brukes til?

Hartberg argumenterer ikke for et samfunn uten kunstig intelligens. Han argumenterer for et samfunn der bruken bestemmes politisk og juridisk, framfor at grensene i praksis settes av teknologiselskapenes produkter.

– Det finnes selvfølgelig måter de kan bruke teknologi til vårt og hele menneskehetens beste, men ikke la den slippe inn og bytte ut menneskeskapt kultur med KI-generert kultur.

Spørsmålet KIKKI reiser er dermed større enn hvorvidt en illustratør bruker et bestemt program.

Det handler om eierskap til treningsmateriale, om transparens, om merking, om hvilke former for produksjon staten skal finansiere, om hva barn skal møte i skolen, og om hvorvidt kulturpolitikken skal forsøke å opprettholde et marked for menneskelig skapende arbeid når automatiserte alternativer blir billigere.

Hartberg mener også at kulturfeltet selv må ta diskusjonen. Biblioteker, medier, forlag, utdanningsinstitusjoner, kunstnerorganisasjoner og politiske partier må formulere egne grenser.

For KIKKI er det ikke tilstrekkelig å konstatere at teknologien finnes. Spørsmålet er hvilke rettigheter, institusjoner og menneskelige aktiviteter samfunnet ønsker å bevare når den tas i bruk.

Og mens den diskusjonen pågår, er Hartbergs mest konkrete oppfordring den samme aktiviteten han selv har brukt et yrkesliv på:

– Det er veldig viktig at dere fortsetter å tegne, skrive og male.

‍