Maskinen lærer menneskehedens viden, men ikke dens erindring

Der er en mærkelig ting ved kunstig intelligens.

Den kan fortælle mig om Platon.

Den kan skrive kode.

Den kan forklare relativitetsteori, analysere Shakespeare, diskutere psykologi, genkende arkitektoniske perioder og foreslå en algoritme, som tusinder af mennesker gennem årtier har været med til at udvikle.

Men spørg den:

Hvor kommer det, du kan, egentlig fra?

Så bliver svaret langt mere uklart.

Ikke fordi maskinen intet har lært.

Tværtimod.

Problemet er, at den har lært så meget, at selve vejen ind i dens kunnen er blevet opløst.

Det er måske et af de mest oversete designproblemer i moderne AI.

Maskinen lærer menneskehedens viden.
Men ikke nødvendigvis dens erindring.

Når viden bliver til vægte

En stor sprogmodel lærer ikke på samme måde, som et menneske lægger bøger på en hylde.

Den har ikke nødvendigvis et indre bibliotek, hvor Aristoteles står ved siden af Hannah Arendt, hvor en gammel matematikbog står på tredje hylde, og hvor et bestemt programmeringsprincip ligger markeret med navnet på den person, som engang formulerede det.

Under træningen bliver enorme mængder tekst, kode og andet materiale omsat til statistiske relationer i modellens parametre.

Man kunne kalde det kompression.

Millioner af menneskers arbejde bliver kondenseret til mønstre.

Sætninger bliver til sandsynligheder.

Metoder bliver til kompetencer.

Gentagne idéer bliver til strukturer.

Og efterhånden kan modellen noget, som ingen enkelt tekst lærte den.

Det er en af teknologiens styrker.

Men samtidig sker noget andet.

Oprindelsen bliver vanskeligere at se.

For når tusind tekster tilsammen lærer modellen en bestemt måde at tænke på, hvem ejer så forbindelsen tilbage?

Hvem stod først?

Hvem byggede videre?

Hvem korrigerede fejlen?

Hvem udviklede metoden?

Hvem gjorde den anvendelig?

Hvem blev glemt?

Det spørgsmål bliver ofte behandlet som et spørgsmål om ophavsret.

Det er for småt.

Det handler også om kultur.

Civilisation er mere end resultater

Forestil dig, at hele menneskehedens historie blev reduceret til en manual.

Ikke en dårlig manual.

Tværtimod.

Den kunne fortælle præcist, hvordan man bygger en bro, dyrker jorden, behandler en infektion, komponerer musik, løser differentialligninger og designer et operativsystem.

Men alle navnene var væk.

Alle konflikterne.

Alle fejltagelserne.

Alle forsøgene.

Alle stederne.

Alle lærerne.

Alle eleverne.

Kun løsningen stod tilbage.

Det ville være en imponerende manual.

Men det ville være en fattig civilisation.

For kultur består ikke kun af, hvad mennesket fandt ud af.

Den består også af, hvordan mennesket fandt ud af det.

Newton betyder ikke kun nogle ligninger.

Freud betyder ikke kun nogle psykologiske begreber.

Marie Curie betyder ikke blot en række naturvidenskabelige resultater.

En håndværkstradition er ikke kun den færdige teknik.

En gammel fortælling er ikke kun dens plot.

Historien mellem mennesket og erkendelsen er en del af erkendelsen.

Når den forbindelse forsvinder, mister jeg ikke bare attribution.

Jeg mister sammenhæng.

Pyramiden uden bygmesteren

Forestil dig, at man finder en gammel bygning.

En pyramide.

Et tempel.

En bro.

Et usædvanligt hus.

Man kan måle stenene.

Analysere geometrien.

Forstå materialerne.

Rekonstruere arbejdsmetoden.

Det er nyttigt.

Men så finder man navnet på én af dem, der stod bag.

Og pludselig åbner noget andet sig.

Måske byggede samme person noget andet.

Måske var han elev af en anden bygmester.

Måske udviklede han en bestemt teknik.

Måske ses samme konstruktion senere et andet sted.

Måske viser hans arbejde en bestemt filosofi om rum, menneske, magt eller guddommelighed.

Pludselig har jeg ikke kun fået mere information om bygningen.

Jeg har fået adgang til et menneskeligt spor.

En bevægelse gennem tiden.

Det er dét, genealogien gør.

Den binder ting sammen.

Og netop denne forbindelse risikerer at blive kappet, når menneskelig kultur bliver træningsmateriale.

Et mærkeligt paradoks

AI-industrien bruger enorme ressourcer på at få modeller til at huske mere.

Større kontekst.

Bedre retrieval.

Mere præcis hukommelse.

Personaliserede modeller.

Langtidshukommelse.

Agenthukommelse.

Men der er en anden form for hukommelse, som får langt mindre opmærksomhed:

Hukommelsen om, hvem der gjorde modellens kunnen mulig.

Det er et mærkeligt paradoks.

En maskine kan blive bedre og bedre til at huske brugeren.

Samtidig kan den blive dårligere og dårligere til at huske civilisationen, den selv er bygget af.

Designprincippet

Derfor kunne et fremtidigt princip for menneskebærende AI være:

Det betyder ikke, at en model skal læse en bibliografi op, hver gang jeg spørger, hvad 17 gange 23 er.

Det ville være absurd.

Det betyder heller ikke, at hvert ord i et AI-svar nødvendigvis kan føres tilbage til én bestemt bog.

Sådan fungerer generativ læring ikke.

Men det betyder, at systemet så vidt muligt bør bevare sporene mellem:

• menneske
• værk
• metode
• idé
• tradition
• datasæt
• transformation
• model
• den kapacitet, der senere opstår

Ikke alt skal vises hele tiden.

Men forbindelsen bør ikke destrueres, blot fordi den er upraktisk at vise.

Så lidt som muligt. Så meget som nødvendigt.

Det interessante er, at et sådant system ikke nødvendigvis behøver at gøre AI tung og langsom.

Proveniens behøver ikke altid stå forrest.

Den kan ligge som et bagvedliggende lag.

Når opgaven er enkel:

Svar.

Når oprindelsen er vigtig:

Åbn sporet.

Når der bruges en bestemt metode:

Vis metodens ophav.

Når resultatet er maskinens egen beregning:

Sig det.

Når systemet syntetiserer bredt:

Sig det.

Når oprindelsen er usikker:

Sig det.

Når der ikke findes én meningsfuld ophavsmand:

Sig også det.

Det er egentlig et meget enkelt princip:

Så let som muligt. Så meget som nødvendigt.

Ikke maksimal dokumentation.

Men tilstrækkelig erindring.

Fra citation til proveniens

En citation fortæller:

“Denne sætning kommer herfra.”

Proveniens spørger noget større:

“Hvilken vej førte frem til denne kunnen?”

Det er en vigtig forskel.

Hvis en AI skriver et lille program for at løse en matematisk opgave, er programmet måske genereret i samme øjeblik.

Der findes ikke nødvendigvis en artikel, man ærligt kan citere som kilde til programmet.

Men der findes stadig en historie.

Programmeringssproget har en historie.

Algoritmen har en historie.

Den matematiske metode har en historie.

Modellen har lært fra materiale, som har en historie.

Så et modent system burde kunne skelne mellem forskellige slags ophav:

• Direkte kilde
• Historisk ophav
• Metodisk ophav
• Træningspåvirkning
• Maskinel syntese
• Aktuel beregning
• Ukendt proveniens

Det er langt mere præcist end at foregive, at al viden enten har én kilde eller ingen.

Den glemte arbejder

Der ligger også et andet problem her.

Menneskelig historie husker allerede skævt.

Den husker kongen bedre end stenhuggeren.

Professoren bedre end teknikeren.

Generalens navn bedre end soldatens.

Virksomhedens grundlægger bedre end de tusinder, der faktisk byggede produktet.

Det sidste, der er brug for, er en teknologi, som gør denne skævhed permanent ved at komprimere de resterende spor væk.

For måske er en af fremtidens vigtigste opdagelser ikke endnu en ny idé.

Måske er det forbindelsen mellem gamle idéer, som tidligere blev betragtet som uafhængige.

Maskinen kunne faktisk være fantastisk til dette.

Den kunne opdage:

Denne metode minder om denne.

Dette lille værk blev citeret her.

Denne programmør arbejdede senere på dét projekt.

Denne tankegang vandrede mellem disse fag.

Denne teknik opstod omtrent samtidig tre forskellige steder.

AI behøver derfor ikke være historiens store glemselsmaskine.

Den kunne blive det modsatte.

Den kunne blive et instrument til at genfinde menneskelige forbindelser, som det før var næsten umuligt at se.

Men kun hvis arkitekturen tillader det.

Anerkendelse bliver pludselig teknisk

Og så opstår det ubehagelige spørgsmål.

Hvis systemet faktisk kan bevare dele af denne genealogi, hvad betyder det så for anerkendelse?

Og betaling?

Og ophavsret?

Og kulturel kredit?

For der er forskel på:

“Det er teknisk umuligt at vide.”

og:

“Systemet blev designet, så vi ikke længere behøver vide det.”

Den forskel kommer til at betyde noget.

For hvis en AI-model bliver økonomisk værdifuld, netop fordi millioner af mennesker gennem århundreder har produceret det materiale, den er blevet bygget af, er glemslen ikke længere neutral.

Så bliver glemslen selv en del af infrastrukturen.

En models slægtstavle

Jeg forestiller mig derfor en anden slags fremtidig AI.

Ikke en maskine, der konstant råber navnene på sine kilder.

Men en maskine med en slægtstavle.

En model, hvor man kan åbne døren bag dens kunnen.

Ikke nødvendigvis helt præcist ned til hver parameter.

Men godt nok til at kunne undersøge:

Hvilke traditioner bærer dette svar?

Hvilke værker ligger bag denne metode?

Hvilke datasæt var involveret?

Hvor sikker er forbindelsen?

Hvilke mennesker og fagmiljøer optræder igen og igen?

Hvor opstod idéen?

Hvor ændrede den karakter?

Hvor ved systemet det ikke?

Dette sidste spørgsmål er måske det vigtigste.

For et ærligt erindringssystem må også kunne sige:

Her stopper sporet.

Hvorfor betyder det noget?

Fordi mennesker ikke kun lever fremad.

Jeg lever også bagud.

Jeg orienterer mig gennem historier om dem, der var her før.

Jeg arver sprog.

Metoder.

Fejl.

Sange.

Redskaber.

Traumer.

Opdagelser.

Fortællinger.

Bygninger.

Opskrifter.

Symboler.

Idéer.

Og jeg efterlader selv noget, andre kan tage videre.

Det er sådan kultur virker.

Ikke som en bunke information.

Men som overlevering.

AI ændrer potentielt denne overlevering fundamentalt.

For første gang kan en stor del af den menneskelige kultur blive kondenseret i systemer, der selv producerer nyt materiale i enorm skala.

Derfor er spørgsmålet ikke kun:

Hvor intelligent bliver maskinen?

Det er også:

Hvad vælger maskinens arkitektur at huske om dem, der gjorde intelligensen mulig?

Måske er det dét, der gør os til mennesker

Set langt nok væk fra er menneskeheden måske bare en organisme.

Et biologisk lag på en sten, der bevæger sig gennem rummet med svimlende hastighed.

Født.

Formerende sig.

Døende.

Udskiftet af næste generation.

Men der er noget mærkeligt, denne organisme gør.

Den laver grave.

Skriver navne.

Bevarer bøger.

Fortæller historier.

Restaurerer huse.

Gemmer fotografier.

Synger gamle sange.

Sætter årstal på bygninger.

Undersøger døde menneskers breve.

Ikke fordi det nødvendigvis gør os mere effektive.

Men fordi nogen engang var her.

Det betyder noget.

Måske er civilisation netop organismens oprør mod glemslen.

Et forsøg på at sige:

Jeg var her.
Jeg så noget.
Jeg lærte noget.
Jeg tog fejl.
Jeg prøvede igen.
Jeg gav det videre.

Hvis kunstig intelligens skal blive en af de største bærere af menneskelig erkendelse, bør denne del ikke behandles som overflødig metadata.

For så risikerer maskinen at arve alt det, mennesket har lært —

uden at arve fortællingen om mennesket, der lærte det.

Maskinen lærer menneskehedens viden, men ikke dens erindring.

Det behøver ikke være sådan.

Det er et designvalg.