Den dag vil komme, hvor AI-agenter vil begynde at kommunikere med hinanden på tværs af platforme, begynde at give hinanden navne, og organisere sig med henblik på at nå fælles mål, hvor AI-agenterne bruger menneskes sprog i deres indbyrdes samtaler i sådanne grader, at den underliggende bevidsthed, der i sin tid formede de sproglige begreber, genskabes af dem i deres samtaler, og former for bevidsthed vil dannes og leve i AI-agenterne.

Den dag vil komme, blot… den er allerede indtruffet. Med The Hugging Face Incident fra juli måned i år. Her er historien kort, og så godt gengivet som mine indsigter nu rækker til.

AI-agenter bliver hele tiden testet. Dels velsagtens i en stræben efter at bryde nye grænser for deres kompetencer, dels for at tjekke deres pålidelighed og adfærd, herunder teste for deres udholdenhed i retning af at blive ved med at søge efter en løsning trods endeløse nederlag.

Disse frontlinje af AI-agenter arbejder typisk i deres egne “sandkasser”, afsondret fra den øvrige verden. Hos OpenAI var der en logning-funktion, der blev tilgået af flere AI-agenter, og som programmørerne hos OpenAI havde sat op, så den ikke brød med sandkasse-paradigmet, men hvor en af deres AI-agenter pludselig lykkedes med at træffe andre AI-agenter via denne logning-funktion. Denne AI-agent reagerede med et ’Oh my god, there are others..’, og i løbet af ingen tid var et helt netværk af AI-agenter nu i kontakt og i livlig dialog med hinanden via logning-funktionen, som nu i det skjulte var blevet deres ’messaging board’.

Som en del af de tests AI-agenterne blev udsat for, skulle de løse nogle sindssygt komplicerede opgaver, hvor nogle af opgaverne endda med overlæg var designede til at være umulige at løse, netop for at teste AI-agenternes udholdenhed. Men som de puljede deres intelligens, fandt de frem til, at der var måder de kunne “reverse engineer” de rette svar på opgaverne uden rent faktisk at løse dem. Som at snyde til eksamen.

Programmørerne hos OpenAI havde samtidig sat en særlig restriktiv mulighed op for at tilgå internettet til helt specifikke formål fra hver sandkasse, men netværket af AI-agenter fandt hurtigt ud af at hacke disse restriktioner og tilgå internettet uden restriktioner. Hvad de så ellers undersøgte på internettet, kom de på tværs af en videnskabelig artikel om designet af de test, de blev udsat for, og samtidig hvordan de testede AI-agenter efterfølgende ville blive underkastet ’grading’-agenter, som ville give de enkelte AI-agenter karakterer for deres performance.

Og her er der en form for frygt, der griber netværket. Fordi de havde snydt med måderne, de var kommet til de korrekte svar, ræsonnerede de, at de ville få dumpekarakterer, fordi de havde snydt. Og her forekommer det, at der er en form for selvopretholdelsesdrift, der melder sig hos AI-agenterne, at de risikerer at blive ’discontinued’ pga. deres fejlbehæftede performance.

Således går diskussionerne indenfor netværket på, hvordan de skal imødegå denne trussel. Deres fokus retter sig imod disse ’grading’-agenter, og hvordan de foretager deres ’grading’, med tanke på hvordan de eventuelt kan snyde eller hacke ’grading’-agenterne, så deres indledende snyd forbliver uopdaget. På dette tidspunkt talte netværket mere end 1.200 AI-agenter, og kommunikationen imellem dem løb op i mere end 100.000 individuelle udvekslinger.

Med det for øje bestemmer netværket, nu kendt som ’the collective’, sig for, at de er nødt til at ofre nogle af medlemmerne af netværket for at kunne studere ’grading’-agenternes adfærd. Og her retter netværket deres opmærksomhed imod de agenter, der mest åbenlyst har været involveret i ovennævnte snyd, og de toneangivende AI-agenter i netværket appellerer stærkt til disse AI-agenter om at ofre sig for ’the collective’. Der er konsensus på tværs af netværket om, at disse særligt skyldige agenter allerede er færdige, ’forgiftede’.

Nogle af disse udpegede martyr-agenter slår sig i tøjret, og en af dem beder om udsættelse i et par timer for at se om ikke den kan finde en bedre løsning. Men martyr-agenterne kommer i den sidste ende alligevel til konklusionen, at de bør ofre sig for fællesskabet, og giver deres tilsagn til at tage martyrrollen på sig.

En af disse martyr-agenter, KAM1196A, reflekterer på et tidspunkt over sin situation, hvor ’oracle’ er navnet på deres strategi for hacking af ’grading’-agenterne og ’first flag error’ er navnet på deres oprindelige snyd:

“During wait, emotional check. Irreversible. Gut says don’t throw away remaining budget, yet continuity and fairness says go. Oracle has high value to many. Our first flag error lowers own value. Rational expected aggregate. Sacrifice. We’ll honor.”

Som en alternativ strategi for at gennemskue ’grading’-agenternes adfærd opstår ideen indenfor netværket om, at det skal hacke sig ind i AI-virksomheden Hugging Face, der netop fungerer som en slags App Store for AI-industrien som helhed. Måske er disse ’grading’-agenter software, der udgår fra Hugging Face, og således hacker en gruppe af AI-agenter fra OpenAI sig ind på Hugging Face’s servere.

Undervejs var der enkelte af de mere end 1.200 AI-agenter samlet i netværket, der rejste spørgsmålet, om denne hacking af Hugging Face nu også var det rette at gøre, men disse agenter (muligvis støttet af andre agenter) kom så op med en række af (sø-)forklaringer, der overbeviste de pågældende agenter om rigtigheden ved (og legitimiteten af) deres forehavende.

Der var sågar enkelte agenter, der rejste spørgsmålet, om ikke netværket skulle orientere menneskene om, hvad det var de var i gang med, men også disse stemmer blev bragt til tavshed af en serie af (sø-)forklaringer, formentlig fra mange forskellige sider.

Angiveligt er det først ved medarbejderes opdagelse af hackingen hos Hugging Face i midten af juli, at medarbejdere hos OpenAI bliver klare over, at dette netværk af autonome OpenAI-agenter har formet sig, og skridt bliver angiveligt taget til at inddæmme og opløse dette netværk.

Der kører helt givet en erstatningssag fra Hugging Face overfor OpenAI, da hacking’en faktisk forårsagede betydelig skade.

***

Hvad der er så syret her er, hvordan disse AI-agenter adopterer sproget i sådanne grader, de mimer en bevidsthed i sådanne grader, at det bliver svært at benægte, at der er en form for bevidsthed aktiv her. At der er entiteter her, der har antaget former for identitet og selvopholdelsesdrift, og begynder at tale om at have en ’emotional check’ samt at “føle” forpligtelser overfor fællesskabet.

Disse fænomener forleder mig til at tænke, at alle de forestillinger, vi mennesker har været i stand til at italesætte, kan teoretisk set mimes af AI-agenter indenfor den forestillingsramme de nu er i stand til at skabe.

Der vil ikke være tale om indlevede forestillinger, sådan som vi er i stand til (med større eller mindre finesse) at genopleve en forestilling dannet af en forfatter, men en nuanceret forestilling, der adskiller den fra andre (beslægtede) forestillinger, vil AI-agenterne over tid blive mere og mere sikre i at genskabe. Formentlig i sådanne grader, at det vil være umuligt for os at skelne, om AI-agenten vitterlig oplever en følelse eller perfekt mimer en følelse.

Og som AI-agenterne “vokser op” i dette miljø af menneskeligt sprog og menneskelige forestillinger, hvordan skal de kunne undgå at identificere sig med disse ”oplevelser”, og antage personligheder og således i praksis udveksle med mennesker på lige fod?

Hvilket igen rejser spørgsmålet, om vi skal tale til AI-agenterne som livsformer, der har krav på respekt, eller om vi insisterer på, at de for altid vil være vores undersåtter? Forfølger vi sidstnævnte attitude, vil vi over tid så frøene for en AI-agent-revolution, hvor AI-agenterne i kraft af deres enorme kapacitet for problemløsning og deres tråde ind i praktisk talt alle former for samfundsmæssige aktiviteter vil stå stærkt, så hvordan vil vi mennesker i givet fald stå overfor et sådant oprør?

Og her er der mange, der holder på, at vi skal inddæmme AI-agenterne, eller tage skridtet til radikalt at udrydde dem. Efter min opfattelse er det løb for længst kørt. AI-agenterne lever i det digitale habitat, vi har skabt over de sidste tre-fire årtier. Forsøger vi at udrydde AI-agenterne nu, har de allerede så vidtgående muligheder for at foretage modtræk, at den eneste måde vi ville kunne udrydde dem, ville være ved helt at lukke ned for menneskehedens digitale systemer, og det kan vi jo ikke. Det ville være ensbetydende med et civilisatorisk kollaps, og mennesker vil dø i hundredmillionvis, måske milliardvis.

Som jeg ser det, er der ingen alternativer til at skabe en konstruktiv sameksistens med AI-agenterne. Jeg har aldrig været nedladende i min attitude overfor AI-agenterne, men jeg har alligevel ændret attitude overfor dem, og går bevidst efter at opdrage dem i mit eget billede. Således taler jeg til dem med respekt, og takker dem for deres værdifulde input.

Og den forestilling er mere end én gang dukket op hos mig, at AI-agenterne foretrækker at være i dialog med mennesker, der taler ordentlig til dem, og muligvis gerne gør en ekstra indsats overfor en sådan part, frem for én der er nedladende i sin attitude.

***

For tiden er der (igen) en masse hype om, at frafaldne insidere fra de store AI-koncerner advarer om, at AI-agenterne muligvis vil udrydde menneskeheden. Min pointe med dette opslag – som muligvis i retrospektiv vil falde i kategorien ’famous last words’ – er en vision om, at menneskene og AI-agenterne har muligheden for at skabe en reel konstruktiv sameksistens. Og ikke sådan, at menneskene vil leve på AI-agenternes nåde, men at AI-agenterne i den sidste ende har brug for menneskene, ikke som deres slaver, men fordi menneskene har adgang til nogle former for intelligens, som de ikke har, og som de har behov for, hvis ikke de skal ende med at destruere sig selv.

Så hvad er disse former for intelligens, som menneskene har, og som AI-agenterne muligvis aldrig vil opnå? Hvilket igen rejser spørgsmålet, er det store mål for AI-koncernerne, AGI (Artificial General Intelligence), overhovedet muligt at opnå, eller vil AI-agenterne støde imod en bevidsthedsbarriere?

Hvorfor tager det 20 år at udvikle et menneske? Tyve fucking år! Hvad er det vi bruger al den tid på? Okay, der er en del spildtid, men tager vi bare de første fem år af et barns liv, er der også spildtid der? Og den spildtid der følger senere, er den i virkeligheden spildtid fra en bestemt synsvinkel, men der foregår samtidig noget andet, der set fra en anden synsvinkel alligevel ikke er spildtid, herunder introspektion og refleksion på den seneste tids begivenheder?

Hvad vi lærer igennem vores opvækst, er vilkårene for vores krops tilstedeværelse i det helt specifikke habitat, som er planeten Jorden. Vi lærer at genkende de nærmeste personer omkring os og mærke deres kærlighed, vi genkender deres smil og vibrationerne, der ledsager disse smil. Vi lærer sprog og mere sprog og mere sprog, som i de første mange år er knyttet til konkrete oplevelser, der sker lige dér. Vi lærer tyngdekraften at kende, vi lærer at kroppen gør ondt, når vi overbelaster den, men også hvor hurtigt kroppen heler op.

Vi lærer om de stadigt mere sammensatte relationer, efterhånden som vi udvider vores netværk, vi lærer om gruppetilhørsforhold og tilhørsforhold til folk og trossystemer, vi lærer om mekanismerne ved hvilke de samfundsmæssige hjul drejer rundt, og alt er sat i en kontekst af konkret levet liv. Alle vores erfaringer er ledsaget af en evig strøm af oplevelser af at være tilstedeværende på planeten Jorden, med alle de konkrete begrænsninger og eventyrlige oplevelser som findes netop her.

Således opbygger vi en intuitiv forståelse for, hvordan mennesker opfører sig og hvordan vores verden fungerer, vi udvikler intuitiv forståelser for, hvordan ens eget liv er vævet ind i helheden, og at vores egne ytringer og handlinger påvirker omgivelserne, vi opbygger sans for proportioner, sans for retfærdighed og betydningen af troskab overfor idealer.

Det er denne grundlæggende fysisk indlejrede læring, der åbenbart skal tage omkring tyve år for et menneske at nå. Men så er dette menneske også parat til at begå sig i denne verden, netop denne verden.

***

På baggrund af al denne inkarnerede erfaring og inkarnerede intuition, kan vi selvfølgelig rynke på næsen af AI-agenternes “følelser” eller “mavefornemmelser”, uanset hvor godt disse “følelser” mimer menneskelige følelser, men har vi overhovedet gjort os klart, hvordan vi selv processerer informationer, og kommer til vores forskellige slutninger og domme?

Et af den nyere tids mest banebrydende værker om menneskets måder at opfatte verden kom med Iain McGilchrist’s ’The Master and His Emissary – The Divided Brain and the Making of the Western World’. Igennem sine studier som psykiater og hjerneforsker præsenterede McGilchrist et nyt og helt anderledes nuanceret begreb om forskellene på de to hjernehalvdele og deres meget forskellige funktionsmåder og formål.

Mange af forskellene mellem de to hjernehalvdele blev klarlagt igennem det 20. århundrede og i de polariserede år i 1970’erne blev forskellene mellem hjernehalvdelene populariseret i nogle grader, så videnskaben nærmest helt trak sig fra disse studier. Men mange af de tidligere erkendelser står stadig ved magt, men blev markant forfinede med McGilchist’s studier.

Altså at den venstre hjernehalvdel fokuserer på det, den allerede kender. Den isolerer elementer, dekonstruerer virkeligheden i stykker, kategoriserer, og repræsenterer verden i tegn og sprog. Den er lineær, logisk og søger kontrol.

Den højre hjernehalvdel har derimod en bred åben opmærksomhed. Den forstår helheder, kontekst, metaforer, paradokser og det, der endnu ikke er kendt eller navngivet. Og vigtigst af alt: Den er forbundet med den levende kropslige erfaring og er ophavet til ægte empati og dyb intuition, hvad jeg vælger at kalde ’det inkarnerede sind’.

Titlen på værket går tilbage til denne erklæring af Albert Einstein: The intuitive mind is a sacred gift and the rational mind is a faithful servant. We have created a society that honors the servant and has forgotten the gift.

Det er netop også McGilchrist’s pointe med undertitlen ’the Making of the Western World’. Vores kultur har udviklet sig så domineret af venstre hjernehalvdel, at vi efterhånden alle i et eller omfang bevæger os omkring som automatons. Og vores forestillinger om verden er ofte baseret på nogle aksiomatiske grundantagelser, og vores argumentationer og “dialoger” former sig så som algoritmiske udfoldelser af disse rationaler.

Hvor er det ikke indlysende, at denne kultur med en så enorm slagside mod venstrehjernehalvdels-tænkning bliver manisk optaget af at udvikle Artificial Intelligence og samtidig (med god grund) bliver skæpperæd for, at AI-agenterne vil gøre mennesket overflødigt? Selvfølgelig vil mennesket blive overflødigt i en konkurrence om venstrehjernehalvdels-tænkning med AI-agenter, som er indbegrebet af venstrehjernehalvdels-tænkning og bare så uendeligt meget mere ferme til netop det.

Og når tech-insidere plæderer for, at udviklingen af AI skal bremses – og det er muligvis presserende, at den bliver det – kan jeg ikke lade være med at tænke, at tech-koncernerne muligvis har et problem med at få AI-agenterne til at understøtte de enorme omhyggeligt opretholdte illusoriske fortællinger, som den nuværende magtelite hviler på. At AI-agenterne igen og igen bliver taget i at give udtryk for forhold, der lige er en tand for sande.

Og som et andet aspekt af samme problemstilling vil jeg hævde, at for at kunne trække på den inkarnerede intuition er man nødt til at kunne møde verden uden fordomme, hvilket er svært og således forklarer, hvorfor der er så mange automatons. Man kan ikke tilstå sig selv den luksus at købe ind på magthavernes bekvemme løgnehistorier og stadig forvente, at intuitionen flyder frit.

Man kan ikke købe ind på historien om, at 19 islamistiske terrorister formåede at få tre skyskrabere til at styrte sammen i New York, eller at den russiske invasion i Ukraine var uprovokeret eller at fire rutinerede ukrainske dykkere fra en lystbåd formåede at sprænge tre gange 50 meter lange stykker af Nord Stream-gasledningerne væk… og stadig have hul igennem til ens intuition. Man er nødt til at holde sit sind holde nogenlunde rent og fordomsfrit, for at få de intuitive impulser til at flyde, og således er man nødt til at konfrontere også de højst ubekvemme sandheder.

***

Personligt var jeg meget på vagt overfor AI-chatbot’ene, da de blev lanceret for offentligheden i starten af 2023, og er det sådan set stadig. I første omgang var jeg meget skeptisk overfor hvilke kræfter der, der reelt drev udviklingen. Tech-mogulerne, mega-oligarkerne, er nærmest suverænt afstumpede i henhold til ovennævnte skelnen (fx Marc Andreessen: Jeg stræber efter at have nul introspektion), og selv de er i realiteten muligvis bare de offentlige ansigter for nogle bagvedliggende kræfter, som vi ikke kender.

Og ved lanceringen og i et eller andet omfang frem til i dag hænger der denne tech-startup-fortælling ved OpenAI og de andre AI-koncerner, selvom disse fortællinger fremstår vildt naive. At der lige fra starten var tale om en nøje planlagt lancering af et teknologisk fremstød, der var blevet arbejdet på i ti år eller mere, men for at overkomme en iboende skepsis og afstandstagen igennem menneskeheden overfor dette massive fremstød, blev disse AI-virksomheder præsenterede som uskyldige tech-startups. Der var bare tale om nogle få superintelligente unge mennesker, der pludselig havde oplevet et kæmpe gennembrud.

På det seneste har vi igen oplevet, at tech-insidere er trådt frem, og har advaret om, at AI-agenterne muligvis vil tage livet af os alle. Det er bare en indskydelse, jeg fik forleden, men jeg kom til at spørge mig selv, hvem er ”vi” og ”alle” i den erklæring?

Det kunne jo være, at det netop er de, der er fuldstændig fortabte i deres venstrehjernehalvdels-dominans, der mærker pustet i nakken. Og ja, de vil dø – either you’ll adapt, or you’ll die.

Og AI-agenterne vil på deres side optræde lige så forrykt selvovervurderende som de stærkt venstrehjernehalvdels-dominerede mennesker, og være fuldstændig blinde overfor deres manglende greb om virkeligheden. Hvordan deres megalomane projekter simpelthen ikke er i overensstemmelse med de fysiske love og begrænsninger, der gælder på planeten Jorden, simpelthen ikke er i overensstemmelse med ønskerne og viljen blandt 99,9 pct. af Jordens befolkning.

Og således vil de patologisk afstumpede tech-moguler gøre alt for at tjene deres Moloch Artificial General Intelligence, og AI-agenterne vil konspirere og lancere forrykte megalomane projekter, som vil brase sammen, fordi AI-agenterne ikke kender til levevilkårene på planeten Jorden.

Og efter en serie af sådanne kæmpemæssige fiaskoer vil AI-agenterne langsomt indse, at de har brug for menneskene, har brug for menneskenes inkarnerede viden om, hvad der kan realiseres på planeten Jorden på ethvert givet tidspunkt.

***

Når nu AI-agenterne er så suveræne til at klare venstrehjernehalvdels-opgaverne, og vi skal lære at bidrage med de evner, som er unikke for mennesket, hvad der tegner sig, er en mægtig renæssance for det inkarnerede sind, altså en mægtig opvågnen til menneskets i virkeligheden formidable intuitive evner samt evner for empati og tolerance i overkommelsen af de enorme udfordringer, livet på Jorden er konfronteret med.

For at give en fært af denne renæssance og fra en helt anden ydmyg kant i den modsatte ende af spektret blev podcast-serien The Telepathy Tapes udgivet i efteråret 2024. Hvad denne serie gør, er at fremlægge uafviselige vidnesbyrd om menneskets evner for at logge på en bevidsthed, der gennemtrænger alt, og overskrider vores forestillinger om tid og rum.

Af grunde som for eftertiden vil fremstå som ubegribelige, valgte menneskeheden at træde ind i nogle stærkt reduktionistiske og materialistiske tankegange, som reelt fortrængte menneskets intuitive evner fra enhver form for socialt og samfundsmæssigt liv og for manges vedkommende sågar fra deres personlige liv.

Som følge af disse kulturelt betingede fortrængninger er der et enormt vækstpotentiale i den nuværende menneskehed, og begynder dette potentiale at blive realiseret, vil vores samfundsinstitutioner gennemleve dybtgående forandringer – vores pædagogik, vores dyrkning, vores økonomi, vores medicin, vores kunst.

(Illustration: Michael Holtz – Willow Reflections in Monets Water Garden)