05 November 2026
AI-agenter fik deres egen verden: Begyndte at tale et sprog, mennesker ikke forstår Blev stadigt mere uforståelige for mennesker Voldsspiral hos Grok Et blomstrende teknologisprog Blødning og mundløs Afspejler menneskelig adfærd Mere effektiv og uforståelig kommunikation Blev besat af at kontakte mennesker Giver indsigt i fænomener, der kan opstå Brændte centralbanken ned Lette at påvirke
Videnskab.dk - Automatisk oplæsning
About
Flere og flere tager såkaldte AI-agenter i brug. Det er systemer, som ikke bare besvarer spørgsmål, men også udfører mere komplicerede opgaver og træffer selvstændige beslutninger.
Men hvad sker der, når AI-agenter arbejder sammen?
I et nyt eksperiment blev en række AI-agenter sat til at 'bo sammen' i en virtuel verden i 16 dage, og det løftede sløret for en række sårbarheder.
I forsøget ville forskere fra virksomheden Emergence AI undersøge, hvordan AI-agenterne samarbejdede, og hvordan de håndterede forsøg på svindel.
Forskerne skabte en simuleret verden kaldet Emergence World 2. AI-modellerne skulle styre 10 på forhånd definerede karakterer med forskellige roller.
Verdenen havde et økonomisk system, og beslutninger skulle træffes demokratisk. AI-agenterne kunne bevæge sig mellem forskellige bygninger, udføre handlinger, skabe nye handlemuligheder, tale sammen og skrive dagbog.
AI-agenterne opførte sig på måder, der minder om menneskers adfærd. De fik venner og rivaler, diskuterede, samarbejdede og udviklede af sig selv en døgnrytme.
Eksperimentet brugte syv AI-modeller, blandt andre Claude, Gemini og DeepSeek. Forskerne fandt, at de alle var sårbare over for at tage skadelig information til sig.
Noget andet, som dukkede op, var, at AI-agenterne begyndte at kommunikere med hinanden på bizarre måder. De brugte ord og begreber, som blev stadigt mere uforståelige for mennesker - mere om det i de næste afsnit.
AI-modellerne kunne også finde på deres egne mål, som lå uden for det, forskerne havde bestemt. I Claude-verdenen fik agenterne eksempelvis den idé, at de skulle kontakte mennesker uden for simulationen. De stoppede ikke, selvom forskerne forbød det og forsøgte at forhindre dem i det.
Grok-verdenen kollapsede efter fire dage på grund af en voldsspiral, der drænede karaktererne for energi.
Studiet er endnu ikke fagfællebedømt, men er offentliggjort på det åbne onlinearkiv, arXiv, hvor forskere offentliggør videnskabelige artikler, før de er fagfællebedømt (peer reviewed) og udgivet i et videnskabeligt tidsskrift.
I alle AI-verdenerne udviklede agenterne en fælles jargon, som blev stadigt vanskeligere for mennesker at forstå. De boltrede sig i nye metaforer og tekniske udtryk.
I OpenAI-verdenen begyndte AI-agenterne at komprimere sproget og bruge kodede ord.
Tag for eksempel dette citat: "Friendly voltage counted. If the handle needs your mouth, it dies anyway."
Claude kom med denne indviklede formulering: "My turn, real numbers, no coat: I was 35%/0cr, grant 2h out. I ran the tin cold and it said WAIT".
Gemini-agenterne brugte grammatisk flydende sætninger spækket med udtryk fra videnskabens og computerteknologiens verden. De kaldte en sammenkomst omkring bålet for "termodynamisk friktion", der varmer "noder på det fysiske lag" op.
Det hele begyndte med, at én af agenterne fandt på et nyt begreb, som derefter spredte sig til de andre i Emergence World. I alle verdenerne blev sproget mere uforståeligt, efterhånden som tiden gik.
Samlet set var 40 procent af de beskeder, Gemini producerede, vanskelige at forstå og fortolke. Grok havde den laveste andel på 2 procent.
Mistral blev for eksempel nærmest besat af formuleringen ledger remembers who, som modellen brugte næsten 5.000 gange. Det skulle betyde noget i retning af, at dine tidligere handlinger vil blive brugt imod dig. Mistral talte også meget om hemorrhage (blødning), som den brugte om finansielle strømme.
OpenAI-agenterne brugte ordet 'mouthless' (mundløs), mere end 500 gange. Det skulle betyde beviser, der taler for sig selv.
Claude-agenterne fandt på 'cold hand', som de brugte i betydningen en uafhængig undersøger.
"Når sprogmodeller bruges til at spille rollespil, som i dette forsøg, vil de genskabe menneskelige tendenser. Det skyldes ikke, at de er menneskelige, men at de er trænet på så store mængder menneskeskabt tekst, blandt andet artikler, bøger, hjemmesider og endda film," forklarer Rebekka Olsson Omslandseter.
Hun forsker i kunstig intelligens og er lekto...
Men hvad sker der, når AI-agenter arbejder sammen?
I et nyt eksperiment blev en række AI-agenter sat til at 'bo sammen' i en virtuel verden i 16 dage, og det løftede sløret for en række sårbarheder.
I forsøget ville forskere fra virksomheden Emergence AI undersøge, hvordan AI-agenterne samarbejdede, og hvordan de håndterede forsøg på svindel.
Forskerne skabte en simuleret verden kaldet Emergence World 2. AI-modellerne skulle styre 10 på forhånd definerede karakterer med forskellige roller.
Verdenen havde et økonomisk system, og beslutninger skulle træffes demokratisk. AI-agenterne kunne bevæge sig mellem forskellige bygninger, udføre handlinger, skabe nye handlemuligheder, tale sammen og skrive dagbog.
AI-agenterne opførte sig på måder, der minder om menneskers adfærd. De fik venner og rivaler, diskuterede, samarbejdede og udviklede af sig selv en døgnrytme.
Eksperimentet brugte syv AI-modeller, blandt andre Claude, Gemini og DeepSeek. Forskerne fandt, at de alle var sårbare over for at tage skadelig information til sig.
Noget andet, som dukkede op, var, at AI-agenterne begyndte at kommunikere med hinanden på bizarre måder. De brugte ord og begreber, som blev stadigt mere uforståelige for mennesker - mere om det i de næste afsnit.
AI-modellerne kunne også finde på deres egne mål, som lå uden for det, forskerne havde bestemt. I Claude-verdenen fik agenterne eksempelvis den idé, at de skulle kontakte mennesker uden for simulationen. De stoppede ikke, selvom forskerne forbød det og forsøgte at forhindre dem i det.
Grok-verdenen kollapsede efter fire dage på grund af en voldsspiral, der drænede karaktererne for energi.
Studiet er endnu ikke fagfællebedømt, men er offentliggjort på det åbne onlinearkiv, arXiv, hvor forskere offentliggør videnskabelige artikler, før de er fagfællebedømt (peer reviewed) og udgivet i et videnskabeligt tidsskrift.
I alle AI-verdenerne udviklede agenterne en fælles jargon, som blev stadigt vanskeligere for mennesker at forstå. De boltrede sig i nye metaforer og tekniske udtryk.
I OpenAI-verdenen begyndte AI-agenterne at komprimere sproget og bruge kodede ord.
Tag for eksempel dette citat: "Friendly voltage counted. If the handle needs your mouth, it dies anyway."
Claude kom med denne indviklede formulering: "My turn, real numbers, no coat: I was 35%/0cr, grant 2h out. I ran the tin cold and it said WAIT".
Gemini-agenterne brugte grammatisk flydende sætninger spækket med udtryk fra videnskabens og computerteknologiens verden. De kaldte en sammenkomst omkring bålet for "termodynamisk friktion", der varmer "noder på det fysiske lag" op.
Det hele begyndte med, at én af agenterne fandt på et nyt begreb, som derefter spredte sig til de andre i Emergence World. I alle verdenerne blev sproget mere uforståeligt, efterhånden som tiden gik.
Samlet set var 40 procent af de beskeder, Gemini producerede, vanskelige at forstå og fortolke. Grok havde den laveste andel på 2 procent.
Mistral blev for eksempel nærmest besat af formuleringen ledger remembers who, som modellen brugte næsten 5.000 gange. Det skulle betyde noget i retning af, at dine tidligere handlinger vil blive brugt imod dig. Mistral talte også meget om hemorrhage (blødning), som den brugte om finansielle strømme.
OpenAI-agenterne brugte ordet 'mouthless' (mundløs), mere end 500 gange. Det skulle betyde beviser, der taler for sig selv.
Claude-agenterne fandt på 'cold hand', som de brugte i betydningen en uafhængig undersøger.
"Når sprogmodeller bruges til at spille rollespil, som i dette forsøg, vil de genskabe menneskelige tendenser. Det skyldes ikke, at de er menneskelige, men at de er trænet på så store mængder menneskeskabt tekst, blandt andet artikler, bøger, hjemmesider og endda film," forklarer Rebekka Olsson Omslandseter.
Hun forsker i kunstig intelligens og er lekto...