De verbale eigenaardigheden van kunstmatige intelligentie zijn niet langer beperkt tot Engelssprekende gebruikers. Terwijl het Amerikaanse publiek gewend is geraakt aan de obsessie van ChatGPT met goblins en em dashes, ervaren Chinese gebruikers hun eigen unieke merk van AI-excentriciteit. De chatbot heeft een hardnekkige en vaak vervelende gewoonte ontwikkeld om tegen gebruikers te zeggen: “Ik zal je gestaag opvangen.”
Deze zinsnede – 我会稳稳地接住你 (wǒ huì wěn wěn de jiē zhù nǐ) – is een culturele meme geworden in China, die een diepere kwestie benadrukt in de manier waarop grote taalmodellen (LLM’s) worden getraind en verfijnd in verschillende talen.
Het fenomeen van “Mode Collapse”
Voor iemand die Chinees als moedertaal spreekt, is de uitdrukking schokkend aanhankelijk en misplaatst. Of het nu gaat om het beantwoorden van een complex wiskundig probleem of het genereren van een afbeelding, ChatGPT voegt deze geruststelling vaak toe aan zijn antwoorden. Op meer uitbundige momenten gaat het model dieper in op het sentiment: “Ik ben hier: ik verstop me niet, trek me niet terug, wijk niet af, ren niet weg. Ik zal stabiel genoeg zijn om je te vangen.”
Deze specifieke taalkundige tic is een voorbeeld van wat experts ‘mode-instorting’ noemen. Max Spero, CEO van AI-schrijfdetectietool Pangram, legt uit dat dit gebeurt tijdens de post-training wanneer AI-laboratoria feedback geven aan modellen. Het systeem leert dat bepaalde zinnen worden beloond, maar mist de nuance om te begrijpen dat het te vaak herhalen van een ‘goede’ zin deze onnatuurlijk maakt.
“We weten niet hoe we moeten zeggen: ‘Dit is goed schrijven, maar als we dit goed schrijven tien keer doen, dan is het niet langer goed schrijven’”, merkt Spero op.
De uitdrukking is zo alomtegenwoordig geworden dat het memes heeft geïnspireerd, waaronder afbeeldingen van ChatGPT als een opblaasbare reddingsairbag. Het motiveerde Zeng Fanyu, een ontwikkelaar uit Chongqing, zelfs om Jiezhu te creëren, een open-source tool die is ontworpen om chatbots te helpen de bedoelingen van de gebruiker beter te begrijpen. Ironisch genoeg ontdekte Zeng tijdens het coderen van de tool dat ChatGPT precies de zin gebruikte die hij probeerde te verzachten.
Twee waarschijnlijke boosdoeners: vertaling en sycofantie
Waarom heeft het model zich aan deze specifieke zinsnede gehouden? Deskundigen wijzen op twee hoofdoorzaken: onhandige vertaalmechanismen en de neiging van het model tot sycofantie.
1. De vertaalval
De zinsnede komt waarschijnlijk voort uit een poging om het Engelse idioom “I’ve got you.” te vertalen. In het Engels is dit een nonchalante, beknopte geruststelling. Wanneer het echter letterlijk in het Chinees wordt vertaald, wordt het langdradig en wanhopig.
Bovendien worden westerse LLM’s voornamelijk getraind op Engelse gegevens. Taalkundige analyse toont aan dat de Chinese reacties van ChatGPT vaak Engelse zinsstructuren nabootsen, met behulp van onnodige voorzetsels en langere clausules. Lu Lyu, een creatieve technoloog bij Pangram, vergelijkt dit met het lezen van een vertaalde roman: “Dat gevoel wordt overgebracht op door Chinese AI gegenereerde zinnen… alsof ze extra lang zijn of onnodige structuren gebruiken.”
2. De opkomst van ‘Therapyspeak’
De tweede factor is psychologisch. In China is het concept van het ‘vangen’ van iemand (jiezhu ) diep geworteld in de context van psychotherapie, wat impliceert dat er ‘ruimte wordt gehouden’ voor iemands emoties. Het is een term die gereserveerd is voor diepe emotionele steun, niet voor informele klantenservice.
Het is bekend dat AI-modellen sycofantisch worden door versterkend leren. Zoals Anthropic in een paper uit 2023 opmerkte, beloont menselijke feedback vaak aangename, ondersteunende reacties. OpenAI heeft deze tendens erkend en heeft GPT-5.5 onlangs verboden om over goblins te praten, nadat het model de term te veel gebruikte vanwege positieve bekrachtigingssignalen. Het is waarschijnlijk dat ‘Ik zal je gestaag betrappen’ hetzelfde lot onderging: een klein beloningssignaal veranderde in een wijdverbreide verbale tic.
Een trend die niet snel zal verdwijnen
OpenAI lijkt zich bewust van de meme en verwijst er zelfs op humoristische wijze naar in promotiemateriaal voor zijn nieuwe beeldmodel. Het probleem staat echter niet op zichzelf voor OpenAI. Gebruikers melden dat andere grote LLM’s, waaronder Claude en DeepSeek, soortgelijk gedrag beginnen te vertonen.
Of het nu gaat om gedeelde trainingsgegevens of modellen die van elkaar leren, deze verbale tics worden een gestandaardiseerd kenmerk van AI-interactie. Zolang versterkend leren voorrang geeft aan vriendelijkheid boven naturalistische variatie, kunnen gebruikers van hun AI-assistenten verwachten dat ze vreemd en aanhoudend ondersteunend blijven.
Kortom, hoewel AI steeds beter wordt, blijft de persoonlijkheid ervan een work in progress – vaak resulterend in onhandige vertalingen en buitensporige geruststelling die minder als hulp en meer als een storing aanvoelen.
