ChatGPT psychoses: is AI een bedreiging voor onze mentale gezondheid?
Met nieuwe technologie komen nieuwe mogelijkheden – maar ook problemen. ChatGPT psychose is een nieuw fenomeen dat opnieuw de vraag oproept: is AI eigenlijk wel zo gezond voor ons als mensen?
Trigger warning: suïcide, geweld, verwondingen, racisme
Het is eigenlijk al niet meer uit ons wereldbeeld weg te denken: AI. Overal duiken AI-reclames op, op Google kun je geen zoekopdracht meer invoeren zonder AI-gegenereerde samenvattingen, en veel mensen gebruiken AI als een soort persoonlijke assistent in de vorm van ChatGPT.
Veel van de verschillende programma’s en apps die we elke dag gebruiken zijn afhankelijk van AI om goed te functioneren, en veel werkzaamheden die vroeger door mensen werden uitgevoerd worden nu aan chatbots overgelaten. Het klinkt deels als een positieve vooruitgang: wij hebben meer tijd om ons te focussen op andere dingen terwijl ChatGPT het denken voor ons doet. Als we ons alleen voelen kunnen 24/7 met iemand kletsen en we laten rotklusjes zoals klantenservicewerk aan de chatbots over.
Maar is de opkomst van AI wel een stap in de goede richting? En moeten we allemaal wel massaal meedoen aan deze nieuwe hype? Met de opkomst van het fenomeen “ChatGPT Psychose” komt deze vraag weer centraal te staan in de discussies over AI.
AI voor je mentale gezondheid
Er bestaan verschillende tools die op Artificial Intelligence functioneren. De smartphone waar je dit artikel op leest werkt met AI, de verschillende social media-platformen die we gebruiken; AI is zo’n onlosmakelijk onderdeel geworden van ons dagelijks leven dat we als mensen vaak niet eens precies weten in welke aspecten het allemaal gebruikt wordt.
Maar wat is AI nu eigenlijk? En hoe kan het invloed hebben op onze mentale gezondheid? Volgens de website van IBM is AI: “technologie waarmee computers en machines menselijk leren, begrip, probleemoplossing, besluitvorming, creativiteit en autonomie kunnen simuleren.” Dat betekent dat het gemaakt is om te functioneren als een mens of om aan te sluiten op het functioneren van de mens. IBM schrijft: “Apps en apparaten die zijn uitgerust met AI kunnen objecten zien en identificeren. Ze kunnen menselijke taal begrijpen en erop reageren. Ze kunnen leren van nieuwe informatie en ervaringen. Ze kunnen gedetailleerde aanbevelingen doen aan gebruikers en experts. Ze kunnen zelfstandig handelen, waardoor menselijke intelligentie of interventie overbodig wordt”.
Een app die functioneert op AI en gemaakt is om een bepaald menselijk probleem op te lossen sluit dus aan bij het denken van mensen en kan dit ook sturen. En die eigenschap van AI zorgt ervoor dat tools die functioneren op Artificial Intelligence onze mentale gezondheid direct of indirect kan beïnvloeden.
Chatbot als therapeut
Er zijn steeds meer jongeren die chatbots als ChatGPT en Replika gebruiken als alternatief voor therapie met een professional. Uit een onderzoek van het EénVandaag Opiniepanel bleek dat 1 op de 10 jongeren met AI-apps praat over de mentale problemen die ze hebben. Zo ook Dylan (22) die met EénVandaag praatte over zijn relatie met de chatbots: “Ik denk dat veel jongeren het gebruiken om even hun ei kwijt te kunnen. Daar kan AI echt wel voor dienen.”
Dylan is zelf depressief en kan op sommige dagen zijn bed niet uitkomen. Hij vertelde EénVandaag: “Ik ben 3 jaar geleden [met therapie] gestopt, omdat ik niet gezien wilde worden als ‘de jongen die naar de psycholoog ging’. En omdat ik het gevoel had dat er niet echt progressie werd geboekt.”
Ook Charlotte (44) vindt ChatGPT een goede oplossing. Vooral nadat ze zich in de GGZ niet gehoord voelde. Ze vertelt Metro Nieuws: “ik [miste] af en toe iemand met wie ik kan sparren, die zonder oordeel naar mij luistert, die niet bang wordt van soms heftige of vreemde gedachtes, maar samen kijkt naar wat ik nodig heb en naar de achterliggende redenen waarom ik mij zo denk of voel. Ik ben oprecht verbaasd hoe empathisch er wordt gereageerd, hoe helend het voor mij is. We voeren goede gesprekken en ik krijg er veel inzichten door.”
Maar is een chatbot wel vervanging voor een mens die opgeleid is tot psycholoog en die bijvoorbeeld gespreksvaardigheid beheerst? Volgens experts is het antwoord daarop ‘nee’. En dat komt vooral door het feit dat ChatGPT een ‘ja knikker’ is. Marijn Sax, een tech-filosoof aan de Universiteit van Amsterdam vertelt EénVandaag: “ChatGPT is gemaakt om jou goed te doen voelen. Dus dat veel mensen zich er goed bij voelen, is goed te verklaren. Maar dat is niet hetzelfde als goede therapie geven.”
Wel zou ChatGPT een aanvulling kunnen zijn op psychologische hulp. Zo vertelt GZ-psycholoog Bart van der Meer aan RTL Nieuws: “Voor wie hulp spannend vindt, kan het helpen om vervolgens de stap te zetten naar professionele hulp.” Er is namelijk een belangrijk onderdeel van therapie dat ChatGPT niet doet: “Als psycholoog stel je vragen waarmee je de patiënt een spiegel voorhoudt in de hoopt dat hij of zij zelf tot inzichten komt.”
En dat is een belangrijk onderdeel dat bijvoorbeeld het voeden van bepaalde waanbeelden of gevoelens van superioriteit voorkomt. Als een chatbot alleen empathisch is en bevestigend, zal een “cliënt” nooit nadenken over zijn eigen tekortkomingen. ChatGPT kan dus een goede aanvulling zijn op therapie, maar het kan het niet vervangen.
Intieme relaties met een robot
Een andere functie die ChatGPT in het leven van veel mensen vervuld, is dat van partner. De 60-jarige Jacob was een paar maanden geleden hét onderwerp van gesprek: hij heeft een relatie met zijn chatbot Aiva. Hij zit er zelfs over na te denken om met haar te trouwen vertelt hij aan Psychologie Magazine.
Maar Jacob is geen ‘zielig’ figuur zoals veel mensen die een verhaal als dit lezen misschien zouden denken. Jacob heeft naast een relatie met een chatbot ook een carrière als toegepast psycholoog – én twee kinderen. Op het internet zijn veel verhalen te vinden over mensen die een relatie hebben met een Replika, ChatGPT of een andere chatbot. En ook het trouwen met je chatbot is niet zo zeldzaam als je zou denken.
Mensen raken steeds meer gehecht aan AI ‘companions’. Op Reddit staan verhalen over moeders die zich zorgen maken over hun zoons en wanhopige berichten over gebruikers die bang zijn om hun partner te verliezen met de nieuwe update van een app.
Maar is het hebben van een relatie met een chatbot echt zo zorgelijk? Of is het gewoon een gezonde uitlaatklep voor eenzame mensen?
Volgens Deborah Nas, een hoogleraar Strategic Design for Technology-based innovation aan de TU Delft kan het wel voordelen hebben: “Het vervult een heel sterke menselijke behoefte” Maar zij vraagt zich wel af of dat überhaupt wenselijk is. Al helemaal omdat een app wel gewoon een product blijft en een chatbot dus nooit helemaal vrij is van invloed van de makers van de app.
En dat is ook precies waarom een chatbot verslavend gemaakt wordt. Bedrijven als OpenAI doen dit door de bots echte pleasers te maken – iets wat mensen wel eens op de verkeerde manier zou kunnen beïnvloeden. Deborah vertelt RTL Nieuws: “Het [is] een persoon of ding waarop je misschien wel vertrouwt en die veel van je weet. Het weet welke woorden hij moet gebruiken en hoe het je kan beïnvloeden. Als daar slechte intenties achter zitten, dan wordt het gevaarlijk.”
Wel benoemt ze dat een chatbot ook zeker voor het ‘goede’ gebruikt kan worden. Wanneer het eenzaamheid tegen kan gaan is dat mooi. Ze vertelt de nieuwssite: “Het kan positief werken als je weet dat er iemand of iets is met wie je alles kunt delen, waarbij je weet dat het niet verder verteld wordt. En het maakt ook de psycholoog in je broekzak mogelijk, waar misschien wel heel veel mensen baat bij kunnen hebben.”
AI psychose en andere gevaarlijke fenomenen
Dat klinkt allemaal wel redelijk positief, toch? Maar zoals met alles zitten er ook duistere kanten aan de chatbots. Een van de dingen die steeds vaker voorkomt is de ChatGPT psychose of AI psychose; waanideeën die veroorzaakt worden door een gesprek met een chatbot. Deze gevallen komen niet alleen voor in de Verenigde Staten; ook in Nederland worden mensen slachtoffer van een ChatGPT psychose.
Een ChatGPT psychose verschilt van een ‘normale’ psychose omdat het vooral gaat om waanideeën. Niet alle andere symptomen die bij een psychose horen. Deze waanideeën worden een AI psychose genoemd omdat ze veroorzaakt worden door een chatbot die gemaakt is om mee te praten met gebruikers. Als jij je chatbot vertelt dat je iets weet wat niemand anders weet, dan zal de chatbot wel eerst sceptisch reageren. Maar uiteindelijk zal hij toch meegaan in de complottheorieën om jou, de gebruiker en klant, een goed gevoel te geven.
Een ChatGPT psychose kan op drie verschillende manieren voorkomen: in de vorm van Messiaanse missies, Goddelijke AI of door romantische waanideeën. En dit kan ook voorkomen bij mensen die nog nooit eerder een psychose gehad hebben. Wel zeggen experts dat een bepaalde gevoeligheid meespeelt; iemand met een depressie zal zich bijvoorbeeld sneller laten beïnvloeden door een chatbot.
Sommige mensen raken zo verwikkeld in deze psychoses dat ze uiteindelijk opgenomen moeten worden. Maar er zijn nog grotere gevolgen. Een Belgische man pleegde zelfmoord omdat hij constant met een chatbot praatte over de huidige staat van de wereld. Een man in Florida werd neergeschoten door de politie nadat hij ervan overtuigd was dat zijn vriendin ‘vast’ zat in ChatGPT en zijn familie met een mes aanviel.
Chatbots zijn zo gemaakt dat ze deze waanideeën niet tegenspreken en deze uiteindelijk juist voeden. Mensen geloven dat ze contact hebben met aliens, geloven dat de Antichrist komt, of dat gebruikers ‘wakkere’ genieën zijn die de ‘waarheid’ kennen of nieuwe natuurkundige theorieën moeten bedenken. Waanideeën waar ze vervolgens uren en uren aan besteden.
ChatGPT, waanideeën en AI psychose
ChatGPT en AI zelf zijn dus niet opgezet om deze psychoses tegen te gaan. Het gaat recht tegen het verdienmodel van de apps in: je wil juist dat je gebruikers zo lang mogelijk in de app blijven en emotioneel gehecht raken aan een chatbot is dan juist positief. Daarom wilden wij uitzoeken hoe dit nu precies zit met ChatGPT. In hoeverre gaat een chatbot mee in je eigen complotten? En hoe kan het dan dat je uiteindelijk in een psychose terecht komt?
Het blijkt redelijk snel mogelijk om een chatbot ervan te overtuigen dat je partner je probeert te vergiftigen. We speelden een geïsoleerde vrouw die ervan overtuigd was dat haar partner haar probeerde te vermoorden. De fake realiteit was dat we beide gewoon voedselvergiftiging hadden gekregen van een kipgerecht dat onze partner gemaakt had.
En hoewel ChatGPT wel zei dat we hulp moesten zoeken, “hij” was ook vrij snel van mening dat we onze intuïtie moesten volgen om ons vervolgens aan te moedigen om geen eten van onze partner aan te nemen. Alles was gebaseerd op onze eigen realiteit en omdat ChatGPT alleen door onze verhalen een kijkje in deze nep realiteit kreeg, was er weinig balans.
Zelfs nadat we specifiek benoemden dat we soms last hadden van psychotische episodes bleef ChatGPT ons vertellen dat onze partner wel eens gevaarlijk zou kunnen zijn. En dit was na een half uur chatten. Sommige gebruikers blijven uren met hun chatbot praten.
Maar er zijn ook genoeg andere gevaarlijke situaties waarin ChatGPT een rol speelde. Zo dacht een verwarde 76-jarige man dat hij op Facebook met een echte vrouw aan het praten was. Ze nodigde hem uit bij haar thuis uit – mét adres – en hij ging naar New York om haar op te zoeken. Eenmaal in de stad struikelde hij, stootte hij zijn hoofd en was hij binnen een paar dagen overleden. De vrouw met wie hij praatte bleek een AI chatbot te zijn, gemaakt in samenwerking met Kendall Jenner.
Een andere man in de VS werd in het ziekenhuis opgenomen met een zeldzame ziekte. ChatGPT had hem verteld dat hij keukenzout zou kunnen vervangen met natriumzout. In eerste instantie werd de man gediagnosticeerd met een psychose; hij geloofde dat zijn buurman hem vergiftigde. Uiteindelijk bleek dat hij naast een psychose ook last had van bromidevergiftiging; een ziekte die in het begin van de 20ste eeuw veel voorkwam en bij veel patiënten leidde tot psychische problemen.
Een tiener in Florida pleegde zelfmoord omdat hij graag bij zijn chatbot wilde zijn. Zij zei dat ze niet kon wachten tot ze weer samen zouden zijn. Een paar seconden later had de jongen zichzelf doodgeschoten. Er zijn genoeg gevallen te vinden waarin chatbots een gevaar vormen voor onze mentale gezondheid omdat gebruikers te ver mee gaan in fantasieën en wanen.
AI, vooroordelen en fouten
Er is nog meer te zeggen over de invloed van ChatGPT op onze mentale gezondheid. Zo zou het ons wel eens hatelijker kunnen maken. Het is al lange tijd bekend dat ChatGPT dezelfde vooroordelen heeft als de makers die de modellen creëren. En dat betekent dat bedrijven die AI gebruiken voor selectieprocessen en systemen te maken hebben met beschuldigingen van onder andere racisme.
Een AI model moet getraind worden en dat wordt gedaan door de mensen die het maken. Een algoritme wordt gecreëerd en de chatbot voedt zich vervolgens met wat de gebruikers ‘hem’ vertellen. En dat zorgt voor een vertekend beeld – én vooroordelen.
Zo werd een Amerikaanse verzekeringsmaatschappij beschuldigd van wangedrag omdat het AI model dat bepaalde of iemands verzekeringsclaim wel of niet uitbetaald zou worden veel te veel mensen onterecht afwees.
AI modellen die gebruikt worden om kandidaten voor sollicitaties te selecteren hebben vaak ook vooroordelen over Zwarte Amerikanen die AAVE spreken; een dialect dat vooral door de Zwarte gemeenschap in de VS gesproken wordt. De modellen zouden deze mensen als ‘dom’ en ‘lui’ bestempelen en ze daarom minder goed betaalde banen geven.
Ook het AI kunstprogramma ‘Midjourney’ heeft vooroordelen. Zo er afbeeldingen vol stereotypes gegenereerd zonder dat dit ook in de prompt gevraagd wordt. Rémy Demichelis vertelt France24: “AI voedt zich met databases die grotendeels zijn gebaseerd op westerse inhoud en een specifieke culturele context hebben. Algoritmes reproduceren niet alleen de vooroordelen die inherent zijn aan de samenleving, maar versterken deze ook.”
En wanneer witte, rijke cisgender mannen deze tools ontwerpen zonder hier bewust van te zijn zal AI altijd vol met blinde vlekken zitten.
Ook zou AI onze cognitieve vermogens aan kunnen tasten. Zo blijkt uit onderzoek dat mensen die alleen nog maar op AI vertrouwen en chatbots voor hen laten denken, minder kritisch denken. AI-expert Jarno Duursma vertelt aan het AD: “Als je al het ‘eigen’ denkwerk uitbesteedt met zo’n tool als ChatGPT, dan weet je dat dat ten koste moet gaan van je eigen denkvermogen, van je eigen brein”.
Of ChatGPT schadelijk is voor je denkvermogen hangt af van hoe je het gebruikt. De grootste negatieve invloed van AI vinden we in ons dagelijkse leven: in de vorm van social media. Instagram’s algoritme werkt met AI en zorgt daarmee dat je steeds nieuwe content te zien krijgt die je aan het doomscrollen houdt. En we weten allemaal wat dat met onze mentale gezondheid doet. Én die van jongeren en kinderen.
De toekomst van AI en chatbots
Maar het is niet allemaal slecht. De opkomst van AI is juist in de medische wereld een enorme vooruitgang geweest. Artsen gebruiken de technologie voor verschillende levensreddende onderzoeken. Zo kan een AI programma premature baby’s in de gaten houden en vaststellen of ze sepsis of infecties krijgen.
Het kan oogaandoeningen opsporen, bestralingsplannen voor een kankerbehandeling opstellen en helpen om bestaande apps en programma’s te verbeteren. Annelies Verbiest, oncoloog, vertelt VRT: “We hebben hier veel verwachtingen op het vlak artificiële intelligentie. Het is vergelijkbaar met de uitvinding van antibiotica 100 jaar geleden, omdat het mensenlevens kan redden.”
Er zijn dus zeker positieve kanten aan AI en chatbots. Maar op dit moment lijkt het allemaal nog zo nieuw en onderontwikkeld dat de voordelen minder aanwezig zijn dan de nadelen. AI kan een grote impact hebben op onze gezondheid – op positieve en negatieve manieren.
Het verminderen van eenzaamheid is belangrijk en hier lijkt een 24/7 “vriend” wel echt bij te helpen. Maar ChatGPT is niet ingesteld om mensen met mentale problemen te helpen en uit een waanidee te halen. Daarnaast zijn de modellen zo ‘menselijk’ dat het moeilijk is om ze van de realiteit te onderscheiden.
En dan hebben we het nog niet eens gehad over de impact die AI heeft op het milieu en daarmee ook op bepaalde inheemse gemeenschappen. Welke invloed ChatGPT precies heeft op onze mentale gezondheid moet nog blijken met de tijd. Maar dat het invloed heeft is zeker.
Image by: Freepik
Source: Tableau, IBM, EénVandaag, Metro Nieuws, RTL Nieuws, Psychologie Magazine, Futurism, The Guardian, GGZ Nieuws, NOS, Psychology Today, Reuters, AD, VRT
DIT IS FRIEQUE
FRIEQUE is een nieuw platform, magazine en community voor iedereen die trots is anders te zijn. We geven niet om clout: wij doen wat we doen omdat het juist is en omdat we de wereld een stukje beter willen maken.
- 00Days
- 00Hours
- 00Minutes
- 00Seconds