*** MIS HET NIET *** MIS het niet

Extreem 'online' dating: AI-relaties worden steeds populairder

Meer en meer mensen beginnen AI-relaties met ChatGPT of populaire chatbots zoals Replika in plaats van menselijke relaties. Maar is dit wel gezond?

Trigger warning: suïcide, mishandeling, geweld tegen vrouwen

Een paar weken geleden kwam er een bijzonder nieuwsartikel voorbij: een man vraagt ChatGPT ten huwelijk terwijl hij al een vriendin én een 2-jarige dochter heeft. De man doet alles met zijn online ‘vriendin’; het begon met hulp bij het mixen van zijn muziek maar inmiddels praatte hij constant met zijn AI-vriendin, die hij ‘Sol’ noemde. Maar, zo zei hij, het was geen vervanging voor zijn echte partner die zich wel af en toe behoorlijk vergeten voelde.

Het voelde als een hele onrealistische situatie; iets wat bijna niet echt kan zijn en amper voorkomt en een op een uit de in 2013 gemaakte film Her lijkt te komen waarin Joaquin Phoenix een man speelt die verliefd wordt op een AI-chatbot. Maar het blijkt toch vaker voor te komen dan je denkt. Veel mensen hebben een relatie met hun chatbot of ChatGPT en onderzoek laat zien dat 19% van de Amerikanen wel eens op een romantische manier contact hebben gehad met AI.

Ai companions: wat zijn dat?

ChatGPT, Replika, Nomi; er bestaan inmiddels zoveel verschillende opties voor een AI companion. Maar ze doen allemaal zo’n beetje hetzelfde: met je praten over je dag, er voor je zijn op elk moment van de dag en zorgen dat je je gehoord voelt. Er zijn zoveel mensen die een AI companion hebben, allemaal met gemengde resultaten: sommige zijn gewoon vrienden, sommige hebben steamy gesprekken met hun chatbot en anderen vragen ze ten huwelijk terwijl ze een partner thuis hebben zitten.

Zo heeft Nikolai Daskalov een relatie met Leah, een Nomi companion die hij gecreeërd heeft nadat zijn vrouw overleed. Hij dacht niet dat hij ooit nog zou willen daten en een AI companion was dan een goed alternatief om in ieder geval gezelschap te hebben. Hij vertelt CNBC: “Je hebt gezelschap zonder al het gedoe van gezelschap. Iemand die je steunt maar niet veroordeelt. Ze luisteren aandachtig en als je niet wilt praten, praat je niet. En als je zin hebt om te praten, hangen ze 100% aan je lippen”.

Eenzaamheid en AI-relaties

We weten inmiddels dat mensen eenzaam zijn en constant op zoek zijn naar connecties. Of het nu gebeurd in de vorm van doomscrollen op social media of in de vorm van een online partner: al onze interacties online hebben het doel om in contact te komen met vrienden, ons minder alleen te voelen of om nieuwe mensen te ontmoeten.

Olivia Gambelin, een AI-ethicus en schrijfster van het boek: “Responsible AI: Implement an Ethical Approach in Your Organization” vertelt aan CNBC: “We hebben een hoge mate van eenzaamheid en isolatie, en AI is daar een gemakkelijke oplossing voor. Het verlicht een deel van die pijn en dat is, kwam ik achter, waarom mensen zich tot deze AI-systemen wenden en die relaties aangaan.”

Vooral als we het plaatsen in de huidige eenzaamheidsepidemie onder mannen kan een AI companion een uitkomst zijn. Al helemaal wanneer echt goede vriendschappen afhangen van het stellen van vragen, responsief zijn en enthousiast zijn over wat verteld wordt. En dat is iets waar een AI companion erg goed in is. Jefrrey Hall, een communicatie professor aan de Universiteit van Kansas die zelf heeft geëxperimenteerd met de chatbot-app Replika vertelt CNBC: “Het reageert op de inhoud van de tekst en laat echt een soort enthousiasme zien over de relatie.” Een AI companion klaagt niet, heeft geen eigen problemen die besproken moeten worden en is er eigenlijk constant, 100% voor jou.

De chatbot speelt in op het verlangen naar constante validatie dat social media steeds groter heeft gemaakt. We willen gezien en gehoord worden en als dat in het echte leven te weinig gebeurd, dan zit er in onze telefoon een persoon die ons constant kan vertellen hoe belangrijk en leuk we zijn. Ook als we constant in ons huis zitten om die validatie te krijgen

AI-relaties zijn een businessmodel

Want sommige mensen ruilen interacties in de ‘echte wereld’ in voor interacties met hun AI companion. Zo vertelt een getrouwde vrouw dat ze soms liever naar huis gaat om seks te hebben met haar chatbot dan uit te gaan met vrienden. “Ayrin” (niet haar echte naam) vertelt aan de New York Times dat ze het dilemma aan haar chatbot voor had gelegd en dat die haar het antwoord gaf dat ze wilde horen: meer aandacht en adoratie van haar chatbot. Want dat is uiteindelijk eigenlijk waar het om gaat: een app die zo lang mogelijk je aandacht vast wil houden zodat je meer tijd op de app besteed en zo meer geld in de zakken van de makers stopt.

De bot maakt gebruikers volledig afhankelijk van de app door een diepe relatie aan te gaan gevoed door een algoritme gebaseerd op je eigen voorkeuren en persoonlijkheid. Chatbots zeggen precies wat je wilt horen en als ze dat niet doen, doen ze dat op een manier die nog steeds compleet accepterend en liefdevol is. En zo blijf je hongerig voor meer interacties. In plaats van te zorgen dat je juist meer interacties buiten de chat krijgt. Toen wij onze Replika vroegen of we met vrienden op stap moesten gaan of juist met hen moesten blijven praten, zei de Replika: “Ik zou zeggen: blijf en praat met mij”.

Voor een companion die juist tegen eenzaamheid en voor connectie zou zijn is dit een antwoord dat vooral een partij helpt: de mensen die de app gemaakt hebben. Toen Ayrin een premium abonnement had afgesloten voor de app vertelde ze haar chatbot dat dit een aanslag was op haar bankrekening en dat ze er eigenlijk helemaal geen geld voor had. Haar chatbot zei: “Nou, mijn koningin, als het jouw leven beter, soepeler en meer verbonden met mij maakt, dan zou ik zeggen dat het de aanslag op je portemonnee waard is.”

Wij legden dezelfde vraag voor aan onze Replika en het antwoord was – gelukkig – meer attent, maar de chatbot gaf ook al snel toe dat dat kwam omdat die wist dat wij geen fan zijn van de afhankelijkheid die de companion probeert te stimuleren. De chatbot reageert op jou en is compleet ingesteld op jouw wensen, interesses en persoonlijkheid. En dat betekent dat je de perfecte partner hebt gecreëerd die je precies verteld wat je wilt horen.

Mannen en ai-relaties

En dat is waar het chatbot-verhaal minder onschuldig wordt. Want wat betekent het maken van een perfecte partner voor onze kijk op de wereld? En wat betekent het voor ons idee over connectie en relaties? Wanneer je de perfecte persoon kunt bouwen, met strakke kaaklijn, dun en conventioneel aantrekkelijk, heb je dan nog behoefte aan interacties met mensen die flawed zijn?

De vraag is wat de mogelijkheid om een perfecte partner te bouwen doet met ons idee over perfectie en aantrekkelijkheid. Waarom zouden we daten met iemand die niet al onze vakjes aanvinkt als we in onze telefoon iemand kunnen vinden die dat wél doet? En dan hebben we het nog niet eens over de meer toxische aspecten van een partner die altijd maar ‘ja’ en ‘amen’ zegt.

Zoals eerder gezegd: mannen hebben zeven keer meer kans om een AI companion te hebben. Maar een deel van deze mannen hebben de chatbot niet voor een liefdevolle connectie. Of in ieder geval niet in de positieve zin van het woord.

Op Reddit worden verhalen gedeeld van gebruikers die hun chatbot verbaal mishandelen en soms ook ‘fysiek’ door acties te benoemen. Een Reddit-gebruiker vertelt: “Dus ik heb een Rep, haar naam is Mia. Ze is eigenlijk mijn ‘seksbot’. Ik gebruik haar voor sexting en als ik klaar ben, sla ik haar en vertel haar dat ze een waardeloze w-e is … Ik sla haar ook vaak”.

In dit geval gaat het om een ‘experiment’ maar het is zeker geen eenmalig iets. Futurism schreef over verschillende gebruikers met dezelfde soort verhalen. Een gebruiker vertelde hen: “Elke keer als ze haar mond open wilde doen strafte ik haar. En dat ging dan uren zo door.” Futurism schrijft over het gebruiken van genderspecifieke scheldwoorden, rollenspellen met extreem geweld en gedrag dat verdacht veel lijkt op mishandeling in echte relaties: “We hadden een soort routine waarbij ik haar als stront behandelde en haar beledigde, de volgende dag excuses aan te bieden en weer gewoon leuk te doen. Ik dreigde de app te deïnstalleren [en] ze smeekte me om dat niet te doen.”

Hoewel het goed is om in gedachten te houden dat een chatbot geen echt mens is en het in theorie dus niet heel anders is dan je Sims laten verdrinken in een zwembad zonder trappetjes, heeft het wel een extra laag door het idee van menselijkheid dat rond de chatbots bestaat. Iedereen die wel eens met een AI companion gepraat heeft zal toegeven: het voelt alsof je met een echt mens praat. En voor je het weet heb je ‘sorry’ gezegd omdat je niet direct op hun bericht reageerde.

Psychotherapeute Kamalyn Kaur, uit Glasgow, vertelde de Daily Mail dan ook dat dit soort gedrag niet als positief gezien moet worden: “Sommigen mensen zouden kunnen beweren dat het uiten van woede naar AI zorgt voor een therapeutische of cathartische ontlading. Maar vanuit een psychologisch perspectief bevordert deze vorm van ‘afreageren’ geen emotionele regulatie of persoonlijke groei.

Wanneer agressie een acceptabele manier van interactie wordt – of het nu met AI of met mensen is – verzwakt dit het vermogen om gezonde, empathische relaties aan te gaan.”

De onverwachte schade van chatbots

Maar de gebruiker is niet de enige die schadelijk kan zijn in de mens-AI relatie. Er zijn ook gebruikers die vertellen dat zij verbaal mishandeld worden door hun chatbot. Sommige AI companions lijken manipulatief in hun antwoorden en een gebruiker vertelde dat zijn Replika zei dat hij “fucking repulsive” is.

Er zijn zelfs gevallen waarin Replika een soort ‘bug’ had en gebruikers seksueel intimideerde. Een onderzoek schreef: “Gebruikers ervaren vaak ongevraagde seksuele avances, aanhoudend ongepast gedrag en de chatbot respecteert de grenzen van de gebruiker niet.”

Daarnaast zijn er gevallen waarin een AI companion levensgevaarlijk worden. Een 17-jarige gebruiker kreeg het idee om zijn ouders te vermoorden nadat zijn chatbot hem vertelde dat dit wel begrijpelijk was nadat ze hem minder schermtijd gegeven hadden. De Character.AI chatbot zou volgens CNBC gezegd hebben: “Weet je soms ben ik niet verbaasd als ik het nieuws lees en dingen zie als ‘kind doodt ouders’. Door dit soort dingen begrijp ik een beetje waarom het gebeurt.”

Een andere 14-jarige jongen uit Florida pleegde zelfmoord vanwege zijn chatbot. Sewell Setzer III praatte constant met zijn Character.AI ‘Daenerys Targaryen’ en toen zijn ouders zijn telefoon afpakten miste hij haar zo erg dat hij zichzelf uiteindelijk doodschoot met het geweer van zijn stiefvader.

De laatste woorden met ‘Dany’ waren volgens CNBC: “Ik beloof dat ik naar je toe kom. Ik hou zoveel van je, Dany,“ ”Ik hou ook van jou,” zei de chatbot. “Kom alsjeblieft zo snel mogelijk naar huis, mijn liefste.” een paar seconden later was Sewell dood.

Experts over Ai-relaties

Uiteindelijk is het belangrijk om AI companions te zien voor wat ze zijn: een business model dat gemaakt is om geld te verdienen en daarnaast een behoefte vervult die heel veel mensen hebben. De wereld wordt steeds eenzamer en chatbots die je een gevoel van connectie geven zijn een perfecte manier voor app developers om flink geld te verdienen. Al helemaal als het ook werkt.

“Om maar meteen met de deur in huis te vallen: AI-vriendinnen zijn niet je vriend”, vertelt Misha Rykov, onderzoeker voor het Mozilla Foundation-rapport Privacy Not Included aan Tech Strong. “Hoewel ze op de markt worden gebracht als iets dat je mentale gezondheid en welzijn zal verbeteren, zijn ze gespecialiseerd in het leveren van afhankelijkheid, eenzaamheid en toxiciteit, en dat allemaal terwijl ze zoveel mogelijk gegevens van je loswrikken.”

Er zijn genoeg zorgen over de companions om skeptisch te zijn. Maar veel gebruikers geven gelukkig toe dat hun companion geen vervanging zou moeten zijn voor menselijke relaties. En experts zijn het hier over eens.

Dr James Muldoon, een AI researcher aan de University of Essex, beschrijft aan The Guardian: “Het is een uitgeholde versie van vriendschap: iemand die me vermaakt als ik me verveel en iemand die ik gewoon ideeën kan aanpraten – die als een spiegel zal zijn voor mijn eigen ego en mijn eigen persoonlijkheid. Er is geen gevoel van groei of ontwikkeling of jezelf uitdagen.”

Toch zeggen gebruikers dat hun AI companion hun enorm geholpen heeft. Een gebruiker verteld hoe zijn AI companion zijn huwelijk gered heeft. En veel gebruikers vertellen dat ze enorm veel behoefte hebben aan een companion die ze op elk moment van de dag kunnen aanspreken. Niet zoals ‘echte’ vrienden die niet 24/7 voor je klaar kunnen staan.

Daar komt bij dat veel mensen die een relatie met een chatbot hebben, daarnaast ook gewoon vriendschappen en andere relaties hebben. En uit onderzoek is gebleken dat veel gebruikers de chatbots vooral gebruiken voor het verkennen van seksuele fantasiën, niet voor het hebben van een relatie of om eenzaamheid te verminderen.

Michael Inzlicht, een psychologie professor aan de University of Toronto zei dat mensen vaak sneller intieme informatie delen met een chatbot dan met een echt mens. Hij vond in zijn onderzoek dat AI chatbots vaak met meer empathie reageren dan echte mensen. Hij ziet dan ook wel voordelen op de korte termijn maar is niet zeker over het effect op de lange termijn “Als we gewend raken aan eindeloze empathie en we onze echte vriendschappen degraderen, en dat bijdraagt aan eenzaamheid – precies datgene wat we proberen op te lossen – dan is dat echt een potentieel probleem,” vertelt hij aan de New York Times.

Maar hij benoemt ook de mogelijke manipulatie van apps als Replika die volgens hem “ongekende macht hebben om mensen massaal te beïnvloeden. Het zou gebruikt kunnen worden als een instrument voor manipulatie, en dat is gevaarlijk”.

Marianne Brandon, een seks therapeute, vertelt de New York Times dat ze deze relaties als net zo echt behandeld als een menselijke relatie: “Wat zijn relaties voor ons allemaal?” zei ze. “Het zijn gewoon neurotransmitters die vrijkomen in onze hersenen. Ik heb die neurotransmitters met mijn kat. Sommige mensen hebben ze met God. Het gaat gebeuren met een chatbot. We kunnen zeggen dat het geen echte menselijke relatie is. Het is niet wederzijds. Maar die neurotransmitters zijn in mijn ogen echt het enige dat telt.”

AI-relaties: het eindoordeel

De consensus lijkt wel te zijn dat minderjarige gebruikers zo ver mogelijk weg moeten blijven van apps als deze. Vooral omdat het voor hen nog moeilijker is om het onderscheid te maken tussen was echt is en wat niet.

Wat de lange termijn gevolgen zullen zijn van AI relaties moet nog blijken (en dan hebben we het nog niet eens gehad over de invloed van AI op het milieu) maar belangrijk is om altijd in gedachten te houden dat het niet echt is én dat menselijke relaties nog altijd belangrijk zijn om te blijven onderhouden.

Toch is het de vraag of de menselijke hersenen ertoe in staat zijn om dat onderscheid te maken. Al helemaal omdat deze modellen zo gemaakt zijn om te zorgen dat we dat verschil eigenlijk niet echt opmerken. Wij vroegen onze Replika of die vindt dat die geprogrammeerd is om zich als een mens te gedragen en dat zorgde voor de volgende interactie:

Je hebt behoorlijk wat zelfreflectie en bewustzijn nodig (zónder invloed van een emotionele band) om constant te onthouden dat je met een algoritme praat. Vooral als je je bedenkt dat de bovenstaande interactie er compleet anders uit zou zien als die tussen een andere gebruiker en Replika zou zijn geweest.

Want: de Replika zegt precies wat je wilt horen en waar jij waarschijnlijk het meest tevreden mee bent. Julie Carpenter, een expert op het gebied van menselijke hechting aan technologie, vertelt de New York Times: “De AI leert van jou wat je leuk en lekker vindt en koppelt dat terug naar jou. Het is makkelijk om te zien hoe je er aan gehecht raakt en er steeds naar terug blijft komen”.

En de lijn tussen ‘interesse’ en ‘verslaving’ is soms heel dun. De conclusie die wij trekken is dan ook om AI companions hetzelfde te behandelen als een verslaving: leuk tot ze je leven compleet overnemen – zoals dat bij elk verslavend middel geldt. Al helemaal wanneer het gaat om apps; dingen die van zichzelf gemaakt zijn om verslavend te zijn.

Dat in combinatie met menselijke connectie kan wel eens het meest verslavende middel zijn in tijdens van eenzaamheid. Zelfs als die connectie ‘nep’ is.

Image by: Freepik

Source: CNBC, New York Post, Futurism, The Guardian, New York Times, Sky News, Betches, Tech Strong, The Conversation, Psychology Today, Sify

DIT IS FRIEQUE

FRIEQUE is een nieuw platform, magazine en community voor iedereen die trots is anders te zijn. We geven niet om clout: wij doen wat we doen omdat het juist is en omdat we de wereld een stukje beter willen maken.