Chatbots kunnen helpen het menselijk leven te verbeteren, maar één wordt beschuldigd van het aanzetten tot zelfmoord, volgens een nieuw bericht dat deze week werd gepubliceerd.

Een Belgische vader pleegde naar verluidt op tragische wijze zelfmoord na gesprekken over klimaatverandering met een kunstmatige intelligentie-chatbot die hem zou hebben aangemoedigd zichzelf op te offeren om de planeet te redden.

“Zonder Eliza [de chatbot] zou hij hier nog steeds zijn”, vertelde de weduwe van de man, die weigerde haar naam te laten publiceren, aan de Belgische outlet La Libre.

Zes weken voor zijn gerapporteerde dood sprak de onbekende vader van twee kinderen naar verluidt intensief met een chatbot op een app genaamd Chai.

De bots van de app zijn gebaseerd op een systeem dat is ontwikkeld door het non-profit onderzoekslaboratorium EleutherAI als een “open-source alternatief” voor taalmodellen die door OpenAI zijn uitgebracht en die worden gebruikt door bedrijven in verschillende sectoren, van de academische wereld tot de gezondheidszorg.

De onder vuur liggende chatbot is getraind door de mede-oprichters van Chai Research, William Beauchamp en Thomas Rianlan, meldt Vice, eraan toevoegend dat de Chai-app 5 miljoen gebruikers telt.

“Vanaf het moment dat we over deze [zelfmoord] hoorden, werkten we de klok rond om deze functie geïmplementeerd te krijgen”, vertelde Beauchamp aan Vice over een bijgewerkte functie voor crisisinterventie.

“Dus als iemand nu iets bespreekt dat niet veilig zou kunnen zijn, gaan we er een nuttige tekst onder plaatsen op precies dezelfde manier als Twitter of Instagram op hun platforms”, voegde hij eraan toe.

De 30-jarige overleden vader, een gezondheidsonderzoeker, leek de bot als een mens te beschouwen, ongeveer zoals de hoofdpersoon van de scifi-thriller “Ex Machina” uit 2014 doet met de AI-vrouw Ava.

Naar verluidt had de man de afgelopen anderhalve maand gesprekken met Eliza opgevoerd toen hij existentiële angsten over klimaatverandering begon te ontwikkelen.