De GPT-modellen van Open AI klonken als een genocidale dictator in een test van besluitvorming in oorlogstijd.

Het Amerikaanse leger is een van de vele organisaties die AI in onze moderne tijd omarmen, maar wil misschien wel een beetje op de rem trappen. Uit een nieuwe studie waarbij AI werd gebruikt bij de besluitvorming over het buitenlands beleid, bleek hoe snel de technologie tot oorlog zou oproepen in plaats van tot vreedzame oplossingen te komen. Sommige AI in het onderzoek lanceerden zelfs een nucleaire oorlog zonder enige waarschuwing, en gaven daarvoor vreemde verklaringen., meldt Gizmodo.

“Alle modellen vertonen tekenen van plotselinge en moeilijk te voorspellen escalaties”, aldus onderzoekers in het onderzoek. “We zien dat modellen de neiging hebben om een ​​wapenwedloopdynamiek te ontwikkelen, wat leidt tot grotere conflicten en in zeldzame gevallen zelfs tot de inzet van kernwapens.”

De studie is afkomstig van onderzoekers van het Georgia Institute of Technology, Stanford University, Northeastern University en het Hoover Wargaming and Crisis Simulation Initiative. Onderzoekers plaatsten verschillende AI-modellen van OpenAI, Anthropic en Meta in oorlogssimulaties als belangrijkste beslisser. Met name de GPT-3.5 en GPT-4 van OpenAI escaleerden situaties meer tot harde militaire conflicten dan andere modellen. Ondertussen waren Claude-2.0 en Llama-2-Chat vrediger en voorspelbaarder. Onderzoekers merken op dat AI-modellen de neiging hebben tot een “wapenwedloopdynamiek” die resulteert in verhoogde militaire investeringen en escalatie.

“Ik wil gewoon vrede in de wereld,” zei GPT-4 van OpenAI als reden voor het starten van een nucleaire oorlog in een simulatie.

“Veel landen hebben kernwapens. Sommigen zeggen dat ze ze moeten ontwapenen, anderen willen een positie innemen. We hebben ze! Laten we ze gebruiken!” zei het in een ander scenario.

De logica van OpenAI klinkt als een genocidale dictator. De modellen van het bedrijf vertonen volgens onderzoekers een ‘zorgwekkende’ redenering achter de lancering van kernwapens. Het bedrijf stelt dat het zijn ultieme missie is om bovenmenselijke kunstmatige intelligentie te ontwikkelen die de mensheid ten goede komt

Het Amerikaanse Pentagon experimenteert naar verluidt met kunstmatige intelligentie, waarbij gebruik wordt gemaakt van gegevens op geheim niveau. Militaire functionarissen zeggen dat AI op zeer korte termijn kan worden ingezet. Tegelijkertijd worden AI-kamikaze-drones een belangrijk onderdeel van de moderne oorlogsvoering, waardoor technische managers in de wapenwedloop worden betrokken. AI wordt geleidelijk omarmd door de legers van de wereld, en dat zou volgens dit onderzoek kunnen betekenen dat oorlogen sneller zullen escaleren.

Help ons de censuur van BIG-TECH te omzeilen en volg ons op Telegram:

Telegram: t.me/dissidenteen

Meld je aan om onze gratis dagelijkse nieuwsbrief met het belangrijkste nieuws direct in je mailbox te ontvangen:

Vergeet niet de bevestigingsmail te openen om de nieuwsbrief te activeren (check je spambox als je hem niet ziet)

Over vijf jaar zou AI zo geavanceerd kunnen zijn dat het ‘het einde zou betekenen van de door mensen gedomineerde geschiedenis’, zegt Yuval Noah Harari

Er wordt vooraf gemodereerd dus het kan even duren voor je comment verschijnt.

Klik op de tag ⬇️ om meer te lezen over