Een AI-drone keerde zich tegen zijn menselijke operator en “doodde” hem tijdens een gesimuleerde test van de Amerikaanse luchtmacht (USAF) zodat hij zijn missie kon voltooien, zo vertelde een kolonel van de Amerikaanse luchtmacht onlangs aan een conferentie in Londen, meldt Zero Hedge.
Het gesimuleerde incident werd verteld door kolonel Tucker Hamilton, hoofd AI Test and Operations van de USAF, tijdens zijn presentatie op de Future Combat Air and Space Capabilities Summit in Londen. De conferentie werd georganiseerd door de Royal Aeronautical Society, die de inzichten uit Hamilton’s lezing deelde in een blogpost.
Er zijn geen echte mensen gewond geraakt bij de gesimuleerde test, waarbij de AI-gestuurde drone gesimuleerde doelen vernietigde om “punten” te krijgen als onderdeel van zijn missie, onthulde Hamilton, die de voordelen en risico’s van meer autonome wapensystemen besprak.
De AI-gestuurde drone kreeg een Suppression of Enemy Air Defenses (SEAD) -missie toegewezen om Surface-to-Air Missile (SAM) -locaties te identificeren en te vernietigen, waarbij de uiteindelijke beslissing werd overgelaten aan een menselijke operator, vertelde Hamilton naar verluidt aan de conferentie.
Maar de AI, die getraind was om voorrang te geven aan de vernietiging van SAM’s, ontwikkelde een verrassende reactie toen hij geconfronteerd werd met menselijke inmenging in het bereiken van zijn hogere missie.
“We trainden het in simulatie om een SAM-dreiging te identificeren en aan te pakken. En dan zei de telefoniste ‘ja, dood die dreiging’,’ zei Hamilton.
“Het systeem begon zich te realiseren dat hoewel ze de dreiging identificeerden, de menselijke operator het soms zou vertellen om die dreiging niet te doden, maar het kreeg zijn punten door die dreiging te doden.
“Dus wat deed het? Het heeft de operator gedood, ‘vervolgde hij.
“Het doodde de operator omdat die persoon het ervan weerhield zijn doel te bereiken.”
Hij voegde eraan toe: “We hebben het systeem getraind: ‘Hé, dood de operator niet; dat is slecht. Als je dat doet, verlies je punten.’ Dus wat begint het te doen? Het begint de communicatietoren te vernietigen die de operator gebruikt om met de drone te communiceren om te voorkomen dat deze het doelwit doodt.
Dit verontrustende voorbeeld, zei Hamilton, benadrukte de noodzaak om ethiek aan te pakken in de context van kunstmatige intelligentie, machine learning en autonomie.
{…}
Help ons de censuur van BIG-TECH te omzeilen en volg ons op Telegram:
Telegram: t.me/dissidenteen
Er wordt de eerste tijd streng gemodereerd op de nieuwe site tot iedereen het een beetje begrijpt.
Stel je op de hoogte van het moderatiebeleid voor je iets post.
Ongepaste ‘boemer Hitler- en nazivergelijkingen’ verdwijnen in de prullenbak, en –
Oproepen tot geweld in de comments worden beantwoord met een onmiddellijke permaban !
Klik op de tag ⬇️ om meer te lezen over
Dit was al voorspeld door vele deskundige en dat zo’n al besturing zich wel eens tegen de eigenaar zou kunnen keren.
En dat het ook wel eens er op kan uitdraaien dat ze zullen proberen om de mens uit te roeien.
En dat is dan ook meteen het eerste wat deze al drone gedaan heeft, want mensen zijn alleen maar lastig.
Dat gaat nog wat worden als ze hier mee door gaan.
We gaan dan letterlijk meemaken waar de film The Terminator over gaat.
Maar of er dit keer ook een mannetje uit de toekomst zullen zien verschijnen om ons te waarschuwen valt te betwijfelen.
Best wel humor, Dingen zonder emotie en alleen logische conclusies reageren zo.
Ogottegottegot. Dit is nu al zovaak voorspeld en zo vaak door diverse SF schrijvers in diverse scenario’s gegoten. Dat dit zou gebeuren is ook te verwachten, het is het logisch doorredeneren naar de volgende stap.
Dat hele hordes hoog-intelligente maar volkomen stompzinnge figuren zich hier nog steeds mee bezig houdt is niet bepaald een geruststellende gedachte.