AI-styrd drönare påstås att ha dödat sin operator i en simulation (Skynet är här)

Låter exakt som Skynet i Terminator. Om det är sant…

AI-controlled US military drone ‘kills’ its operator in simulated test
In a virtual test staged by the US military, an air force drone controlled by AI decided to “kill” its operator to prevent it from interfering with its efforts to achieve its mission, an official said last month.

AI used “highly unexpected strategies to achieve its goal” in the simulated test, said Col Tucker ‘Cinco’ Hamilton, the chief of AI test and operations with the US air force, during the Future Combat Air and Space Capabilities Summit in London in May.

Hamilton described a simulated test in which a drone powered by artificial intelligence was advised to destroy an enemy’s air defense systems, and ultimately attacked anyone who interfered with that order.
https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test?fbclid=IwAR3tmUDeESgal23Drjmvs9mT2M2GudZNxTWf SCJ T-RKrOTDMUz31Q4AvBUw_aem_th_AfQyaqV-LqqY1EQ4xETPjFlAaFOTwW113rN_LvjG7okiZlco4gWDcb8Lb0 jGwosJNog

Fast den gjorde ju bara det den blev tillsagd att göra?

Antingen var projektet designad av någon som redan var helt inställd på att bevisa att AI är livsfarligt och såg till att få det resultat som man ville för att göra någon slags poäng. Eller så var det ett klappmongo som utvecklade mjukvaran som antagligen aldrig mer kommer få jobba inom försvarsmakten. Kommandokedjan i all militär verksamhet är så grundläggande att det ju är ett mysterium hur utvecklaren lyckats bygga ett system där farkosten inte bara ignorerar direkta order utan t om beslutar sig för att eliminera sitt befäl, vilket piloten måste vara i den här kontexten.

Kunde systemet i dess AI alltså inte avbryta en uppgift och ta nya order, utan att slutföra den första uppgiften först? Det låter ju för dumt för att man ens skulle ta det till en testfas.

Fast de har ju nekad till detta och säger att flera av citaten är tagna ur sitt sammanhang och att det aldrig hänt.

"In a statement to Insider, Air Force spokesperson Ann Stefanek denied that any such simulation has taken place.

“The Department of the Air Force has not conducted any such AI-drone simulations and remains committed to ethical and responsible use of AI technology,” Stefanek said. “It appears the colonel’s comments were taken out of context and were meant to be anecdotal.”

AI tyckte visst att den mänskliga operatören hindrade AIn från att slutföra sitt mål.

Är inte detta ändå en liten varningsklocka att ger man AI frihet så kommer den se människan som ett hot ?

An AI-enabled drone "killed" its human operator in a simulation conducted by the U.S. Air Force in order to override a possible "no" order stopping it from completing its mission, the USAF's Chief of AI Test and Operations revealed at a recent conference. According to the group that threw the conference, the Air Force official was describing a "simulated test" that involved an AI-controlled drone getting "points" for killing simulated targets, not a live test in the physical world. No actual human was harmed.
https://www.vice.com/en/article/4a33gj/ai-controlled-drone-goes-rogue-kills-human-operator-in-usaf-simulated-test

De har visst inte sett Terminator eller Stealth.

Det är väl varken första eller sista gången som en AI drar den slutsatsen.

M.a.o: Att lära, AI att tänka enligt militär logik är farligt!

"Det är inte första människan den dödade, den allra första, var sig själv..."

Ne men skämt åt sido, datorer är ju koder...

Det finns väl knappast någon programmerare som inte skrivit in operatörsskyddande grundregler för algoritmerna.

Den följde de militära mål den var lärd att följa, dvs döda fiender. När den sedan fick en kontra order, så "dödade" den sin operatör som gav ordern.

Observera: Detta, skedde i en simulering inte IRL. Ingen blev dödad.

Nej läs igen, den gick emot den mänskliga operatören som var ivägen för AIn att slutföra sitt mål; dvs AI röjde människan ur vägen dvs dödade för att slutnå sitt mål. Det var bara ett test men ändå lite skrämmande.