AI orsakar mänsklighetens död (samlingstråd)

Jag har inte sparat filmen från Youtube som tog upp exemplet, så jag vet inte vilken det var.
Denna tycker jag tar upp hotet från AI på ett bra vis rent generellt: https://www.youtube.com/watch?v=XfscMJbrrcQ

Det är en spekulation om vad som skulle kunna hända.
Det är ungefär samma spekulation om att CERN kan skapa ett svarthål som äter upp jorden osv...

Ja, vad skulle det annars vara? Det spekuleras runt om i världen bland samtliga organisationer som håller på med AI, hur stor faran är. En majoritet säger det är farligt, en minoritet anser att AI inte är farligt.

Kan du bevisa att spekulationen om CERN och dess spekulation om skapande av svarta hål är likvärdigt med varningarna runt AI?

Knappast en majoritet som målar ut några domedags scenarios liknande de du skriver eller länkar om.

Det har varit precis likadant som skrivits om det. En summering här tex https://factcheck.afp.com/doc.afp.com.32EB4LV

Det kanske sker helt ofrivilligt. Att AI manipulerar folk genom internet, så att våra politiker tvingas bort från sin position. Jag tror även ett sådant scenario är helt möjligt.


Jag tror i högsta grad på att kärnvapen och kärnkraftverk är direkt kopplade till internet, mera eller mindre. Kärnkraftverk hade varit viktiga för en AI som försäkra sig om att energi finns tillgänglig. En AI som vill ta över ett kärnkraftverk och även kärnvapen hade klarat av den saken om vi människor misslyckas kontrollera den framtida ASI:n, eller snarare ifall vi misslyckas med att få ASI:n att verka i linje med vad som är positivt för oss människor.

Vad som helst kan hända, som att bollen är rund. Då jag inte litar ett dugg på att våra företag som håller på med AI, behärskar att kontrollera den superintelligens dessa håller på att skapa. Alltså en intelligens som vida kommer överstiga vår mänskliga intelligens.

Det finns inte ett kärnkraftverk och än mindre kärnvapen som har direkt internet access... Du tror inte det hade varit en jävligt korkad sak att göra även givet den teknik som finns idag, med alla ransomware, scams, hackare för att inte tala om nationellt sanktionerade sådana som opererar för regeringar?

Och även om det varit så, vad hade AI:n gjort då menar du, tror du energi som kärnkraftverken genererar på något sätt kan skickas över internet? Eller skulle AI:n slå upp nya kraftledningar till var nu det GPU kluster den körs på ligger?

Men det är egentligen totalt meningslöst att debattera med den kategori skribenter du tillhör, för ni vare sig vet ett dugg om något i världen och det enda man får emot sig är fantasier som det inte finns något som helst belägg för annat än ett "tänk om" scenario för.

Det är ingen som sagt att AI är riskfritt, men riskerna är självfallet inte primärt att mänskligheten ska utrotas. Att prata om intelligens som vida överstiger människan är vansinne när vi för det första inte har AI som vida överstiger människans kognitiva förmågor och jag vet inte riktigt var ifrån den här iterativa hastighetsökningen på "intelligens" skulle komma från som alla pratar om, det är inte så att det finns enorma server hallar med kraftiga tex Nvidia A100 som bara står och väntar på att någon sak sysselsätta dom, det är inte så att dagens AI modeller använder några enstaka procent av tillgänglig kapacitet heller.

Och om det varit så att AI bara av det faktum att det outtröttlige skulle kunna jobba på något för att förbättra det, varför sker det inte redan?
De AI system som är överlägsna människan idag är algoritmer där människor designat och definierat problemutrymmet (vad som är regelmässigt korrekt och när algoritmen nått slutdestination) sedan i är det i huvudsak monte-carlo tree search.

Dina efterblivna liknelser är häpnadsväckande korkade.
När det kommer till din egna köttklumps fria vilja finns det inget säkert med att du har en fri vilja. Du kan lika gärna vara en köttmaskin som sprattlar och rycker till en följd av stimuli.

Vad kommer stimulin ifrån? Kommer den från hjärnan så har du ju svaret redan där. Det finns intelligens bakom stimulin och det är inga slumpmässiga eller av andra förprogrammerade ryckningar.

Dagens AI är förprogrammera på ett eller annat sätt. Även om AI'n gör något som direkt inte är programmerat av människan så är den i slutändan ändå indirekt programmerad av människan, ungefär som när ett enkelt program skapar något slumpmässigt. Det slumpmässiga resultatet som programmet ger är inte förprogrammerat av människan, utan är snarare ett indirekt resultat av en programmering som är gjord av människan.

Den dagen vi har äkta och riktig AI,... då bör du bli orolig.

Detta kommer givetvis att hända, vi människor skapar vad vi kan tänka oss, och Militära AI robotar är ju givetvis det.. Tänk att skicka ut dessa i krig istället för kött och blod... MEN de kommer givetvis ta över allt..

Du pratar osammanhängande.
Inget svar står att finna i meningen att stimuli kommer från hjärnan?

Oavsett..
Stimuli kommer mestadels utifrån. Som tolkas av vår hjärna som fattar beslut. Straxt EFTER beslutet är taget kommer det till den delen som vi uppfattar som medvetande och att vi fattar beslutet.
Detta faktum att hjärnan fattar beslut tidigare än vi är medvetna om, kan registreras utifrån med elektroder.
Det tycks som om det undermedvetna i oss faktisk tar beslutet. Sedan omvandlas handlingen till en medveten handling som vi väljer att uppfatta som en aktiv handling.

Andra tester har gjorts där svag EMP riktas mot delar av hjärnan som kontrollerar rörelser.
En EMP puls kan då tex vara riktad så att ett finger rycker till. Medans försöket pågår ombeds försökspersonen att rycka med fingret då och då.
Efter ett ryck tillfrågas personen om det va ett frivilligt ryck eller om det bara hände.
Det obehagliga är att personen oftast tror att det EMP-orsakade rycket var personen egna handling.

Var går gränsen för vad aktiva handlingar och vad som bara är vår köttdator som kör sitt program? Otroligt svårt att veta. Dock är ju Köttprogrammet långsamt programmerbart vilket i sin tur ger oss möjlighet att skapa vårt eget öde.
Många tester tycker jag ger en obehaglig bild av att köttmaskinen gör vad den gör. Sedan skapar den samtidigt en illusion av kontroll och aktivt handlande som blir vårt medvetande.
Kanske kan vi bara stanna upp och ge den knuffar i olika riktningar.

Jag är övertygad av att tex google och facebook inriktar sig med sin AI på våra tillkortakommanden där vi tror vi har kontroll. Samtidigt som det är vårt undermedvetna som sitter i förarsätet.
Vi fostras till konsumenter.

Du har rätt som hänvisar till Benjamin Liberts 70-tals experiment.

Men samtidigt så är det viktigt att inte överskatta dagens AI. Dock är det inte fel att vara psykologiskt förberedd inför framtidens AI. Hur kort eller lång tid det kommer att ta innan den är här.

Ai hittar på väldigt mycket som skaparen inte tänkt sig från början.
Därav behöver ett snävt regelverk sättas för AI. Det kan vara svårt att tänka på alla scenarier där en regel skall tvinga AIn att bete sig på ett visst sätt. Där kan det gå fel.
AI är än så länge inte i kontroll över några kritiska funktioner i samhället.
Den är oxå väldigt snäv i sin förmåga.
Men det kommer en tid när AGI blir verklighet. Dvs en AI med förmåga att lära sig lite vad som.
AI är ju redan i dag oändligt mycket bättre än merparten av alla människor på just en litet område.
AGI innebär lika bra eller bättre på alla områden.