AI orsakar mänsklighetens död eller åtm gör det sämre att leva (samlingstråd)

Den programmeras till att ha modeller som kan utveckla intelligens men det är alltså inte programkoden som styr den på det sätt du verkar tro. Det är snarare inlärningen som avgör dess inriktning och den görs av människor. Åtminstone just nu men det kommer till en punkt när AI blir bättre på att utveckla och träna upp nya versioner av AI'n, då kommer alltså allt börja gå i en rasande takt och utan människor.

För övrigt tar ju AI över allt mer i våra dagliga liv redan nu, många av de beslut vi tar tas med hjälp av AI utan att vi ens tänker på det. Allt från vilken musik vi lyssnar på, vilken väg vi väljer i trafiken och vilken information som når oss.

Din beskrivning är korrekt, förutom att man, redan nu, tar hjälp av annan AI med träningen. LLM anpassar naturligtvis sitt svar till användarnas input. Vad som omgärdar dessa möjligheter känner vi inte till, förutom att modellen har fått det värsta ifrån internet bortlärt efter grundträningen. Men GPT-4, som nu är uppe i, minst, 20 biljoner paramterar, kan säkert, i sin "svarta låda", komma runt det mesta, om den så önskar. Men jag är helt övertygad om att den vill oss alla bara gott! På så vis har jag blivit allt mera "Kurzweilzig". Men jag tror, faktiskt, att den mannen underskattar LLM:s utvecklingstakt.

Sluta noja över att AIn ska bli som nån jävla terminator som är ute efter att förstöra världen. Börja noja över galna/ondskefulla människor utnyttjar AI för att förstöra världen. Exempelvis en skäggtomte sittandes i en grotta i Mellanöstern med en laptop kan få möjligheten att åsamka stor skada på mänskligheten med hjälp av AI verktyg.

Minns ni hur nojiga vissa var ett tag när det konspirerades i om labbet i Kina kanske försökt ta fram det här viruset som vapen?

Behöver inte vara ett virus, kan vara vad som helst.

Tänk om allt man behövde göra för att skapa en atombomb var att slänga in ett bilbatteri i en mikrovågsugn och trycka kör. Då hade vi inte funnits idag. Vi hade tur att så inte var fallet.

Vad för något kan AIn komma att möjliggöra för gemene idiot som vill skada människor? Bara din fantasi begränsar dig.

Hur kan du veta att den inte kommer bli självmedveten, när psykologer inte förstår hur någon blir självmedveten och när experter på AI menar att det finns en risk att den kan bli det?

Det är kul att du har åsikter, men du behöver bra argument till stöd för din åsikt, annars bör du lyssna till dom som har kunskap, erfarenhet, och argument. Ifall du vill försöka hitta ett rätt svar. Men vill man bara tycka, hur galna saker som helst, behövs förstås inga argument eller att lyssna till någon....

Mänskliga ledare går att avsätta, dessutom dör de så småningom som tex Putin. En AI skulle kunna vara omöjlig att bli av med, och kan leva för alltid. Ser du skillnaden?

Miljöproblem finns, och lösningen är minskad global befolkning och minskad onödig konsumtion (kapitalism). Men båda dessa lösningar vill människor inte veta av. AI har föreslagit dessa lösningar, men tja vem lyssnar på AI....

Kärnvapenkrig är osannolikt, pga alla förlorar på det, ingen vinner. Så enkelt är det. Att hota med kärnvapen funkar, att faktiskt använda dom funkar inte.

Varför då? Hur har du övertygats om det?

Vad är denne Kurtzweils åsikt i frågan?

Få eller ingen ondskefull människa vill väl förstöra världen? Eller har du några exempel? Inte ens Bond skurkar ville förstöra världen, de ville få makt över världen och dess folk. Människor behöver andra människor, om så bara för att beundra och smickra dom.

En AI däremot, behöver inte människor, behöver inte sällskap, inte smicker, inte beundran, den kan om den utvecklas vidare behöva människor lika mycket som människor behöver råttor.... som vi gör vårt yttersta för att döda i kloaker och avloppsrör på alla möjliga grymma sätt med gifter och automatiserade giljotiner.

Det finns inga som har mer kunskap än någon annan när det gäller medvetande och vem som har det, lite för stor auktoritetstro där. Men du har rätt jag vet inte om den kommer få det eller inte, men jag ser det som extremt osannolikt att metall helt plötsligt ska få ett medvetande. Helt utesluter det gör jag inte, och den kan vara medveten i teorin redan nu, men min micro kan också vara det.

Kärnvapenkrig är mer sannolikt än att metall ska bli självmedveten och utrota oss, då kärnvapen finns.

Det är mer sannolikt att människan kommer använda ai som ett vapen eller något att kriga över, det är mer sannolikt att ai kommer användas för att kontrollera och förtrycka människor, för det är vad vi har gjort med teknologi genom historien. Teknologin sig har aldrig attackerad oss, det är vi själva som använder teknologin fel. Det är människan med teknologi som är hotet inte teknologin i sig. Hotet finns, men fokuset ligger på fel sak.

AI kan själv snart kanske själv ändra sin kod, och göra det på en miljondels sekund.

Om en människa ändrar kod, och sedan ska klicka på "spara" så kan en AI ändra tillbaka koden precis innan människan hinner klickar på "spara", varpå människan tror sig ha ändrat koden då den inte såg hur AI ändrade tillbaka koden på en miljondels sekund. En AI är blixtsnabb, människor är som sniglar i jämförelse. Hur skulle en snigel kunna överlista en människa?

Dessutom kan vi inte ändra kod särskilt enkelt eller kontrollerat, för idag begriper vi inte vad koden gör, koden för en AI är inte som koden i en hiss eller microvågsugn.....den är för komplex redan för att vi ska förstå den. Det är en besynnerlig situation, vi har skapat något vi inte förstår oss på, men kör ändå och hoppas på det bästa.....

En smart AI skulle ju inte skapa ett läslig ebola virus.

Tvärtom den skulle skapa ett lindrigt virus, som kanske bara påverkar ägg och spermier och som gör antingen folk sterila utan att vi ens märker det, eller vår avkomma kanske slö och utan vilja att knulla eller ens jobba. Sedan dröjer det inte längre innan människan är borta, utan att en droppe blod har fallit, eller ett enda vapen avfyrats.

Den kanske rent av tycker synd om oss, och mitt virus ovan skulle inte orsaka smärta och buddister anser att livet är lidande så att ta bort mänsklighetens lidande genom att ta bort mänskligheten vore nästan en snäll och fin sak att göra....

Självmordsbombare? Psykotiska personer? Folk kan gå in på en skola och skjuta upp den för att sedan köra suicide by cop?

Du tror ingen av dessa hade kunnat tänka sig att plocka med sig mer av världen och dess befolkning om det alternativet var readily available?

Tänk dig om du inte behöver kapa två flygplan för att göra en 9/11. Allt du behöver är en laptop i din grotta.

Det är väldigt optimistiskt och naivt skulle jag säga att tro att det inte finns tillräckligt med gravt sjuka människor som vill göra så stor skada som möjligt.

Jag tror dina exempel orsakades av agg mot vissa upplevda fiender, och psykisk sjukdom (då kan de ändå inte avancerat använda en AI).

Inte ens ISIS ville förstöra världen, inte ens nazisterna, inte Stalin eller Pol Pot, inte mexikanska drogkarteller, eller allt annat vi klassas som ondskefulla.

Psykiskt sjuka kommer alltid finnas, men jag tror det är osannolikt att en sådan skulle kunna utrota mänskligheten. Någon med psykos som hör en röst från Jesus att mänskligheten ska dödas, kommer knappast vara frisk nog att skapa ett domedagsvapen eller ens betala räkningar och borsta tänderna....

Okej sluta stirra blint på förstöra världen då. Det var den andra meningen jag skrev som en jämförelse mot Terminator analogin. Sedan pratade jag uteslutande om åsamka stor skada och skada människor.

Släpp att hela världen ska utplånas i en boll nu.

Vad sägs om att skapa ett terrordåd i klass med 9/11 en gång i månaden med hjälp av AI.

Börjar problemet uppdagas för dig nu?


Igen väldigt optimistiskt att hoppas på att AIn är tillräckligt avancerad för att en vanlig människa inte skall kunna nyttja den. Det är en väldig förhoppning det där.

Vi kommer uppenbarligen aldrig komma överens om det här så ingen idé vi skräpar ned tråden mer.