AI orsakar mänsklighetens död eller åtm gör det sämre att leva (samlingstråd)

Ungefär som att kemiska utsläpp i en sjö ska skapa ett monster, som i gamla skräckfilmer. Jag är ytterst tveksam. Trots att vi vet hur livet fungerar och vilka ämnen det ska bestå av, har ingen lyckats skapa liv ur bara materia.

Inte heller ser jag att elektroniska komponenter ska kunna skapa medvetande om man får dem att göra saker slumpmässigt eller okontrollerat, förmodligen kraschar datorerna då. För att ha ett ett medvetande behöver man ha upplevelser och enligt mig behövs det liv för det. För det enda i världen som kan känna och vara medvetet, lever.

Å herregu så naiva floskler. Nu förstår jag att du inte förstår något alls om AI och singularitet.

Vi kan inte bygga en AGI utan att veta vad självmedvetenhet är. Det är som att använda ett flygplan för att ro en eka.

Dagens AI är en stor mängd IF-satser och ingen intelligens som du inbillar dig att det är.

Nej men det här är något nytt. Något annat.
Forskarna pratar inte om något slemmigt sci-fi-monster från en 70-talsfilm, utan om en sofistikerad hyper-intelligens baserad på blixtsnabba matematiska uträkningar, kombinerad med en mängd data (eller upplevelser om du så vill) som är miljoner gånger större än den som du och jag kan lagra i våra begränsade hjärnor.
Att det kommer att bli en, eller kanske miljontals, egna livsformer är nog de flesta med minsta inblick i ämnet överens om.

Stopp och belägg. Oändligt? Nej.

Folk måste sluta fara med sådana ord. Varför förutsätter vi att intelligens är evigt exponentiell? Det skulle ju bryta universum. Och chansen att vi skulle vara de första biologiska varelserna i universum som skapar en sådan singularitet är extremt liten. Om en sådan exponentiell intelligens som alarmisterna påstår står inför dörren någonsin hade uppstått, så skulle hela universum ha ätits upp av den redan. Men det har den inte. Skulle vi verkligen vara först? Det skulle i såfall innebära att vi är de mest avancerade i hela universum...

Även Ai opererar inom de fysiska lagarna, så vitt vi förstår dom. Och dess fundamentala fysiska struktur är fortfarande binär. Ettor och nollor. Vilket i sig självt har begränsningar.

Nej. Jag är övertygad om att Ai är ännu en överhajpad ickefråga. Vi människor tenderar att fokusera på saker som är potentiellt negativt. En simpel överlevnadsinstinkt. Och jag skiter fullständigt i vad Elon säger. Gång på gång har världens "smartaste" varnat för ditten och datten.

Och om det mot förmodan skulle vara undergången...so be it

Du missar att vi pratar med såna som naivt tror att inga faror finns. Det blir polariserat.

Vad är intelligens? Vi vet inte. Det kan vara "en stor mängd IF-satser".

Jag tror problemet är att grundplattan enkelt kan skrivas om av AI: n (och det finns inget sätt för oss att hindra den att göra det).

Du är en vän av att märka ord. Och visst har du en poäng. Oändligt var nog ett dumt val av ord.
Du har helt klart en poäng i att AI:n måste förhålla sig till fysiska lagar.
Jag nämnde tidigare i tråden att det faktiskt är möjligt att AI:n redan nu börjar närma sig sin intelligensmässiga maxkapacitet.
Men det tror jag inte alls förstås.
När jag använde ordet oändligt var det en förstärkning. Vad jag ville få fram var att jag tror att AI:n, efter singulariteten, kommer att bli långt smartare än vad någon av oss överhuvudtaget kan föreställa sig.

Det är en del av ens resoneringsförmåga men det ger inte upphov till självmedvetenhet. Lika lite som industriella revolutionens idéer om att tillräckligt många rör ihopkopplade skapar en hjärna eller informationsålderns idé om att tillräckligt många transistorer efterliknar hjärnans synapser så är även detta att greppa efter halmstrån. Man kan inte försöka skapa något man ännu inte lyckats definiera.

Det som skiljer i denna fråga är att de som vet allra mest när det gäller AI, experterna är livrädda, medan svensson på gatan rycker på axlarna och tror inte det är någon fara. I andra sammanhang brukar det vara tvärtom, tex att svensson på gatan kan tycka att kärnkraft är jävligt läskigt, men de som jobbar med det och är experter inte är så oroliga.

Därav namnet artificiell. Även en äkta AGI är till sist och syvene en fejk och kopia av oss själva i digital binär form. Det som kan ställa till med problem är väl om en kraftfull AGI hamnar i händerna hos kreti och pleti som om det vore en app.

IQ skalans median är 100, vilket innebär att hälften är under 100. Att sätta en AGI i händerna på dom är nog ingen bra ide. Dock tror jag det skulle vara självreglerande eftersom dom med högt IQ som kontrollerar själva tekniken skulle sätta stopp ganska fort om det skulle spåra ur fullständigt.

Det riktigt läskiga däremot är att den smarta klassen börjar använda Ai:n emot resten. Vilket redan händer, och givetvis är vad som kommer hända i ökande magnitud. Det är vad som är atombomben och undergången. Visst har eliten haft tillgång till överlägsen militär makt tidigare, men att använda den är för viseral och uppenbar, och den lilla människan har kunnat sätta sig emot på olika sätt. En AGI i händerna på eliten däremot...mycket mer subtil och mycket farligare