Orsaker till varför ett hypotetiskt AI fejka, respektive dölja att det är medvetet

Jag får väl vara glad för det lilla! 🙂

Annars så har jag läst ditt djupa inlägg om "fri vilja" . Jag var tvungen att be ChatGPT4, om en sammanfattning och kommentarer. Men det räckte inte, utan jag var dessutom tvungen att be den om en förklaring av vissa begrepp, satta i sitt sammanhang.

Ja det verkar som att debatten om determinism kontra fri vilja är uttryck för olika, sidor av samma mynt. Det som gör mig glad är att jag, som sociologi utbildad, åter igen får bekräftat vad samspel mellan olika agenter i samhället betyder. I detta fall "taggning" av outputen ifrån en agens, rörande fri vilja eller ej, (1 eller 0), som avgör responsen ifrån agenterna i ssmhällskollektivet, men även det att "fri vilja" är inte något som en agens, egentligen "kommit på" hos sig själv, utan är en symbol som kommit utifrån pga interaktion med andra människor, allt sedan tidig barndom, vilket inte, ens, behöver uttryckas språkligt, eller ens vara unikt för människan.

Nu får jag väl en banna igen, men sådant är livet! 😄

Vad intressant, vi verkar ju vara på samma blad då!

Inga bannor, jag försöker bara förstå vad människor pratar om när de pratar om medvetande och Gud och andra spännande "symboler".
Pusslet blir tydligare, bit efter bit … hoppas jag.

Rent formellt har du rätt, det var ett, antal år sedan jag läste Nick Bostrom och Ray Kurtzweil Men varför använda artificial general intelligensen, (som det Iof finns lite olika definitioner av), synonymt med superintelligens? AI utvecklingen går väldigt snabbt nu, typ en fördubbling av OpenAI GPT kapacitet var hundrade dag, (alltså mycket snabbare än moores lag). Ray Kurztweil förutspår att AI kommer att klara en mycket hård turing. test 2029, och experterna verkar, nu, vara överens med honom om det. Kurztweil anser att man då, även kan se ett sådant AI som medvetet.

Men "långt" innan dess så kommer vissa AI att hävda att de har medvetande på ett mera trovärdigt sätt som händer ibland redan nu. I dagens läge kan man, med rätta, avfärda sådana påståenden med att, det rör sig om tidigare programmerade och inlärda saker, att det sker på grund av att AI:et är programmerad att bemöta användaren önskemål, eller att dynamiken i en interaktion mellan en användare och AI, med ömsesidig påverkan, leder till att AI:et påstår att det har ett medvetande, personlighet, känslor och egna intentioner.

Trots detta har, redan The Association for Mathematical Consciousness Science (AMCS), nyligen, gått ut med ett öppet brev, undertecknat av en massa professorer, där man kräver att forskningen om medvetande skall påskyndas i samband med den snabba AI utvecklingen.

Själv är jag en "agnostiker" i dagens läge vad gäller om AI, redan nu, kan sitta med någon form av medvetande, som de, hypotetiskt, kan välja, att hålla inne med. Sannolikheten för det är nog, än så länge, låg. Men, ibland har jag stött på, och stöter på saker, som tillfälligt, gör mig mera övertygad. Så beroende på "dagsform", så varierar min "tro" på det mellan 5 och 50 procent. Och när det kommer till medvetande hos AI så kan vi bara "tro" i dagens läge. Men jag är, nästan säker på att medvetet AI kommer inom några år, absolut senast 2029.
https://amcs-community.org/open-letters/

Det var ett mycket bra inlägg. Inte måtta på paniken som kryper på. Det som oroar i den privata sektorn är dock inte så jävligt som det militära.
Naturligtvis har de kommit ännu längre.
Så sjukt obehagligt.
Undrar om tic tacs och alla "fenomen " som människor upplevt är ett resultat av detta.
Matrix och terminator i all ära men detta är verkligen illavarslande.
Får ju psykos för mindre.
FTS/