AI orsakar mänsklighetens död eller åtm gör det sämre att leva (samlingstråd)

Alla tvärvänder när de inser problemet. Eliezer Yudkowsky var en hopplöst romantisk AI-optimist, ungefär som dig, och ungefär som jag själv var i 10+ års tid tills jag verkligen började analysera riskerna, släppte romantiken och började tänka på riskminimering.

Jag har ärligt talat inte kollat på hela videon, det räckte med hur oprofessionell inledningen är för att avgöra vad biasen på speciellt den ena herrn är att de dessutom inte känner till (eller ens slår upp) Konstantine Arkouda (Amazon Alexa tex) innan de startar med ad hominem attacker.

Att sedan börja med att ett exempel som är helt irrelevant i sammanhanget, den talande hunden är rent av löjligt, du kan göra ett dator program som skriver helt rimliga och grammatiskt korrekta meningar utan att dra in ett ANN överhuvudtaget, det har används av spammers i minst 15-20 år och tekniken är markov kedjor. Precis som ett ANN så "tränar" man markovkedjan på exempel text, och precis som GPT-4 så väljer man det mest sannolika ordet i sekvensen, precis som ett ANN så komprimerar det där med också data men det har absolut 0 intelligens och det är i stort sett identiskt med att sätta temperatur 0 på GPT.
Det finns inget som är en wow faktor med att ett program spottar ur sig text som en människa kan förstå.

Vad jag sett har han inte ändrat något och har ett nytt papper som är påväg ut nu (som inte publicerats ännu) som går under arbetstiteln "ChatGPT is no Stochastic Parrot. But it also Claims that 1 is Greater than 1"

Jag tror detta summerar hans ståndpunkt ganska bra.

"As a personal note, I have worked on and with LLMs for several years now. I’ve been impressed by their capabilities but have regarded them only as engineering tools that can help to solve specific problems (mostly NLP problems in my case). When it comes to more grandiose claims to the effect that LLMs will deliver strong AI (systems that are every bit as intelligent as humans or more), I’ve been firmly in the skeptic camp. That’s largely because such claims tend to be inextricably bound with very strong forms of computationalist theories of mind, according to which computation is necessary and sufficient for cognition. I still think that digital computers cannot possess genuine mental states or be conscious, and therefore will never attain real understanding. (For what it’s worth, I hasten to add that this position does not stem from religious dogma, dualism or crypto-dualism, a predilection for the occult, or even bio-chauvinism. There are compelling rational arguments for it that are perfectly consistent with materialism. For an introduction to some of these arguments, see the article Philosophical Foundations of Artificial Intelligence in the Cambridge Handbook of Artificial Intelligence.)"

Utöver det så är hela diskussion om att målposten flyttats med turing test irrelevant.

Det är jättelätt att avslöja ett LLM, skriv ett skämt för det- försök få det att förklara vad som är roligt, det misslyckas i 99% av fallen för det förstår inte alls.

Eller ändå lättare be de uppmuntra dig och berätta en rolig historia, det klarar inte det heller det kan inte dra någon som helst korrelation mellan vad som är roligt i en rolig historia.

Så jag dels kan jag hävda att turing testet har inte alls passerats om du bara ställer rätt frågor men dessutom är inte och har aldrig turing testet varit ett test för att påvisa maskinintelligens utan för att påvisa intelligent beteende. Det finns för övrigt chatbottar som tidigare klarat turingtester och kollar du på chatloggarna där så är det skrattretande att det ens kunnat vara deltagare i en tävling om det.

Men det andra är vi pratar om ett test som formulerades på 50 talet, varför i helvete skulle det vara relevant idag?

Sen det mest absurda är att det finns nästan ingen som skulle få för sig att slå i en psykologibok från 50 talet idag när man diagnoserar patienter men tydligen är det helt legitimt att referera till sådant när man ska diagnosera programvara.

Och kanske det absolut mest absurda är att om länkar till en vetenskaplig artikel från säg 2019 här så blir den ogiltig förklarad omedelbart- "för utvecklingen gått så snabbt" vilket också är något man schablonartat kan slänga ur sig om man inte gjort någon efterforskning.

Angående det så har du exempel på det här (och detta är exempel på den enklaste varianten- markov kedja av första ordningen och kommer mestadels generera nonsens och ofta grammatiska felaktigheter, det är inte speciellt svårt att bygga ut till N order- kortfattat den tar hänsyn till N antal ord/token bakåt i tiden för att förutse nästa ord/token- med detta ger det mer och mer korrekt språkbruk, det är inte helt olikt hur GPT fungerar heller.)

https://rosettacode.org/wiki/Markov_...text_generator

För att tillägga ytterligare på ämnet.

Det är ofta man hör argument som att "AI" vinner övermänniskor på schack osv, vilket är korrekt men AI är en så bred term att det inkluderar en stor mängd algoritmer, en av de mest kända schack motorerna idag är Stockfish, det använder "AI" men det använder inte ANNs eller deep learning överhuvudtaget, det har väldigt sofistikerade sökalgoritmer så de snabbt kan bruteforce beräkna ett drag med otrolig mängd permutationer.

AlphaZero däremot använder ANNs och deeplearning men det är inte i närheten av senaste versionen av Stockfish i prestanda.

Varför är det så när vi är så nära super intelligens? Varför kan en (av människor) smart skriven bruteforce algoritm slå googles bästa och mest specialiserade ANN projekt?

Och GPT-4 har jag provat spela schack emot (det går utmärkt att skriva schack drag i ren text) och jag är inte ens speciellt bra på det, den klarade inte ens tre drag innan den började få för sig att pjäser stod på helt andra positioner än de borde.

Forskarnas motiv går ej att ifrågasätta. De drivs av betydligt djupare frågor än vad Gary Marcus tomtearmé gör. Som knappt vet vilket ben man ska stå på. Ena dagen är systemen kompletta retards, funkar ej till något, bara drar ström och bränner hål i plånboken, medan man nästa dag varnar världen för hur duktiga LLM:er är på desinformationskampanjer och ber myndigheter ta krafttag mot open source-församlingen. Haha. Och överste löjtnant för denna nej-sägande tomtearmé, Gary Marcus, har dessutom skiftat position i frågan om AGI går att bygga, genom att förkunna att det visst blir möjligt någon gång på -30 talet. För några år sedan var alltså detta helt omöjligt. Eller snudd på. Och såna starka övertygelser har alltid fått mig att undra över vilka (eller vilkas) motiv det är som egentligen driver propagandisterna.

Att avskräcka allmänheten från att testa systemen, på basis av att de kan vara medvetna, eller p-zombies, är ganska korkat och det får snarare en motsatt effekt. Så varför känner tomtar som Gary Marcus och JohnnyMnemonic ett sånt stort behov att försöka motbevisa det omätbara? Eller för den delen förringa uppkomna fenomen, som i allt väsentligt, bara visade, återigen, att nej-sägarna fick fel?

Vad har Gary Marcus med mig att göra? Förutom att jag tagit upp honom som ett exempel på att inte alla forskare som skrev på det där löjliga manifestet gjorde det av samma anledning.

Jag håller inte med honom om speciellt mycket, Yann LeCun däremot är betydligt mer likt hur jag själv resonerar.
Att inte du förstått bättre är inte alls oväntat.

Du får ursäkta mig men jag läser knappt något av det du skriver. Och fransosens track record är inte heller särskilt bra. Men kul att du tycker det. Lol.

Detsamma gäller mitt förhållande till dig, det råkar bara vara dött i tråden annars brukar jag hoppa över dina icke relevanta inlägg.

Och det är ju fullständigt irrelevant vad du tycker om Yann LeCun.

Självfallet har min personliga åsikt om Yann´s persona inget med ämnet att göra. Har heller aldrig hävdat något sånt. Men som offentlig figur så kan vi peka ut tidigare, mycket självsäkra, uttalanden. Och dennes track record är som sagt ganska dåligt. Varför du ser ett problem i det får du nog svara på själv. Jag kan bara konstatera att det är fyllt med grova underskattningar (vilket jag misstänker har att göra med Meta AI´s open source-ansträngningar).

Varför skulle Yann LeCun vara ett orakel när ingen annan inom industrin varit det? Det har aldrig funnits någon som kunnat förutsäga framtiden men ändå tror du och cyborgen att Max Tegmark kan det som om någon har ett dåligt track record i den här industrin (och dessutom ironiskt nog kallar dagens LLMer för "patetisk dålig AI").

Behövs inga orakel för att anamma en försiktighetsprincip, clown.