AI orsakar mänsklighetens död eller åtm gör det sämre att leva (samlingstråd)

Nej, det behövs bara en religöstro och dålig kunskap om ämnet. Det har vetenskapen fått erfara i hundratals år när kyrkan applicerat "försiktighetsprinciper".

Den uppfattningen står ju då i skarp kontrast till vad andra jättar inom industrin anser. Jag lämnar det där. Vi har hamnat i återvändsgränd. Allt som återstår för dig nu är att överbevisa dem, på Flashback, och samtidigt förklara det rimliga i att kasta försiktighetsprinciper överbord, när både du och din förebild dryper av fel och saknar analytisk förmåga.

Jaså så de riktiga jättarna i industrin är inte Andrew Ng och Yann LeCun som exempel.

Som sagt ja vi lämnar det där. Jag behöver ingen förebild jag har hållit på med detta i över tio år men jag vet vilka av de som gapar jag inte lyssnar på alls.

Andrew Ng är även han en person som skiftat något i position:

Do Large Language Models really "understand" the world, or just give the appearance of understanding? Evidence (e.g., Othello-GPT) shows LLMs build models of how the world works, which makes me comfortable saying they do understand.

https://twitter.com/AndrewYNg/status...93276234989569

*vad andra jättar inom industrin anser.

Ja han hävdar att Othello-GPT bildar en uppfattning om vad den lär sig, det är väl inget nytt? Det är precis vad Co-pilot osv bygger på att de lär sig sambanden. Det betyder inte att nätverket är tänkande eller att det agerar av sig självt utan enbart att det formar sig efter givna regler.

Det innebär inte att han ger domedags profeter rätt eller att han vill stoppa utvecklingen av AI, tvärtom är han en av dom som propagerar för acceleration i utvecklingen, precis som Yann LeCun för den delen.

Älskar hur målstolparna _måste_ flyttas. Men det krävs väl för att inte autisterna ska äta upp sina kritor. Eller fastna i schizotypa episoder alldeles för lång stund. Lol. Nåväl, vi är dock fler som gläds åt de insikter Andrew Ng gjort; om det anmärkningsvärda i att kunna forma sig en uppfattning av världen, över huvud taget. Då processen även kan beskrivas som en sammansatt interaktion mellan perceptuella och kognitiva faktorer.

Problemet är väl snarare att sinnessvaga personer har svårt att se gradienter i tillvaron, allt ska vara svart eller vitt, för eller emot.

Men det är väl också anledningen de sitter och trollar på forum.

Ok, herre nummer 2 var alltså inte Konstantine Arkouda, de tog bara upp hans rapport. Det borde jag förstått med tanke på hur oorganiserad intervjuaren var och antalet prenumeranter på kanalen.

Däremot så har nog målstolparna flyttats. En människa ifrån 1980 skulle bli oerhört imponerad av ChatGPT-4. I boken "Microdatorernas intåg" ifrån 1979 så blev man imponerade av oändligt mycket mindre. Själv blev jag imponerad bara av en kamera som sa "load film" när man tryckte på avtryckaren knappen, början av 1980-talet.

Vad gäller synen på LLM så har jag dock svårt att se det hela som blott en statisk låda som manipuleras, (som du jämförde med i ett annat inlägg). Visst statisk på så sätt att parametrarna låses fast. Men flexibel innut i. Låt vara ej autonomt som den mänskliga hjärnan och ej lika flexibel. Mera som att modellen, på ett automatiskt sätt förmår ändra hålen i lådan där omgivningen försöker pressa in klossar, dock ej enligt någon plan och ytterst troligt ej medvetet.

Så vi är inte riktigt överrens där. Och ännu mindre inför framtiden, givet att systemet grundläggande funktion kan ändras. Och det behöver inte innebära att den blir en exakt kopia av den mänskliga hjärnan. Vår hjärna har många uppgifter som ett hypotetiskt AGI kan strunta i. Dels tror jag AI-utvecklingen kommer att gå väldigt snabbt de närmaste åren och dels så tror jag att LLM:s skapare blev genuint förvånade över modellernas förmåga att generalisera. Ja t.o.m geniet Ilyan Sutskrever blev tillfälligt lurad i februari 2022 då han skrev på Twitter att modellerna kunde ha någon form av medvetsnde.

https://twitter.com/ilyasut/status/1...258368?lang=en

Och sedan ändrade han sig:

https://twitter.com/ilyasut/status/1603454190432288770

Så jag som ej datavetare må vara förlåten om jag, ibland, blivit väl mycket imponerad och duperad.

Självklart har målstolparna flyttats, det har det gjorts åtskilliga gånger i historien och det gäller inte enbart AI men i stort sett varje gång har folk trott datorn har mänskliga egenskaper, tex folk var helt förbluffade första gången en dator kunde prata, även om talsynthes funnits tidigare än datorerna.



Lådan är inte statisk, hålen är heller inte statiska det är just anledningen till att neurala nätverk löser uppgifter så mycket enklare än konventionella algoritmer, det var en väldigt förenklad förklaring men i grova drag är det så det fungerar när nätverket tränas.

3Blue1Brown har en serie som pedagogiskt förklarar det bättre (med riktiga nätverk) https://www.youtube.com/watch?v=aircAruvnKk

Annars kan du bara googla/youtube:a på "universal approximation theorem"


AI utvecklingen har gått snabbt framåt eftersom det kommit väldigt bra hårdvara på senare år som har mycket beräkningskraft (och jag syftar inte på LLMs då, de har gått framåt pga både det men också för att transformers bra), denna trend kommer inte pågå i oändlighet.
Och gör inte GPT-4.5, Bard osv (eller vilka som nu kommer vara först till marknaden) osv rejäla framsteg så kommer in flödet från investerare sina dramatiskt snabbt.

Konkurrenterna ligger idag efter men Meta som tex gör Llama har släppt alla sina modeller som open source hittills och enligt egen ut sägo ska de fortsätta med det, deras nästa llama modell beräknas ha paritet med dagens GPT-4 och om inte OpenAI och/eller Google drar ifrån igen så kommer det inte längre finnas någon uppenbar spelare på marknaden med ett stort framtidshopp, samtidigt så är det massvis med små startups som experimenterar med liknande teknik och som kan komma från ingenstans med revolutionerande teknik, ska man gissa utifrån historien är det Google som borde vinna det här dock eftersom de sitter på enorma mängder data men framförallt så har deras AI projekt gjort stora framgångar med tekniker (var av transformers är en av dom), samtidigt är Bard just nu markant sämre än någon av OpenAIs produkter (och då var det ändå Bard som fick Blake Lemoine att gå till media och säga att Bard var medveten).

Men ut över det så är ett annat problem som Nvidias VD Jansen Haung upplyste om detta för något år sedan när 4000 serien lanserades, att dagarna då kunder fick markant förbättrad hårdvara var förbi (som en av argumenten till varför RTX4xxx var så mycket dyrare än föregående serier).

Det är ingen tvekan om att tekniken är användbar som den är, men det innebär inte att man behöver tillskriva den egenskaper den inte har.

Då tror vi är överens på den punkten.


Jag har sett några av dessa video, plus någon i hans serie "linjär algebra." Svårt för mig att greppa detta ovana område. Men annars så hade jag inte förstått ett skvatt av dina teknologiska resonemang i en annan tråd. Men ökade kunskap och förståelse har också gjort att jag, numera, ser sannolikheten för att dagens LLM skulle vara medvetna är nära noll.




Men Nvidia gasar på väldigt snabbt när det kommer till specialanpassade AI chip, kåt vara att GPU spelar en betydelse full roll även där.

Ja, man skall leva i verkligheten och försöka se realistiskt på framtiden. Men det senare är svårbedömt givet att den senaste AI-utvecklingen fortsätter att accelerera som den gjort de senaste 6-7 åren, lika mycket under resten av detta decennium. Men, givetvis så måste den sedan lugna ned sig, så vida vi inte får (starkt( ASI som kan utvinna resurser utanför jorden.

Ja men det gör även konkurrenterna och i sedan några år tillbaka kommer i stort sett varenda chip man kan köpa med någon form av NPU/TPU, men de är främst avsedda till att accelerera bildigenkänning/röstigenkänning som bekant funnits i ganska många år nu och tillsammans med NLP har varit tillräckligt bra för att röstassistenter som Siri, Hej Google, Alexa och Cortana ska fungera för att nämna några.

Och ska man prata risker med AI osv så risken att du som individ blir övervakad har markant ökat senaste åren, det behövs ingen autonom eller medveten AI för detta.

Men det är också sant utan AI tekniker, jag vet inte hur många gånger jag varit med om att vara hos någon- diskutera något och som av en slump så börjar helt plötsligt reklam man får på internet vara skrämmande nära ämnet man pratat om och ibland exakt samma sak. Det kan mycket väl vara så att mobilen kopplar upp på personens wifi eller något och denna sökt febrilt på området eller dyl- jag vet inte men det är ett märkligt sammanträffande.

Vad det rör AI så kan vi så klart spekulera om alla möjliga utkomster, jag har väldigt svårt att se att det skulle kunna vara ett hot för mänskligheten, om något så existerar i stort sett alla hot som nämnts redan idag- startar du en webserver så kan du räkna med att loggen kommer vara full med bottar som scannar och försöker penetrera den, slår du upp en Vnc server och låter bli att sätta lösenord så kan jag nästan garantera att någon kommer ha loggat in och använder den inom någon vecka även om du inte säger det till någon. osv.

Så hot har och existerar alltid och hela diskussionen om ASI är rent av löjlig innan man ens uppnått AGI, vilket troligtvis också kommer om det faktiskt uppstår ske gradvis, det är inte speciellt troligt med tanke på hur dyr beräkningskapacitet är att man när detta uppträder kommer upp i mänsklig eller ens normal mänsklig prestanda omedelbart. Till sist är det väldigt väldigt oklart för att inte säga osannolikt baserat på vetenskapligt konsensus att det kommer vara LLM som gör något sådant banbrytande, i stort sett de enda som tror det är de som själva har LLM produkter att marknadsföra (och sedan en hel drös med vanligt folk som har noll koll).