AI orsakar mänsklighetens död eller åtm gör det sämre att leva (samlingstråd)

Du har inte fundera på att följa någon mer AI-person på X än denna Chollet? Det set ju lite som cherry-picking när du återkommer med en och endast en källa.

Francois är ganska ung, född 89. Det är inte ovanligt att unga framgångsrika ingenjörer tenderar att bli lite naiva i sin teknikoptimism och ibland lite för snabba med att tänka "OK Boomer". Se min signatur om du vill ha en bredare bild.

Jag följer inte någon på twitter, jag tycker bara det är kul att det finns puckon som tror att twitter är ett nätverk för forskare.

Och angående en källa, vad jag vet så har du ju inte haft problem att referera återkommande till en enskild sådan Max Tegmark tex.

Och hans ålder så är det är löjligt argument, speciellt med tanke på att grovt uppskattat så är vad han säger något en solklar majoritet inom industrin håller med om, dessvärre är det bara dessa sensations författare av diverse dystopiska böcker som får komma till tals i media.
Så vill man ha en bredare bild ska man definitivt låta bli att läsa dina länkar och i stället titta på tex vittnesmålen inför amerikanska kongressen som i alla fall har representanter från båda lägren även om det inte heller är speciellt rättvist i förhållande till antalet som backar respektive åsikt.

Men vi kan göra så här i stället om det känns bättre.

Tex https://arxiv.org/pdf/2309.10371.pdf (Som kom för 6 dagar sedan) som utfört en mängd tester (med exempel i rapporten) och som klart påvisar att dagens LLM inklusive GPT-4 har en lång väg kvar att gå.

"It is found that many of the practical weaknesses of these AI systems can be tied
specifically to lacks in the basic cognitive architectures according to which these
systems are built. It is argued that incremental improvement of such LLMs is not
a viable approach to working toward human-level AGI, in practical terms given
realizable amounts of compute resources"

Det finns fler rapporter som säger exakt samma sak, det finns ingen vad jag sett som säger motsatsen.
Kommer detta som en överraskning? Nej inte alls, det är så här tekniskutveckling alltid varit inom alla områden, man gör framsteg och helt plötsligt så hypas och promotas saker som om de vore det nya svarta och sen så kommer verkligheten i fatt och man inser att man inte alls hittat den universella nyckeln till svaret på alla livets mysterier. Man har för fasiken inte ens löst grundläggande fysik ännu trots det är det mest om forskade vetenskapliga området och haft de i särklass erkänt smartaste personerna vi känner till jobbande på det under nästan ett århundrande.

Och för övrigt innan du nedvärderar den här rapporten... Den är skriven av bland annat Ben Goertzel som är en av de mest erfarna AGI forskarna i världen (förutom att vara upphovsmannen till termen AGI i sig) och det handlar inte om åsikter överhuvudtaget utan det påvisas exakt vad bristerna och styrkorna är med dagens tekniker.

Eller så kan vi ta detta,

https://arxiv.org/pdf/2309.12288v1.pdf

Som direkt påvisar att LLMs är oförmögna att generalisera som tidigare hävdats, de förstår helt enkelt inte alls vad de pratar om och om något borde detta vara det mest tydliga som tom en totalt inkompetent person borde förstå innebär att det inte finns ett uns av intelligens i de här nätverken utan att allt man ser är en illusion baserad på statistiska mönster den lärt sig genom att efterapa vad människor skrivit.

Kom också ut för några dagar sedan. Så ja det ser väldigt väldigt mörkt ut att någon AGI kommer uppnås närmsta åren, tvärtom är vi i stort sett tillbaka på ruta ett igen.

Tack för dina länkar till forskningsrapporter, speciellt Bens som verkar vara otroligt djup och grundlig! Det är sådant som drar mig åt de moderata skeptiska hållet.

Men sedan finns det annat som drar mig åt det optimistiska hållet. Men det kommer jag inte att kommentera förrän OpenAI hållit sin utvecklarkonferens i november.

Så jag stannar kvar på den "gyllene medelvägen" fram till dess och hinner då läsa forskningsrapporterna, noga!

Nja:

This experiment may underestimate GPT-4’s ability. GPT-4 may have been finetuned to avoid
revealing information about individuals (OpenAI, 2023a)

Jag har känt till Ben Goertzel i minst 10 år. Han är ju en intressant figur och en skarp teoretiker men han talar också lite i eget intresse här. Han driver ju bolag med syftet att skapa AGI, som av en slump på ett helt annorlunda sätt än GPT. Han har väl försökt med det i ett par decennier nu. Han har intressanta idéer och jag respekterar hans teoretiska kunskaper och jag tror att han kan bidra inom AI, men hans track record på att faktiskt demonstrera en praktiskt användbar AI, där ser det lite tunnare ut från deras sida. Det är mycket snack och lite hockey. Jämfört med GPT och LLaMa. Så nej, du har inte bevisat något speciellt nu genom att forwarda hans åsikter som jag redan kände till.

Så du tar ett exempel ur hela rapporten där man varit defensiv pga "Open"AIs hemlighetshållande inte tillåter att man tar några slutsatser.

Du kan ju fortsätta hitta halmstrån att greppa runt, allt tyder mer och mer på att du spenderat månader med att skriva dravel som inte kommer inträffa- förmodligen inte under vår livstid.

Nja jag tycker att hela undersökningen är lite för smal för att egentligen vara intressant. Det är välkänt att Chat bots - rimligen - har spärrar för att sprida personuppgifter - t.ex. kan de om de gör fel där få väldigt höga böter från EU. Exakt vilka personuppgifter som inte får spridas är en ganska knivig fråga i många fall därför är man nog försiktigt där. Det är inte självklart att t.ex. kändisars barn eller föräldrar i alla sammanhang är personuppgifter som man vill ska vara publika därför håller ju den här invändningen (som de själva gör) för att ta det här med en nypa salt. Eftersom det verkar vara en stor risk för att de helt enkelt stött på en rimlig censur snarare än att de har "bevisat" att GPT inte kan dra egna slutsatser.

Har ni sett Teslas nya robot som lärde sig Yoga genom att se det på video?

https://news.yahoo.com/tesla-unveils...OLsWFPPz8eGIh0

Fundera på implikationerna här. Du och Ola Schubert. Vi få verkligen hoppas att Ola har rätt här och att människorna är snälla och förståndiga och bara visar lämpliga, pedagogiska och snälla filmer för roboten i framtiden. I all framtid, i alla länder.

Eftersom det iofs finns terrorister och andra tråkiga människor kanske vi ska inrikta FN på att förbjuda otäcka filmer nu - snarare än AGI-säkerhet eftersom det "bara är science fiction"?

Var är det "välkänt"? Kan du ge en enda officiell källa som påstår något sådant? Vad du tror är inte intressant.


Ja och vad är imponerande med detta? Hondas Azimo har dansat i massvis med år och det är en i huvudsakligen förprogrammerad robot så upplys mig, vad är det imponerande? Borde jag varit imponerad av den dansande apan som Elon anställt till föregående presentation av Tesla roboten också, då den inte ens kunde visas offentligt?