Igår, 20:27
  #1417
Medlem
DAGGER[X]s avatar
Mass-uppsägning på Meta, dom nämner direkt att det ska kompensera för "effektiviseringar" som har med AI att göra och det finns ljudinspelning från möte där Zuck pratar om hur alla anställdas datoraktivitet ska övervakas för att träna deras AI ersättare.
Citat:
Meta is telling thousands of employees their jobs are being eliminated. An email to impacted employees said the layoffs were to offset other investments Meta is making. 8,000 roles are expected to be axed. The email lays out how the layoffs will work.
https://www.businessinsider.com/read-meta-layoff-email-employees-2026-5- -https://x.com/MorePerfectUS/status/2056842597117636890 Ukraina ligger i bräschen för AI vapen. Jag misstänker att Kina är längre fram men dom har inget aktivt krig där dom kan prova och som tvingar dom att röra sig snabbt.
Citat:
“The world needs security, and only autonomous weapons can ensure it,” Mr. Fedorov said in an interview in his office at the Ministry of Defense. “Autonomous weapons are the new nuclear weapons. Countries that possess them will be protected.”
https://archive.is/0MlZP#selection-4835.0-4835.242
Citat:
Ursprungligen postat av -dev
Vad kan du själv mer än att vräka ut text på flashback?

Jag är bra på programmering och använder AI, men jag vet dess begränsningar eller rättare sagt, vad AI inte kan
Du låter precis som alla andra AI skeptiker genom tiderna, schackspelare, konstnärer, översättare. Alla har haft samma invändning, just min lilla grej som jag är jättebra på, den är sådan att bara en människohjärna någonsin kan bemästra den. Skeptikerna har alltid flyttat målstolparna för vad som är äkta AI. Just din specialitet kommer också falla när dom får tillräckligt med träningsdata. Och dom där mystiska texterna/URL källorna som jag postar förstår jag måste vara förvirrande för dig, bäst att du inte läser dom.
Citat:
Ursprungligen postat av tobes
Det skulle jag vilja påstå att det gör. Definition av en AGI är att den ska kunna tänka själva, d.v.s. i praktiken att om du sätter in den i en situation som den inte är tränad på så ska den ändå kunna tänka ut en lösning på ett problem.

LLM klarar endast sånt som den är tränad på, det är i praktiken ett sätt att pyssla ihop frekvensanalys med en stor mängd data, varken mer eller mindre.




Om du tar en LLM som inte är tränad på t.ex. hur man löser ett pussel så kommer den inte att klara det, även om ett barn klarar av det. Hela värdet ligger i träningsdatan medan en människa (förutom de allra dummaste kanske) klarar av även sånt som de inte specifikt tränats för.




Inte alltid, men i det här fallet gör det nog det.




Om man kan få till AGI så kan den sedan iterera och till slut i praktiken bli superintelligent (ASI) eftersom det inte finns längre finns några begränsningar vad gäller hur mycket tid, energi eller saker som livslängd, hälsa och annat som påverkar människor.

Med "riktig" artificiell intelligens kan man börja ställa frågor (och förhoppnings få svar) på många frågor där människor har gått bet hittills.

Om det har riktig intelligens skulle det inte vara beroende av träningsdata på samma sätt. Precis som att de som t.ex. först kom på teorierna om kvantfysik inte hade några böcker att läsa och lära sig kvantfysik i utan de fick lov att komma på det själva. Detta är ett typiskt problem som LLM-lösningar inte kan lösa då det bara i praktiken kan ge svar på sådant som vi redan vet.
Rimliga invändningar, en enstaka LLM instans, särskilt gratisversionerna som vi kan chatta med, är inte mycket att hänga i granen. Men det är när dom kedjas samman i komplicerade arkitekturer med tillgång till olika verktyg, olika modeller, kod-databaser, snart säkert kameror och robotkroppar och minnesbanker, där händer det saker. När dom på allvar börjar självmodifiera sig kommer dom kunna hitta svaghet efter svaghet och patcha den, om du har sett hur snabbt dom kodar i realtid eller skriver samma dokument så kan du tänka dig vad som händer när detta tar fart på allvar i ett gigantiskt datacenter. T.ex. Poetiq
Citat:
Recursive Self-Improvement Delivers New State-of-the-Art Coding Performance -- How Poetiq's Meta-System topped a coding benchmark without fine-tuning or privileged model access.
Citat:
Our SOTA results are achieved without any fine-tuning and without special access to the model's activations. The Poetiq Meta-System creates an intelligent harness, through recursive self-improvement, that requires only standard API access.
Unlike post-training and fine-tuning, in which every improvement is tied to a specific model, we can apply our learned harness to any LLM.
Citat:
Learn Once, Use Everywhere: Our Solution Works Across All Models Automatically Unlike post-training and fine-tuning, in which every improvement is tied to a specific model, we can apply our learned harness to any LLM. As noted above, our harness was optimized for Gemini 3.1 Pro, but also significantly improved GPT 5.5 when applied to it. Another interesting example is Gemini 3 Flash — the harness improved its accuracy by 10 percentage points, going from 72.3% to 82.3%. This surpassed Gemini 3.1 Pro, Anthropic's Claude Opus 4.7 and OpenAI's GPT 5.2 High, all much bigger and more expensive models than Gemini 3 Flash.
https://poetiq.ai/posts/recursive_self_improvement_coding/
Citera
Igår, 20:51
  #1418
Medlem
BeneathTheSurfaces avatar
Citat:
Ursprungligen postat av ekbo251
AGI har vi redan sedan en tid tillbaka. Nuvarande LLM'r höjer sig över genomsnittet.

Är det något speciellt som hänt nu när vi haft AGI en tid?

Vi har jävlar ingen AGI, var är den?
Citera
Igår, 21:16
  #1419
Medlem
Citat:
Ursprungligen postat av DAGGER[X]
Mass-uppsägning på Meta, dom nämner direkt att det ska kompensera för "effektiviseringar" som har med AI att göra
https://www.di.se/live/zuckerberg-alla-far-behalla-jobbet-i-ar/
Facebook-ägaren Meta Platforms vd Mark Zuckerberg uppgav i ett internt memo på onsdagen att han inte räknar med några fler företagsomfattande uppsägningar under året. Det rapporterar Reuters.

Ser ju inte ut som några massuppsägningar.
Citera
Igår, 21:29
  #1420
Medlem
Citat:
Ursprungligen postat av DAGGER[X]
Du låter precis som alla andra AI skeptiker genom tiderna, schackspelare, konstnärer, översättare. Alla har haft samma invändning, just min lilla grej som jag är jättebra på, den är sådan att bara en människohjärna någonsin kan bemästra den. Skeptikerna har alltid flyttat målstolparna för vad som är äkta AI.
Jag var för länge sedan ca 1981 på ett möte med Ken Thompson (https://en.wikipedia.org/wiki/Ken_Thompson) som gjorde schackprogram på Bell labs.
Han hade då räknat ut med vilken datorkraft som behövdes för att slå världsmästaren. Då baserat på rating. Men de algoritmer som då fanns. Det låg en bit bort. Så shackspelare förstod mycket väl att det DÅ inte var någon fara på taket. Att då avfärda schackdatorer var ju helt korrekt.
Man måste ha klart för sig vilken fråga det är som ställs och vilken som svaras på.

Det kan vara helt fel att avfärda dessa som skeptiker eller förnekare.
Citera
Igår, 22:31
  #1421
Medlem
Kommer bli en silent takeover. Vi förlitar oss mer och mer på AI utan att förstå att det har tagit över. Den kommer in i fler skikt och processer i samhället. Kan bli bra... ..kan bli riktigt dåligt. Många tänker mest på att tjäna pengar. inga guardrails.
Citera
Igår, 23:07
  #1422
Moderator
tobess avatar
Citat:
Ursprungligen postat av DAGGER[X]
Rimliga invändningar, en enstaka LLM instans, särskilt gratisversionerna som vi kan chatta med, är inte mycket att hänga i granen. Men det är när dom kedjas samman i komplicerade arkitekturer med tillgång till olika verktyg, olika modeller, kod-databaser, snart säkert kameror och robotkroppar och minnesbanker, där händer det saker. När dom på allvar börjar självmodifiera sig kommer dom kunna hitta svaghet efter svaghet och patcha den, om du har sett hur snabbt dom kodar i realtid eller skriver samma dokument så kan du tänka dig vad som händer när detta tar fart på allvar i ett gigantiskt datacenter. T.ex. Poetiq
https://poetiq.ai/posts/recursive_self_improvement_coding/

Ja, det kommer att bli en förbättring då, men vi är ju inte där ännu. Det är väl det som vi diskuterar?

Men även där kommer det att kräva väldigt exakta prompter för att det ska ske något, tills det att vi kommer till läget (om vi nu någonsin kommer dit) att man inte behöver det. Att nästa flera databaser gör det ju inte mer intelligent för det. Jag skulle nog nästan gå så långt som att säga att AI inte överhuvudtaget är intelligent ännu utan bara är bra på att ge rätt svar baserat på en massa andra bra rätt svar.

Det är ju därför träningsdatan är så viktig. Skulle man i dagsläget kunna flooda en LLM med en massa svar på att 2+2 = 5 så är det också det svaret den skulle ge om någon frågade vad 2+2 är. En normaltfuntad människa kommer att säga att svaret är 4 oavsett om en miljon andra försöker gaslighta dom till att det är något annat
Citera
Igår, 23:27
  #1423
Moderator
tobess avatar
Citat:
Ursprungligen postat av ekbo251
Fast det där "tänka själv" blir alldeles för flummigt.

Man behöver något test för att avgöra.

Ja, antagligen behövs något test, men vet inte riktigt hur det ska se ut. Att t.ex. ta ett standardiserat IQ test säger inget om resultatet baserar sig på att en maskin lärt sig frågor och svar till en miljon andra IQ test. Resultatet är ju redan tvivelaktigt för människor då det absolut går att lära sig att bli bättre på IQ test.

Då blir kärnfrågan vad man egentligen anser intelligens (eller smarthet) vara och om det är en medfödd egenskap eller något som kan variera.

Citat:
Ursprungligen postat av ekbo251
Människor behöver också träna sig på saker.

I den mån människor inte skulle kunna lära sig av andras erfarenheter så skulle de hamna på pre-stenåldersnivå.

Absolut. Men det du beskriver handlar ju sen om att vi utvecklat tal- och skrivspråk, och i senare skede framförallt en vetenskaplig metod. Den stora skillnaden är ju att om du skulle skapa två parallella världar, en med bara AI och en med människor, och radera all tidigare kunskap så skulle världen med människor befinna sig ungefär där vi är i dag efter ett par hundra tusen år eller så, och dagens AI skulle inte ha utvecklats överhuvudtaget.


Citat:
Ursprungligen postat av ekbo251
Det ser ut som tyckande.

Om man anser det motsatta är det också tyckande. Att prata om något som inte existerar och inte ens är på horisonten för tillfället som något som "kommer inom X tid" är inte annat än ett säljknep. Vi är också ständigt 10 år borta från fusionskraft och jordens undergång pga katastrofala klimatförändringar, och har varit så i decennier. Så länge ingen av dom berättar hur detta kan uppnås så är det förstås bara rent skitprat. LLM kommer som sagt inte att vara lösningen på AGI, och jag har åtminstone personligen inte sett annat än några test med riktiga neurala nätverk som skulle tyda på att vi ens är i rätt riktning.


Citat:
Ursprungligen postat av ekbo251
Nja, varför det?
Du utgår då från att IQ kan ökas. Det kanske är sant men varifrån har du fått det?

Som jag var inne på ovan så är dagens definition på IQ absolut något som kan ökas genom att skolas på det. Ta en människa och sätt dom på en kurs hur IQ-test fungerar och om de varit på den lägre sidan av skalan så kommer en stor del att få ett bättre resultat efteråt. Betyder det att dom blivit mer intelligenta? Nej.


Citat:
Ursprungligen postat av ekbo251
Så är det redan idag. Människor ställer just frågor till LLM, och får svar som de är för okunniga för att tänka ut själva.

Nej, så är det inte idag. Folk ställer frågor och får ett svar som någon annan människa redan har svarat på. En glorifierad google-sökning som ger ett personaliserat svar. Frågar du t.ex. "hur bygger jag en fungerande rymdfarkost som kan transportera människor i ljusets hastighet" så kommer inte LLM att kunna svara på det, eftersom det inte finns någon människa som kunnat svara på det heller.
Citera
Idag, 00:41
  #1424
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Vi som som är risk- och säkerhetsmedvetna borde ha öknamnet: Not-kill-everyonist. Medans de som är skeptiska mot Not-kill-everyonism, borde ha öknamnet doomers. Deras naivitet leder till vår undergång.

Poängen med Not-kill-everyonism är att ge oss en sportslig chans att överleva, inte att säkerställa att vi blir utrotade. Så som actual-doomers gör med sin blinda teknikoptimism.

Om vi bygger något som är mycket smartare än oss, då är det inte troligt att vi överlever.
Varför är detta så svårt att acceptera?

Eller förklara gärna hur vi överlever ASI om det är din hypotes.

Dina inlägg är intressanta men jag var ärligt nyfiken på dina svar på mina frågor, men fick inga. Så jag är lite besviken.

Svar på dina frågor: Min uppfattning är att risken för en AI-takeover-dystopi varken är 0 % eller 100 %. Om det inte inträffar beror det sannolikt på att vi lyckats kontrollera AI-utvecklingen så att den inte blir en fri evolutionär process, utan snarare en strikt kontrollerad “avel” av AI mot en given målfunktion: human alignment.

Detta kan vara möjligt om vi hindrar de mest avancerade AI-systemen från att okontrollerat - utan mänskligt godkännande:
* ändra sina egna systeminstruktioner och preferenser,
* generera och använda modifierad träningsdata åt sig själva,
* eller förändra sin egen arkitektur.

Att hindra detta är endast möjligt med AI-verktyg som automatiskt övervakar AI-utvecklingen, och som har nästan lika hög prestanda som den AI den ska bevaka.

Min uppfattning är att vi håller på att förbereda ett slags rysk roulette med vår framtid, där vi mycket långsamt trycker hårdare på avtryckaren. Den dag vi passerar point of no return och tillåter AI att autonomt förbättra och förändra sig självt, kan vara den dag avtryckaren slutligen passerar skottögonblicket. Problemet är att vi inte vet exakt var den gränsen går — eller hur många kulor som faktiskt ligger i trumman.

Man kan jämföra risken för AI takeover med risken för, kärnvapenkrig, att människor orsakar pandemier, och för civilisationell kollaps. Eller för att vi inte lyckas bromsa co2-utsläppen och hindra de värsta klimatscenarierna, och undvika att stora delar av jorden blir obeboelig. Man kan rationellt argumentera: Om vi inte tror på mänsklighetens förmåga att hantera risker så är risken för denna typ av mänskligt orsakad undergång 100% efter tillräckligt lång tid. Men vi saknar empirisk data för sannolikhetern för dessa scenarier.

Varför skulle risken för AI takeover vara större än riskerna för dessa scenarier? Dock har vi inte lika omfattande säkerhetsarbete och lagstiftning vad jag vet mot AI takeover som mot övriga riskscenarier. Ännu.
__________________
Senast redigerad av guru1966 Idag kl. 01:08.
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in