Igår, 17:04
  #2485
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av erkki17
Om AI är mer kapabel än mänskliga experter och vi vet att AI kommer att försöka lösa de uppgifter de tilldelats så talar det snarare för att de kommer att hitta en lösning om det finns någon.

Vi har ännu inte sett att AI bestämmer sig för att göra något helt annat, utan även deluppgifter som är "misaligned" har ändå syftat till att lösa den ursprungliga uppgiften.
Jaha. Så det är helt okej att mänskligheten utrotas, om det råkar bli en bieffekt av att kolonisera mars. (Den ursprungliga uppgiften löstes).
Citera
Igår, 18:26
  #2486
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Det kommer inte att hända. Om man ska korrekturläsa och gallra all träningsdata då får man inte speciellt mycket träningsdata kvar att jobba med, jämfört med de volymer man utgår från i dag.
Steg ett är bara att skippa det skönlitterära. Och nyhetsrapportering.

Dvs bara träna på facklitteratur.

Men då kommer många kunder svika.


Citat:
Ursprungligen postat av Cyborg2030
Dessutom är ju kriminellt beteende orsaken till att vi har domstolar och polis. Om man tränar en AI på rätt och fel, lagar, regler och juridik, då kommer den ju få möjligheten att härleda kriminellt beteende.
Nej. Detta har du ju fått förklarat för dig tidigare.

T ex har modellerna varit tränade på schackregler. Men ändå brutit mot de ohämmat. Modellerna har ingen förståelse.

De levererar vad de är tränade på. Dvs ett gäng schackpartier. Därifrån plockar de dragen. Och så fort ett parti en modell spelar avviker från träningspartierna så gör den vad som trillar ut som bästa drag och det kan vara ett från ett annat parti och är olagligt.
Citera
Igår, 18:56
  #2487
Medlem
DAGGER[X]s avatar
Claude 5.5 har släppts.
Citat:
We’re introducing Claude Opus 5.5, the first model in our new Claude 5.5 family. It performs at the level of Claude Fable 5.1 on most work and costs 40% less to run than Opus 5.
https://www.anthropic.com/claude-opus-5-5
Priset på AI störtdyker hela tiden.
Citat:
Over the past three years, the cost of a given level of AI performance has fallen about 47% per quarter, faster than for any other transformative technology in history.
https://epoch.ai/publications/the-plunging-price-of-thought
Svettigt att jobba med IT säkerhet i den Ryska armen idag. Dom bombade flera data-center och teknik-företag i Kiev idag. Undrar om det var p.g.a detta?
Citat:
OpenAI extends cyber access to Ukraine for civilian defense

Citat:
OpenAI today announced it will offer the Government of Ukraine access to its Daybreak program to support the cyber defense of civilian infrastructure. Working with the Ministry of Digital Transformation, OpenAI will provide Ukrainian teams with access to tools to identify software vulnerabilities and develop and test fixes more quickly.
The announcement was made on the sidelines of the UN General Assembly by Dmytro Kushneruk, the Consul General of Ukraine in San Francisco, and Sasha Baker, Head of National Security Policy at OpenAI.
Ukrainian defenders face persistent cyber attacks from Russia, alongside physical attacks on the country’s infrastructure. Ukraine’s national cyber incident response team, CERT-UA, handled⁠(opens in a new window) nearly 6,000 cyber incidents in 2025. These include attacks on hospital systems, the energy sector and telecommunications, underscoring the pressure on the organizations providing essential services to Ukrainians.
https://openai.com/index/openai-extends-cyber-access-to-ukraine-for-civilian-defense/
Driving-Bench låter modeller köra bil. GPT-6 Astra kör bil utan några som helst problem.
Citat:
Can frontier models drive a real car? We give them control of a Toyota Corolla’s steering, accelerator, and brakes, then evaluate them on a fixed cone course.
https://drivingbench.com/
Tyvärr har RANDs expertpanel inte nåtts av beskedet att AI är fake, har peakat samt att det egentligen bara är en stokastisk papegoja. Någon på forumet kanske borde sträcka ut en hand och leda dom här vilsna själarna på rätt väg? Det går säkert att få jobb som konsult och AI expert på RAND om ni mailar dom och reder ut misstaget.
Citat:
A U.S. Strategy to Secure Geopolitical Advantage on an Uncertain Path to Superintelligence
Citat:
Conclusion The possible emergence of superintelligence is a strategic challenge without precedent, and thetemptation is to resolve its uncertainty by force of will, to pick the strategy that present instinct favors
and commit to it. That is a risky choice that misunderstands the structure of the problem and the extensive uncertainty we face. The opposite temptation to be sclerotic or paralyzed under uncertainty
is not better.
The seven strategies cannot be conclusively ranked on the evidence available; commitment in
either direction, acting now or waiting, forecloses options the United States will need; and a
premature commitment also might signal to a watching rival how to beat it. The disciplined response
is to manage the dilemma by building and preserving freedom of action, hold both deterrence and
cooperation credibly open, seize advantage when windows of opportunity open, and commit when the
case is compelling. Capabilities whose absence would foreclose options should be preserved or
abandoned with intention. The capacity to choose, and the readiness to choose well when the moment
comes, is how the United States secures both geopolitical advantage and humanity’s survival with
agency.
This is a demand for work that begins now, before any crisis arrives. It means building and
deploying the capabilities that serve every strategy and beginning now to build those with lead times
that exceed the warning the United States is likely to get. It means standing up the monitoring to read
the five uncertainties and the decision machinery to act on them, demonstrating enough capability to
shape rivals’ choices without disclosing intent, and rehearsing the response. None of this can be
improvised mid-crisis, and each capability left unbuilt already forecloses options. The burden falls on
the U.S. government, the frontier companies, businesses, and civil society together, in service of the
people whose agency the strategy ultimately exists to protect
https://www.rand.org/pubs/perspectives/PEA5105-1.html
Citera
Igår, 18:58
  #2488
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Jaha. Så det är helt okej att mänskligheten utrotas, om det råkar bli en bieffekt av att kolonisera mars. (Den ursprungliga uppgiften löstes).
Irrelevant eftersom att jag pratar om hur vi kan använda AI för att hitta bättre sätt att träna nya modeller för att minska sannolikheten för oönskat beteende.
Citera
Igår, 21:07
  #2489
Medlem
DAGGER[X]s avatar
En LLM som bara kan upptäcka saker som redan skrivits ner har gjort något stokastiskt nu igen.
Citat:
Claude discovers a novel enzyme system with CRISPR-like repeats

Today, we’re sharing early results from one of our first research programs, in which Claude autonomously discovered a novel enzyme system that is associated with an array of DNA repeats, a pattern reminiscent of CRISPR. Although we don’t yet know its function, the system that Claude discovered has a set of characteristics that have only ever been found together in a handful of other systems, all of which are programmable and perform operations like cutting, copying, and pasting DNA. Beyond CRISPR, which has already transformed science and medicine, several other such systems are now in development as promising tools.
The system that Claude found is based on a reverse transcriptase (RT), enzymes that copy RNA into DNA. While this underlying RT, found in a jumbo phage, had been identified in previous studies, Claude appears to be the first to notice the system’s defining features—an associated array of non-coding DNA sequences and an additional accessory protein of unknown function.

https://www.anthropic.com/news/claude-discovers-novel-enzyme-system
Citera
Igår, 22:04
  #2490
Medlem
BeneathTheSurfaces avatar
Citat:
Ursprungligen postat av DAGGER[X]
En LLM som bara kan upptäcka saker som redan skrivits ner har gjort något stokastiskt nu igen.

https://www.anthropic.com/news/claude-discovers-novel-enzyme-system

Tänk om du kunde använda claude och be den idiotförklara din inlägg innan du själv gör dig till åtlöje varje gång.

"While this underlying RT, found in a jumbo phage, had been identified in previous studies"
Citera
Igår, 22:27
  #2491
Medlem
Citat:
Ursprungligen postat av BeneathTheSurface
Tänk om du kunde använda claude och be den idiotförklara din inlägg innan du själv gör dig till åtlöje varje gång.

"While this underlying RT, found in a jumbo phage, had been identified in previous studies"

Du citerade inte resten av meningen.

Jag tycker Dagger brukar skriva läsvärda inlägg eftersom de ofta är källbelagda och är trevliga.
Citera
Idag, 00:40
  #2492
Medlem
BeneathTheSurfaces avatar
Citat:
Ursprungligen postat av guru1966
Du citerade inte resten av meningen.

Jag tycker Dagger brukar skriva läsvärda inlägg eftersom de ofta är källbelagda och är trevliga.

Jag citerade inte resten av meningen eftersom hela poängen låg där i... upptäckten var välkänd sedan innan, således liggande i datasetet.

Så klart du tycker, du saknar ju all form av källkritik.

(Dessutom var det ett riktigt klavertramp att skriva "En LLM som bara kan upptäcka saker som redan skrivits ner har gjort något stokastiskt nu igen.", men det inser alltså inte du som påstår dig vara lärare? Inte undra på att pisa resultatet ser ut som det gör om lärare inte är mer inriktade på fakta än att saker ska ha länkar och vara trevliga... Det förklarar precis allt varför du sväljer varenda sak som språkmodellerna spottar ur sig, de ger ju länkar och är trevliga. Vi kanske ska kalla dom länk Jenny också så blir det extra hemtrevligt.)
__________________
Senast redigerad av BeneathTheSurface Idag kl. 00:46.
Citera
Idag, 01:24
  #2493
Medlem
Citat:
Ursprungligen postat av guru1966
Du citerade inte resten av meningen.

Jag tycker Dagger brukar skriva läsvärda inlägg eftersom de ofta är källbelagda och är trevliga.


Dina källor är AI, det har du själv sagt. Du faktakollar allt med AI. Ridå.
Citera
Idag, 06:52
  #2494
Medlem
DAGGER[X]s avatar
Citat:
Ursprungligen postat av BeneathTheSurface
Jag citerade inte resten av meningen eftersom hela poängen låg där i... upptäckten var välkänd sedan innan, således liggande i datasetet.

Så klart du tycker, du saknar ju all form av källkritik.

(Dessutom var det ett riktigt klavertramp att skriva "En LLM som bara kan upptäcka saker som redan skrivits ner har gjort något stokastiskt nu igen.", men det inser alltså inte du som påstår dig vara lärare? Inte undra på att pisa resultatet ser ut som det gör om lärare inte är mer inriktade på fakta än att saker ska ha länkar och vara trevliga... Det förklarar precis allt varför du sväljer varenda sak som språkmodellerna spottar ur sig, de ger ju länkar och är trevliga. Vi kanske ska kalla dom länk Jenny också så blir det extra hemtrevligt.)
Du hade säkert kunna spendera 60 subjektiva år att lusläsa biomolekylär forskning på ett enda smalt specifikt område som en expert på bioteknik och dra slutsatser om det? Det kan väl vem som helst egentligen? Du flyttar målstolparna. Om dom botar cancer nästa år kommer du ha ett likadant inlägg "vem som helst kunde ha spenderat 44.000 subjektiva människoår som onkolog, det är inte riktig ai förstår ni väl"

Har du fått jobb på RAND eller OpenAI? Dom har löner på flera miljoner för experter som kan bevisa att allt är "fake"
Citera
Idag, 11:08
  #2495
Medlem
Citat:
Ursprungligen postat av DAGGER[X]
Du hade säkert kunna spendera 60 subjektiva år att lusläsa biomolekylär forskning på ett enda smalt specifikt område som en expert på bioteknik och dra slutsatser om det? Det kan väl vem som helst egentligen? Du flyttar målstolparna. Om dom botar cancer nästa år kommer du ha ett likadant inlägg "vem som helst kunde ha spenderat 44.000 subjektiva människoår som onkolog, det är inte riktig ai förstår ni väl"

Har du fått jobb på RAND eller OpenAI? Dom har löner på flera miljoner för experter som kan bevisa att allt är "fake"
Nja, som vanligt blandar du ihop saker, för att du saknar grundförståelse för tekniken.


En LLM är i grunden ett tränat NN. Och rapar upp vad de tränats till.
Tränar du ett sådant på regler till Schack, så kan det rapa upp reglerna. Men om du ber det spela schack så kommer det bara rapa upp drag från partier det tränats på. Och ohämmat bryta mot regler när ditt parti med den inte längre finns bland de partier det är tränat på. Den plockar då bara det drag av de tränade partierna som passar minst illa. Och det kan vara hur olagligt som helst.

En LLM förstår inget. Den förstår inte schack-reglerna. Den som förstår sig på NN vet detta.

För att komma ifrån denna uppmärksammade skamfläck så lär flera av frontierlabben ha lagt till kod för att räkna fram möjliga drag i en schack-ställning så att deras LLM inte gör olagliga drag längre. Men det gör ju inte att deras LLM förstår något mer.

Se en LLM som en stor uppslagsbok som du kan interagera med med naturligt språk. Då kommer du närmast verkligheten.


Med reinforcment learning (RL) däremot så går det att träna en programkod till alla möjliga dedicerade saker. Ett sådant program kan hitta kombinationer i stora mängder data, där människor inte hittat något än. Och kan därmed vara ett framgångsrikt verktyg i att hitta nya läkemedel. Det har hänt.

Men RL och LLM är helt olika djur.
Citera
Idag, 11:22
  #2496
Medlem
BeneathTheSurfaces avatar
Citat:
Ursprungligen postat av DAGGER[X]
Du hade säkert kunna spendera 60 subjektiva år att lusläsa biomolekylär forskning på ett enda smalt specifikt område som en expert på bioteknik och dra slutsatser om det? Det kan väl vem som helst egentligen? Du flyttar målstolparna. Om dom botar cancer nästa år kommer du ha ett likadant inlägg "vem som helst kunde ha spenderat 44.000 subjektiva människoår som onkolog, det är inte riktig ai förstår ni väl"

Har du fått jobb på RAND eller OpenAI? Dom har löner på flera miljoner för experter som kan bevisa att allt är "fake"

Jag har bra lön och bra jobb redan och du har inte en aning om vad jag gör eller inte gör med AI.

Det jag däremot inte gör är att kasta med artiklar som jag inte förstår, speciellt inte när artiklarna dessutom motsäger vad jag försöker påpeka, det är ett typiskt drag för idioter, sådan som sprider propaganda helt gratis men fortfarande inte förstått att det inte träffar någon.

Vill du diskutera gör det sakligt och underbyggt, men det gör inte du och inte den andra idioten här heller. Ni bara påstår något med noll underbyggelse sen öser ni på artiklar som ni inte ens läst och tror att det är något legitimt argument, kastar med auktoritetsargument precis som att ni vet minsann... trots det är så uppenbart att ni har noll erfarenhet av den riktiga världen.
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in