Citat:
Ursprungligen postat av
DAGGER[X]
Du hade säkert kunna spendera 60 subjektiva år att lusläsa biomolekylär forskning på ett enda smalt specifikt område som en expert på bioteknik och dra slutsatser om det? Det kan väl vem som helst egentligen? Du flyttar målstolparna. Om dom botar cancer nästa år kommer du ha ett likadant inlägg "vem som helst kunde ha spenderat 44.000 subjektiva människoår som onkolog, det är inte riktig ai förstår ni väl"
Har du fått jobb på RAND eller OpenAI? Dom har löner på flera miljoner för experter som kan bevisa att allt är "fake"

Nja, som vanligt blandar du ihop saker, för att du saknar grundförståelse för tekniken.
En LLM är i grunden ett tränat NN. Och rapar upp vad de tränats till.
Tränar du ett sådant på regler till Schack, så kan det rapa upp reglerna. Men om du ber det spela schack så kommer det bara rapa upp drag från partier det tränats på. Och ohämmat bryta mot regler när ditt parti med den inte längre finns bland de partier det är tränat på. Den plockar då bara det drag av de tränade partierna som passar minst illa. Och det kan vara hur olagligt som helst.
En LLM förstår inget. Den förstår inte schack-reglerna. Den som förstår sig på NN vet detta.
För att komma ifrån denna uppmärksammade skamfläck så lär flera av frontierlabben ha lagt till kod för att räkna fram möjliga drag i en schack-ställning så att deras LLM inte gör olagliga drag längre. Men det gör ju inte att deras LLM förstår något mer.
Se en LLM som en stor uppslagsbok som du kan interagera med med naturligt språk. Då kommer du närmast verkligheten.
Med reinforcment learning (RL) däremot så går det att träna en programkod till alla möjliga dedicerade saker. Ett sådant program kan hitta kombinationer i stora mängder data, där människor inte hittat något än. Och kan därmed vara ett framgångsrikt verktyg i att hitta nya läkemedel. Det har hänt.
Men RL och LLM är helt olika djur.