Citat:
Det där är ett lösryckt påstående av typen "har du slutat slå din fru än?"
Man skall fås att tro att det du säger är sant, och att det är så uppenbart att det inte behöver bevisas eller ens härledas.
Fast påståendet är istället helt falskt.
Jo, det kanske finns någon språkmodell som inte kan ge hänvisningar. Men det är definitivt inte fallet med de språkmodeller som jag använder, och det är inte en generell svaghet hos språkmodeller. Ungefär som att det kanske finns någon bil som inte har bromsar, men dom flesta har faktiskt det.
Om språkmodellen "till stor del hallucinerar" så tror jag folk snabbt byter till en annan. De flesta frågor besvaras efter bästa förmåga, och om man förstår hur en språkmodell fungerar så är det också uppenbart. Ungefär som om du frågade en främling om vägen. I de flesta fall får du ett så gott svar som personen kan ge, även om det inte är lika exakt som Google Maps. Och precis som vägvisarens anvisningar är beroende av hur mycket kunskap denne har hunnit skaffa sig i ämnet så är språkmodellens svar beroende på vilken data, och hur mycket data, den har fått tillgång till. (Det är därför det finns många olika, och de är specialiserade på olika saker, precis som till exempel läkare, lärare eller ingenjörer).
Slutligen: De alla flesta böcker innehåller inga referenser över huvud taget, mer än författarens egen uppfattning eller åsikter. Selma Lagerlöfs bok, "Nils Holgerssons fantastiska resa", innehåller både geografiska fel och rena hallusinationer som att man kan resa på ryggen av en gås. Men folk läser den ändå.
Och även här på FB förekommer ibland felaktigheter eller rena hallucinationer. Eller hur? Men här är du ändå!
Man skall fås att tro att det du säger är sant, och att det är så uppenbart att det inte behöver bevisas eller ens härledas.
Fast påståendet är istället helt falskt.
Jo, det kanske finns någon språkmodell som inte kan ge hänvisningar. Men det är definitivt inte fallet med de språkmodeller som jag använder, och det är inte en generell svaghet hos språkmodeller. Ungefär som att det kanske finns någon bil som inte har bromsar, men dom flesta har faktiskt det.
Om språkmodellen "till stor del hallucinerar" så tror jag folk snabbt byter till en annan. De flesta frågor besvaras efter bästa förmåga, och om man förstår hur en språkmodell fungerar så är det också uppenbart. Ungefär som om du frågade en främling om vägen. I de flesta fall får du ett så gott svar som personen kan ge, även om det inte är lika exakt som Google Maps. Och precis som vägvisarens anvisningar är beroende av hur mycket kunskap denne har hunnit skaffa sig i ämnet så är språkmodellens svar beroende på vilken data, och hur mycket data, den har fått tillgång till. (Det är därför det finns många olika, och de är specialiserade på olika saker, precis som till exempel läkare, lärare eller ingenjörer).
Slutligen: De alla flesta böcker innehåller inga referenser över huvud taget, mer än författarens egen uppfattning eller åsikter. Selma Lagerlöfs bok, "Nils Holgerssons fantastiska resa", innehåller både geografiska fel och rena hallusinationer som att man kan resa på ryggen av en gås. Men folk läser den ändå.
Och även här på FB förekommer ibland felaktigheter eller rena hallucinationer. Eller hur? Men här är du ändå!
Det är tekniskt omöjligt för en fristående språkmodel att ge källhänvisningar, det fungerar enbart med externa tekniker som RAG, vilket kort förklarat är vad som sker när du slår på "internet sökning" text, dvs språkmodellen genererar en sökfråga utifrån vad du frågat, den använder en internet sökmotor som tex bing, analyserar innehållet på respektive sida som kom från svaret och kan då länka till den sida som den hittade informationen den analyserade på.
Men du kommer inte hitta en enda språkmodell på marknaden som kan ge några källor till tränad information, det finns ingen sådan koppling eftersom det som tränas är en sannolikhetsdistribution av token följder.
Fackböcker innehåller generellt referenser, inte fiktion, drama osv. Det är när du behandlar fakta eller vetenskap som källreferenser är av intresse.
Och förstår man hur en språkmodel fungerar så resonerar man inte som du gör överhuvudtaget, för de stinker av ignorans och okunskap.
