Ett förhållningssätt och lite färgsättning som minskar risken för att språkmodeller gör din text felaktig istället för bättre.
Teknikjournalisten Benj Edwards fick för några månader sedan lämna nyhetssajten Ars Technica. Anledningen var att han skrivit en artikel med citat som en språkmodell hade hallucinerat fram.
Edwards är inte den första journalisten som hamnar i blåsväder efter att ha använt språkmodeller. Helt säkerhet inte den sista heller. Medierna i Sveriges Radio ägnade i februari en stund åt vad redaktionen beskrev som “AI-blunders”.
Journalister är inte den enda yrkeskategorin som trampar snett här. Jurister, forskare och läkare är andra yrkeskategorier som virvlat förbi i liknande artiklar i mina flöden – och i praktiken gäller de här utmaningarna så klart alla som använder språkmodeller.
Det finns många sätt att hantera utmaningarna. Jag tar mig bland annat an dem genom att vända på rollerna och lite färgsättning som minskar risken för att okontrollerade uppgifter från en språkmodell slinker med i en färdig text.
Det är inte bara språkmodellens svar som behöver faktakollas. Den text jag skriver innehåller ju också faktauppgifter. Så vänd på rollerna!
Som ett steg i min skrivprocess jag låter jag allt oftare språkmodellen faktakolla det jag påstår i mina texter: “Bifogat finns en rapport. Stämmer sammanfattningen i de här tre meningarna?” “Bifogat finns utskriften av en intervju. Har jag lyckats fånga andemeningen i den på ett bra sätt i texten?”
På det här sättet har jag bland annat blivit räddad när jag citerade en vetenskaplig artikel och helt hade missförstått en av formuleringarna, och artikeln visade den exakta motsatsen till vad jag påstod i min text.
(Läs också varför språkmodellerna får läsa mina texter innan du gör det.)
En av de smartaste lösningarna för att säkerställa att texter som lämnar min dator innehåller mina formuleringar och inte andras finns i iA Writer. Sedan ett tag tillbaka har programmet en “Paste as AI”-funktion. Den ger den inklistrade texten ett färgglatt skimmer som en påminnelse om att det inte är text jag skrivit själv. Allt eftersom jag sedan formulerar om texten så återfår den successivt sin svarta färg.
Och det här är inte bara användbart vad gäller faktauppgifter när jag hämtar text från en chattkonversation med en språkmodell. Det hjälper också till men tonalitet och sätt att uttrycka sig. När jag gör research kopierar jag ofta in passager från mina källor in i min egen text, men har många gånger hamnat i en situation där jag inte längre är säker på vad som är mina egna formuleringar och vad som är hämtat från annat håll. Nu är det enkelt att veta: Skimrar det är det någon annans, är det svart är det mitt.
Allt det här tar tid, samtidigt som den dominerande känslan av att jobba med språkmodeller är att allt går snabbare. Att faktakolla och jobba med formuleringar kan absolut kännas som att man själv blir en flaskhals i produktionen. Men som Benj Edwards och andra har fått uppleva: Alternativkostnaden för slarv kan bli hög. Och även om det inte går så långt som till att man blir av med jobbet så är det inte heller säkert att tidsbesparingen som helhet blir fullt så stor när man zoomar ut lite. En text som snabbt skrivs ihop med hjälp av en språkmodell kan kräva mer arbete av en kollega senare i processen.
För mig kopplar det här också till frågan som jag ställde i senaste nyhetsbrevet: Om användningen av språkmodeller främst är ett sätt att spara tid, för att höja kvaliteten – eller en kombination. De svar som jag fick var alla de senare, att språkmodellerna bidrar till både tidsbesparing och bättre slutresultat. Så är det också för mig. Jag lägger inte nödvändigtvis mindre tid på de texter jag skriver, men genom tekniken är de mer genomarbetade. Både vad det gäller det faktiska innehållet, men också den språkliga “ytfinishen”.
Som ofta är jag nyfiken på hur du som läser det här gör. Vad är ditt förhållningssätt till riskerna med faktamissar i språkmodellernas svar?
/Anders
Annotations: 0,4544 SHA-256 2bd982205c40dd551777
&AI:
@Anders Thoresson: 2,190 230,24 639,10 807,3737
...