Det finns inget moln, men däremot en egen server i förrådet
I våras fick jag ett gammalt moderkort av en kollega. “Bygg en egen server,” löd uppmaningen. Ett halvår senare är den igång hemma i ett förråd och har ersatt flera av de molntjänster jag tidigare använde.
Små, öppna språkmodeller ger lokalproducerade svar
Har du provat några av de små språkmodellerna än? Om inte, gör det. Jag tror att chansen är stor att du kommer att upptäcka att lokala modeller, där du behåller all data hos dig själv eller i organisationen, många gånger kan vara ett realistiskt komplement till molnbaserade tjänster och API:er.
Frikoppla valet av AI-modell från dina arbetsflöden
Jag har sedan ett tag tillbaka flyttat en stor del av min användning av generativ AI från de stora, välkända och integrerade tjänsterna till verktyg som istället låter mig använda språkmodellerna via de stora AI-labbens API:er. Alternativen är inte alltid lika slipade, men har andra viktiga fördelar. Flexibilitet, kontroll över när mina arbetsmetoder ändras, och möjligheten att använda lokala modeller är de tre främsta.
Alla taggar.