En massa miniglassar av AI har börjat regna ner från himlen
LLMs får sällskap av SLMs (Small Language Models)
Hej & välkommen till Plötsligt i framtiden!
Kanske hade du hoppats på ett helt nytt och fräscht tema den här veckan. Gärna något som du inte har hört talas om förut. Men nix pix. Vi är ännu inte riktigt klara med temat glass. Innan vi stänger dörren till frysboxen (kanske för gott) ska vi också prata om alla de spännande AI-miniglassar som nu håller på att skapas.
För kanske blir 2024 året då de mindre AI-modellerna – miniglassarna – på allvar kliver in. Och i och med detta kickar igång en mer tillgänglig och anpassningsbar AI-era.
Då kör vi!
/ Judith
De stora modellerna har visat vägen
Som vi vet var 2023 året då Generativ AI på allvar slog igenom. Och fram tills nu har fokus framför allt legat på stora imponerande AI-modeller; Foundation Models och LLMs (Large Language Models) från bolag som OpenAI, Google och Microsoft.
Jag ska inte repetera hur min Glassmodellen för generativ AI funkar, du hittar modellen inklusive en massa AI-buzzwords i artiklarna ➡️ Generativ AI – förklarat med hjälp av glass🍦 och ➡️ AI-glassen med ett nytt tredje lager 👋🏼.
När det kommer till de stora AI-modellerna är det framför allt etablerade techbolag (Google, Microsoft, Meta med flera) som varit grymma på att utveckla så kallade “general purpose-modeller” för AI. General purpose betyder att modellerna är användbara över ett brett spektrum av användningsområden. Att de inte är specialiserade utan kan jobba på “bredden” (sedan kan de anpassas och specialiseras med hjälp av fine tuning).
Oavsett om du ber om hjälp med en avancerad matematisk ekvation, frågar om en tårdrypande dikt eller om närmaste vägen till Örkelljunga – ja, då kan de stora general-purpose-modellerna leverera.
Men!
Det är långt ifrån alla fall som kräver general purpose. I en massa sammanhang vill vi snarare utföra mer avgränsade och specialiserade uppgifter med hjälp av AI. Dessutom är det sällan som bäst-i-klassen-resultat är nödvändigt. Ofta är good enough fullt tillräckligt.
Låt oss därför titta på småglassarna.
99% av AI-användningen
Clem Delangue, VD för AI-plattformen 🤗 Hugging Face, förutspår den nära AI-framtiden så här:
“My prediction: In 2024, most companies will realize that smaller, cheaper, more specialized models make more sense for 99% of AI use-cases.” – Clem Delangue, CEO HuggingFace.
När nu allt fler företag och organisationer börjar bygga egna AI-lösningar, ja då är det i många fall just de mindre, billigare och mer specialiserade modellerna som “make sense”. Modeller som är mer effektiva och enklare att skräddarsy efter egna verksamhetsbehov.
Och tursamt nog har även mindre modeller börjat trilla ner från himlen i en allt snabbare takt.
Småglassarna = ‘Purpose Built’
Small Language Models, eller SLMs, är AI-modeller som har tränats på mycket mindre men domänspecifik data än de stora modellerna. Och de har skapats för att kunna utföra mer avgränsade uppgifter, där vi skippar det där med “general purpose”.
Några av fördelarna med SLMs är:
Eftersom de är tränade på mer specifik data är de också enklare att anpassa för de uppgifter man vill att de ska utföra.
De är mycket billigare att både träna upp och använda jämfört med de stora språkmodellerna.
De är snabbare och mindre krävande när de kommer till beräkningskraft och lagringsutrymme.
Mindre modeller kan vara säkrare att använda och blir därmed ett bra val om man sitter på mer känslig data, exempelvis inom områden som sjukvård och finans. Men också för att kontrollera sin IP.
Små modeller kräver mycket mindre energi att träna vilket är bättre ur ett hållbarhetsperspektiv.
Om modellerna är tränade på smalare och mer specifik träningsdata minskar också riskerna för hallucinationer, bias och olika snedvridningar.
Att de små modellerna kräver mindre beräkningskraft gör också att de funkar prima i miljöer med begränsade resurser, exempelvis när beräkningar görs lokalt på datorer, på mobila enheter eller i IoT-prylar.
Vill du lära dig mer om SLMs och dess fördelar vill jag tipsa om de här artiklarna:
🦾 Why small language models are the next big thing in AI (VentureBeat)
🐜 Small language models (SLMs) simplified (Data Science Dojo)
🚀 The Rise of Small Language Models (The New Stack)
Vad betyder då allt det här för dig?
Kanske jobbar du på en organisation där ni vill utföra specifika uppgifter med hjälp av AI. Då är det en positiv sak att nya miniglassar av AI har börjat dyka upp. Glassar som är både enklare att hantera och som svider mindre i organisationsplånboken.
Avslutningsvis
Innan vi rundar av vill jag också passa på att tipsa om vårt senaste podd-avsnitt där vi gästas av smartskallarna och klimatkämparna Frida Berry Eklund och Christian Landgren. Tillsammans bygger de Klimatkollen.se som jobbar för att öka transparensen när det kommer till Sveriges utsläpp.
Det blev ett mysigt och roligt – men samtidigt allvarligt och viktigt – avsnitt. Som vanligt hittar du oss på Spotify.
Det var allt för den här veckan.
Ta hand om er så hörs vi snart igen.
/ Judith
🥰 Tack för att du prenumererar på nyhetsbrevet Plötsligt i Framtiden! Om du har frågor eller tips på vad jag borde skriva om – kommentera gärna på LinkedIn eller skicka ett DM. & tipsa gärna andra som du tror skulle gilla att kika in i en framtid där teknik och hållbarhet är den gröna tråden.
Superbra - som alltid! :)
Vi har både stora och små glassar i vår organisation, lanserade precis Mistral som ännu en liten go glass för oss att använda.
Superbra - som alltid! :)
Vi har både stora och små glassar i vår organisation, lanserade precis Mistral som ännu en liten go glass för oss att använda.