Hej & välkommen till veckans PLÖTSLIGT i framtiden!
Eftersom att jag bor i London missar jag ibland saker som händer i Sverige. Nu senast missade jag den omfattande it-attacken mot Tietoevry vilket drabbat en massa företag, myndigheter, kommuner och andra aktörer inom offentlig sektor. En händelse som ytterligare aktualiserat frågan om cybersäkerhet.
Det jag långt ifrån har missat är att den allt snabbare utvecklingen inom AI skapar nya typer av hot när det kommer till digital säkerhet; både för individer, företag och nationer.
Den här veckan ska vi dyka ner i just AI och cybersäkerhet. Men inte bara i form av en massa ord, tecken och GIF:ar. Förra veckan hade nämligen jag och Aurore Belfrage den stora äran att intervjua vår svenska superstjärna inom området Anne-Marie Eklund Löwinder. Ett samtal som nu ligger uppe som video-podd på Spotify där vi bland annat pratar om vad den nya vågen av cyberhot och bedrägerier innebär. Anne-Marie ger oss även en glimt av arbetet i Sveriges nya AI-kommission där hon ingår.
Då kör vi!
/ Judith
Gör bra bättre
Innan vi går in på dagens ämne vill jag kort tipsa om en spännande konferens som min nyhetsbrevskompis Niklas Laninge har styrt upp (förutom att skriva toppenbra nyhetsbrev är Niklas även psykolog, författare och ledande beteendeexpert). Konferensen heter 💪 Gör bra bättre och äger rum under tre utspridda förmiddagar i mars månad. Temat är hur man bäst skapar storskalig och positiv beteendeförändring. Med koden NYHETSBREV får du konferensen, verktygen och allt inspelat material för 475 kronor + moms. Kanske ses vi där.
Nu till dagens tema.
AI ger nya möjligheter till 🕸️👿
Vi vet att ju mer digitalt vårt samhälle blir, desto mer sårbart blir det också. Siffror över bedrägerier mot privatpersoner på nätet är tyvärr inte någon uppmuntrande läsning, här kartlagda av Brå. Konsekvenserna av riktade attacker mot organisationer har vi nyligen blivit påminda om i exemplet med Tietoevry (numera är jag också insatt i fallet). Och på nationell nivå blir cybersäkerhet en allt mer aktuell fråga i och med det allvarliga säkerhetspolitiska läget – med behov av att stärka Sveriges beredskap.
Blickar vi framåt lär utmaningarna med olika typer av digitala brott och attacker knappast gå ner. Dessvärre erbjuder AI allt mer kraftfulla verktyg för den som vill missbruka tekniken. Eller som Anne-Marie uttrycker det i vårt samtal:
“Kriminella är ju inte dummare än att de använder ny teknik. De är ganska snabba på det. De har stora resurser eftersom de har dragit in enorma pengar på ransomware bland annat. De är helt enkelt riggade för att ta hand om den nya AI-tekniken. Och gör det redan.”
Att allt som kan utnyttjas också kan missbrukas blir tydligt i frågan om AI – bland annat i form av en ny våg av bedrägerier och cyberattacker. En våg som dels kan handla om att använda AI för att generera skadlig kod. Använda AI-verktyg för röstkloning och deeepfakes i syfte att lura enskilda individer. Listan på möjliga tillämpningar kan dessvärre göras lång.
Det växande problemet kring cybersäkerhet är vad vi kallar för en “kossa på isen”. Och det var i video-podden med samma namn – Cow on the Ice – som vi samtalade med Anne-Marie Eklund Löwinder kring de cyberutmaningar som vi står inför.
Förutom att vara en av Sveriges ledande experter på cybersäkerhet har Anne-Marie varit en av internets 14 nyckelbärare. Något som är oerhört coolt och som vi pratar mer om i podden. 2013 var hon den första svensken att väljas in i Internet Hall of Fame. Och nyligen valdes hon alltså också in till regeringens AI-kommission som syftar till att stärka svensk konkurrenskraft. Ja ni förstår ju varför Cow on the Ice ville prata med just Anne-Marie. Här under hittar du avsnittet.
Tillägg: Det är mestadels ett seriöst samtal, men innehåller också en hel del skratt ;)
Kan du inte få nog av Anne-Maries spännande berättelser, ja då finns det tursamt nog också ett sommarprat med henne från 2022. Om du inte redan har lyssnat på det – gör det! Av mig för det betyget 14 starka nycklar av 14!
Mer om AI-vågorna som lär ställa till det
I oktober förra året skrev jag en artikel om 3 AI-vågor 🌊🌊🌊 som allt mer förändrar den digitala säkerheten och vilken information som vi kan lita på. Tre vågor som tillsammans riskerar att skapa nya och förstärka möjligheter för den som vill sprida desinformation, manipulera val, luras och sno andras pengar. En trio som kan ge oss en allt tydligare baksida av AI-myntet.
Den första vågen handlar om “Kurerande AI” som sedan sådär 2010 och framåt har blivit en naturlig del av internet. AI som på sociala medier skräddarsyr fåra flöden, gör våra googlingar mer relevanta och våra filmtips på Netflix allt mer träffsäkra.
För att spinna vidare på det där med Netflix är det dessa AI:n som kunnat hitta samband i datan som vi lämnar ifrån oss. Samband som kan se ut såhär: “Aha, medelålders män som bor i Stockholm och som gillar att titta på amerikansk stand-up på Netflix tenderar också att gilla den här dokumentären om sneakers”. (Obs: detta är en fiktiv korrelation, dock inspirerad av en person i min egen närhet).
Kurerande AI har på många sätt bidragit med värde och gjort våra liv enklare. Samtidigt har baksidan av myntet varit smärtsam. Som vi vet gav dessa smarta algoritmer oss – i kombination med annonsbaserade affärsmodeller för sociala medier – också en “techlash”. Plattformar som premierat "engagerande" innehåll har också missgynnat människan och samhället. Och gett plats åt falska nyheter, automatiserade botar och trollarméer som spridit dynga och listig propaganda. Vi kan den berättelsen.
Nu kliver även Generativ AI in och erbjuder nya möjligheter att skapa imponerande innehåll i form av texter, bilder och filmer där det blir allt svårare att skilja det datorgenererade från det verkliga. Om tekniken används i syfte att vilseleda kallar vi det för deep fake. Något som lär ge kraft åt desinformation och påverkanskampanjer. Men också på olika sätt användas för mer effektiva bedrägerier.
Lägger vi dessutom till så kallade AI-agenter (datorprogram som byggs för att kunna arbeta självständigt) kan dessa göra en hel del av jobbet åt aktörer som på olika sätt vill skapa politiskt kaos. Och jobba för kriminella. Där olika moment i bedrägeriprocessen kan automatiseras för att sedan skalas upp. Ju mer AI-utvecklingen går framåt, desto mer komplexa uppgifter kommer agenterna att kunna lösa åt dem som vill missbruka dess möjligheter.
När bovar allt mer krokar arm med intelligent teknik, ja då kan vi dessvärre räkna med bedrägeriskurvor som ytterligare pekar uppåt. Där AI inte bara filtrerar och skapar innehållet som lurar oss, utan allt mer genomför de brottsliga handlingarna (utifrån bedragarnas instruktioner).
Hur sjutton ska vi då skydda oss?
Låt oss börja med mer traditionellt säkerhetstänk som inte är några nyheter för oss (därmed inte sagt att det är enkelt att få till i vardagen). För att bättre skydda oss mot virus och bedrägeriförsök finns det ett gäng saker som vi kan göra. Internetstiftelsen har bland annat satt ihop en superbra guide för privatpersoner.
Några av tipsen här under jag har plockat just från Internetstiftelsen, men också hittat här och här. Punkter jag själv försöker hålla mig till.
Använd antivirusprogram.
Håll dina enheter och dina program uppdaterade (aktivera gärna automatiskt uppdatering för både operativsystem och programvaror).
Undvik offentliga wifi-nätverk.
Aktivera flerfaktorsautentisering där det är möjligt.
Koppla aldrig in okända externa enheter i din dator.
Får du ett mail från företag och som känns misstänkt, kontrollera hur avsändarens mailadress ser ut.
Klicka inte på länkar, bilagor och reklam om du är osäker på avsändaren.
Använd både lösenordshanterare och starka lösenord. Ett starkt lösenord har mist 14 tecken, påminner inte om något existerande ord och används unikt bara på en tjänst.
Lämna aldrig lösenord, koder och inloggningsuppgifter till någon som ringer upp dig om inte du bett om att bli uppringd.
Logga inte in på ditt Bank-ID efter uppmaning från någon utomstående. Banken, polisen eller andra myndigheter ringer aldrig upp dig och ber dig legitimera dig om inte du först själv bett dem att höra av sig.
I en tid av allt smartare AI:n kommer vi att behöva utöka vår verktygslåda. I samtalet med Anne-Marie lyfter hon att bedrägeriförsök där man använder datorgenrerade röster blir vanligare – där vi kan bli uppringda av en röst som låter som en familjemedlem. Att inom familjen ha ett hemligt lösenord som man frågar efter vid sådana samtal, ja det är en riktigt bra grej. Här under kommer lite fler länkar som innehåller tips på hur vi bättre kan rusta oss när deepfakes och annat AI-lur blir det nya normala.
Säkerhetskollen.se: Vad är deepfake? Så känner du igen en AI-generad bild
The National Cybersecurity Alliance: How to protect yourself against deepfakes
McAfee: Deepfake Defense: Your 8-Step Shield Against Digital Deceit
TechUK: Deepfakes and Disinformation - what impact could it have on elections in 2024?
Ps, eftersom AI-utvecklingen har gått så rasande fort så gäller inte alla tips i länkarna ovan. Det datorgenererade har i många fall blivit omöjligt att med ögat kunna skilja från det äkta.
Avslutningsvis.
Är tiden kommen för en annan teknologi att hitta sin roll i det uppkopplade landskapet? En teknologi som skulle kunna kliva in där AI på vissa håll börjar skapa kaos? Mer om det i artikeln här under ⬇️.
Det var allt för den här gången.
Ta hand om er, varandra och era datorer/plattor/mobiler. Så hörs vi snart igen.
/ Judith
🥰 Tack för att du prenumererar på nyhetsbrevet Plötsligt i Framtiden! Om du har frågor eller tips på vad jag borde skriva om – kommentera gärna på LinkedIn eller skicka ett DM. & tipsa gärna andra som du tror skulle gilla att kika in i en framtid där teknik och hållbarhet är den gröna tråden.
Tack för det superfina omnämnandet! Du är bäst! Och texten om de olika vågorna förgyllde min frukost 🙏🏼🎉