đ 3 AI-vĂ„gor som allt mer förĂ€ndrar vĂ€rlden
Och vad vi kan lita pÄ
Tro det eller ej, men det har funnits en tid dĂ€r vi inte fick vĂ„r dagliga dos av nyheter och information via sociala medier. DĂ€r vi direkt vĂ€nde oss till journalistiska kĂ€llor â digitala och analoga â för att fĂ„ koll pĂ„ vad som hĂ€nde.
Idag Ă€r sociala medier de frĂ€msta nyhetskĂ€llorna för unga (mer info i Svenskarna & internet 2023) och pĂ„verkar alla typer av Ă„ldersgrupper i vilken information vi möter â och dĂ€rmed hur vi ser pĂ„ vĂ€rlden.
Vad hĂ€nder dĂ„ nĂ€r en massa falska bilder och videos skapade av artificiella intelligenser PLĂTSLIGT fyller vĂ„ra flöden? InnehĂ„ll som blir allt mer omöjligt att avgöra huruvida det Ă€r datorgenererat eller Ă€kta.
Den hÀr veckan ska vi dyka ner i tre internetrelaterade AI-vÄgor. Tre vÄgor som tillsammans riskerar att skapa nya och förstÀrkta möjligheter för den som vill sprida desinformation, manipulera val och spÀ pÄ konflikter. En trio som, anvÀnd fel, kan ge oss en allt tydligare baksida av AI-myntet.
LÄt oss sÀtta igÄng vÄgmaskinen.
/ Judith
â Deep Fake â
Det Àr fÄ som har missat att deep fake - AI-generade filmer, bilder, ljud och texter - har fÄtt en rejÀl hÀvstÄng den senaste tiden. NÄgra uppmÀrksammade exempel Àr:
En falsk Tom Hanks som gör videoreklam för en tandvÄrdsplan. Och en AI-genererad MrBeast som pÄ TikTok utger sig för att delar ut en massa gratis iPhones.
Dagar innan det nationella valet i Slovakien förra mĂ„naden spreds ett falskt ljudklipp pĂ„ sociala medier som lĂ€t som Michal Ć imeÄka, ledaren av det liberala partiet Progressiva Slovakien (PS). LĂ€s mer pĂ„ Wired: Slovakiaâs Election Deepfakes Show AI Is a Danger to Democracy.
Emanuel Karlsten gjorde tidigare i veckan ett lysande bra jobb i att visa hur rackarns enkelt det numera Àr för vem som helst att skapa falskt innehÄll som upplevs som Àkta. HÀr hittar du inslaget i Nyhetsmorgon.
Vad Àr det dÄ som gör att vi har kommit hit? Och vad kan vi förvÀnta oss framÄt? Det Àr dags att dyka ner i den första vÄgen.
đ 1: Kurerande AI
Steg för steg har AI flyttat in i de liv som vi lever. VÄra flöden i sociala medier har skrÀddarsytts efter vÄr personliga smak, vÄra sökningar pÄ Google har blivit allt mer relevanta och filmtipsen pÄ Netflix allt mer trÀffsÀkra. Sedan ungefÀr 2010 och framÄt har vi fÄtt en ny nivÄ av bekvÀmlighet, mycket tack vare AI. Jag vÀljer att kalla denna första AI-vÄg pÄ internet och i vÄra appar för Kurerande AI.
Utan att förstĂ„ ett skvatt om oss â eller om att vara mĂ€nniska för den delen â har AI-algoritmer sedan en tid kunnat hitta samband i data som vi lĂ€mnar efter oss nĂ€r vi surfar och anvĂ€nder vĂ„ra mobiler. Samband som kan se ut sĂ„hĂ€r: âAha, medelĂ„lders mĂ€n som bor i Stockholm och som gillar att titta pĂ„ amerikansk stand-up pĂ„ Netflix tenderar ocksĂ„ att gilla den hĂ€r dokumentĂ€ren om sneakersâ. (Obs: detta Ă€r en fiktiv korrelation, dock inspirerad av en person i min egen nĂ€rhet).
Kurerande AI har pĂ„ mĂ„nga sĂ€tt bidragit med vĂ€rde och gjort vĂ„ra liv enklare. Samtidigt har baksidan av myntet varit smĂ€rtsam. Som vi vet gav dessa smarta algoritmer oss â i kombination med annonsbaserade affĂ€rsmodeller för sociala medier â ocksĂ„ en âtechlashâ. Plattformar som premierat "engagerande" innehĂ„ll har ocksĂ„ missgynnat mĂ€nniskan och samhĂ€llet. Och gett plats Ă„t falska nyheter, automatiserade botar och trollarmeÌer som spridit dynga och listig propaganda. Vi kan den berĂ€ttelsen. För min del mynnade den 2018 ut i en bok bland annat. Och i rapporten hĂ€r under.
Kurerande AI spelar fortfarande en viktig roll för de digitala tjÀnster som vi anvÀnder men fÄr nu sÀllskap av AI:n som inte bara filtrerar innehÄll, utan som ocksÄ skapar innehÄllet.
đ 2: Generativ AI
Sedan lanseringen av ChatGPT (november 2022) har Generativ AI tagit vÀrlden med storm.
Generativ AI innebĂ€r att AI (med hjĂ€lp av djupinlĂ€rning & neurala nĂ€tverk) har börjat att skapa riktigt imponerande innehĂ„ll, bland annat i form av text, bild, video, ljud och programmerad kod. Men inte bara det, utan ocksĂ„ generera helt unikt innehĂ„ll som inte har funnits tidigare. đŠ HĂ€r kan du lĂ€sa mer om vad Generativ AI Ă€r och vad olika tekniska begrepp betyder.
Det senaste Ă„ret har ett orĂ€kneligt antal nya generativa AI-lösningar lanserats som Ă€r byggda âovanpĂ„â foundation models frĂ„n företag som OpenAI, Google, Meta och Antropic. Massvis av de generativa AI-tjĂ€nster som byggs kan hjĂ€lpa oss pĂ„ en mĂ„nga olika sĂ€tt. Enligt den stĂ€ndiga tekniska paradoxen kommer teknisk utveckling dock ocksĂ„ med utmaningar. Deep fake Ă€r en av dessa baksidor.
Om vi blickar framĂ„t lĂ€r innehĂ„ll som produceras av Generativ AI bli Ă€n mer trovĂ€rdigt och omöjligt att skilja frĂ„n det som Ă€r verkligt. Om det anvĂ€nds i syfte att vilseleda, ja dĂ„ kan det pĂ„ mĂ„nga sĂ€tt bli ytterst problematiskt âŹïž.
Forbes: The Next Threat From Generative AI: Disinformation Campaigns
Yahoo Finance: UN Warns of AI-Generated Deepfakes Fueling Hate and Misinformation Online
HĂ€r listar min tidigare buz-partners
kommande politiska val som under 2024 riskerar att bli stökiga pĂ„ grund av Generativ AI.âI see that as a huge problem not being able to know whatâs true anymoreâ - âGudfadern av AIâ, Geoffrey Hinton
VĂ„g 1 + 2 = ?
SÄ, vad hÀnder dÄ om vi lÄter lÄter vÄg 2 (Generativ AI) skapa falskt/snedvridet innehÄll och lÀmna över det till vÄg 1 (Kurerande AI) att sprida det?
Sannolikt kommer vi att fĂ„ se en flodvĂ„g av klickvĂ€nligt och âengagerandeâ falskt innehĂ„ll som riskerar att premieras av de kurerande AI-algoritmerna. NĂ„got som ger oss en sjĂ€lvförstĂ€rkande deep-fake-loop â om vi (lĂ€s techbolagen) inte aktivt arbetar för att förhindra detta det vill sĂ€ga.
LÄt oss nu ocksÄ lÀgga till en tredje AI-vÄg som lÀr ge sig in i leken att manipulera framöver.
đ 3: AI-agenter
En AI-baserad agent (eller mjukvaruagent) Àr ett datorprogram som byggs för att kunna arbeta sjÀlvstÀndigt. Ju smartare AI-komponenter som adderas till agenten, desto mer komplexa uppgifter kan den lösa. Akshay Pachaar beskriver agenterna sÄhÀr:
âYou can think of an Agent as an AI brain that uses an LLM* for reasoning, planning & taking actions.â
*TillÀgg: LLM (Large Language Models) Àr en typ av grundmodell för Generativ AI.
Pachaar visualiserar en möjlig agent i bilden hÀr under.
En AI-agent som tar in hjÀlp frÄn olika kompisar:
Google Search: to get the latest info
Python REPL: to execute code
Wolfram: to carry out complex calculations
An external API: to fetch a specific information
HÀr hittar du Pachaars lÀsvÀrda text om agenter.
Vad kan dÄ dessa sjÀlvstÀndigt arbetande AI-agenter pyssla med? En massa bra saker sÄklart. MEN! PÄ temat deep fake lÀr vi ocksÄ se AI-agenter som skapas i syfte att:
generera verklighetstroget falskt innehÄll, och
sprida innehÄllet
Eftersom arbetet utförs av AI-agenter kan mÀnniskor plockas bort frÄn ekvationen. NÄgot som gör att kostnaden för att spotta ur sig MASSVIS av högkvalitativt innehÄll och sprida det gÄr ner rejÀlt.
Om Agenterna gör jobbet superbilligt, ja dĂ„ kan man ocksĂ„ strunta i det dĂ€r med âgenerisktâ innehĂ„ll och istĂ€llet lĂ„ta AI analysera oss ner pĂ„ individnivĂ„. Och skapa innehĂ„ll som triggar eller vilseleder just dig.
Fram till nu har det inte vara lönsamt för företag att producera alltför skrÀddarsydd reklam (det har varit pÄ tok för dyrt). Eller för propagandamaskiner att ta fram tusentals och Äter tusentals varianter av skrÀddarsytt budskap. Den tiden Àr snart förbi.
VĂ„g 1 + 2 + 3
VÄg 1 + 2 + 3 riskerar alltsÄ att ge oss oerhört effektiva propagandamaskiner som bÄde analyserar mottagare, genererar skrÀddarsytt innehÄll och sprider innehÄllet. För ja, med hjÀlp av AI kan vi numera ocksÄ testa vilka budskap som Àr effektiva genom att testa dem mot artificiella AI-personligheter. NÄgot man bland annat konstaterar i den hÀr studien.
NÀr kommer den positiva vÀndningen?
âDet var vĂ€rst vilket tungt nyhetsbrev det var den hĂ€r veckanâ, kanske du tĂ€nker. SĂ„ nĂ€r kommer vĂ€ndningen?
Nja. Den hÀr veckan blev det inget fokus pÄ teknikens möjligheter. Att flagga för riskerna Àr nÄgot vi ocksÄ behöver göra sÄ att vi inte Äter igen landar i en techlash. En baksmÀlla som skulle kunna bli mycket vÀrre Àn den förra.
Dock vill jag pĂ„minna om att AI-utvecklingen ocksĂ„ kommer med oerhörda möjligheter. Som att hjĂ€lpa oss att tackla de största av utmaningar som vi stĂ„r inför. LĂ€s mer hĂ€r: AI-paradoxen â bĂ„de vĂ„rt största hopp och ett potentiellt megahot.
Tillbaks till riskerna. HÀr Àr nÄgra som hissar varningens flaggor kring vad Generativ AI kan innebÀra nÀr det kommer till klimatfrÄgan:
AI kan skapa flodvÄg av klimatförnekelse (juli 2023). Debattartikeln frÄn Victor Galaz (docent Stockholm Resilience Centre, Stockholms universitet) och Jutta Haider (professor, Högskolan i BorÄs).
Rapport frĂ„n FN: Information Integrity on Digital Platforms (juni 2023) dĂ€r man bland annat skriver sĂ„hĂ€r: âThe ability to disseminate large-scale disinformation to undermine scientifically established facts poses an existential risk to humanity and endangers democratic institutions and fundamental human rights. These risks have further intensified because of rapid advancements in technology, such as generative artificial intelligence. Across the world, the United Nations is monitoring how mis- and disinformation and hate speech can threaten progress towards the Sustainable Development Goals.â
Backa bandet?
I det hĂ€r avsnittet av Hard Fork diskuterar journalisterna Kevin Roose and Casey Newton sociala mediers roll i en tid av falskt innehĂ„ll och desinformation. De resonerar kring hur internet kan tĂ€nkas se ut framĂ„t (teaser: âThe web that we are enjoying today truly might not exist in five yearsâ). Och om det Ă€r dags att backa bandet.
Det var allt för den hÀr veckan. NÀst utskick kommer att bli utifrÄn ett mer optimistiskt perspektiv sÄ hÄll ut.
Ta hand om er sÄ hörs vi snart igen!
/ Judith
đ„° Tack för att du prenumererar pĂ„ nyhetsbrevet Plötsligt i Framtiden! Om du har frĂ„gor eller tips pĂ„ vad jag borde skriva om â kommentera gĂ€rna pĂ„ LinkedIn eller skicka ett DM. & tipsa gĂ€rna andra som du tror skulle gilla att kika in i en framtid dĂ€r teknik och hĂ„llbarhet Ă€r den gröna trĂ„den.