đ€Ż Plötsligt tappar vi hakan. Igen
AI-genererade filmer nu hÀpnadsvÀckande imponerande. Eller?
Hej!
Förra veckan hade min dotter half term break i skolan (typ sportlov) och vi tog đ frĂ„n đŹđ§ till đ«đ· för att utforska Paris i nĂ„gra dagar. Förutom att Ă€ta baguetter, hĂ€nga i parker och kolla pĂ„ konst sĂ„ försökte vi kĂ€nna in tech-vibbarna i Europas framvĂ€xande AI-hub.
För. Franska bolag ligger just nu i europeisk framkant nÀr det kommer AI (tillsammans med London dÀr Google DeepMind Àr baserat). Det mest omtalade franska AI-bolaget Àr helt klart Mistral som beskrivits som en utmanare till OpenAI. Men vi hittar ocksÄ andra exempel som Poolside, Dust, Giskard, Gladia, Scenario med flera.
För att vara tydlig; Europa ligger lĂ„ngt efter USA nĂ€r det kommer till AI-utvecklingen, nĂ„got jag skrivit om bland annat hĂ€r och hĂ€r. Men! Saker börjar att hĂ€nda Ă€ven i Europa â och dĂ„ framför allt i just Paris och London. Tittar vi pĂ„ Frankrike sĂ„ har landet en stor skara talanger inom omrĂ„den som matematik, datavetenskap och ingenjörsvetenskap som ju Ă€r centrala komponenter nĂ€r det kommer till AI.Â
Hur franska Mistral och andra AI-bolag à la open source hÄller pÄ att förÀndra spelplanen för AI, ja det fÄr bli nÀsta veckas tema. Den hÀr veckan behöver vi prioritera en annan högaktuell AI-puck kÀnner jag. Ett genombrott som sannolikt kommer att bli en historisk milstolpe.
DÄ kör vi!
/ Judith
SĂ€g hej till Sora đđŒ
För nĂ„gra dagar sedan (15 februari för att vara exakt) slĂ€ppte OpenAI en ny âvideo generation modelâ. PĂ„ ren svenska en AI-modell som producerar oerhört imponerande och realistiska HD-videor utifrĂ„n vĂ„ra textbeskrivningar. Och den Ă€r döpt till Sora efter det japanska ordet för himmel.
PÄ sin sajt har OpenAI publicerat 48 exempel pÄ filmer som enligt dem sjÀlva Àr 100% AI-genererade av Sora. Om det Àr nÄgot som jag tycker att du ska göra för att fÄ en kÀnsla för resultatet sÄ Àr det att klicka in pÄ sajten och kolla pÄ ett gÀng av filmerna. De Àr nÀmligen ruggigt imponerande!
En av de filmer som jag sjÀlv fastnar mest för Àr den hÀr under.
Prompt: Reflections in the window of a train traveling through the Tokyo suburbs
Lösningar för att skapa AI-genererade filmer Ă€r inget nytt under himlen (det har i alla fall funnits i ett Ă„r eller sĂ„). Du har sĂ€kert sett film-klipp som AI-genererats av bolag som Alphabet/Google och Stability AI. Kanske har du ocksĂ„ testat tjĂ€nster som Runway, Pika eller Emu (frĂ„n Meta). Det som Ă€r skillnaden nu Ă€r att resultatet Ă€r pĂ„ en helt annan nivĂ„, dĂ€r AI-genererade videor PLĂTSLIGT övertrĂ€ffar verkligheten.
Eller sÄ hÀr, det referensmaterial som finns publicerat Àr just sÄ hÀpnadsvÀckande imponerande att vi tappar hakan. Men eftersom Sora inte finns tillgÀngligt för oss alla Ànnu kan vi inte testa runt för att pÄ allvar göra vÄra egna bedömingar. I steg ett finns lösningen endast tillgÀnglig för en liten utvald skara, bland annat red teamers för att bedöma risker och för ett fÄtal visuella konstnÀrer, designers och filmskapare.
I november 2022 rörde OpenAI om i grytan dÄ de lanserade ChatGPT. Och nu gör de sannolikt samma sak igen fast nÀr det kommer till video. Troligt Àr att Sora kommer bana vÀgen för massvis av innovation och kreativitet inom omrÄdet rörligt material dÀr vi alla inom kort kommer att kunna utforska dess möjligheter, bÄde pÄ vÄra arbetsplatser och i vÄra privatliv.
đŸ đ€ đ€ Nördiga detaljer: Sora Ă€r en grundmodell (foundation model) som Ă€r möjlig tack vare att man kombinerar diffusion models med arkitekturen för transformers, dĂ€r det tekniska resultatet blir vad OpenAI kallar âdiffusion transformerâ. Om du Ă€r intresserad av att dyka ner i vad dessa AI-buzzwords betyder har jag skrivit om det hĂ€r: Generativ AI â frĂ„n ööh? till AHA! Och hĂ€r hittar du OpenAI:s technical report för Sora.
Vad sÀger dÄ andra om Sora sÄ hÀr lÄngt? NÄgra av rösterna lÄter sÄ hÀr:
"This could be the 'holy shit' moment of AI" - The Verge
âOpenAI's Sora Just Blew Our Freaking Mindâ - Farzad
âHello, cultural singularityâsoon, every video you see online could be completely fakeâ - Ars Technica
âSam plz donât make me homelessâ - MrBeast
âOpenAI Sora: One Step Away From The Matrixâ - The Algorithmic BridgeÂ
Samtidigt som vi tappar hakan av beundran sÀtter vi ocksÄ i halsen. För vi fattar ju att den hÀr typen av framsteg ocksÄ kommer att missbrukas. Som med nÀstan all teknik Àr AI-utvecklingen en gigantisk paradox dÀr vi vinner inom vissa omrÄden pÄ bekostnad av andra. Mer om det i artikeln hÀr under.
Samtidigt som nya möjligheter vecklas ut sÄ pratas det allt mer intensivt om de hot som ocksÄ följer med genombrottet. Inte bara kopplat till det som en av vÀrldens största YouTubers MrBeast oroar sig för (att bli av med jobbet). Utan ocksÄ kring en grundlÀggande pusselbit i vÄrt samhÀlle; tillit till informationen som vi konsumerar.
SÀg hejdÄ till internet sÄsom vi ser det
Enligt en rapport frÄn Europol spÄs 90 % av allt innehÄll online vara AI-genererat inom tre Är (siffra via
). Vad hĂ€nder dĂ„ nĂ€r vĂ„ra flöden fylls av en massa information som vi inte vet Ă€r sann eller falsk? Inte bara nĂ€r det kommer till texter (de har alltid kunnat vara falska) utan ocksĂ„ bilder och rörligt material, inklusive AI-genererade röster.NĂ€r vi inte lĂ€ngre kan lita pĂ„ vĂ„ra sinnen â hur ska vi dĂ„ kunna fatta vĂ€linformerade beslut? Hur ska vi förstĂ„ vad det Ă€r som faktiskt hĂ€nder runt omkring oss? Och hur ska vi kunna upprĂ€tthĂ„lla vĂ€lfungerande demokratier? För extra problematiskt blir genombrott som dessa nĂ€r de sker samtidigt som rekordmĂ„nga avgörande politiska val ska Ă€ga rum. LĂ€s mer hĂ€r âĄïž RekordmĂ„nga politiska val + risk för AI-stök.
Kristian Hammond, professor i datavetenskap och AI-expert, sÀger sÄ hÀr i intervju:
"The clarity of truth we thought we had with recorded photography and video is gone. We've inadvertently built a world of propaganda engines."
Förutom att AI nu kan skapa videobaserat innehÄll som vi med ögat inte kan skilja frÄn det verkliga, kan andra typer av AI-lösningar anvÀndas för att sprida innehÄllet. NÀmligen agenterna.
En AI-baserad agent (eller mjukvaruagent) Àr ett datorprogram som byggs för att kunna arbeta sjÀlvstÀndigt. Ju smartare AI-komponenter som adderas till agenten, desto mer komplexa uppgifter kan den lösa. Akshay Pachaar beskriver agenterna sÄ hÀr:
âYou can think of an Agent as an AI brain that uses an LLM (Large Language Models) for reasoning, planning & taking actions.â
Dessa sjÀlvstÀndigt arbetande AI-agenter kan givetvis pyssla med en massa bra saker. Men pÄ temat deep fake lÀr vi ocksÄ se AI-agenter som:
Ber AI-lösningar som Sora ta fram verklighetstroget innehÄll i form av videor i syfte att vilseleda
Effektivt sprider innehÄllet
Eftersom arbetet utförs av AI-agenter kan mÀnniskor plockas bort frÄn ekvationen. NÄgot som gör att kostnaden för att spotta ur sig MASSVIS av högkvalitativt innehÄll och sprida det gÄr ner rejÀlt. Runt hörnet kan vi rÀkna med att oerhört effektiva propagandamaskiner tar form som bÄde analyserar mottagare, genererar skrÀddarsytt innehÄll och sprider innehÄllet. NÄgot som ger förstÀrka möjligheter för den som vill sprida desinformation, manipulera val och spÀ pÄ konflikter.
I artikeln hÀr under berÀttar jag mer om detta.
Nu till lite lugnande besked. Eller?
âMen vĂ€nta lite nuâ kanske du tĂ€nker. Tar OpenAI inte sitt ansvar i att förhindra allt detta? Visst jobbar bĂ„de OpenAI och andra stora AI-bolag aktivt för att anvĂ€ndare inte ska kunna missbruka deras lösningar. Bland annat skriver OpenAI sĂ„ hĂ€r om Sora:
âWeâll be taking several important safety steps ahead of making Sora available in OpenAIâs products. We are working with red teamersâââdomain experts in areas like misinformation, hateful content, and biasâââwho will be adversarially testing the model. (âŠ) Weâre also building tools to help detect misleading content such as a detection classifier that can tell when a video was generated by Sora.â
Puh. DĂ„ kan vi andas ut. Eller?
Kruxet Ă€r att teknik som utvecklas nĂ€stan alltid kan missbrukas. Ăven om just Sora kommer att vara svĂ„r att anvĂ€nda för att generera skadligt innehĂ„ll sĂ„ innebĂ€r framsteget ett genombrott för omrĂ„det som helhet. Ett genombrott som sannolikt kommer att innebĂ€ra att en mĂ€ngd andra liknande modeller snart följer efter â inklusive open source-lösningar som Ă€r mycket svĂ„rare att kontrollera. Eller lösningar framtagna av aktörer (som exempelvis stater) med det primĂ€ra syftet att bygga effektiva propagandamaskiner. LĂ€s mer om hoten i lĂ€nkarna hĂ€r under.
ABC News: OpenAI video-generator Sora risks fueling propaganda and bias, experts say
Yahoo Finance: UN Warns of AI-Generated Deepfakes Fueling Hate and Misinformation Online
Ledsen att OpenAI:s imponerande genombrott i den hÀr texten fick fokus pÄ baksidorna. Det Àr liksom svÄrt att ducka för missbruket dÄ det hotar sjÀlva grunden i de samhÀllen som vi har byggt upp.
LĂ„t oss avsluta med en lite annan twist. Marknadsföraren Björn Owen Glad publicerade igĂ„r den lĂ€svĂ€rda artikeln I framtiden Ă€r allting fejk dĂ€r han radar upp ett gĂ€ng exempel pĂ„ omtalade âutomhusâ-kampanjer som visat sig vara fejkade. Ett av exemplen Ă€r Maybellines pĂ„stĂ„dda tunnelbanereklam i London.
Björn stÀller sig sedan frÄgan vad dessa reklamkampanjer bidragit med nÀr det kommer till mÀnniskors tilltro till vad vi ser online. För Àven om de senaste Ärens reklamexempel inte Àr AI-genererade (utan snarare skapade av mÀnniska + designprogram) sÄ lÀr framtida motsvarigheter vara det.
Det var allt för den hÀr veckan. Ta hand om er sÄ hörs vi snart igen.
/ Judith
đ€ Att klura pĂ„: Har jag verkligen varit i Paris pĂ„ sportlov som bilden i toppen pĂ„stĂ„r? Eller Ă€r det en AI-genererad bild dĂ€r jag i Ă€rlighetens namn aldrig ens har satt min fot i den đ«đ· huvudstaden? NĂ€sta vecka fĂ„r du svaret pĂ„ den frĂ„gan.
đ„° Tack för att du prenumererar pĂ„ nyhetsbrevet Plötsligt i Framtiden! Om du har frĂ„gor eller tips pĂ„ vad jag borde skriva om â kommentera gĂ€rna pĂ„ LinkedIn eller skicka ett DM. & tipsa gĂ€rna andra som du tror skulle gilla att kika in i en framtid dĂ€r teknik och hĂ„llbarhet Ă€r den gröna trĂ„den.
Tack för bra nyhetsbrev (som alltid)! Jag hoppas verkligen ni var i Frankrike, för det Ă€r ju ett hĂ€rligt land đ
Jag tÀnker att nÀr allt pÄ internet Àr fejk kommer det genuina (sÄklart) öka Ànnu mer i vÀrde. Och vi kommer söka oss till betrodda kÀllor (kreatörer, tidningar, journalister, nyhetsbrev) som vi litar pÄ. Jag tycker redan t ex Pinterest blivit mer och mer vÀrdelöst nÀr Midjourney-
bilder och annonser tar över hela flödet.
Har mycket tankar om detta och skriver (sÄklart) pÄ ett lÀngre inlÀgg om det.