Deepfakes: Nya utmaningar för källkritiken

Deepfakes är att genom maskininlärning och AI ersätta ett ansikte i en videofilm med någon annans ansikte med ett förvånansvärt naturtroget resultat. Fenomenet härrör från internetforumet Reddit där användarna nu skapar och delar verktyg som underlättar processen. För att skapa en deepfake behöver du en mängd olika ansiktsbilder som du sen läser in i datorn och där ett datorprogram genom en AI-process ”lär sig” hur olika ansiktsuttryck osv. ser ut. Eftersom det rör sig om Reddit och den speciella grabbkultur som florerar där är den vanligaste processen än så länge att klistra in kändisars ansikte i porrscener. Wikipedia har en bra artikel om Reddit om man vill veta mer om detta ohemult populära forum.

Tekniken gör det möjligt att relativt enkelt (en vanlig hemdator och know-how) skapa fejkade naturtrogna videos där det till synes är en politiker eller någon annan som gör något de inte har gjort. Detta kommer leda till stora utmaningar för vårt källkritiska tänkande! Vi är medvetna om att bilder går att manipulera men nu ska vi också behöva applicera dessa förmågor på rörliga bilder. Att kunna sätta saker i en kontext kommer bli allt viktigare, vem är avsändare av budskapet och varför? Vår förmåga att spåra videos ursprung kommer sättas på prov. Var publicerades videon först?

I videon nedan har skådisen Andy Sembergs ansikte bytts ut till Nicolas Cages.

Läs mer:

Computer Sweden – Deepfakes är det läskigaste på nätet just nu – och ett tydligt exempel på riskerna med AI

Motherboard – AI-Assisted Fake Porn Is Here and We’re All Fucked

Metro – Face swaps – det nya verktyget för politisk propaganda

Kommentera

E-postadressen publiceras inte. Obligatoriska fält är märkta *

  • Om

    Pedagogtrelleborg är en sida för pedagoger i Trelleborgs kommun och drivs av AV-Media, Skoldatateket, Systemavdelningen och bibliotekets skolbibliotekarier.