Hankenforskare undersöker hur deepfakes förändrar marknadsföringen

I slutet av 2017 laddade en användare på innehålls- och diskussionsplattformen Reddit upp flera pornografiska videor där skådespelarnas ansikten hade ersatts av kändisars ansikten. Videorna skapades med en AI-teknik som genererar realistiskt utseende men ändå falskt innehåll. Denna typ av innehåll har nu fått det namn som den ursprungliga Reddit-användaren gav det: Deepfakes.

I dag är deepfakes vanliga på internet, men det har gjorts väldigt lite akademisk forskning om de hot och möjligheter som tekniken erbjuder. Mekhail Mustak är en av dem som forskar inom området. Hans senaste artikel, som skrevs tillsammans med Hankens forskardoktor Arafat Rahman och flera andra akademiker, publicerades i januari 2023 Opens in new window i Journal of Business Research.

– En deepfake kan vara vilken slags media som helst: ett foto, en video eller till och med bara en röst. Banbrytande datavetenskap används för att skapa dem, men du behöver varken en avancerad Hollywood-studio eller ens en särskilt kraftfull dator. Med molntjänster och viss baskompetens kan du generera en deepfake på några minuter, berättar Mustak.

– Detta är fascinerande ur ett marknadsföringsperspektiv, men det kommer till priset av ökad misstro bland konsumenter och i samhället i stort. Människor kan inte längre tro på vad de ser eller hör.

Den dubbla naturen hos deepfakes

En deepfake skapas av två algoritmer som kompletterar varandra, en som kallas en generator och en som kallas diskriminator. 

Generatorn ansvarar för att skapa innehållet, som den sedan skickar till diskriminatorn som avgör om det är äkta eller falskt. Om diskriminatorn identifierar brister i innehållet skickas denna feedback tillbaka till generatorn, som använder den för att förbättra innehållet. Denna process upprepas tusentals gånger – ibland till och med miljontals – tills det genererade innehållet är omöjligt att skilja från verkligheten.

– Detta är ett så kallat generative adversarial network, eller GAN. Man kan säga att processen efterliknar hur människor lär sig, genom att lägga till lager på lager tills innehållet är klart, förklarar Mustak.

I likhet med andra nya verktyg och tekniker kan deepfakes användas i både goda och dåliga syften.

Å ena sidan kan tekniken spela en viktig roll inom utbildning, underhållning eller konstnärliga uttryck. Deepfakes användes till exempel för att skapa en malariainformationsvideo med fotbolls- och modeikonen David Beckham som i videon pratar nio olika språk. På Dalí-museet i Florida – uppkallat efter den bortgångne surrealistiska konstnären Salvador Dalí – dyker en deepfake av konstnären själv upp från en elektronisk display och berättar historier om sitt liv för besökarna. 

Å andra sidan kan deepfakes också användas för att sprida desinformation, manipulera den allmänna opinionen eller till och med utpressa och skada människor.

– I ett fall fick det brittiska dotterbolaget till ett tyskt företag ett telefonsamtal från någon som lät precis som företagets VD. Rösten beordrade utbetalning av en stor summa pengar från dotterbolagets bankkonto. Inga misstankar väcktes och betalningen genomfördes. Men detta var alltså frågan om en röst som skapats med deepfake-teknik, och företaget förlorade pengarna, säger Mustak. 

– Så kallad hämndporr är ett annat problem – människor kan använda deepfake-teknik för att skapa falska pornografiska videor av sina ex. Även om rättsliga åtgärder kan vidtas mot sådant är deepfakes i sig inte olagliga. Detta väcker etiska frågor kring användningen av tekniken och gör den svår att reglera.

Använda AI för att förbättra kundupplevelsen

Trots allt det negativa tror Mekhail Mustak att deepfakes och annan AI-teknik erbjuder stora möjligheter inom olika områden. Han arbetar nu i ett internationellt team av akademiker och teknikexperter som utforskar användningen av AI inom marknadsföring. 

I en av hans studier används AI-driven maskininlärning för att analysera miljontals kundinlägg på sociala medier och automatiskt identifiera de klagomål som kunderna rapporterar. Dessa klagomål är identifierbara problem som företagen kan rikta in sig på att lösa. 

– Kundåsikten ”företaget XYZ suger” är inte ett dylikt klagomål, eftersom den inte ger någon praktisk insikt att agera på. Däremot representerar ett klagomål som ”jag var tvungen att vänta 20 minuter i telefonen för få prata med en kundtjänstmedarbetare” en insikt, eftersom den avslöjar ett specifikt problem med lång väntetid som företaget kan försöka lösa.

Mekhail Mustak tror att deepfakes och annan AI-teknik kan användas för att generera marknadsföringsinnehåll som riktar in sig på kundernas smärtpunkter mer detaljerat. Strategin syftar till att spara tid och resurser för företag som samtidigt kan förbättra sina kundrelationer.

– AI har flera dimensioner som kan utnyttjas för att generera marknadsföringsinnehåll. Min forskning syftar till att överbrygga klyftan mellan företag och deras kunder genom att använda tekniken för att skapa lösningar som gynnar båda parter.

Text: Andrew Flowers