Det er nemmere end nogensinde at klone nogens stemme. D-Keine/iStock via Getty Images
Du er lige kommet hjem efter en lang dag på arbejde og skal til at sidde til middag, da din telefon pludselig begynder at summe. I den anden ende er en elsket, måske en forælder, et barn eller en barndomsven, der beder dig om at sende dem penge med det samme.
Du stiller dem spørgsmål, forsøger at forstå. Der er noget skævt ved deres svar, som enten er vage eller ude af karakter, og nogle gange er der en ejendommelig forsinkelse, næsten som om de tænkte lidt for langsomt. Alligevel er du sikker på, at det bestemt er din elskede, der taler: Det er deres stemme, du hører, og opkalds-id'et viser deres nummer. Når du opfordrer det mærkelige til deres panik, sender du pligtskyldigt pengene til den bankkonto, de giver dig.
Næste dag ringer du tilbage for at sikre dig, at alt er i orden. Din elskede aner ikke, hvad du taler om. Det er fordi de aldrig ringede til dig – du er blevet narret af teknologi: en stemme dybt falsk. Det var tusindvis af mennesker snydt på denne måde i 2022.
Evnen til at klone en persons stemme er i stigende grad inden for rækkevidde af enhver med en computer.
As computer sikkerhed forskere, ser vi, at løbende fremskridt inden for deep-learning-algoritmer, lydredigering og -teknik og syntetisk stemmegenerering har betydet, at det i stigende grad er muligt at simulerer en persons stemme overbevisende.
Endnu værre er chatbots som ChatGPT begyndt at generere realistiske scripts med adaptive realtidssvar. Ved kombinere disse teknologier med stemmegenerering, går en deepfake fra at være en statisk optagelse til en levende, livagtig avatar, der overbevisende kan føre en telefonsamtale.
Kloning af en stemme
At lave en overbevisende deepfake i høj kvalitet, uanset om det er video eller lyd, er ikke den nemmeste ting at gøre. Det kræver et væld af kunstneriske og tekniske færdigheder, kraftfuld hardware og en ret heftig prøve af målstemmen.
Der tilbydes et stigende antal tjenester producere stemmekloner af moderat til høj kvalitet mod et gebyr, og nogle deepfake-stemmeværktøjer har brug for en prøve af kun et minut langt, eller endda bare et par sekunder, for at producere en stemmeklon, der kunne være overbevisende nok til at narre nogen. Men for at overbevise en elsket – for eksempel at bruge i en efterligningsfidus – ville det sandsynligvis kræve en betydeligt større prøve.
Forskere har været i stand til at klone stemmer med så lidt som fem sekunders optagelse.
Få det nyeste via e-mail
Beskyttelse mod svindel og desinformation
Med alt det sagt, vi på DeFake projekt fra Rochester Institute of Technology, University of Mississippi og Michigan State University, og andre forskere arbejder hårdt på at kunne opdage video- og lyddeepfakes og begrænse den skade, de forårsager. Der er også ligetil og dagligdags handlinger, som du kan tage for at beskytte dig selv.
For startere, stemme phishing, eller "vishing", svindel som den, der er beskrevet ovenfor, er de mest sandsynlige stemmedeepfakes, du kan støde på i hverdagen, både på arbejdet og derhjemme. I 2019 blev en energifirmaet blev snydt for 243,000 USD da kriminelle simulerede stemmen fra dets moderselskabs chef for at beordre en medarbejder til at overføre penge til en leverandør. I 2022 var folk svindlet ud af anslået 11 millioner dollars ved simulerede stemmer, herunder af nære, personlige forbindelser.
What can you do?,en
Vær opmærksom på uventede opkald, selv fra personer, du kender godt. Dette betyder ikke, at du skal planlægge hvert opkald, men det hjælper i det mindste at sende en e-mail eller en sms forude. Stol heller ikke på opkalds-id, da det kan også forfalskes. For eksempel, hvis du modtager et opkald fra en person, der hævder at repræsentere din bank, skal du lægge på og ringe direkte til banken for at bekræfte opkaldets legitimitet. Sørg for at bruge det nummer, du har skrevet ned, gemt i din kontaktliste eller som du kan finde på Google.
Derudover skal du være forsigtig med dine personlige identifikationsoplysninger, såsom dit CPR-nummer, hjemmeadresse, fødselsdato, telefonnummer, mellemnavn og endda navnene på dine børn og kæledyr. Svindlere kan bruge disse oplysninger til at efterligne dig over for banker, ejendomsmæglere og andre, berige sig selv, mens de slår dig konkurs eller ødelægger din kredit.
Her er et andet råd: kend dig selv. Kend specifikt dine intellektuelle og følelsesmæssige skævheder og sårbarheder. Dette er et godt livsråd generelt, men det er nøglen til at beskytte dig selv mod at blive manipuleret. Svindlere søger typisk at skændes ud og derefter forgribe sig på dine økonomiske bekymringer, dine politiske tilknytninger eller andre tilbøjeligheder, hvad end de måtte være.
Denne årvågenhed er også et anstændigt forsvar mod desinformation ved hjælp af stemmedeepfakes. Deepfakes kan bruges til at drage fordel af din bekræftelse skævhed, eller hvad du er tilbøjelig til at tro om nogen.
Hvis du hører en vigtig person, hvad enten det er fra dit samfund eller regeringen, sige noget, der enten virker meget ukarakteristisk for dem eller bekræfter dine værste mistanker om dem, vil du være klogt i at være på vagt.
Om forfatterne
Matthew Wright, professor i computersikkerhed, Rochester Institute of Technology Christopher Schwartz, Postdoktoral Research Associate of Computing Security, Rochester Institute of Technology
Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.
