AI-drevne dybfake-videoer med ændrede ansigtsudtryk kan vise realistiske hjerteslag gennem hudfarveændringer, hvilket kan hindre en dybfake-detektionsmetode
Nogle dybfake -videoer præsenterer en overbevisende puls
Deepfake -videoer, der indeholder digitale manipulationer af folks ansigtsudtryk og stemmer, kan også skildre realistiske hjerteslag, hvilket gør dem endnu sværere at få øje på.
”Vi ved nu, at bare fordi en person i en video har en målbar puls, betyder det ikke, at vi kan antage, at de er reelle,” siger Hany Farid ved University of California, Berkeley, som ikke var involveret i forskningen.
Denne udvikling kommer som dybfakes, der er blevet digitalt ændret eller genereret af kunstig intelligens, er bundet berømtheder og almindelige mennesker i overbevisende, men falsk pornografi, økonomiske svindel og politisk propaganda. Tidligere havde forskere eksperimenteret med at opdage dybfakes ved at identificere ændringer i hudfarve relateret til blodgennemstrømning og hjerterytme, men denne forskning viser, at nogle Deepfake -videoer stadig kan præsentere en acceptabel puls.
Peter Eisert ved Fraunhofer Institute for Telecommunications i Tyskland og hans kolleger udviklede en Deepfake -detektor, der kunne analysere impulser fra mennesker i ægte og dybfake -videoer. De filmet også et nyt sæt ægte videoer med et dusin folks ansigtsudtryk, mens de samtidig registrerede deltagernes hjertefrekvens, så de kunne verificere nøjagtigheden af deres detektor.
Derefter indsatte forskerne digitalt ændrede ansigter i deres ægte videoer – et skridt, der skulle have advaret deres dybfake -detektor. I stedet fandt de, at detektoren opfattede realistiske pulser i både forfalskninger og de originale videoer.
”Bare fordi en eller et par dybfake -generatorer kan gengive dette fysiologiske signal, betyder det ikke, at alle Deepfake -generatorer kan,” siger Farid.
Holdet er allerede begyndt at eksperimentere med nye måder at få øje på Deepfakes, såsom at identificere lokale blodstrømningsmønstre i folks ansigter. Men sådanne metoder kan have en “begrænset holdbarhed”, siger Siwei Lyu fra universitetet i Buffalo i New York, som ikke var involveret i arbejdet. Det skyldes, at nye generative AI-værktøjer mere overbevisende efterligner realistiske hjerteslag og andre fysiologiske signaler, og det kan være vanskeligt at udtrække et pulssignal fra videoer af lav kvalitet.
I stedet forsøger de mest effektive detektionsteknikker at identificere mere subtile forskelle mellem ægte og dybfake-videoer, såsom billedpixel-lysstyrke, der er “ikke-intuitiv for menneskelige seere”, siger Lyu.