Η τεχνική των deepfakes για την εξαπάτηση χρηστών κατά τη διάρκεια βιντεοκλήσεων έχει αρχίσει
για γίνεται αρκετά διαδεδομένη. Ωστόσο, μια εταιρεία επισημαίνει ότι η τεχνολογία που λειτουργεί με AI έχει ένα εύκολο τρόπο να εντοπιστεί καθώς δεν καταφέρνει να αποδώσει με επιτυχία τα ψεύτικα πρόσωπα σε πλάγιες γωνίες.Τα ευρήματα προέρχονται από τη Metaphysic, μια εταιρεία παραγωγής περιεχομένου μέσω AI που εξέτασε πρόσφατα ορισμένους από τους περιορισμούς των deepfakes σε πραγματικό χρόνο. Μέσω μιας σειράς δοκιμών, η έκθεση της εταιρείας δείχνει ότι η τεχνολογία deepfake μπορεί να αποδώσει πιστά το πρόσωπο μιας διασημότητας πάνω από το πρόσωπο κάποιου άλλου κατά τη διάρκεια μιας βιντεοκλήσης, αλλά μόνο όταν τα πρόσωπα κοιτούν προς τα εμπρός.
Το ψεύτικο πρόσωπο καταρρέει αμέσως μόλις ο χρήστης γυρίσει το πρόσωπό του σε γωνία 90 μοιρών. Η τεχνολογία θα αντιμετωπίσει επίσης πρόβλημα εάν ο χρήστης τοποθετήσει το χέρι του στο πρόσωπό του.
Η Metaphysic δημοσίευσε την έκθεση εβδομάδες αφότου το FBI προειδοποίησε ότι οι απατεώνες εκμεταλλεύονται την τεχνολογία deepfake για να υποδυθούν υποψηφίους σε δουλείες κατά τη διάρκεια συνεντεύξεων. Οι απατεώνες το έκαναν για να αποκτήσουν εξ αποστάσεως θέσεις εργασίας που θα μπορούσαν να τους δώσουν πρόσβαση σε οικονομικά και εμπιστευτικά εταιρικά δεδομένα.
Η Metaphysic προσφέρει έναν εύκολο τρόπο εντοπισμού αυτής της απάτης σε πραγματικό χρόνο κατά τη διάρκεια μιας βιντεοκλήσης. Η εταιρεία έτρεξε ένα demo χρησιμοποιώντας το DeepFaceLab, το δωρεάν λογισμικό πίσω από πολλά δημοφιλή deepfake βίντεο που κυκλοφορούν στο YouTube. Το λογισμικό διαθέτει επίσης μια έκδοση σε πραγματικό χρόνο που ονομάζεται DeepFaceLive, η οποία μπορεί να βάλει το πρόσωπο μιας διασημότητας στο δικό σας.
Αν και η τεχνολογία παρέχει εντυπωσιακά αποτελέσματα, το λογισμικό δεν σχεδιάστηκε για να εκτελεί την αλλαγή προσώπου σε πραγματικό χρόνο σε οξείες γωνίες. Για παράδειγμα, οι διαδικασίες χαρτογράφησης προσώπου θα δημιουργήσουν κατά λάθος ένα επιπλέον μάτι ή φρύδι όταν τα πρόσωπα γυρνούν στο πλάι.
Έτσι, είναι ακόμα δυνατό να επεκταθούν οι τεχνολογίες deepfake έτσι ώστε να αποδίδουν ακόμα και όταν τα πρόσωπα βρίσκονται σε γωνία 90 μοιρών, όπως δείχνει το παραπάνω βίντεο. Ωστόσο, ακόμα κι έτσι, ένα ψεύτικο πρόσωπο μπορεί να επιτευχθεί μόνο εάν έχετε αρκετά δεδομένα προσώπου για το θέμα που προσπαθείτε να υποδυθείτε. Η Metaphysic λέει ότι εκτός των διασημοτήτων, οι περισσότεροι άνθρωποι δεν έχουν φωτογραφίες από τα πλαϊνά μέρη του πρόσωπού τους που κυκλοφορούν στο διαδίκτυο.
“Αν δεν έχετε βγάλει φωτογραφίες κάποια στιγμή, είναι πιθανό να μην έχετε ούτε μία τέτοια εικόνα, είτε στα μέσα κοινωνικής δικτύωσης είτε σε μια offline συλλογή”, πρόσθεσε η εταιρεία.
Ωστόσο, μπορεί να είναι μόνο θέμα χρόνου μέχρι οι τεχνολογίες deepfake να ξεπεράσουν αυτά τα ελαττώματα προσομοιώνοντας τυχόν δεδομένα προσώπου που λείπουν. Για παράδειγμα, η τεχνολογία Neural Radiance Fields (NeRF) της Nvidia μπορεί να μετατρέψει τις εικόνες 2D σε 3D σκηνές χρησιμοποιώντας μόνο μια συλλογή ακίνητων φωτογραφιών. Ως αποτέλεσμα, ο κλάδος της ασφάλειας μπορεί να αντιμετωπίσει ένα παιχνίδι κυνηγητού στην προσπάθεια να ανιχνεύσει τα deepfakes σε πραγματικό χρόνο στο μέλλον.
