Μέχρι σήμερα, έκαναν θραύση στη ψυχαγωγία και στην βιομηχανία του πορνό. Πολλοί Αμερικανοί πολιτικοί όμως έβλεπαν τους κινδύνους εάν χρησιμοποιούνταν από «σκοτεινές δυνάμεις» με ολέθριες συνέπειες για τις ΗΠΑ. Κάποιοι όμως στο αμερικανικό Πεντάγωνο δεν κρατιούνται και αντιλαμβάνονται πόσο ανάγκη το έχουν και οι ίδιοι: Αμερικανοί στρατηγοί ζητάνε την αξιοποίηση της τεχνολογίας των deepfakes από τους πιο επίλεκτους στρατιώτες των ΗΠΑ.
Η Διοίκηση Ειδικών Επιχειρήσεων των Ηνωμένων Πολιτειών (SOCOM) είναι επιφορτισμένη με την επίβλεψη των ειδικών και -πιο «βρώμικων»- επιχειρήσεων των Αμερικανικών Ενόπλων Δυνάμεων, από τους πεζοναύτες μέχρι την Αεροπορία. Σύμφωνα όμως με έγγραφο που φέρνει στη δημοσιότητα ο αμερικανικός ιστότοπος «The Intercept», η SOCOM προετοιμάζεται για τη διεξαγωγή εκστρατειών προπαγάνδας και εξαπάτησης στο Διαδίκτυο χρησιμοποιώντας deepfakes. Στο έγγραφο αποτυπώνονται οι μελλοντικές προπαγανδιστικές φιλοδοξίες της SOCOM απαριθμώντας τις δυνατότητες που αναζητά για το εγγύς μέλλον και ζητά προτάσεις από εξωτερικούς συνεργάτες!
Το έγγραφο
Το έγγραφο, το οποίο δημοσιεύθηκε για πρώτη φορά από τη Διεύθυνση Επιστήμης και Τεχνολογίας της SOCOM το 2020, καθόρισε μια λίστα επιθυμιών με παιχνίδια επόμενης γενιάς για τις ειδικές δυνάμεις του 21ου αιώνα, μια λιτανεία από gadget και φουτουριστικά εργαλεία που θα βοηθήσουν τους πιο επίλεκτους στρατιώτες των ΗΠΑ, να κυνηγούν και να εξοντώνουν τους στόχους τους πιο αποτελεσματικά, χρησιμοποιώντας λέιζερ, ρομπότ, ολογράφους και άλλο εξελιγμένο υλικό. Τον Οκτώβριο του 2022 κυκλοφόρησε μάλιστα μια ενημερωμένη έκδοση της «λίστας επιθυμιών».
Έτσι, η SOCOM θέλει α αποκτήσει νέα και βελτιωμένα μέσα για τη διεξαγωγή «επιχειρήσεων επιρροής, ψηφιακής εξαπάτησης, διακοπής της επικοινωνίας και εκστρατειών παραπληροφόρησης σε τακτικό και επιχειρησιακό επίπεδο». Αναζητά επίσης «ικανότητες επόμενης γενιάς για τη συλλογή διαφορετικών δεδομένων μέσω ροών πληροφοριών δημόσιου και ανοιχτού κώδικα, όπως τα μέσα κοινωνικής δικτύωσης, τα τοπικά μέσα, κ.λπ., για να μπορέσει να ασκήσει άμεση επιρροή».
Όπως δείχνει το έγγραφο, η SOCOM θέλει να ενισχύσει αυτές τις προσπάθειες εξαπάτησης στο διαδίκτυο με τη χρήση deepfake βίντεο «επόμενης γενιάς», μια ολοένα και πιο αποτελεσματική μέθοδο δημιουργίας αληθινών πλαστών ψηφιακών βίντεο χρησιμοποιώντας μηχανική μάθηση. Οι ειδικές δυνάμεις θα χρησιμοποιούσαν αυτό το ψεύτικο υλικό για να «δημιουργήσουν μηνύματα και να επηρεάσουν επιχειρήσεις μέσω μη παραδοσιακών καναλιών», προσθέτει το έγγραφο.
«Ενώ η κυβέρνηση των ΗΠΑ προειδοποιεί συνεχώς για τον κίνδυνο των deepfakes και εργάζεται ανοιχτά για την κατασκευή εργαλείων για την αντιμετώπισή τους» αναφέρει ο δημοσιογράφος Sam Biddle, «το έγγραφο της SOCOM, αντιπροσωπεύει μια σχεδόν άνευ προηγουμένου περίπτωση της αμερικανικής κυβέρνησης να σηματοδοτεί ανοιχτά την επιθυμία της να χρησιμοποιήσει επιθετικά αυτή την εξαιρετικά αμφιλεγόμενη τεχνολογία».
Σε μια ακρόαση της Επιτροπής Πληροφοριών της Γερουσίας το 2018, ο γερουσιαστής Marco Rubio, είπε για τα deepfakes: «Πιστεύω ότι αυτό είναι το επόμενο κύμα επιθέσεων κατά της Αμερικής και της Δυτικής δημοκρατίας». Το 2019, ο Rubio και ο γερουσιαστής Mark Warner, κάλεσαν 11 αμερικανικές εταιρείες διαδικτύου να συντάξουν πολιτικές για τον εντοπισμό και την κατάργηση των deepfake βίντεο. «Εάν το κοινό δεν μπορεί πλέον να εμπιστευτεί καταγεγραμμένα γεγονότα ή εικόνες», διαβάζουμε στην επιστολή, «θα έχει διαβρωτικό αντίκτυπο στη δημοκρατία μας».
Οι ΗΠΑ μπορούν να απειλήσουν άλλα κράτη
Όπως αναφέρει το The Intercept, «πέρα από τους ηθικούς λόγους, η νομιμότητα των στρατιωτικοποιημένων deepfakes σε μια σύγκρουση, η οποία παραμένει ανοιχτό ζήτημα, δεν εξετάζεται στο έγγραφο SOCOM. Ενώ η συζήτηση περιστρέφεται αποκλειστικά γύρω από την απειλή που μπορεί να θέτουν στις ΗΠΑ τα ξένα deepfakes, δεν εξετάζεται τι κακό μπορούν να κάνουν οι ΗΠΑ σε άλλες χώρες. Σύμφωνα με τα έγγραφα η SOCOM έχει αναζητήσει τεχνολογίες για τον εντοπισμό αμερικανικών καμπανιών στο Διαδίκτυο που έχουν ενισχυθεί με deepfake, μια τακτική που τώρα θέλει να εξαπολύσει και η ίδια εναντίον ξένων στόχων.
Στο έγγραφο αναφέρεται ότι SOCOM επιθυμεί να συντονίσει την επιθετική προπαγάνδα της, κατασκοπεύοντας το κοινό που στοχεύει μέσω των συσκευών που είναι συνδεδεμένες στο Διαδίκτυο. Περιγράφεται ως «η ικανότητα επόμενης γενιάς για «κατάληψη» συσκευών Internet of Things (loT) για τη συλλογή δεδομένων και πληροφοριών από τοπικούς πληθυσμούς για να επιτραπεί η ανάλυση των μηνυμάτων που μπορεί να είναι δημοφιλή και αποδεκτά μέσω ενός «κοσκινίσματος» δεδομένων μόλις ληφθούν», αναφέρεται στο έγγραφο σημειώνοντας επίσης πως η ικανότητα να κρυφακούει στόχους προπαγάνδας «θα επέτρεπε στην υπηρεσία υποστήριξης πληροφοριών (MISO) να δημιουργήσει και να προωθήσει μηνύματα που μπορεί να ληφθούν πιο εύκολα από τον τοπικό πληθυσμό».
Μια πολύ επικίνδυνη τεχνολογία
Υπάρχουν όμως ειδικοί που είναι εξαιρετικά επιφυλακτικοί με την χρήση αυτής της τεχνολογίας. «Όσον αφορά την παραπληροφόρηση, το Πεντάγωνο δεν πρέπει να μάχεται τη φωτιά με τη φωτιά», λέει ο Chris Meserole, επικεφαλής της Πρωτοβουλίας Τεχνητής Νοημοσύνης και Αναδυόμενης Τεχνολογίας του Ινστιτούτου Brookings. «Σε μια εποχή που η ψηφιακή προπαγάνδα αυξάνεται παγκοσμίως, οι ΗΠΑ θα πρέπει να κάνουν ό,τι μπορούν για να ενισχύσουν τη δημοκρατία χτίζοντας υποστήριξη για κοινές έννοιες της αλήθειας και της πραγματικότητας. Τα Deepfakes κάνουν το αντίθετο. Θέτοντας αμφιβολίες για την αξιοπιστία όλου του περιεχομένου και των πληροφοριών, πραγματικών ή συνθετικών, διαβρώνουν τελικά το θεμέλιο της ίδιας της δημοκρατίας».
Ο Meserole πρόσθεσε, «Εάν πρόκειται να χρησιμοποιηθούν τα deepfakes για στοχευμένες στρατιωτικές επιχειρήσεις και επιχειρήσεις πληροφοριών, τότε η χρήση τους πρέπει να υπόκειται σε έλεγχο και επίβλεψη».
«Αν πρόκειται για ένα μη παραδοσιακό περιβάλλον ΜΜΕ, θα μπορούσα να φανταστώ ότι η μορφή χειραγώγησης φτάνει πολύ μακριά πριν αναχαιτιστεί ή αποδοκιμαστεί από κάποια τοπική αρχή», είπε στο The Intercept ο Max Rizzuto, ερευνητής στη δεξαμενής σκέψης Atlantic Council. «Η ικανότητα για κοινωνική βλάβη βρίσκεται σίγουρα εκεί».
Αν και το Πεντάγωνο μέχρι σήμερα φερόταν να εργάζεται σκληρά για την αντιμετώπιση της ξένης απειλής του deepfake, ωστόσο, οι αμερικανικές ειδικές δυνάμεις φαίνεται να ετοιμάζονται να κάνουν το ίδιο. «Είναι μια επικίνδυνη τεχνολογία», είπε ο Rizzuto. «Δεν μπορείς να μετριάσεις αυτήν την τεχνολογία με τον τρόπο που προσεγγίζουμε άλλα είδη περιεχομένου στο διαδίκτυο», είπε. «Τα Deepfakes ως τεχνολογία έχουν περισσότερα κοινά με τις συζητήσεις γύρω από τη μη διάδοση των πυρηνικών όπλων».
