29.8 C
Athens
Σάββατο, 22 Ιουνίου, 2024
ΑρχικήΔιεθνήDeepfakes και παραπληροφόρηση: Τα «όπλα» μιας νέας εποχής

Deepfakes και παραπληροφόρηση: Τα «όπλα» μιας νέας εποχής


Του Μάριου Κριτίδη,

Σύνηθες θέμα με το οποίο ασχολούνται πολλές ταινίες επιστημονικής φαντασίας είναι το πώς μια νέα καινοτόμος τεχνολογία έρχεται να βοηθήσει την ανθρωπότητα να βελτιώσει το βιοτικό της επίπεδο, μέχρι που μια «μοιραία μέρα», η ίδια αυτή σωτήρια τεχνολογία θα φέρει την καταστροφή –και ενίοτε– τον αφανισμό της ανθρωπότητας. Το AI, δηλαδή η τεχνητή νοημοσύνη, έχει αποτελέσει αγαπημένη τεχνολογία για όλους τους ευφάνταστους συγγραφείς και σκηνοθέτες της επιστημονικής φαντασίας που θα λειτουργήσει ως εργαλείο, το οποίο θα φέρει τους υπολογιστές και τον άνθρωπο σε μία μοιραία σύγκρουση για την επιβίωση της ανθρωπότητας. Βέβαια, στην πραγματικότητα, οι πιθανότητες για μία τεχνητή νοημοσύνη που θα αποκτήσει τη δική της συνείδηση αμφισβητούνται από πολλούς επιστήμονες, ενώ τα σενάρια ενός “Terminator” πιθανότατα να περιοριστούν (ευτυχώς) στα πλαίσια των δημοφιλών blockbusters.

Παρόλα αυτά, αν και οι κίνδυνοι ενός παντοδύναμου, ανεξάρτητου AI παραμένουν μία μακρινή ανησυχία, η πρόσφατη ραγδαία ανάπτυξη της τεχνητής νοημοσύνης και η διαθεσιμότητα διαφόρων λογισμικών στο ευρύ κοινό προκαλεί έντονες ανησυχίες για την εργαλειοποίησή του από τον ίδιο τον άνθρωπο για κακόβουλους σκοπούς. Το πολυχρηστικό ChatGPT εγείρει ζητήματα για τη λογοκλοπή και την αυθεντικότητα κειμένων, λόγω της πρωτοφανούς ικανότητάς του να παράξει ορθό και πρωτότυπο κείμενο για μία ευρεία γκάμα θεμάτων. Προγράμματα, όπως το DALL–E, φέρνουν τον καλλιτεχνικό κόσμο σε ανησυχία για το μέλλον της τέχνης, καθώς μέρα με τη μέρα η τεχνητή νοημοσύνη μπορεί να δημιουργήσει όλο και καλύτερες αυθεντικές καλλιτεχνικές εικόνες και να δημιουργήσει ζωγραφιές και πίνακες. Όμως, τίποτα δεν προκαλεί περισσότερη ανησυχία στον τομέα της τεχνητής νοημοσύνης από το ζήτημα των deepfakes.

Το ChatGPT είναι ένα από τα πιο προηγμένα chatbots, διαθέσιμα στο ευρύ κοινό. Το πρόγραμμα έχει τη δυνατότητα να απαντήσει οποιαδήποτε ερώτηση του θέτει ο χρήστης, ενώ, επίσης, μπορεί, με τη βοήθεια του χρήστη, να δημιουργήσει πρωτότυπο κείμενο πάσης μορφής: Από άρθρα έως ποιήματα και στίχους. Πηγή Εικόνας: Shutterstock, Δημιουργός: Andrey Suslov

Με τον όρο deepfake εννοούμε οποιαδήποτε κατασκευασμένη εικόνα ή περιεχόμενο μέσω τεχνητής νοημοσύνης με σκοπό να δημιουργηθεί όσο τον δυνατό πιο ρεαλιστική εικόνα ενός ανθρώπου, πραγματικού ή μη. Για παράδειγμα, τα πρώτα δείγματα της τεχνολογίας deepfake εμφανίστηκαν πριν λίγα χρόνια μέσω μικρών βίντεο στα οποία υποτίθεται πως παρουσιάζεται ο πρώην Αμερικανός Πρόεδρος, Barrack Obama, να μιλάει για τους κινδύνους της τεχνητής νοημοσύνης και της παραπληροφόρησης στο μέλλον. Η κινούμενη υπερρεαλιστική μορφή του πρώην Προέδρου ήταν φτιαγμένη από τεχνητή νοημοσύνη, έχοντας τροφοδοτηθεί από τους προγραμματιστές του προγράμματος με χιλιάδες ώρες δημοσίων εμφανίσεών του· τη φωνή του Προέδρου, από την άλλη, την μιμείται ένας ηθοποιός (αν και αναπτύσσεται η τεχνολογία για την τεχνητή απομίμηση φωνής).

Έκτοτε, ουκ ολίγα είναι τα παραδείγματα και οι πρακτικές εφαρμογές των deepfake σε δημόσια πρόσωπα, πολλές φορές με πολιτικές σκοπιμότητες, εισάγοντας έναν νέο παράγοντα στον σύγχρονο πόλεμο της πληροφόρησης. Όπως λέει το γνωστό ρητό «Η πρώτη απώλεια του πολέμου είναι η αλήθεια», την ενσάρκωση του οποίου βρίσκουμε πλέον στον Ρωσοουκρανικό πόλεμο. Στον πόλεμο αυτόν είδαμε ίσως και την πρώτη εσκεμμένη κακόβουλη εφαρμογή των deepfakes, με βίντεο των ηγετών των δύο εμπόλεμων μερών (Volodymyr Zelenskyy και Vladimir Putin) να κάνουν λόγο για συνθηκολόγηση, ενώ κάνουν έκκληση στους στρατιώτες τους να σταματήσουν τις εχθροπραξίες. Τα βίντεο αυτά αποδείχτηκαν ψεύτικα σχεδόν αμέσως, ενώ διαψεύστηκαν τα λεγόμενα των Προέδρων από τις επίσημες Kυβερνήσεις τους. Παρόλα αυτά, λογικό είναι να εγείρονται μεγάλες ανησυχίες για τις εφαρμογές αυτής της τεχνολογίας στο μέλλον, δεδομένου του πόσο εύκολη είναι η υποκλοπή της ταυτότητας δημοσίων προσώπων, όπως είναι ηγέτες κρατών, καθώς και η ραγδαία γρήγορη διακίνηση των ψεύτικων βίντεο μέσω του διαδικτύου και των μέσων κοινωνικής δικτύωσης.

Το ψεύτικο βίντεο του Barrack Obama (αριστερά) και ο ηθοποιός, Jordan Peele, που παριστάνει την φωνή του (δεξιά). Το χιουμοριστικό βίντεο του BuzzFeed κυκλοφόρησε το 2019 και προειδοποιούσε για το μέλλον της παραπληροφόρησης και τις όλο και καλύτερες δυνατότητες της τεχνητής νοημοσύνης να δημιουργήσει ψεύτικα βίντεο. Πηγή Εικόνας: Youtube, Δημιουργός & Δικαιώματα Χρήσης: BuzzFeed Video

Άλλο ένα παράδειγμα καμπάνιας παραπληροφόρησης, με εργαλείο την τεχνητή νοημοσύνη και τα deepfakes, έρχεται από τη Βενεζουέλα. Η Βενεζουέλα, εξαιτίας του αυταρχικού καθεστώτος Μαδούρο, έχει καταστεί από πολλούς αναλυτές ως μία «μαύρη τρύπα» πληροφόρησης, όπου η προπαγάνδα και η παραπληροφόρηση είναι εκτεταμένη με γνώση για την πραγματική κατάσταση της χώρας να είναι περιορισμένη. Η εν λόγω επιχείρηση παραπληροφόρησης αποτελούταν από ψεύτικα ξένα δίκτυα ενημέρωσης, τα οποία μετέφεραν θετικά νέα για την κατάσταση της Βενεζουέλας και για την Kυβέρνηση Μαδούρο. Η παραπληροφόρηση αυτή γινόταν μέσω βίντεο, όπου οι υποτιθέμενοι παρουσιαστές δεν ήταν τίποτα άλλο παρά φτιαγμένη με τεχνητή νοημοσύνη. Η βρετανική τεχνολογική εταιρεία Synthesia παραδέχτηκε ότι είχε παραχωρήσει τη χρήση του λογισμικού της σε έναν πελάτη από τη Βενεζουέλα, όμως δεν γνώριζε για τους τρόπους με τους οποίους χρησιμοποιείτο η τεχνολογία τους. Στους όρους χρήσης της εταιρείας, πάντως, είναι απαραίτητο για τους χρήστες του λογισμικού να δηλώνουν ξεκάθαρα ότι το περιεχόμενο αποτελεί δημιουργία τεχνητής νοημοσύνης, ενώ υποχρεωτική είναι η ύπαρξη υδατογραφήματος της Synthesia σε όποιο περιεχόμενο έχει χρησιμοποιηθεί η τεχνολογία τεχνητής νοημοσύνης της.

Το ψεύτικο βίντεο του Volodymyr Zelenskyy που κυκλοφορούσε στα μέσα (δεξιά), στο κέντρο βλέπουμε τις δηλώσεις του Ουκρανού Προέδρου στο Twitter, πάνω στο ζήτημα του ψεύτικου βίντεο. Πηγή Εικόνας: AFP/ Getty Images, Φωτογράφος & Δικαιώματα Χρήσης: Olivier Douliery, Εικόνα Αρχείου

Πέρα από τις απειλές που εγείρει η τεχνολογία deepfake για τη ζωή δημοσίων προσώπων και πολιτικών, καθώς και για ζητήματα παραπληροφόρησης, μία ακόμα πιο άμεση απειλή θα πρέπει να ανησυχεί και τον κοινό πολίτη. Σύμφωνα με πρόσφατες έρευνες, όσον αφορά τις εφαρμογές των deepfake, πλέον που πολλά εργαλεία είναι διαθέσιμα στο ευρύ κοινό, παρατηρήθηκε ότι η πιο ευρεία χρήση τους δεν ήταν για σκοπούς παραπληροφόρησης και «λασποφορίας» άλλων προσώπων, αλλά για πολύ χειρότερους σκοπούς που αφορά ιδιωτικούς πολίτες. Υπολογίζεται ότι μέχρι στιγμής, σχεδόν το 96% όλων των deepfake που έχουν παραχθεί μέχρις στιγμής αφορούν πορνογραφικό υλικό, που πολλές φορές έχουν θύματα κοινούς ανθρώπους. Το γεγονός αυτό κρούει τον κώδωνα του κινδύνου για την ιδιωτικότητα και την ασφάλεια της αξιοπρέπειας των χρηστών του διαδικτύου, ιδίως των γυναικών, όπου μία φωτογραφία και ένα πρόγραμμα είναι αρκετό για να καταστρέψει την υπόληψη ενός ατόμου.

Εξαιτίας όλων αυτών των εφαρμογών των deepfakes, αναμενόμενο είναι να ενεργοποιηθούν τα νομικά αντανακλαστικά των εθνικών κυβερνήσεων για τον περιορισμό των συνεπειών που απορρέουν από την ευρεία χρήση των προγραμμάτων τεχνητής νοημοσύνης. Στις Ηνωμένες Πολιτείες αρκετές Πολιτείες έχουν ψηφίσει νομοσχέδια που απαγορεύουν τη χρήση τεχνολογίας deepfake για δημιουργία πολιτικού περιεχομένου και πορνογραφίας, ενώ η συζήτηση για το νομοθετικό μέλλον αυτής της τεχνολογίας έχει φτάσει στο Ομοσπονδιακό επίπεδο.

Στην Ευρωπαϊκή Ένωση, στα πλαίσια της Ευρωπαϊκής Επιτροπής, έχει προταθεί το Νομοσχέδιο περί Τεχνητής Νοημοσύνης (AI Act), που θα απαγορεύσει σε μεγάλο εύρος τη χρήση της τεχνολογίας deepfake. Την αυστηρότερη νομοθεσία, όμως, έχει εφαρμόσει η Λαϊκή Δημοκρατία της Κίνας, όπου σύμφωνα με το νομοσχέδιο “Deep Synthesis Provisions”, γίνεται υποχρεωτικός ο στιγματισμός οποιουδήποτε περιεχομένου που έχει περάσει από επεξεργασία τεχνητής νοημοσύνης, με ορατό υδατογράφημα, λογότυπο κτλ. Η νομοθεσία αφορά ολόκληρο το εύρος περιεχομένου προερχόμενο από τεχνητή νοημοσύνη: εικόνες, βίντεο, κείμενο, σκίτσα, ήχος.

Η ηθοποιός Emma Watson αποτελεί ίσως από τα πιο δημοφιλή θύματα της νέας τεχνητά κατασκευασμένης πορνογραφίας, με εκατοντάδες ψεύτικα «ροζ» βίντεο που είχαν το πρόσωπό της. Πηγή Εικόνας: Indigo, Φωτογράφος και Δικαιώματα Χρήσης: Max Mumby

Η τεχνολογία είναι τόσο ευλογία όσο και κατάρα για το μέλλον της ανθρωπότητας. Η ραγδαία ανάπτυξη της τεχνητής νοημοσύνης φέρνει νέα εργαλεία σε κακόβουλους δράστες να υπονομεύσουν την αλήθεια και την πραγματικότητα. Όλο και περισσότερο καθίσταται απαραίτητη η εκπαίδευση των ανθρώπων τόσο στην κριτική ικανότητα όσο και στη δια βίου εκπαίδευση στους νέους τρόπους που μπορεί κάποιος να τους αποπλανήσει και να τους τροφοδοτήσει με ψεύτικες πληροφορίες.


ΕΝΔΕΙΚΤΙΚΕΣ ΠΗΓΕΣ
  • Deepfakes and Disinformation Pose a Growing Threat in Asia, The Diplomat, Διαθέσιμο εδώ
  • China’s New Legislation on Deepfakes: Should the Rest of Asia Follow Suit?, The Diplomat, Διαθέσιμο εδώ
  • Deepfake ‘news’ videos ramp up misinformation in Venezuela, Financial Times, Διαθέσιμο εδώ
  • Deepfake presidents used in Russia-Ukraine war, BBC, Διαθέσιμο εδώ
  • Washington state bill would provide safeguards against ‘deepfake’ political ads, ABC News, Διαθέσιμο εδώ

 

TA ΤΕΛΕΥΤΑΙΑ ΑΡΘΡΑ

Μάριος Κριτίδης
Μάριος Κριτίδης
Γεννήθηκε το 2001 στην Αθήνα. Σπουδάζει στο Πάντειο Πανεπιστήμιο στο τμήμα Διεθνών και Ευρωπαϊκών σπουδών, μιλάει Αγγλικά, ενώ μαθαίνει Ιταλικά και Ρώσικα. Στο αντικείμενό του το ενδιαφέρον είναι στραμμένο στην Αμερικανική πολιτική και τις Διεθνείς Σχέσεις. Παράλληλα, στον ελεύθερό του χρόνο ασχολείται με την κολύμβηση σε αγωνιστικό επίπεδο και γυμνάζεται καθημερινά. Τέλος σε όλους τους τομείς της ζωής του συντροφιά του κρατάει πάντα η μουσική.