34.8 C
Athens
Παρασκευή, 21 Ιουνίου, 2024
ΑρχικήΚοινωνίαΤεχνητή νοημοσύνη: Πόση προκατάληψη χωράει ένας αλγόριθμος;

Τεχνητή νοημοσύνη: Πόση προκατάληψη χωράει ένας αλγόριθμος;


Της Ματίνας Ναδάλη,

Με τον όρο «Τεχνητή Νοημοσύνη» αναφερόμαστε στην ικανότητα των υπολογιστικών συστημάτων να αναπαράγουν τις ανθρώπινες γνωστικές λειτουργίες, να μαθαίνουν μέσα από την αλληλεπίδραση με το περιβάλλον τους και να προσαρμόζονται αποτελεσματικά σε αυτό. Τα τελευταία χρόνια, η άνθηση του κλάδου είναι εκρηκτική και η ενσωμάτωσή των εργαλείων του στη ζωή μας τόσο εκτεταμένη, που ο παραπάνω ορισμός ενδεχομένως καθίσταται περιττός. Εφαρμογές όπως το ChatGPT, το Copilot κ.α. ανατρέπουν ολοένα και περισσότερο τα δεδομένα της εργασίας, της εκπαίδευσης και της πληροφόρησης, διευκολύνοντας έτσι την καθημερινότητά μας σε πρωτόγνωρα μεγάλο βαθμό.

Πέρα, όμως, από τη σύνταξη επαγγελματικών email και την άμεση ενημέρωση για τον καιρό, τα «έξυπνα» αυτά μηχανήματα εκπαιδεύονται και για τη λήψη αποφάσεων ζωτικής σημασίας, απαλλάσσοντας τον άνθρωπο όχι μόνο από τον προβληματισμό, αλλά συχνά και από την ευθύνη που συνοδεύει τις αποφάσεις αυτές. Από τη διάγνωση ασθενειών και την επιλογή της κατάλληλης θεραπείας ως την προστασία των προσωπικών δεδομένων και τον οικονομικό προγραμματισμό μίας επιχείρησης, η τεχνητή νοημοσύνη καλείται σήμερα να παράγει έγκυρα, καθολικά και πλήρως αντιπροσωπευτικά συμπεράσματα σε θέματα που επιδέχονται μηδενικό περιθώριο λάθους.

«Και τα καταφέρνει περίφημα», υποστηρίζουν πολλοί. Απαλλαγμένη από εμπάθειες, συμπάθειες και υποκειμενισμούς και ταυτόχρονα εφοδιασμένη με μία υπολογιστική δύναμη που ξεπερνά κατά πολύ τα ανθρώπινα δεδομένα, η τεχνητή νοημοσύνη είναι σε θέση να κρίνει αμερόληπτα και να παράγει αξιόπιστα αποτελέσματα, βασιζόμενη στη στυγνή λογική των μαθηματικών της μοντέλων. Εξάλλου, ο τεράστιος όγκος των δεδομένων, από τα οποία αντλεί τα συμπεράσματά της, θα μπορούσε κανείς να πει ότι αρκεί για να πιστοποιήσει την εγκυρότητά τους.

Πηγή εικόνας: Pexels.com/ Φωτογράφος και Δικαιώματα χρήσης: Tara Winstead.

Τι γίνεται, όμως, όταν αυτά τα δεδομένα δεν συλλέγονται απλώς, αλλά επιλέγονται; Όταν συντηρούν και συντηρούνται από μειοψηφίες; Και τέλος, τι γίνεται όταν τα δεδομένα αυτά παγιώνονται αντί να ανανεώνονται;

Σε έναν κόσμο, όπου η διαφήμιση δίνει ώθηση στον υπερκαταναλωτισμό και η χειραγώγηση της κοινής γνώμης αποτελεί «κλειδί» για την άνοδο στην εξουσία, μία τεχνολογία που παράγει αποτελέσματα προωθούμενα ως κοινώς αποδεκτά και αναμφισβήτητα, φαντάζει ιδανικό εργαλείο στα χέρια κάθε επίδοξου ηγέτη. Και αυτό, γιατί η κατευθυνόμενη χρήση της επιτρέπει σε οποιονδήποτε διαθέτει την ανάλογη δύναμη να διαμορφώσει κοινωνικές τάσεις, προκειμένου να υπηρετήσει τα συμφέροντα του ίδιου ή του συστήματος, το οποίο εκπροσωπεί.

Σε αυτό το σημείο, αξίζει ακόμη να σημειώσουμε ότι η τροφοδοσία των εργαλείων της τεχνητής νοημοσύνης με δεδομένα γίνεται κατά κύριο λόγο μέσα από την αλληλεπίδραση των χρηστών με αυτά. Είναι, λοιπόν, δυνατό ο κόσμος της μικρής μερίδας των προνομιούχων με πρόσβαση στα «ευφυή» αυτά συστήματα να αποτελεί αντιπροσωπευτικό δείγμα του συνόλου της ανθρωπότητας; Προφανώς και όχι. Αντίθετα, τα δεδομένα που στηρίζουν τις λειτουργίες της τεχνητής νοημοσύνης φαίνεται να είναι φτιαγμένα από εμάς για εμάς, τους ευνοημένους του δυτικού, προηγμένου τεχνολογικά κόσμου και να ανταποκρίνονται στις συνθήκες ζωής αυτού και μόνο αυτού.

Επιπλέον, στη σύγχρονη εποχή, κατά την οποία η ρευστότητα έχει καθιερωθεί ως η νέα κανονικότητα, πώς μπορούν δεδομένα που αντλήθηκαν μήνες ή ακόμη και χρόνια πριν να διαμορφώνουν τις αποφάσεις του παρόντος και να καθορίζουν τις εξελίξεις του μέλλοντος; Είναι προφανές ότι η χρήση τους σε ορισμένες περιπτώσεις καθίσταται προβληματική αφενός γιατί δεν εναρμονίζεται με τα δεδομένα του σύγχρονου κόσμου και αφετέρου γιατί οδηγεί στην αναπαραγωγή στερεοτύπων και την ανακύκλωση των κατεστημένων.

Κλείνοντας, οφείλουμε να επισημάνουμε ότι κανένας από τους παραπάνω προβληματισμούς δεν αρκεί για να αναιρέσει την καταλυτική συνεισφορά της τεχνητής νοημοσύνης και τις αμέτρητες προοπτικές των εφαρμογών της. Το λάθος μας, άλλωστε, δεν είναι ότι αναθέτουμε στην τεχνητή νοημοσύνη τη λήψη σημαντικών αποφάσεων, αλλά ότι συχνά δεχόμαστε αβίαστα την ορθότητα των συμπερασμάτων της, αγνοώντας ποιος, γιατί και με τι κίνητρο συγκέντρωσε τα δεδομένα στα οποία αυτά βασίστηκαν. Η κριτική στάση, επομένως, προβάλλει για ακόμη μία φορά ως ζητούμενο και οφείλει να διαμορφώσει την επαφή μας με το κοσμοϊστορικό αυτό τεχνολογικό επίτευγμα.


ΕΝΔΕΙΚΤΙΚΕΣ ΠΗΓΕΣ
  • What is AI bias?, ibm.com, Διαθέσιμο εδώ
  • A DEFINITION OF AI: MAIN CAPABILITIES AND SCIENTIFIC DISCIPLINES, ec.europa.eu, Διαθέσιμο εδώ

 

TA ΤΕΛΕΥΤΑΙΑ ΑΡΘΡΑ

Ματίνα Ναδάλη
Ματίνα Ναδάλη
Γεννήθηκε στην Αθήνα το 2005. Από τον Οκτώβριο του 2023 είναι φοιτήτρια του τμήματος Πληροφορικής και Τηλεπικοινωνιών του ΕΚΠΑ, με ιδιαίτερη αγάπη για τα μαθηματικά και την επίλυση προβλημάτων. Έχει πάθος για τα ταξίδια, είναι δίκαιη, φιλόδοξη και εργατική. Στον ελεύθερο της χρόνο, ασχολείται με τη πεζοπορία, τη μαγειρική και τον εθελοντισμό.