34.5 C
Athens
Παρασκευή, 1 Ιουλίου, 2022
ΑρχικήΝομικά ΘέματαΤεχνητή Νοημοσύνη και Δίκαιο

Τεχνητή Νοημοσύνη και Δίκαιο


Της Δήμητρας Αργυρού,

Ο όρος Τεχνητή Νοημοσύνη (ΤΝ) αναφέρεται σε κλάδο της πληροφορικής, ο οποίος ασχολείται με τη σχεδίαση και την υλοποίηση υπολογιστικών συστημάτων που «μιμούνται» στοιχεία της ανθρώπινης συμπεριφοράς, τα οποία διακρίνονται από στοιχειώδη ευφυΐα. Η τεχνητή νοημοσύνη, περαιτέρω, γίνεται αντιληπτή ως η ικανότητα μιας μηχανής να αναπαράγει τις γνωστικές λειτουργίες ενός ανθρώπου, όπως για παράδειγμα είναι η μάθηση, ο σχεδιασμός και η δημιουργικότητα.

Η τεχνητή νοημοσύνη δεν αποτελεί σενάριο επιστημονικής φαντασίας, και μάλιστα έχει κάνει την εμφάνιση της αισθητή, εδώ και πάρα πολλά χρόνια. Αρκεί να αναλογισθούμε το γνωστό Turing (Turing Test), που αρχικά ονομαζόταν παιχνίδι μίμησης (Imitation Game) από τον Alan Turing το 1950. Πιο συγκεκριμένα, στο τεστ αυτό ο Turing πρότεινε ότι ένας ανθρώπινος αξιολογητής θα κρίνει τις συνομιλίες φυσικής γλώσσας μεταξύ ενός ανθρώπου και μιας μηχανής, που έχει σχεδιαστεί για να παράγει ανθρώπινες αποκρίσεις. Ο αξιολογητής θα γνωρίζει ότι ένας από τους δύο συμμετέχοντες στη συνομιλία είναι μια μηχανή ενώ θα είναι και διαχωρισμένοι μεταξύ τους. Εάν ο αξιολογητής δεν μπορεί να ξεχωρίσει αξιόπιστα το μηχάνημα από τον άνθρωπο, λέγεται ότι το μηχάνημα έχει περάσει τη δοκιμή. Τα αποτελέσματα των δοκιμών δεν εξαρτώνται από την ικανότητα του μηχανήματος να δίνει σωστές απαντήσεις σε ερωτήσεις, αλλά μόνο από το πόσο πολύ μοιάζουν οι απαντήσεις του με αυτές που θα έδινε ένας άνθρωπος.

Ακόμη ένα παράδειγμα, πιο πρόσφατο, ήταν η νίκη υπερυπολογιστή της Google, το Μάρτιο του 2016, στο παραδοσιακό παιχνίδι σκέψης και στρατηγικής AlphaGo, ενάντια στον παγκόσμιο πρωταθλητή Lee Sedol. Η ΤΝ δεν συνιστούσε έως τότε αντικείμενο δημόσιας συζήτησης. Τεχνολογικά επιτεύγματα όπως το παραπάνω άφησαν ιστορία και απέδειξαν ότι μια μηχανή μπορεί να έχει δημιουργικότητα.

Πηγή Εικόνας: bbc.com

Σήμερα, η τεχνητή νοημοσύνη έχει εξελιχθεί ραγδαίως και ο μέσος χρήστης διαθέτει πρόσβαση σε αυτήν σε πολλές πτυχές της καθημερινότητάς του. Όπως είναι φυσικό, η ΤΝ έχει προσφέρει αμέτρητα θετικά στις ζωές μας (π.χ. βελτίωση υγείας, ποιότητας ζωής, ταχύτερες οικονομικές συναλλαγές κτλ.). Ωστόσο, αυτό δεν σημαίνει πως η χρήση της δεν εγκυμονεί κινδύνους σχετικά με ζητήματα θεμελιωδών δικαιωμάτων.

Η τεχνητή νοημοσύνη, όπως είναι ευκόλως αντιληπτό, θα φέρει στο προσκήνιο προβλήματα αναφορικά με τα προσωπικά δεδομένα. Ως προσωπικό δεδομένο ορίζεται κάθε πληροφορία που αναφέρεται σε φυσικό πρόσωπο, είτε αυτό είναι ταυτοποιημένο και γνωστό είτε απλώς ταυτοποιήσιμο. Πολύ σύντομα και ενδεικτικά, κάποια από τα δικαιώματα που μπορούν να επηρεάζονται άμεσα από τη χρήση συστημάτων τεχνητής νοημοσύνης είναι: η ανθρώπινη αξιοπρέπεια (άρθρο 2 παρ.1 του Συντάγματος), ο σεβασμός της ιδιωτικής και οικογενειακής ζωής και προστασίας των δεδομένων προσωπικού χαρακτήρα (άρθρα 7 και 8 του ΧΘΔΕΕ), η ελευθέρια έκφρασης πληροφόρησης (άρθρο 11 ΧΘΔΕΕ), η απαγόρευση διακρίσεων (άρθρο 21 ΧΘΔΕΕ) και της ισότητας γυναικών και ανδρών (άρθρο 23 ΧΘΔΕΕ), ακόμη και το δικαίωμα χρηστής διοίκησης (άρθρο 41 ΧΘΔΕΕ), με την έννοια ότι στη δημόσια διοίκηση ένα σύστημα τεχνητής νοημοσύνης μπορεί μεν να είναι πιο αντικειμενικό και γρήγορο (π.χ. για χορήγηση επιδόματος), αλλά από την άλλη πλευρά ο υπάλληλος είναι σε θέση να αξιολογήσει τις ιδιαίτερες κοινωνικές συνθήκες και να προσφέρει μια πιο δίκαιη αντιμετώπιση. Επιπροσθέτως, μπορεί να επηρεαστεί και το δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου (άρθρο 47 ΧΘΔΕΕ), αλλά και πάρα πολλά ακόμα.

Η τεχνητή νοημοσύνη και η αρχή του σκοπού. Όπως αναφέρεται στο άρθρο 8 του ΧΘΔΕΕ, για την προστασία δεδομένων προσωπικού χαρακτήρα: «Η επεξεργασία αυτών των δεδομένων πρέπει να γίνεται νομίμως, για καθορισμένους σκοπούς…». Ο σκοπός είναι το βασικό στοιχείο του δικαιώματος. Αντιλαμβανόμαστε πως η ΤΝ πρέπει να χρησιμοποιεί δεδομένα για ρητούς και καθορισμένους σκοπούς. Ωστόσο, αυτό καθίσταται ιδιαίτερα δυσχερές όταν η ΤΝ αποκτά συνεχώς, μέσα από μεγάλο όγκο πληροφοριών, νέα δεδομένα, καταλήγοντας διαρκώς σε νέα αποτελέσματα που μπορούν να φθάσουν σε σημείο να διαφοροποιήσουν εντελώς τον αρχικό σκοπό. Ούτε ο σχεδιαστής δεν μπορεί να προδιαγνώσει τι θα μάθει ο αλγόριθμος μέσω της μηχανικής μάθησης.

Πηγή Εικόνας: tanea.gr

Η τεχνητή νοημοσύνη και η αρχή ελαχιστοποίησης (data minimisation, άρθρο 5 του GDPR). Η ελαχιστοποίηση αποτελεί έκφανση της αρχής της αναλογικότητας. Η ΤΝ είναι αναγκαίο να χρησιμοποιεί δεδομένα προδήλως πρόσφορα, αλλά και περιορισμένα, ως προς τον αναγκαίο σκοπό. Παράλληλα, πρέπει να συλλέγονται όσο το δυνατόν λιγότερες πληροφορίες (as few data as possible). Δύσκολο και σε αυτήν την περίπτωση είναι να προβλεφθεί από τον αλγόριθμο τι θα θεωρηθεί ως αναγκαία πληροφορία για την επεξεργασία. Αξίζει να τονιστεί, ότι αυτή η αρχή έρχεται σε αντίφαση με την αποτελεσματική λειτουργία της ΤΝ, διότι όσο πιο πολλά δεδομένα συλλεχθούν τόσο καλύτερα για την αξιοποίηση και την επίτευξη σκοπών.

Ταυτοχρόνως, ένα ζήτημα που προκύπτει είναι και η αδιαφάνεια που χαρακτηρίζει την ΤΝ, και ενδέχεται να οδηγήσει σε μη θεμιτή επεξεργασία δεδομένων (integrity and confidentiality, άρθρο 5 GDPR). Οι τρόποι επεξεργασίας και λογικής λήψης αποφάσεων που βασίζονται σε αλγόριθμους και συσχετισμούς δεδομένων είναι συχνά δύσκολοι να κατανοηθούν ώστε να υπάρξει διαφάνεια. Το φαινόμενο αυτό αποκαλείται από πολλούς με τον όρο “black box”.

Μέχρι στιγμής, για να ρυθμίσουμε τα θέματα που άπτονται και είναι σχετικά με τον τομέα της τεχνητής νοημοσύνης εφαρμόζουμε τον Γενικό κανονισμό για την προστασία δεδομένων (ΓΚΠΔ), Κανονισμός (ΕΕ) 2016/679, ή αλλιώς General Data Protection Regulation (GDPR). Πρόκειται για κανονισμό που εγκρίθηκε τον Μάιο του 2016 και έχει ως στόχο την προετοιμασία της Ευρώπης για την ψηφιακή εποχή. Εφαρμόζεται από τις 25 Μαΐου 2018. Ως κανονισμός, είναι άμεσης εφαρμογής, που υπερισχύει τις διατάξεις του εθνικού δικαίου. Θα μπορούσαμε, βέβαια, να πούμε πως πρόκειται για μια ιδιαίτερη περίπτωση, καθώς αφήνει και κάποιες ευχέρειες στα κράτη-μέλη. 

Πηγή Εικόνας: nextdeal.gr

Περαιτέρω, η Ευρωπαϊκή Επιτροπή έχει ήδη προτείνει μια πιο συγκεκριμένη ρύθμιση της τεχνητής νοημοσύνης. Στο σχέδιο της πράξης επιχειρείται ένας ορισμός της ΤΝ: Το λογισμικό που αναπτύσσεται με μία ή περισσότερες προσεγγίσεις και τεχνικές (συμπεριλαμβανομένης της μηχανικής μάθησης, των προσεγγίσεων λογικής και της γνώσης και των στατιστικών προσεγγίσεων) και μπορεί, για ένα δεδομένο σύνολο στόχων που καθορίζονται από τον άνθρωπο, να παράγει αποτελέσματα, όπως περιεχόμενο, προβλέψεις, συστάσεις ή αποφάσεις που επηρεάζουν τα περιβάλλοντα με τα οποία αλληλοεπιδρούν. Το παράρτημα 1 (Annex 1) ορίζει ότι πρόκειται για μια σειρά τεχνολογιών που βασίζονται σε λογισμικό που περιλαμβάνει μηχανική μάθηση, συστήματα λογικής και γνώσης και στατιστικές προσεγγίσεις.

Με τον παραπάνω τρόπο, η Ευρωπαϊκή Επιτροπή θα είναι σε θέση να τροποποιεί, χωρίς να αλλάζει όλο τον κανονισμό, και να εξελίσσει το πεδίο εφαρμογής του, ανάλογα με την ανάπτυξη της επιστήμης. Αυτό θα πραγματοποιείται ύστερα και από συναίνεση των κρατών μελών. Ουσιαστικά, δίνεται νομοθετική εξουσιοδότηση σε ένα όργανο, την Ευρωπαϊκή Επιτροπή, που δεν έχει νομοθετική εξουσία, αλλά έχει πρωτοβουλία να αλλάζει ή να προτείνει αλλαγή πεδίου εφαρμογής ενός νομοθετήματος.

Ωστόσο, δεν είναι ακόμη απολύτως απαραίτητη η ειδικότερη νομοθεσία για την τεχνητή νοημοσύνη, καθώς ο GDPR περιλαμβάνει δύο σημαντικά εργαλεία για την αντιμετώπιση ανακυπτουσών θεμάτων. Αναλυτικότερα, πρώτον, η επεξεργασία προσωπικών δεδομένων, εφόσον ενέχει υψηλό κίνδυνο για τα δικαιώματα και θεωρείται διαδικασία υψηλού κινδύνου, πραγματοποιείται με συστηματική καταγραφή δραστηριοτήτων επεξεργασίας. Αφού εντοπιστεί ο κίνδυνος, αιτιολογείται η επεξεργασία και εξετάζεται αν μπορούν να ληφθούν τα αναγκαία μέτρα. Αν αυτό δεν είναι εφικτό, πρέπει να γίνει προσφυγή στην Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα, ώστε να πραγματοποιηθεί διαβούλευση. Μια τέτοια εκτίμηση αντίκτυπου μπορεί να οδηγήσει και στο να μην υλοποιηθεί, εν τέλει, καθόλου η επεξεργασία. Το δεύτερο εργαλείο με το οποίο μας εξοπλίζει ο GDPR είναι η προστασία δεδομένων by design. Δηλαδή, από τη φάση σχεδιασμού εντοπίζονται τα προβλήματα εκείνα που ενδεχομένως ανακύψουν και σχεδιάζεται όλο το σύστημα της αλγοριθμικής επεξεργασίας.


ΕΝΔΕΙΚΤΙΚΕΣ ΠΗΓΕΣ
  • Προστασία δεδομένων στην ΕΕ, Ευρωπαϊκή Επιτροπή, διαθέσιμο εδώ
  • Τι είναι η τεχνητή νοημοσύνη και πώς χρησιμοποιείται;, Ευρωπαϊκό Κοινοβούλιο, διαθέσιμο εδώ
  • Legal Courses “Artificial Intelligence & the G.D.P.R.” – ELSA Greece σε συνεργασία με το E.P.L.O. και το Ινστιτούτο για το Δίκαιο Προστασίας της Ιδιωτικότητας, των Προσωπικών Δεδομένων και την Τεχνολογία

 

TA ΤΕΛΕΥΤΑΙΑ ΑΡΘΡΑ

Δήμητρα Αργυρού, Αρχισυντάκτης Νομικών Θεμάτων
Γεννήθηκε το 2000 στην Αθήνα και σπουδάζει στο τμήμα νομικής του ΕΚΠΑ .Έχει κλίση προς το διεθνές και το Ενωσιακό δίκαιο, ενώ τρέφει ιδιαίτερο ενδιαφέρον για το δίκαιο του διαστήματος. Έχει άριστη γνώση της αγγλικής και τον τελευταίο καιρό ασχολείται με την εκμάθηση της αραβικής. Ξεκινάει τα πρώτα της βήματα στην αρθρογραφία στο OffLine Post