Η πρόσφατη απόφαση της Ευρωπαϊκής Ένωσης να παρατείνει το προσωρινό νομικό πλαίσιο που επιτρέπει στις ψηφιακές πλατφόρμες να συνεχίσουν, σε εθελοντική βάση, τον εντοπισμό υλικού σεξουαλικής κακοποίησης παιδιών, επανέφερε στο προσκήνιο μια από τις σημαντικότερες συζητήσεις της εποχής μας. Για πολλούς αποτελεί ένα αναγκαίο εργαλείο προστασίας των παιδιών. Για άλλους είναι ακόμη ένα βήμα προς τη σταδιακή διεύρυνση της ψηφιακής επιτήρησης. Ανεξάρτητα από τη θέση που παίρνει κανείς, ένα ερώτημα παραμένει: όταν μια κοινωνία συνηθίζει την ιδέα ότι οι ιδιωτικές επικοινωνίες μπορούν να ελέγχονται για έναν σκοπό, ποια είναι τα όρια που θα εμποδίσουν την επέκταση αυτού του ελέγχου στο μέλλον;
Μέσα σε αυτή την πραγματικότητα συνεχίζουμε να συζητάμε αν το πρόβλημα είναι η Αριστερά ή η Δεξιά. Προσωπικά πιστεύω ότι το πραγματικό ζήτημα βρίσκεται αλλού. Βρίσκεται σε ένα παγκόσμιο τεχνολογικό σύστημα που αποκτά ολοένα μεγαλύτερη δυνατότητα να καταγράφει, να αναλύει και να επηρεάζει την ανθρώπινη συμπεριφορά. Κάμερες στους δρόμους, αλγόριθμοι που καθορίζουν τι βλέπουμε και τι όχι, τεχνητή νοημοσύνη που εισέρχεται σε όλο και περισσότερους τομείς της ζωής μας, προσωπικά δεδομένα που συλλέγονται καθημερινά. Το πολιτικό δίπολο μοιάζει να συζητά το περιτύλιγμα, ενώ η πραγματική μεταβολή συμβαίνει βαθύτερα.
Δεν είναι απαραίτητο να αφαιρεθεί μια δημοσίευση για να περιοριστεί η επιρροή της. Αρκεί να πάψει να εμφανίζεται στους ανθρώπους που θα μπορούσαν να τη δουν. Οι αλγόριθμοι έχουν πλέον τη δυνατότητα να καθορίζουν ποια θέματα αποκτούν δημόσιο χώρο και ποια χάνονται μέσα στον ψηφιακό θόρυβο. Το πρόβλημα δεν είναι μόνο αν αυτό συμβαίνει, αλλά κυρίως ότι οι διαδικασίες αυτές λειτουργούν χωρίς ουσιαστική διαφάνεια. Όταν η δημόσια συζήτηση εξαρτάται από συστήματα που ο πολίτης δεν μπορεί να ελέγξει ή ακόμη και να κατανοήσει, η ίδια η δημοκρατική διαδικασία αλλάζει χαρακτήρα.
Οι συνέπειες δεν περιορίζονται στην ελευθερία του λόγου. Αγγίζουν την ίδια την ψυχολογία του ανθρώπου. Ένας άνθρωπος που αισθάνεται ότι κάθε μετακίνησή του μπορεί να καταγράφεται, κάθε συνομιλία του να αναλύεται, κάθε δημόσια άποψή του να αξιολογείται από αλγορίθμους, αργά ή γρήγορα αρχίζει να αυτολογοκρίνεται. Η αίσθηση της συνεχούς επιτήρησης μετατρέπεται σε μόνιμη ψυχολογική πίεση. Η ελευθερία δεν περιορίζεται μόνο όταν σου απαγορεύουν να μιλήσεις. Περιορίζεται και όταν αρχίζεις να φοβάσαι να μιλήσεις.
Το παράδοξο είναι ότι οι ίδιες κοινωνίες που αναπτύσσουν αυτά τα συστήματα δηλώνουν σήμερα ότι αναζητούν τρόπους να προστατεύσουν τον άνθρωπο από τις συνέπειές τους. Δημιουργούνται μηχανισμοί ασφάλειας αφού η τεχνολογία έχει ήδη εξαπλωθεί. Αναπτύσσονται κανόνες αφού προηγουμένως δημιουργήθηκαν τεράστιες βάσεις δεδομένων. Συζητάμε για τα όρια της τεχνητής νοημοσύνης αφού πρώτα ενσωματώθηκε σε δεκάδες τομείς της καθημερινότητας. Η εμπορική αξιοποίηση προηγήθηκε της δημόσιας συζήτησης για την ασφάλεια.
Το ίδιο μοτίβο επαναλαμβάνεται διαρκώς. Πρώτα δημιουργείται η τεχνολογία, μετά υιοθετείται μαζικά και μόνο όταν οι συνέπειες γίνουν εμφανείς αρχίζει η συζήτηση για τους περιορισμούς της. Το ερώτημα όμως παραμένει σταθερό.
Ποιος ελέγχει τους ελεγκτές;
Ποιος ελέγχει τον τρόπο με τον οποίο χρησιμοποιούνται τα προσωπικά μας δεδομένα; Ποιος ελέγχει τους αλγορίθμους που επηρεάζουν τι βλέπουν δισεκατομμύρια άνθρωποι καθημερινά; Ποιος ελέγχει τα συστήματα τεχνητής νοημοσύνης που αποκτούν ολοένα μεγαλύτερη επιρροή στις αποφάσεις της κοινωνίας; Και ποιος θα ελέγξει εκείνους που θα αποκτήσουν ακόμη μεγαλύτερη ισχύ στο επόμενο στάδιο αυτής της τεχνολογικής εξέλιξης;
Ίσως το μεγαλύτερο πρόβλημα της εποχής μας να μην είναι η ίδια η τεχνολογία. Είναι η συγκέντρωση δύναμης σε μηχανισμούς που λειτουργούν με περιορισμένη διαφάνεια και ελάχιστη λογοδοσία. Η τεχνολογία μπορεί να υπηρετήσει την ελευθερία, μπορεί όμως και να μετατραπεί σε εργαλείο ελέγχου. Το ποια από τις δύο κατευθύνσεις θα επικρατήσει δεν θα το καθορίσουν οι μηχανές. Θα το καθορίσει το αν οι κοινωνίες θα απαιτήσουν πραγματική διαφάνεια και δημοκρατικό έλεγχο ή αν θα αποδεχθούν, βήμα-βήμα, ότι η παρακολούθηση αποτελεί το φυσιολογικό τίμημα της σύγχρονης ζωής.