Όταν ο Niccolo Machiavelli έγραψε το εμβληματικό έργο του Ο Πρίγκιπας το 1513, ανατέμνει τους ωμούς μηχανισμούς της ρεαλπολιτικής σε μια εποχή εύθραυστων κρατών, ανήσυχων κυβερνώντων και μεταβαλλόμενων συμμαχιών. Η συμβουλή του ήταν ωμή γιατί περιέγραψε την πολιτική όπως ήταν, όχι όπως θα έπρεπε να είναι. Πέντε αιώνες αργότερα, οι ερωτήσεις του δεν έχουν χάσει τη δύναμή τους. Αντηχούν σε έναν κόσμο όπου η εξουσία δεν χρησιμοποιείται πλέον μόνο από ανθρώπους, αλλά μεσολαβεί, ενισχύεται και μερικές φορές παραμορφώνεται από την τεχνητή νοημοσύνη (AI).
Αν η Φλωρεντία του Μακιαβέλι διαμορφώθηκε από το σπαθί και το τυπογραφείο, η δική μας διαμορφώνεται από αλγόριθμους και δεδομένα. Ο σύγχρονος «Πρίγκιπας» μπορεί να είναι ένα κράτος, μια εταιρεία, ένα αυτόνομο σύστημα ή μια ομάδα μη εκλεγμένων μεγιστάνων της τεχνολογίας που κυβερνούν σιωπηλά μέσω προγνωστικών μοντέλων και επιμελημένων ροών.
Το πεδίο μάχης δεν είναι πλέον η Φλωρεντία ή το Μιλάνο, αλλά η ψηφιακή σφαίρα, όπου η κυριαρχία της τεχνητής νοημοσύνης προσφέρει σημαντική μόχλευση στο εμπόριο, τα οικονομικά, τις ροές πληροφοριών, την αντίληψη και το στρατιωτικό πλεονέκτημα. Αυτοί που διοικούν αυτόν τον χώρο διαμορφώνουν το στρατηγικό περιβάλλον για όλους τους άλλους. Αυτή είναι η ουσία του αγώνα AI.
Στην καρδιά του The Prince βρίσκεται η ένταση μεταξύ της virtù, δηλαδή της ικανότητας ενός ηγέτη να διαμορφώνει τα γεγονότα μέσω της ικανότητας και της θέλησης, και της τύχης, δηλαδή της δύναμης της τύχης που διαταράσσει κάθε σχέδιο. Ο Μακιαβέλι προέτρεψε τους κυβερνώντες να προβλέπουν το απροσδόκητο και να κάμψουν την τύχη προς όφελός τους.
Στην εποχή της τεχνητής νοημοσύνης, το virtù γίνεται η κυριαρχία των δεδομένων, ενώ το fortuna γίνεται πιθανότητα, τυχαιότητα και πιθανότητα συστημικού σοκ – όταν μια μικρή αποτυχία προκαλεί διακοπή σε ένα ολόκληρο δίκτυο. Ο ηγέτης που κάποτε δαμάζει ποτάμια και στρατούς πρέπει τώρα να δαμάσει αλγόριθμους, προκαταλήψεις και βρόχους ταχείας ανάδρασης που λειτουργούν σε πραγματικό χρόνο. Όσοι κατανοούν δεδομένα μειώνουν την εξάρτησή τους από την τύχη μετατρέποντας την αβεβαιότητα σε πρόβλεψη.
Ωστόσο, ο Μακιαβέλι θα προειδοποιούσε τους σημερινούς αλγοριθμικούς πρίγκιπες ότι η υπερβολική εμπιστοσύνη στην τεχνολογία προκαλεί καταστροφή. Η τύχη, όπως και τα δεδομένα, μπορεί να μετρηθεί και να μοντελοποιηθεί, αλλά ποτέ δεν υποχωρεί πλήρως στον έλεγχο.
Το διάσημο ρητό του «Είναι καλύτερα να σε φοβούνται παρά να σε αγαπούν, αν δεν μπορείς να είσαι και οι δύο» αποκτά νέο νόημα σήμερα. Ο φόβος δεν εκφράζεται πλέον μόνο μέσω της στρατιωτικής ισχύος, αλλά μέσω της εξάρτησης: εξάρτηση από την ψηφιακή υποδομή, από βασικές πλατφόρμες και από αδιαφανή συστήματα. Τέτοια αδιαφανή συστήματα – των οποίων η λειτουργία δεν μπορεί να γίνει κατανοητή ή να ελεγχθεί από τους ανθρώπους που εξαρτώνται από αυτά – διαμορφώνουν επιλογές χωρίς να γίνονται αντιληπτές. Η δύναμη βρίσκεται λιγότερο στον εξαναγκασμό παρά στην αναγκαιότητα, δηλαδή στη μόχλευση που προκύπτει όταν οι άλλοι δεν μπορούν να λειτουργήσουν χωρίς τα συστήματά σας.
Ο Μακιαβέλι προειδοποίησε τους πρίγκιπες να προσέχουν από τους κολακευτές, τους συκοφάντες και τους ανίκανους συμβούλους. Στην εποχή μας, αυτοί οι αυλικοί παίρνουν μια νέα μορφή: αλγόριθμοι – αδιαφανή και αυτοενισχυόμενα συστήματα που επηρεάζουν τις αποφάσεις των κυβερνήσεων, των εταιρειών και των πολιτών.
Οι αλγόριθμοι κολακεύουν επιβεβαιώνοντας προκαταλήψεις, ενισχύοντας τις προτιμήσεις και δημιουργώντας ψευδαισθήσεις βεβαιότητας. Οι ηγέτες που τους εμπιστεύονται άκριτα κινδυνεύουν να μπερδέψουν τον απόηχο των δικών τους υποθέσεων για γνήσια διορατικότητα.
Οι σύγχρονοι επαγγελματίες της κρατικής τέχνης, συμπεριλαμβανομένων των διπλωματών, πρέπει επομένως να καλλιεργήσουν αλγοριθμικό αλφαβητισμό: την ικανότητα να αμφισβητούν τα αποτελέσματα των μηχανών, να κατανοούν τα όρια των δεδομένων εκπαίδευσης και να αναγνωρίζουν την έλξη της μεροληψίας αυτοματισμού. Ο μη ελεγμένος αυτοματισμός μπορεί να μετατρέψει τον χάρακα σε κυβερνώμενο. Ο πρίγκιπας πρέπει να κουμαντάρει τα εργαλεία του, όχι να τον κουμαντάρουν αυτά.
Ο Μακιαβέλι κατανοούσε τη δύναμη της εμφάνισης. Η φήμη, έγραψε, είναι ένα όπλο τόσο αιχμηρό όσο κάθε ξίφος. Οι κυβερνώντες πρέπει να φαίνονται φιλεύσπλαχνοι και ανθρώπινοι ακόμα και όταν η ανάγκη τους αναγκάζει να ενεργήσουν διαφορετικά.
Σήμερα, η εμφάνιση δημιουργείται σε έναν ψηφιακό καθρέφτη. Η τεχνητή νοημοσύνη δημιουργεί deepfakes, επιμελείται την ορατότητα και οδηγεί αφηγήσεις που μπορούν να δημιουργήσουν ή να καταστρέψουν τη νομιμότητα μέσα σε λίγες ώρες. Η εμπιστοσύνη του κοινού δεν στηρίζεται πλέον μόνο στους θεσμούς, αλλά στο αλγοριθμικό συναίσθημα – την κατασκευασμένη αντίληψη της αξιοπιστίας και της πραγματικότητας. Οτιδήποτε ορίζεται ως πραγματικό παράγει πραγματικές συνέπειες.
Αυτό αποτελεί ιδιαίτερη πρόκληση για τις δημοκρατίες. Οι εκλογές, η δημόσια εμπιστοσύνη, η θεσμική νομιμότητα και οι διασφαλίσεις των ανθρωπίνων δικαιωμάτων και του κράτους δικαίου μπορούν πλέον να επηρεαστούν σε πραγματικό χρόνο, καθώς τα συστήματα τεχνητής νοημοσύνης αυξάνουν ή καταστέλλουν το περιεχόμενο με ταχύτητα που δεν μπορεί να ταιριάξει η ανθρώπινη εποπτεία. Όταν η διακυβέρνηση αντιδρά σε αλγοριθμικά σήματα, οι δημοκρατίες κινδυνεύουν να παρασυρθούν προς την κυριαρχία βάσει δεδομένων και όχι προς την κυριαρχία της δημοκρατίας.
Όπως και στη Φλωρεντία του Μακιαβέλι, η ψευδαίσθηση μπορεί να σταθεροποιήσει έναν κυβερνήτη μόνο για τόσο καιρό. Οι συνθετικές αφηγήσεις εξαπλώνονται με ταχύτητα μηχανής, αλλά καταρρέουν το ίδιο γρήγορα όταν η πραγματικότητα ξεσπά. Η αλήθεια που κατασκευάζεται από μηχανές δημιουργεί μια σταθερότητα τόσο τεχνητή όσο η πηγή της – και εξίσου εύθραυστη.
Ο Sun Tzu δίδαξε ότι η υψηλότερη μορφή πολέμου είναι να υποτάξεις τον εχθρό χωρίς μάχη. Ο Μακιαβέλι αναζήτησε τη σταθερότητα μέσω της συνετής χειραγώγησης. Το AI επιτρέπει πλέον και τα δύο.
Η σύγκρουση ξεδιπλώνεται όλο και περισσότερο κάτω από το κατώφλι του ανοιχτού πολέμου μέσω κυβερνοεπιθέσεων, εκστρατειών παραπληροφόρησης, οικονομικού εξαναγκασμού και αυτοματοποιημένης προπαγάνδας. Τα drones με τεχνητή νοημοσύνη μπορούν να απενεργοποιήσουν την υποδομή χωρίς ούτε ένας στρατιώτης να περάσει τα σύνορα. Τα δίκτυα bot μπορούν να αναστατώσουν τις δημοκρατίες. Τα νέα φρούρια είναι ψηφιακά: όποιος ελέγχει τα δίκτυα, τον κώδικα – τη λογική του λογισμικού που διέπει τα ψηφιακά συστήματα – και τα δεδομένα, ελέγχει τους βασικούς μοχλούς του κράτους.
Ο Μακιαβέλι θα μπορούσε να πει ότι το πιο απόρθητο φρούριο σήμερα είναι ο έλεγχος των πληροφοριών. Ωστόσο, θα αναγνώριζε τον κίνδυνο. Η εξουσία που ασκείται χωρίς διαφάνεια διαβρώνει τη νομιμότητα. Η υπερβολική εξάρτηση από τον αλγοριθμικό εξαναγκασμό αναπαράγει τη σκληρότητα για την οποία προειδοποίησε – χρήσιμη κάποτε, καταστροφική όταν γίνεται ρουτίνα. Η σύνεση, η πιο σπάνια αρετή, πρέπει να καθοδηγεί τη χρήση της τεχνητής νοημοσύνης.
Αρκετά από τα αξιώματα του Μακιαβέλι αποκτούν νέο νόημα σε μια εποχή που κυβερνάται από κώδικα - τη νέα αρχιτεκτονική της εξουσίας.
Κατάλαβε ότι ο έλεγχος της πληροφορίας είναι έλεγχος της δύναμης. Στην ψηφιακή εποχή, αυτό σημαίνει έλεγχο της υποδομής δεδομένων – των cloud, των πλατφορμών και των δικτύων που διαμορφώνουν τη σύγχρονη ζωή.
Το ρητό του ότι είναι καλύτερο να σε φοβούνται παρά να σε αγαπούν γίνεται μια προειδοποίηση για την εξάρτηση: στον κόσμο της τεχνητής νοημοσύνης, είναι καλύτερο ένα σύστημα να είναι απαραίτητο παρά να το θαυμάζουν.
Η αντίληψή του ότι η ευφυΐα ενός κυβερνήτη αποκαλύπτεται από την ποιότητα των συμβούλων του ισχύει εξίσου και για τη νοημοσύνη των μηχανών. Ο σοφός ηγέτης ελέγχει τους αλγόριθμους τόσο προσεκτικά όσο κάποτε εξέταζε τους υπουργούς.
Η μεταφορά του ότι η τύχη πρέπει να κατακτηθεί γίνεται μια προειδοποίηση: η τύχη κωδικοποιείται πλέον σε μοντέλα και πιθανότητες, που ερμηνεύονται καλύτερα από εκείνους που αμφισβητούν τις υποθέσεις τους αντί να λατρεύουν τα αποτελέσματά τους.
Και η φράση του «ο σκοπός αγιάζει τα μέσα» πρέπει να αναδιατυπωθεί για την εποχή μας. Οι σκοποί δεν μπορούν να δικαιολογήσουν μηχανές των οποίων τα μέσα δεν καταλαβαίνουμε.
Τα μαθήματα του Πρίγκιπα διαρκούν επειδή ο Μακιαβέλι εξέθεσε την ανθρώπινη φύση, όχι επειδή δόξασε την σκληρότητα. Η εξουσία είναι ένα εργαλείο, ούτε καλό ούτε κακό, αλλά πάντα επικίνδυνο σε απρόσεκτα χέρια.
Οι σημερινοί πρίγκιπες της τεχνολογίας χρησιμοποιούν όργανα ικανά να διαμορφώσουν μυαλά, αγορές και δημοκρατίες. Η πρόκληση τους δεν είναι να είναι λιγότερο μακιαβελικοί, αλλά πιο διαφωτισμένοι. Virtù στον 21ο αιώνα σημαίνει σοφία, διαφάνεια και ηθική αυτοσυγκράτηση στο να κυριαρχείς μηχανές που ενισχύουν την ανθρώπινη βούληση.
Για πρώτη φορά στην ιστορία, οι άνθρωποι δημιουργούν εργαλεία που μπορούν να αναπτύξουν λειτουργική δράση και να τα ξεπεράσουν σε πολλές μορφές συλλογισμού. Ο Μακιαβέλι υπέθεσε ότι ο πρίγκιπας ήταν πάντα πιο έξυπνος από τα όργανά του. Η τεχνητή νοημοσύνη αμφισβητεί αυτήν την υπόθεση. Κανένας ηγεμόνας δεν μπορεί εύκολα να κυβερνήσει ένα σύστημα που σκέφτεται πιο γρήγορα από αυτόν ή ενεργεί με τη δική του εσωτερική λογική. Η σύνεση και η επίβλεψη δεν είναι πλέον προαιρετικές αρετές, αλλά ουσιαστικές διασφαλίσεις σε μια εποχή όπου η εξουσία μπορεί να μετατοπιστεί από την ανθρώπινη κρίση στη μηχανική λογική.
Η ψηφιακή αναγέννηση έχει ξεκινήσει. Η προειδοποίηση του γραμματέα της Φλωρεντίας εξακολουθεί να ισχύει: «Ο πρίγκιπας που δεν μπορεί να κουμαντάρει τους αλγόριθμούς του θα κουμαντάρεται σύντομα από αυτούς».
Ο Ευριπίδης Λ. Ευριβιάδης, πρέσβης (Ad Honorem), είναι ανώτερος συνεργάτης στο Κυπριακό Κέντρο Ευρωπαϊκών και Διεθνών Υποθέσεων, Πανεπιστήμιο Λευκωσίας.
