Ας προσπαθήσουμε να ελέγξουμε τις μηχανές, πριν καταλήξουμε να ελεγχόμαστε από αυτές

Η σύζυγός μου και εγώ οδηγούσαμε πρόσφατα στη Βιρτζίνια, έκπληκτοι για άλλη μια φορά που η τεχνολογία GPS στα τηλέφωνά μας θα μπορούσε να μας καθοδηγήσει μέσα από έναν πυκνό δίκτυο δρόμων, γύρω από τροχαία ατυχήματα και προς τον ακριβή προορισμό μας.

Η τεχνητή νοημοσύνη (AI) πίσω από την ήρεμη φωνή που μας λέει πού να στρίψουμε έχει αντικαταστήσει τους συνοδηγούς, τους χάρτες, ακόμη και τις ενημερώσεις της κυκλοφορίας στο ραδιόφωνο. Πώς επιβιώναμε πριν φτάσει αυτή η τεχνολογία στη ζωή μας;

Επιβιώναμε, φυσικά, αλλά μερικές φορές χανόμασταν κυριολεκτικά. Η ονειροπόλησή μου διακόπηκε από ένα σταθμό διοδίων. Ανθρώπινη παρουσία δεν υπήρχε σε καμία λωρίδα. Τα περισσότερα αυτοκίνητα περνούσαν γρήγορα χρησιμοποιώντας τις ηλεκτρονικές συσκευές διέλευσης, καθώς η μία αυτόματη συσκευή επικοινωνούσε απρόσκοπτα με την άλλη.

Δυστυχώς, το νοικιασμένο αυτοκίνητό μας δεν είχε. Έτσι ετοιμάστηκα να πληρώσω με πιστωτική κάρτα, αλλά ο σταθμός διοδίων δεν είχε τερματικό πιστωτικών καρτών. Εντάξει, σκέφτηκα, καθώς έβγαλα το πορτοφόλι μου, θα χρησιμοποιήσω μετρητά για να καλύψω τα 3,25$. Όμως, το μηχάνημα έπαιρνε μόνο νομίσματα και δυστυχώς δεν είχα τόσα ψιλά στην τσέπη μου. Τι κάνω τώρα;

Θα ήθελα να κάνω αυτήν την ερώτηση σε κάποιον, αλλά ήμουν περιτριγυρισμένος από βουβές μηχανές. Έτσι, απλώς σήκωσα τη μπάρα και πέρασα παράνομα, προετοιμάζοντας τον εαυτό μου για τον λογαριασμό που θα έφτανε στο ταχυδρομείο μόλις το αυτοματοποιημένο σύστημα φωτογράφιζε και ανίχνευε την πινακίδα μας.

Με έναν εντελώς κοινότυπο τρόπο, μόλις είχα βιώσει την αιώνια σύγκρουση μεταξύ των περιοριστικών και απελευθερωτικών πλευρών της τεχνολογίας. Το αυτοκίνητο που σας μεταφέρει σε διακοπές στην παραλία συμβάλλει στην άνοδο της παλίρροιας - λόγω των εκπομπών διοξειδίου του άνθρακα και των αυξημένων θερμοκρασιών - που μπορεί κάποια μέρα να ξεπλύνει το παράκτιο στολίδι ενός τόπου. Ο φορητός υπολογιστής που σας συνδέει στον κυβερνοχώρο χρησιμεύει επίσης ως δίοδος μέσω της οποίας οι χάκερ μπορούν να κλέψουν την ταυτότητά σας και να μηδενίσουν τον τραπεζικό σας λογαριασμό.

Τον προηγούμενο αιώνα, η τεχνολογία έφτασε σε ένα σημείο που οι άνθρωποι, αξιοποιώντας τη δύναμη του ατόμου, απέκτησαν επίσης την ικανότητα να καταστρέψουν ολόκληρο τον πλανήτη. Τώρα, χάρη στην τεχνητή νοημοσύνη, η τεχνολογία μας οδηγεί προς ένα νέο σημείο καμπής.

Οι συγγραφείς επιστημονικής φαντασίας ανησυχούν εδώ και καιρό για ένα μέλλον στο οποίο τα ρομπότ, επιτυγχάνοντας να έχουν συνειδητότητα, θα κατακτήσουν τον πλανήτη. Η δημιουργία μιας μηχανής με ανθρώπινη νοημοσύνη που θα μπορούσε κάποτε να μας ξεγελάσει στο να πιστέψουμε ότι είναι ένας από εμάς έχει περιγραφεί συχνά ως «μοναδικότητα». Αξιόλογοι επιστήμονες, όπως ο Stephen Hawking, υποστήριξαν ότι η εμφάνιση μιας τέτοιας «μοναδικότητας», στην πραγματικότητα, θα σηματοδοτήσει το «τέλος της ανθρώπινης φυλής».

Αυτό δεν θα είναι ένα απίστευτα απομακρυσμένο γεγονός όπως ο ήλιος που θα μετατραπεί σε σουπερνόβα αρκετά δισεκατομμύρια χρόνια από τώρα. Σύμφωνα με μια δημοσκόπηση, οι ερευνητές της AI υπολογίζουν ότι υπάρχει τουλάχιστον 50-50 πιθανότητα να εμφανιστεί η «μοναδικότητα» έως το 2050. Με άλλα λόγια, εάν οι απαισιόδοξοι όπως ο Χόκινγκ έχουν δίκιο, είναι πιθανό ότι τα ρομπότ θα ξεφορτωθούν την ανθρωπότητα πριν το καταφέρει η κλιματική αλλαγή.

Ούτε η τεχνητή νοημοσύνη που τροφοδοτεί το GPS ούτε το είδος που έλεγχε αυτόν τον απογοητευτικό σταθμό διοδίων δεν έχει επιτύχει κάτι που να πλησιάζει το ανθρώπινο επίπεδο νοημοσύνης, είναι πάρα πολύ μακριά. Αλλά από πολλές απόψεις, τέτοια χαζά ρομπότ ήδη καταλαμβάνουν τον κόσμο. Η αυτοματοποίηση αυτή τη στιγμή εκτοπίζει εκατομμύρια εργαζόμενους, συμπεριλαμβανομένων των πρώην υπαλλήλων διοδίων. Οι «έξυπνες» μηχανές όπως τα μη επανδρωμένα αεροσκάφη έχουν γίνει ένα αναπόσπαστο μέρος του πολέμου. Τα συστήματα τεχνητής νοημοσύνης αναπτύσσονται όλο και περισσότερο για να παρακολουθούν κάθε μας κίνηση στο Διαδίκτυο, μέσω των τηλεφώνων μας, και όποτε βγαίνουμε σε δημόσιο χώρο. Αλγόριθμοι διδασκαλίας παίζουν όλο και μεγαλύτερο ρόλο στην εκπαίδευση, ενώ άλλοι αλγόριθμοι επηρεάζουν τις δικαστικές αποφάσεις. Μερικοί από τους πιο μοναχικούς ανάμεσά μας έχουν ήδη εξαρτηθεί από τα κατοικίδια ρομπότ.

Καθώς οι δυνατότητες της τεχνητής νοημοσύνης συνεχίζουν να βελτιώνονται, το αναπόφευκτο ερώτημα είναι: κατά πόσο αυτές οι τεχνολογίες μπορούν να περιοριστούν και να ρυθμιστούν; Ναι, το πυρηνικό τζίνι είναι έξω από το λυχνάρι όπως και άλλες τεχνολογίες - βιολογικές και χημικές - ικανές να προκαλέσουν μαζική καταστροφή σε παγκόσμια κλίμακα. Ωστόσο, με την τεχνητή νοημοσύνη, αυτή η ημέρα της «μοναδικότητας» είναι ακόμα στο μέλλον, ακόμη και αν πλησιάζει γρήγορα. Όσο οι άνθρωποι συνεχίζουν να συμπεριφέρονται άσχημα σε παγκόσμια κλίμακα (πόλεμος, γενοκτονία, εκπομπές άνθρακα που απειλούν τον πλανήτη) είναι δύσκολο να φανταστούμε ότι οτιδήποτε δημιουργούμε, όσο έξυπνο και αν είναι, θα ενεργήσει διαφορετικά. Και όμως συνεχίζουμε να ονειρευόμαστε ότι κάποιος από μηχανής θεός θα μπορούσε να εμφανιστεί ως δια μαγείας να μας σώσει από τον εαυτό μας.

Δαμάζοντας την Τεχνητή Νοημοσύνη

Στις αρχές της δεκαετίας του 1940, ο συγγραφέας επιστημονικής φαντασίας Isaac Asimov διατύπωσε τους φημισμένους τρεις νόμους της ρομποτικής:

1) τα ρομπότ δεν πρέπει να βλάπτουν τους ανθρώπους, άμεσα ή έμμεσα.

2) πρέπει να υπακούουν στις εντολές μας (εκτός αν αυτό παραβιάζει τον πρώτο νόμο) ·

3) πρέπει να διασφαλίσουν τη δική τους ύπαρξη (εκτός αν η αυτοσυντήρηση παραβιάζει τους δύο πρώτους νόμους)

Πολλοί μεταγενέστεροι προσπάθησαν να επικαιροποιήσουν τους νόμους του Asimov. Πιο πρόσφατα ο ακαδημαϊκός frank Pasquale πρότεινε τέσσερις νόμους για να αντικαταστήσει τους τρεις του Asimov. Δεδομένου ότι είναι δικηγόρος και όχι συγγραφέας, ο Pasquale ασχολείται περισσότερο με τον έλεγχο των ρομπότ του σήμερα παρά με υποθέσεις για τις μηχανές του αύριο. Σύμφωνα με αυτόν, τα ρομπότ και η τεχνητή νοημοσύνη:

1) πρέπει να βοηθούν τους επαγγελματίες και όχι να τους αντικαθιστούν

2) δεν πρέπει να υποδύονται ανθρώπους

3) δεν πρέπει ποτέ να γίνουν μέρος οποιουδήποτε είδους αγώνα όπλων

4) οι δημιουργοί, οι ελεγκτές και οι ιδιοκτήτες τους πρέπει να είναι πάντα γνωστοί και υποκείμενοι σε ελέγχους

Ωστόσο, οι «νόμοι» του Pasquale έρχονται σε αντίθεση με τις τάσεις τεχνητής νοημοσύνης της εποχής μας. Το κυρίαρχο ήθος της Τεχνητής Νοημοσύνης αντικατοπτρίζει αυτό που θα μπορούσε να θεωρηθεί ως η βασική αρχή της Silicon Valley: move fast and break things.

Αυτή η φιλοσοφία απαιτεί η τεχνολογία να μειώνει συνεχώς το κόστος εργασίας και να καθίσταται παρωχημένη μετά από λίγο καιρό. Στην παγκόσμια οικονομία, η τεχνητή νοημοσύνη βοηθά πράγματι ορισμένους επαγγελματίες - όπως ο Mark Zuckerberg του Facebook και ο Jeff Bezos του Amazon, οι οποίοι τυχαίνει να είναι από τους πλουσιότερους ανθρώπους στον πλανήτη - αλλά αντικαθιστά επίσης εκατομμύρια από εμάς. Σε στρατιωτικές εφαρμογές, η αυτοματοποίηση απομακρύνει τις «μπότες από το έδαφος» και μεταφέρει τα μάτια στον ουρανό σε έναν κόσμο ρομποτικού πολέμου. Και είτε πρόκειται για τη Siri, είτε για τα bots που καθοδηγούν όλο και πιο απελπισμένους καλούντες σε αυτοματοποιημένες υπηρεσίες τηλεφωνικής εξυπηρέτησης, είτε για την τεχνητή νοημοσύνη που ελέγχει τις αναρτήσεις στο Facebook, ο στόχος είναι η αντικατάσταση των ανθρώπων. «Μηχανές σαν κι εμένα», όπως τις αποκάλεσε ο Ian McEwan στο ομώνυμο μυθιστόρημά του.

Ο Pasquale θέλει να πατήσει τα φρένα σε ένα τρένο που όχι μόνο έχει φύγει από το σταθμό αλλά δεν βρίσκεται πλέον υπό τον έλεγχο του μηχανοδηγού. Δεν είναι δύσκολο να φανταστεί κανείς πού θα μπορούσε να καταλήξει μια τέτοια ανεξέλεγκτη πορεία. Στο βιβλίο του Superintelligence, ο Nick Bostrom γράφει για μια αμμοθύελλα αυτοαντιγραφόμενων νανο-ρομπότ που πνίγει κάθε ζωή στον πλανήτη και μια τεχνητή νοημοσύνη που καταλαμβάνει την εξουσία «παραποιώντας πολιτικές διαδικασίες». Δεδομένου ότι αυτές οι ενσυνείδητες μηχανές θα ενδιαφερόντουσαν μόνο για την αυτοσυντήρηση και την αναπαραγωγή τους, και όχι για την προστασία της ανθρωπότητας ή την υπακοή σε ανθρώπινες εντολές, οι κανόνες του Asimov καθίστανται παρωχημένοι. Όμως νέες προτάσεις και μάλιστα πολύ πιο συγκεκριμένες, έχουν μπει στο δημόσιο διάλογο.

Για παράδειγμα, ο Ray Kurzweil, ο οποίος προέβλεψε στο βιβλίο του The Singularity is Near του 2005 ότι ένα ρομπότ θα είχε συνειδητότητα έως το 2045, πρότεινε την «απαγόρευση των αυτό-αναπαραγόμενων φυσικών οντοτήτων που περιέχουν τους δικούς τους κωδικούς για αναπαραγωγή». Ο Elon Musk, ένας ακόμα δισεκατομμυριούχος, που δεν είναι εχθρός της καινοτομίας, χαρακτήρισε την τεχνητή νοημοσύνη ως τη «μεγαλύτερη υπαρξιακή απειλή» και τάχθηκε υπέρ της πλήρους απαγόρευσης κατασκευής ρομπότ-δολοφόνων.

Για την αποφυγή των διαφόρων χειρότερων σεναρίων, η Ευρωπαϊκή Ένωση πρότεινε τον έλεγχο της τεχνητής νοημοσύνης ανάλογα με το βαθμό κινδύνου. Ορισμένα προϊόντα που εμπίπτουν στην κατηγορία "υψηλού κινδύνου" της ΕΕ θα πρέπει να λάβουν ένα είδος έγκρισης, το Conformité Européenne. Εκείνα τα συστήματα τεχνητής νοημοσύνης τα οποία «θεωρούνται σαφής απειλή για την ασφάλεια, τα μέσα διαβίωσης και τα ανθρώπινα δικαιώματα», θα υπόκεινται σε πλήρη απαγόρευση. Οι «σαφείς απειλές» θα περιλαμβάνουν, για παράδειγμα, τη βιομετρική ταυτοποίηση που συλλέγει προσωπικά δεδομένα με μέσα όπως η αναγνώριση προσώπου, καθώς και εργαλεία του συστήματος κοινωνικής ασφάλισης της Κίνας μέσω των οποίων η τεχνητή νοημοσύνη βοηθά στην παρακολούθηση ατόμων και την αξιολόγηση της συνολικής αξιοπιστίας τους.

Οι τεχνο-αισιόδοξοι έχουν, αναμενόμενα, στηλιτεύσει αυτό που θεωρούν ευρωπαϊκή παρέμβαση. Τέτοιοι έλεγχοι στην τεχνητή νοημοσύνη, πιστεύουν, θα βλάψουν την Ευρωπαϊκή Ένωση και εάν και οι ΗΠΑ ακολουθήσουν το παράδειγμα, θα επιτρέψουν στην Κίνα να εξασφαλίσει ένα αξεπέραστο τεχνολογικό πλεονέκτημα στον τομέα. «Εάν τα κράτη μέλη της ΕΕ - και οι σύμμαχοί τους πέρα από τον Ατλαντικό - είναι σοβαροί για τον ανταγωνισμό με την Κίνα και τη διατήρηση της ισχύος τους (καθώς και την ποιότητα ζωής που παρέχουν στους πολίτες τους)", γράφει ο επιχειρηματίας Sid Mohasseb στο Newsweek, «Πρέπει να ζητήσουν αναδιατύπωση αυτών των κανονισμών, με την ανάπτυξη και τον ανταγωνισμό να θεωρούνται τουλάχιστον εξίσου σημαντικοί με τον έλεγχο και την ασφάλεια». Ωστόσο, οι ανησυχίες του Mohasseb είναι παραπλανητικές. Οι ρυθμιστικές αρχές που φοβάται τόσο πολύ, στην πραγματικότητα, τρέχουν πίσω από τις εξελίξεις. Για παράδειγμα, αν εξετάσει κανείς μόνο δύο πεδία ανθρώπινης δραστηριότητας, την οικονομία και τη στρατιωτική τεχνολογία, η τεχνητή νοημοσύνη είναι ήδη εκεί.

Η αυτοματοποίηση της παγκοσμιοποίησης

Η συνεχιζόμενη πανδημία Covid-19 αποκάλυψε τις αδυναμίες των παγκόσμιων αλυσίδων εφοδιασμού. Η παγκόσμια οικονομία σχεδόν σταμάτησε το 2020 για έναν σημαντικό λόγο: την υγεία των εργαζομένων. Η εξάπλωση του ιού, ο κίνδυνος μετάδοσης και οι προσπάθειες περιορισμού της πανδημίας απομάκρυναν τους εργαζόμενους από το εργατικό δυναμικό, άλλους προσωρινά, και άλλους μόνιμα. Εργοστάσια έκλεισαν, στα δίκτυα μεταφορών εμφανίστηκαν κενά και εμπορικά καταστήματα έχασαν τους πελάτες τους που στράφηκαν σε διαδικτυακούς εμπόρους.

Η επιθυμία για μείωση του κόστους εργασίας, που αποτελεί σημαντικό παράγοντα διαμόρφωσης της τιμής ενός προϊόντος, έχει ωθήσει τις εταιρείες να αναζητήσουν φθηνότερους εργαζομένους σε χώρες με φθηνό εργατικό δυναμικό. Η πλήρης εξάλειψη των εργαζομένων είναι μια ακόμη πιο ελκυστική προοπτική. Πολύ πριν χτυπήσει η πανδημία, οι εταιρείες είχαν αρχίσει να στρέφονται στον αυτοματισμό.

Έως το 2030, έως και 45 εκατομμύρια Αμερικανοί εργαζόμενοι θα έχουν εκτοπισθεί από αυτοματοποιημένα συστήματα. Η Παγκόσμια Τράπεζα εκτιμά ότι ρομπότ και λοιπά αυτοματοποιημένα συστήματα θα αντικαταστήσουν σταδιακά το 85% των θέσεων εργασίας στην Αιθιοπία, το 77% στην Κίνα και το 72% στην Ταϊλάνδη.

Η πανδημία όχι μόνο επιτάχυνε αυτήν την τάση, αλλά αύξησε και την οικονομική ανισότητα καθώς, τουλάχιστον προς το παρόν, τα ρομπότ τείνουν να αντικαθιστούν τους λιγότερο εξειδικευμένους εργαζόμενους. Σε μια έρευνα που πραγματοποιήθηκε από το Παγκόσμιο Οικονομικό Φόρουμ, το 43% των επιχειρήσεων ανέφεραν ότι θα μειώσουν το εργατικό δυναμικό τους μέσω της αυξημένης χρήσης της τεχνολογίας. «Από τότε που ξέσπασε η πανδημία», αναφέρει το NBC News, «Οι μεταποιητές τροφίμων αύξησαν την αυτοματοποίησή τους, επιτρέποντας στις εγκαταστάσεις να διατηρούν την παραγωγή τους, παρά την εφαρμογή μέτρων κοινωνικής αποστασιοποίησης. Τα εργοστάσια ψηφιοποίησαν τους χειρισμούς στα μηχανήματά τους, ώστε να μπορούν να ελέγχονται από απόσταση από χειριστές που εργάζονται από το σπίτι ή από άλλη τοποθεσία. Εγκαταστάθηκαν νέοι αισθητήρες που μπορούν να επισημάνουν ή να προβλέψουν αστοχίες, επιτρέποντας τις απαιτήσεις σε προσωπικό να μειωθούν σε ένα συνεργείο συντήρησης κατά περίπτωση».

Σε έναν ιδανικό κόσμο, τα ρομπότ και η τεχνητή νοημοσύνη θα αναλάμβαναν όλο και περισσότερο όλες τις βρώμικες, επικίνδυνες και ταπεινωτικές δουλειές παγκοσμίως, αφήνοντας τους ανθρώπους να κάνουν πιο ενδιαφέρουσες δουλειές. Στον πραγματικό κόσμο, ωστόσο, ο αυτοματισμός κάνει συχνά τις δουλειές πιο βρώμικες και πιο επικίνδυνες, για παράδειγμα δημιουργώντας την ανάγκη επιτάχυνσης του έργου που εκτελεί το εναπομείναν ανθρώπινο εργατικό δυναμικό. Επίσης, τα αυτοματοποιημένα συστήματα και τα ρομπότ έχουν αρχίσει να εξαπλώνονται και σε εκείνους τους τομείς που θεωρούνται πιο εξειδικευμένοι και ενδιαφέροντες, όπως η αρχιτεκτονική και ο σχεδιασμός προϊόντων.

Σε ορισμένες περιπτώσεις, η τεχνητή νοημοσύνη έχει αναλάβει ακόμη και διευθυντικές εργασίες. Ένας οδηγός της Amazon, ο Stephen Normandin, ανακάλυψε ότι το σύστημα τεχνητής νοημοσύνης που παρακολουθούσε την αποτελεσματικότητά του ως μεταφορέα χρησιμοποίησε ένα αυτοματοποιημένο email για να τον απολύσει όταν αποφάσισε ότι δεν ήταν αρκετά αποδοτικός. Ο Jeff Bezos μπορεί να αποχωρεί από της θέση του διευθύνοντα σύμβουλο της Amazon, αλλά τα ρομπότ ανεβαίνουν γρήγορα στην εταιρική ιεραρχία και θα μπορούσαν να αποδειχθούν εξίσου αδίστακτα με αυτόν, αν όχι περισσότερο.

Όμως δεν είναι μόνο τα εταιρικά συμφέροντα και κέρδη τα οποία καλωσορίζουν την τεχνητή νοημοσύνη. Η πλήρως αυτοματοποιημένη βιομηχανική παραγωγή σε ένα εργοστάσιο, δεν απαιτεί φωτισμό, θέρμανση ή εργατικό δυναμικό που μετακινείται από και προς την εργασία. Αυτό το μοντέλο μπορεί να μειώσει σημαντικά το αποτύπωμα άνθρακα μιας χώρας, ένας δυνητικά δελεαστικός παράγοντας για τους υποστηρικτές της «πράσινης ανάπτυξης» και τους πολιτικούς που θέλουν να επιτύχουν τους κλιματικούς στόχους της Συμφωνίας των Παρισίων.

Είναι πολύ πιθανό ότι τα ενσυνείδητα ρομπότ δεν θα χρειαστεί να επινοήσουν πονηρές στρατηγικές για να κατακτήσουν τον κόσμο. Οι άνθρωποι μπορεί να αποδειχθούν υπερβολικά πρόθυμοι να παραχωρήσουν τη θέση τους σε ημι-έξυπνες μηχανές.

Η νέα ομίχλη του πολέμου

Ο πόλεμος του 2020 μεταξύ Αρμενίας και Αζερμπαϊτζάν δεν έμοιαζε με καμία προηγούμενη στρατιωτική σύγκρουση. Οι δύο χώρες ήταν σε αντιπαράθεση από τη δεκαετία του 1980 για έναν διεκδικούμενο ορεινό θύλακα, το Ναγκόρνο-Καραμπάχ. Μετά την κατάρρευση της Σοβιετικής Ένωσης, η Αρμενία επικράτησε στη σύγκρουση που ακολούθησε στις αρχές της δεκαετίας του 1990, καταλαμβάνοντας όχι μόνο το αμφισβητούμενο έδαφος αλλά και τμήματα του Αζερμπαϊτζάν.

Τον Σεπτέμβριο του 2020, καθώς οι εντάσεις αυξάνονταν μεταξύ των δύο χωρών, η Αρμενία ήταν έτοιμη να υπερασπιστεί τα κατεχόμενα εδάφη με έναν καλά εξοπλισμένο στρατό, με άρματα μάχης και πυροβολικό. Σύμφωνα με τα διαθέσιμα στατιστικά (Global Militarization Index 2020) η Αρμενία ήταν δεύτερη μετά το Ισραήλ όσον αφορά το επίπεδο στρατιωτικοποίησης. Όμως, χάρις στις εξαγωγές ορυκτών καυσίμων, το Αζερμπαϊτζάν είχε όχι μόνο μεγαλύτερο προϋπολογισμό άμυνας, αλλά επένδυσε και σε νεότερα οπλικά συστήματα.

Το Αζερμπαϊτζάν ήταν ο νικητής στη σύγκρουση του 2020, ανακαταλαμβάνοντας το Ναγκόρνο-Καραμπάχ. Ο λόγος: αυτοματισμός. «Το Αζερμπαϊτζάν χρησιμοποίησε τον στόλο του με μη επανδρωμένα αεροσκάφη, που αγοράστηκε από το Ισραήλ και την Τουρκία, για να καταδιώξει και να καταστρέψει τα οπλικά συστήματα της Αρμενίας στο Ναγκόρνο Καραμπάχ, εξαυλώνοντας τις αμυντικές γραμμές και επιτρέποντας μια γρήγορη προέλαση», ανέφερε ο Robin Dixon της Washington Post. «Η Αρμενία διαπίστωσε ότι τα συστήματα αεράμυνας στο Ναγκόρνο Καραμπάχ, πολλά από αυτά παλαιότερης σοβιετικής τεχνολογίας, ήταν αδύνατο να αντιμετωπίσουν τις επιθέσεις από μη επανδρωμένα αεροσκάφη».

Οι Αρμένιοι στρατιώτες, διαβόητοι για την αγριότητά τους, τρομοκρατήθηκαν από τη συνεχή, αόρατη παρουσία των ημιαυτόνομων αεροσκαφών. «Οι στρατιώτες στο έδαφος γνώριζαν ότι θα μπορούσαν να χτυπηθούν από ένα μη επανδρωμένο αεροσκάφος ανά πάσα στιγμή», σημείωσε ο Mark Sullivan στο περιοδικό Fast Company. «Τα μη επανδρωμένα αεροσκάφη είναι τόσο αθόρυβα που ο ήχος από τις προπέλες τους γίνεται αντιληπτός μόνο όταν είναι πλέον πολύ αργά. Και ακόμα κι όταν οι Αρμένιοι κατάφεραν να καταρρίψουν ένα από τα drones, τι είχαν καταφέρει πραγματικά; Απλώς κατέστρεψαν ένα αναλώσιμο μηχάνημα, που θα αντικατασταθεί».

Οι ΗΠΑ πρωτοστάτησαν στη χρήση μη επανδρωμένων αεροσκαφών εναντίον διαφόρων αντιπάλων στον πόλεμο κατά της τρομοκρατίας στο Αφγανιστάν, το Ιράκ, το Πακιστάν, τη Σομαλία και αλλού στην ευρύτερη Μέση Ανατολή και την Αφρική. Αλλά στην εκστρατεία του το 2020, το Αζερμπαϊτζάν χρησιμοποίησε την τεχνολογία για να νικήσει έναν σύγχρονο στρατό.

Τώρα, κάθε στρατός αισθάνεται υποχρεωμένος όχι μόνο να ενσωματώσει την τεχνητή νοημοσύνη στις επιθετικές του δυνατότητες, αλλά και να αμυνθεί στις αντίστοιχες τεχνολογίες των αντιπάλων του. Για να παραμείνουν μπροστά στον τομέα, οι ΗΠΑ διοχετεύουν όλο και περισσότερους πόρους στις νέες τεχνολογίες. Ο νέος προϋπολογισμός του Πενταγώνου περιλαμβάνει το μεγαλύτερο στην ιστορία κονδύλι για Έρευνα και Ανάπτυξη, συμπεριλαμβανομένου σχεδόν ενός δισεκατομμυρίου δολαρίων ειδικά για την τεχνητή νοημοσύνη. Όπως έχει σημείωσε ο Michael Klare στο tomdispatch.com, το Πεντάγωνο πήρε και ένα ακόμη μήνυμα από τον επιχειρηματικό κόσμο, αρχίζοντας να εγκαθιστά ένα τεράστιο, αλληλένδετο δίκτυο αυτοματοποιημένων συστημάτων γνωστό ως Joint All-Domain Command-and-Control (JADC2).

Το αποτέλεσμα κάθε τέτοιας μεταβίβασης μεγαλύτερης ευθύνης στις μηχανές θα είναι η δημιουργία αυτού που η μαθηματικός Cathy O'Neill αποκαλεί «όπλα μαθηματικής καταστροφής». Στην παγκόσμια οικονομία, η τεχνητή νοημοσύνη αντικαθιστά ήδη τους ανθρώπους στις γραμμές παραγωγής. Στον τομέα των στρατιωτικών επιχειρήσεων, η τεχνητή νοημοσύνη θα μπορούσε τελικά να αφανίσει εντελώς τους ανθρώπους, είτε από ανθρώπινο σχεδιασμό είτε από ένα σφάλμα λογισμικού.

Πολλές φορές κατά τη διάρκεια του Ψυχρού Πολέμου τα Αμερικανικά και Σοβιετικά συστήματα προειδοποίησης ανίχνευσαν πυραυλικές επιθέσεις οι οποίες αποδείχθηκαν ότι ήταν αποτέλεσμα της παρερμηνείας από τους υπολογιστές φυσικών καταστάσεων (σμήνη πουλιών, ασυνήθιστος καιρός κ.α.) ή απλά σφάλματα λογισμικού. Μόνο οι παρεμβάσεις της τελευταίας στιγμής από τους χειριστές και τους υπεύθυνους αξιωματικούς αποσόβησαν ένα πυρηνικό πλήγμα σε απάντηση των υποτιθέμενων επιθέσεων. Βγάλτε τον ανθρώπινο παράγοντα από την αλυσίδα εντολών και οι μηχανές θα μπορούσαν να πραγματοποιήσουν μια τέτοια γενοκτονία μόνες τους. Και το λάθος, αγαπητέ αναγνώστη, δεν θα ήταν δικό τους αλλά δικό μας.

Οι τελευταίες επιλογές

Στο νέο μου μυθιστόρημα Songlands, η ανθρωπότητα αντιμετωπίζει μια σειρά φοβερών επιλογών το 2052. Έχοντας αποτύχει να ελέγξει τις εκπομπές διοξειδίου του άνθρακα για αρκετές δεκαετίες, ο κόσμος είναι στο σημείο χωρίς επιστροφή, πολύ αργά για συμβατικές διορθώσεις πολιτικής. Το μόνο που απομένει είναι μια επιλογή υψηλού ρίσκου, ένα πείραμα στη γεωμηχανική που θα μπορούσε να αποτύχει ή, ακόμα χειρότερα, να έχει τρομερές ακούσιες συνέπειες. Η τεχνητή νοημοσύνη που είναι υπεύθυνη για τη διασφάλιση της επιτυχίας του πειράματος μπορεί να είναι ή να μην είναι αξιόπιστη. Αυτή η δυστοπική ματιά, όπως και τόσες άλλες, αφορά τη συνεχή μείωση των επιλογών και την απομάκρυνση της ελπίδας, ως αποτέλεσμα της πορεία που έχει πάρει η ανθρωπότητα.

Κι όμως, έχουμε ακόμα επιλογές. Θα μπορούσαμε να στραφούμε ριζικά προς την καθαρή ενέργεια, ένα εγχείρημα που για να είναι πραγματικά παγκόσμιο προϋποθέτει τη στήριξη των φτωχότερων χωρών από τις πλουσιότερες, για να κάνουμε το άλμα μαζί. Θα μπορούσαμε να επιβάλλουμε λογικούς περιορισμούς στην τεχνητή νοημοσύνη. Θα μπορούσαμε να θέσουμε τις λεπτομέρειες τέτοιων προγραμμάτων σε δημόσια, δημοκρατική και συλλογική διαβούλευση.

‘Η αν απλά σηκώσουμε τα χέρια μας εξαιτίας των αγεφύρωτων πολιτικών μας διαφορών, θα μπορούσαμε να περιμένουμε έναν σωτήρα για να μας γλυτώσει. Οι τεχνο-αισιόδοξοι ελπίζουν ότι ο αυτοματισμός θα μας απελευθερώσει και θα σώσει τον πλανήτη. Οι λάτρεις του laissez-faire εξακολουθούν να πιστεύουν ότι το αόρατο χέρι της αγοράς θα κατευθύνει μυστηριωδώς το κεφάλαιο προς καινοτομίες που θα σώσουν τον πλανήτη, αντί για SUV και πλαστικά μπιχλιμπίδια.

Αυτές είναι ψευδαισθήσεις. Όπως γράφω στο Songlands, πάντα ελπίζαμε σε κάποιον ή κάτι που θα μας σώσει: «Θεέ μου, ένας δικτάτορας, η τεχνολογία. Καλώς ή κακώς, η μόνη απάντηση στις κραυγές μας για βοήθεια είναι μια ηχώ ».

Στο τέλος, τα ρομπότ δεν θα μας σώσουν. Αυτή είναι μια δουλειά την οποία δε μπορούμε να αναθέσουμε σε άλλους ή να προγραμματίσουμε ένα υπολογιστή να την κάνει. Είναι μια δουλειά που μόνο εμείς οι ίδιοι μπορούμε να κάνουμε.