Δεν ψηφίσαμε υπέρ της αλγοριθμικής αποδοτικότητας. Απλώς πατήσαμε «αποδοχή».
Δύο αναρτήσεις στο LinkedIn μου κέντρισαν το ενδιαφέρον την περασμένη εβδομάδα. Η πρώτη, του Tommy Wennerstierna, σχολίαζε με πνευματώδη τρόπο μια φωτογραφία από παραλία της Βραζιλίας τη δεκαετία του ’70, συγκρίνοντας τον ξέγνοιαστο τότε τρόπο ζωής με τη σημερινή διαρκή μας συνδεσιμότητα. Η δεύτερη, της ανθρωπολόγου Dr. Lollie Mancey, ανέλυε πώς η τεχνητή νοημοσύνη δημιούργησε ένα «ασύγχρονο, προγνωστικό χρόνο, όπου το μέλλον καταφθάνει προτού καν το ζητήσουμε».
Μαζί, αυτά τα δύο κείμενα ξεκαθάρισαν κάτι που ένιωθα αλλά δεν μπορούσα να το εκφράσω: διεξάγουμε ένα μικρό, ανεπαίσθητο πείραμα στη συλλογική ανθρώπινη συνείδηση. Ξέρουμε άραγε τι κάνουμε;
Ας σας δείξω τι εννοώ.
Ο Άλεξ είναι ένας επιτυχημένος λογιστής σε προάστιο του Φοίνιξ. Εδώ και τρία χρόνια η αξία του σπιτιού του παραμένει στάσιμη, ενώ σε άλλες περιοχές της πόλης εκτοξεύεται. Αυτό που δεν γνωρίζει ο Άλεξ είναι ότι οι καθημερινές του ψηφιακές συμπεριφορές δούλευαν αθόρυβα εναντίον του. Κάθε φορά που ψώνιζε από το Dollar General αντί για το Target για να εξοικονομήσει χρήματα, κάθε φορά που έγραφε στο NextDoor «αυτές οι τιμές στα καύσιμα είναι γελοίες», τροφοδοτούσε δεδομένα σε αλγορίθμους στεγαστικών δανείων που κατέληγαν πως η γειτονιά του βρίσκεται σε οικονομική παρακμή. Οι συνετές οικονομικές του επιλογές δημιούργησαν μια αυτοεκπληρούμενη προφητεία στασιμότητας.
Η Μελάνι, 34 ετών και απολύτως υγιής, είδε τα ασφάλιστρα υγείας της να αυξάνονται κατά 40%, επειδή ένας αλγόριθμος παρατήρησε ότι αγόραζε διαφορετικά τρόφιμα (άλλαξε διατροφή), είχε διαφορετικό πρόγραμμα ύπνου (νέο μωρό), και επισκεπτόταν γιατρούς λίγο συχνότερα από πριν (τυπικοί παιδιατρικοί έλεγχοι). Η τεχνητή νοημοσύνη μετέτρεψε κάποιες απολύτως φυσιολογικές αλλαγές ζωής σε… οικονομική τιμωρία.
Κανείς δεν θα επέλεγε έναν κόσμο όπου τα ψώνια στο σούπερ μάρκετ θα επηρέαζαν τα στεγαστικά δάνεια ή ότι η γέννηση ενός παιδιού θα οδηγούσε σε ασφαλιστικές ποινές. Παρότι ο Άλεξ και η Μελάνι είναι φανταστικοί χαρακτήρες, τα δύο αυτά σενάρια αντικατοπτρίζουν ρεαλιστικά μοτίβα αλγοριθμικών αποφάσεων.
Εμείς απλώς θέλαμε καλύτερα emails. Ή καθόλου emails; Ίσως και περισσότερα βίντεο με γάτες.
Η παραλία που ξέχασε ο χρόνος
Κυκλοφορεί αυτή η φωτογραφία από το Ρίο, με ανθρώπους να χαλαρώνουν, να παίζουν, να μιλάνε, να είναι πραγματικά παρόντες. Η λεζάντα σχολιάζει ειρωνικά την «πρωτόγονη» κατάστασή τους: «Δεν είχαν μέσα επικοινωνίας, δεν ενημερώνονταν κάθε δευτερόλεπτο από κινητές συσκευές και βρίσκονταν σχεδόν διαρκώς στο άγνωστο.»
Κι αν απλώς ήταν… ανθρώπινο;
Σας γράφω αυτό το κείμενο ένα Σαββατοκύριακο, ενώ βρίσκομαι με την κόρη μου σε έναν αγώνα demolition derby. Είναι μια υπέροχα αναποτελεσματική εμπειρία. Τα αυτοκίνητα συγκρούονται απρόβλεπτα. Θα έχει θόρυβο, σκόνη, χάος — δεκάδες σαράβαλα στα τελευταία τους, να βρυχώνται και να ξεψυχούν θεαματικά χωρίς κανένα «χρήσιμο» σκοπό.
Άραγε διατηρούμε κάτι ουσιαστικό ή απλώς γινόμαστε συναισθηματικοί; Θα το καταλαβαίναμε καν, αν ή όταν το χάναμε;
Οι κλέφτες του χρόνου
Η τεχνητή νοημοσύνη μας στέρησε τη σχέση μας με την προσμονή — κι ούτε καν κατανοούμε τι χάσαμε. Το «έξυπνο» σπίτι ρυθμίζει τη θερμοκρασία πριν καν νιώσουμε δυσφορία. Η εφαρμογή γυμναστικής συστήνει ξεκούραση πριν καν κουραστούμε. Το καλάθι αγορών συμπληρώνεται από μόνο του με ό,τι «σίγουρα» θα χρειαστούμε.
Αυτό που η Mancey ονομάζει προγνωστικό χρόνο — όπου «το μέλλον φτάνει πριν το ζητήσουμε» — σηματοδοτεί κάτι βαθύτερο. Δεν είναι ταξίδι στο χρόνο· είναι εξάλειψη του χρόνου ως πεδίου όπου μπορεί να υπάρξει η ανθρώπινη συνείδηση.
Για χιλιετίες, ζούσαμε στιγμές μη-γνώσης. Πότε θα έρθει το λεωφορείο; Θα μας αρέσει αυτό το εστιατόριο; Ποιο τραγούδι να βάλουμε μετά; Αυτά δεν ήταν «αναποτελεσματικότητες»· ήταν τα γνωστικά διαστήματα όπου ξετυλιγόταν η ανθρώπινη εμπειρία. Η αγωνία, η ανυπομονησία, οι μικρές εκπλήξεις, οι περιστασιακές καταστροφές που γίνονταν ιστορίες ζωής.
Κι εμείς τα συμπιέσαμε όλα στο μηδέν.
Το εταιρικό σχέδιο
Μια πρόσφατη μελέτη της BCG (Where’s the Value in AI?) φανερώνει κάτι ανησυχητικό: οι εταιρείες δαπανούν το 70% της προσπάθειας υλοποίησης τεχνητής νοημοσύνης στο «να αλλάξουν τις ροές εργασίας, να επαναπροσδιορίσουν τους ανθρώπινους ρόλους και να δημιουργήσουν διαδικασίες προσαρμοσμένες στους “πράκτορες” (AI) από το μηδέν». Με απλά λόγια: εκπαιδεύουμε συστηματικά τους ανθρώπους να σκέφτονται σε χρόνο μηχανής αντί σε ανθρώπινο χρόνο.
Όταν λένε «βασικές επιχειρησιακές διαδικασίες», εννοούν τους θεμελιώδεις τρόπους που αλληλεπιδρούμε με θεσμούς. Όταν λένε «ανασχηματισμός», εννοούν αντικατάσταση του ανθρώπινου ρυθμού με αλγοριθμική βελτιστοποίηση. Όταν λένε «διαδικασίες κεντρικές στον πράκτορα», εννοούν σχεδιασμό της εργασίας γύρω από τις δυνατότητες της AI και όχι τις ανθρώπινες.
Η BCG διαπίστωσε ότι οι κορυφαίες εταιρείες παράγουν το 62% της αξίας τους από την AI μέσω αυτού του «ανασχηματισμού» — όχι απλώς αυτοματοποίησης, αλλά ανασχεδιασμού ολόκληρων συστημάτων, ώστε τα ανθρώπινα μοτίβα να γίνουν ελάχιστα, μετρήσιμα και τελικά περιττά.
Η γλώσσα είναι ψυχρή· οι συνέπειες, όμως, τεράστιες: η ίδια η πραγματικότητα μεθοδικά μας σβήνει!
Η παγίδα της συμμετοχής
Αυτή η μεταμόρφωση μοιάζει κομψή επειδή είναι εθελοντική. Κάθε βελτιστοποίηση φτάνει σαν ακαταμάχητο δώρο. Ποιος δεν θέλει μια εφαρμογή να του υποδεικνύει την καλύτερη διαδρομή, το φαγητό του να φτάνει ακριβώς στην ώρα του, “κάποιος” να του προτείνει μουσικά ακούσματα που γουστάρει;
Κι όμως. Ίσως όλα αυτά λειτουργούν υπερβολικά καλά. Αν οι αλγόριθμοι προβλέπουν τι θέλουμε καλύτερα απ’ ό,τι μπορούμε πραγματικά να θέλουμε, τότε αλλάζει το ίδιο το νόημα του να είσαι άνθρωπος.
Η παρακμή της γειτονιάς του Άλεξ, το ασφαλιστικό πρόστιμο της Μελάνι… δεν είναι σφάλματα. Είναι τα πρώτα συμπτώματα ανθρώπων που προσπαθούν να ζήσουν σε «αλγοριθμικό χρόνο».
Μια παράξενη συμμετοχική δικτατορία: συμμετέχουμε με ενθουσιασμό σε συστήματα που σταδιακά καταργούν τη συμμετοχή μας στη δική μας εμπειρία του χρόνου. Οι αλγόριθμοι ανταμείβουν την εμπλοκή αντί της σκέψης, την πρόβλεψη αντί της έκπληξης, την αποδοτικότητα αντί της δημιουργικής αμηχανίας του «τι θα συμβεί μετά».
Επιτύμβια αποδοτικότητας
Ας ακολουθήσουμε τη λογική ως το τέλος:
«Εδώ αναπαύεται η Μαργαρίτα. Δεν χρειάστηκε ποτέ να ρωτήσει ξένο για κατευθύνσεις.»
«Αγαπημένος σύζυγος. Τα ψώνια του παραδίδονταν με ακρίβεια 99,7%.»
«Άγγιξε πολλές ζωές, κυρίως μέσω των βελτιστοποιημένων καμπανιών της στο LinkedIn.»
Το επιτύμβιο με τα ψώνια, πράγματι, συγκινεί το ανθρώπινο πνεύμα, έτσι δεν είναι;
Δεν ξέρουμε τι δεν ξέρουμε
Το πιο εντυπωσιακό στοιχείο αυτής της μετάβασης είναι ότι συνέβη χωρίς καμία ρητή άδεια ή καν επίγνωση. Δεν έγινε καμία ψηφοφορία για το αν θέλουμε να αναδομήσουμε έτσι την ανθρώπινη εμπειρία.
Λύσαμε το αρχαίο «πρόβλημα» του να μην ξέρουμε τι έρχεται. Αλλά ίσως το να μην ξέρουμε ποτέ τι έρχεται δεν ήταν πρόβλημα. Ήταν ο τρόπος που λειτουργεί ο ανθρώπινος νους.
Εκείνοι οι άνθρωποι στην παραλία της Βραζιλίας δεν υπέφεραν από φτώχεια πληροφόρησης. Ήταν πλούσιοι σε κάτι που εμείς έχουμε βελτιστοποιήσει μακριά: την ικανότητα να υπάρχουμε μέσα στην αβεβαιότητα του παρόντος, να αφήνουμε τον χρόνο να ξετυλίγεται με ανθρώπινους ρυθμούς, να εκπλησσόμαστε (ή όχι) από τις ίδιες μας τις ζωές.
Όλοι ζούμε πλέον μέσα σε αυτό το πείραμα. Απολαύστε τη διαδρομή.
