Τα συστήματα τεχνητής νοημοσύνης με ανθρώπινη ανταγωνιστική νοημοσύνη μπορούν να θέσουν βαθύτατους κινδύνους για την κοινωνία και την ανθρωπότητα, όπως έχει αποδειχθεί από εκτεταμένες έρευνες και έχει αναγνωριστεί από κορυφαία εργαστήρια τεχνητής νοημοσύνης.
Όπως αναφέρεται στις ευρέως υποστηριζόμενες αρχές της Asilomar AI, η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει μια βαθιά αλλαγή στην ιστορία της ζωής στη Γη και θα πρέπει να σχεδιαστεί και να διαχειριστεί με ανάλογη προσοχή και πόρους.
Δυστυχώς, αυτό το επίπεδο σχεδιασμού και διαχείρισης δεν συμβαίνει, παρόλο που τους τελευταίους μήνες τα εργαστήρια Τεχνητής Νοημοσύνης έχουν εγκλωβιστεί σε έναν ανεξέλεγκτο αγώνα δρόμου για την ανάπτυξη και την ανάπτυξη ολοένα και πιο ισχυρών ψηφιακών μυαλών που κανείς – ούτε καν οι δημιουργοί τους – δεν μπορεί να κατανοήσει, να προβλέψει ή να ελέγξει αξιόπιστα.
Τα σύγχρονα συστήματα τεχνητής νοημοσύνης γίνονται πλέον ανταγωνιστικά προς τον άνθρωπο σε γενικές εργασίες και πρέπει να αναρωτηθούμε: Πρέπει να αφήσουμε τις μηχανές να πλημμυρίσουν τα κανάλια πληροφόρησής μας με προπαγάνδα και αναλήθειες; Θα πρέπει να αυτοματοποιήσουμε όλες τις δουλειές, συμπεριλαμβανομένων και αυτών που εκπληρώνουν τις ανάγκες μας; Θα πρέπει να αναπτύξουμε μη ανθρώπινα μυαλά που μπορεί τελικά να μας ξεπεράσουν, να μας ξεπεράσουν, να μας ξεπεράσουν και να μας αντικαταστήσουν; Θα πρέπει να διακινδυνεύσουμε την απώλεια του ελέγχου του πολιτισμού μας;
Τέτοιες αποφάσεις δεν πρέπει να ανατίθενται σε μη εκλεγμένους ηγέτες της τεχνολογίας. Ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτυχθούν μόνο όταν είμαστε βέβαιοι ότι τα αποτελέσματά τους θα είναι θετικά και θα μπορούμε να διαχειριστούμε τους κινδύνους.
Αυτή η έκδηλη εμπιστοσύνη πρέπει να είναι καλά αιτιολογημένη και να αυξάνεται ανάλογα με το μέγεθος των πιθανών επιπτώσεων ενός συστήματος στον άνθρωπο.
Σε πρόσφατη δήλωση του OpenAI σχετικά με την τεχνητή γενική νοημοσύνη, αναφέρεται ότι “κάποια στιγμή μπορεί να είναι σημαντικό να υπάρξει ανεξάρτητη αξιολόγηση πριν από την έναρξη της εκπαίδευσης μελλοντικών συστημάτων και για τις πιο προηγμένες προσπάθειες να συμφωνηθεί ο περιορισμός του ρυθμού αύξησης των υπολογιστών που χρησιμοποιούνται για τη δημιουργία νέων μοντέλων”. Συμφωνούμε. Αυτό το σημείο είναι τώρα.
Ως εκ τούτου, καλούμε όλα τα εργαστήρια τεχνητής νοημοσύνης να διακόψουν αμέσως για τουλάχιστον 6 μήνες την εκπαίδευση συστημάτων τεχνητής νοημοσύνης ισχυρότερων από το GPT-4. Η παύση αυτή θα πρέπει να είναι δημόσια και επαληθεύσιμη και να περιλαμβάνει όλους τους βασικούς παράγοντες. Εάν μια τέτοια παύση δεν μπορεί να θεσπιστεί γρήγορα, οι κυβερνήσεις θα πρέπει να παρέμβουν και να θεσπίσουν μορατόριουμ.
Τα εργαστήρια τεχνητής νοημοσύνης και οι ανεξάρτητοι εμπειρογνώμονες θα πρέπει να χρησιμοποιήσουν αυτή την ας την πούμε διακοπή προκειμένου να αναπτύξουν και να εφαρμόσουν από κοινού ένα σύνολο κοινών πρωτοκόλλων ασφαλείας για τον σχεδιασμό και την ανάπτυξη προηγμένης τεχνητής νοημοσύνης, τα οποία θα ελέγχονται αυστηρά και θα επιβλέπονται από ανεξάρτητους εξωτερικούς εμπειρογνώμονες. Αυτά τα πρωτόκολλα θα πρέπει να διασφαλίζουν ότι τα συστήματα που τα τηρούν είναι ασφαλή πέρα από κάθε λογική αμφιβολία. Αυτό δεν σημαίνει παύση της ανάπτυξης της ΤΝ γενικά, αλλά απλώς ένα βήμα πίσω από την επικίνδυνη κούρσα προς ολοένα και μεγαλύτερα απρόβλεπτα μοντέλα μαύρου κουτιού με αναδυόμενες ικανότητες.
Η έρευνα και η ανάπτυξη της τεχνητής νοημοσύνης θα πρέπει να επικεντρωθεί εκ νέου στο να γίνουν τα σημερινά ισχυρά, σύγχρονα συστήματα πιο ακριβή, ασφαλή, διαφανή, ισχυρά, ευθυγραμμισμένα, αξιόπιστα και πιστά.
Παράλληλα, οι προγραμματιστές ΤΝ πρέπει να συνεργαστούν με τους υπεύθυνους χάραξης πολιτικής για να επιταχύνουν την ανάπτυξη ισχυρών συστημάτων διακυβέρνησης ΤΝ. Αυτά θα πρέπει να περιλαμβάνουν τουλάχιστον: νέες και ικανές ρυθμιστικές αρχές αφιερωμένες στην τεχνητή νοημοσύνη, εποπτεία και παρακολούθηση των πολύ ικανών συστημάτων τεχνητής νοημοσύνης και των μεγάλων δεξαμενών υπολογιστικών δυνατοτήτων, συστήματα προέλευσης που θα βοηθούν στη διάκριση μεταξύ πραγματικών και συνθετικών μοντέλων και θα παρακολουθούν τις διαρροές μοντέλων, ένα ισχυρό οικοσύστημα ελέγχου και πιστοποίησης, ευθύνη για βλάβες που προκαλούνται από την τεχνητή νοημοσύνη, ισχυρή δημόσια χρηματοδότηση για την έρευνα τεχνικής ασφάλειας της τεχνητής νοημοσύνης και καλά εξοπλισμένα θεσμικά όργανα για την αντιμετώπιση των δραματικών οικονομικών και πολιτικών διαταραχών (ιδίως στη δημοκρατία) που θα προκαλέσει η τεχνητή νοημοσύνη.
Η ανθρωπότητα μπορεί να απολαύσει ένα ακμάζον μέλλον με την ΤΝ. Έχοντας καταφέρει να δημιουργήσουμε ισχυρά συστήματα ΤΝ, μπορούμε τώρα να απολαύσουμε ένα …”καλοκαίρι ΤΝ” κατά το οποίο θα αποκομίσουμε τους καρπούς, θα σχεδιάσουμε αυτά τα συστήματα προς όφελος όλων και θα δώσουμε στην κοινωνία την ευκαιρία να προσαρμοστεί. Η κοινωνία έχει επιβραδύνει άλλες τεχνολογίες με δυνητικά καταστροφικές συνέπειες για την κοινωνία
Ας απολαύσουμε ένα μακρύ καλοκαίρι τεχνητής νοημοσύνης, όχι να βιαστούμε και να φτάσουμε απροετοίμαστοι σε ένα φθινόπωρο.
TEXNHTH NOHMOΣΥΝΗ – ΒΡΕΤΑΝΙΑ
Η νέα επικεφαλής τεχνολογίας της βρετανικής κυβέρνησης του Ρίσι Σούνακ, Μισέλ Ντόνελαν, παρουσίασε την Τετάρτη το πολυαναμενόμενο σχέδιο της κυβέρνησης για τη ρύθμιση της τεχνητής νοημοσύνης, επιμένοντας ότι μια σκληρή προσέγγιση είναι εκτός ημερήσιας διάταξης.
Στο επίκεντρο του φιλικού προς την καινοτομία σχεδίου βρίσκεται ένα σχέδιο που θα δώσει στις υπάρχουσες ρυθμιστικές αρχές ένα χρόνο για να εκδώσουν “πρακτικές οδηγίες” για την ασφαλή χρήση της μηχανικής μάθησης στους τομείς τους, με βάση ευρείες αρχές όπως η ασφάλεια, η διαφάνεια, η δικαιοσύνη και η λογοδοσία. Ωστόσο, δεν σχεδιάζεται νέα νομοθεσία ή ρυθμιστικοί φορείς για την αναπτυσσόμενη τεχνολογία.
Λίγες ώρες πριν από τη δημοσίευση της βρετανικής λευκής βίβλου, στην άλλη πλευρά του Ατλαντικού κυκλοφόρησε μια ανοιχτή επιστολή που ζητούσε από τα εργαστήρια να διακόψουν αμέσως τις εργασίες εκπαίδευσης των συστημάτων τεχνητής νοημοσύνης ώστε να γίνουν ακόμη πιο ισχυρά για τουλάχιστον έξι μήνες. Την υπογράφουν ειδικοί σε θέματα τεχνητής νοημοσύνης και στελέχη της βιομηχανίας, μεταξύ των οποίων το αφεντικό της Tesla και του Twitter Elon Musk. Ερευνητές της DeepMind, που ανήκει στην Alphabet, και ο διάσημος Καναδός επιστήμονας υπολογιστών Yoshua Bengio ήταν επίσης υπογράφοντες.
