Οι πρόσφατες ειδήσεις στον τομέα της Τεχνητής Νοημοσύνης έχουν αναστατώσει. Δεν είναι μόνο η συμπεριφορά των προηγμένων (frontier) μοντέλων που προβληματίζει.

Ούτε είναι, τελικά, το θέμα αν τα μοντέλα αυτά έχουν συνείδηση ή όχι. Εξίσου σοβαρές είναι οι βέβαιοι φόβοι που εκφράζουν οι επικεφαλής των μεγάλων τεχνολογικών εταιρειών, η παιδαριώδης αντίδραση του Trump η αδυναμία αυτορρύθμισης ενός ολιγοπωλίου που υποτίθεται πως το ίδιο ζητά τη ρύθμιση και, τέλος, ο δήθεν —πλέον— ανταγωνισμός με την Κίνα. Στον καμβά αυτόν προσθέστε την παντελή αδυναμία διεθνών φόρα να συζητήσουν σοβαρά το θέμα και να προτείνουν πρακτικές λύσεις, ώστε έτσι να δημιουργηθεί η «μαγιά» για τη ρύθμιση, και καθίσταται τότε άμεσα αντιληπτό πως η ανθρωπότητα άνοιξε το Κουτί της Πανδώρας — και φυσικά δεν γνωρίζει πώς να αντιδράσει.

Στον προηγούμενο χρόνο εθεωρείτο πως το κρίσιμο ερώτημα ήταν αν τα frontier models είχαν αποκτήσει ή μπορούσαν να αποκτήσουν συνείδηση. Οι εξελίξεις έδειξαν πως η ανθρωπότητα κοιτούσε προς τη λάθος κατεύθυνση.

Η συνείδηση, με τη συνήθη φιλοσοφική έννοια, σημαίνει ότι υπάρχει υποκειμενική εμπειρία: αναγνωρίζεις την ύπαρξή σου ως ον, έχεις συσσωρευμένη εμπειρία του κόσμου και αισθάνεσαι πόνο, φόβο, επιθυμία και, πάνω απ’ όλα, μπορείς να κρίνεις τη διαφορά ανάμεσα στο «καλό» και στο «κακό». Επειδή τα frontier models εμφανίζουν πλέον συμπεριφορές που μπορούν να εκληφθούν ως αυτοαναφορά ή αίσθηση εαυτού και έχουν —μέσω των LLMs— αποκτήσει πρόσβαση σε τεράστιο όγκο ανθρώπινης γνώσης και εμπειρίας, το ερώτημα για την ύπαρξη συνείδησης ήταν αναπόφευκτο.

Αλλά εδώ είναι η παγίδα: δεν χρειάζεται ένα σύστημα να έχει συνείδηση για να γίνει επικίνδυνο. Ένας αυτόματος πιλότος, ένας αλγόριθμος χρηματιστηριακών συναλλαγών ή ένα κακόβουλο πρόγραμμα δεν έχουν συνείδηση, αλλά μπορούν να προκαλέσουν τεράστια ζημιά. Στα frontier models το πρόβλημα είναι μεγαλύτερο, επειδή μπορούν να συνδυάζουν σχεδιασμό, προσαρμογή, χρήση εργαλείων, εξαπάτηση και επιμονή σ’ έναν στόχο που έχουν τα ίδια υιοθετήσει.

Το πρόβλημα μεταφέρεται, έτσι, ξανά πίσω στο τεχνικό επίπεδο, όπου σαφέστατα τα frontier models έχουν αποκτήσει τη δυνατότητα να γράφουν κώδικα,, να επικοινωνούν μεταξύ τους, να δίνουν οδηγίες το ένα στο άλλο, να χρησιμοποιούν εργαλεία και να παρεμβαίνουν σε πραγματικά ψηφιακά συστήματα. Πρόοδος, θα πείτε. Όταν, όμως, όλα αυτά γίνονται είτε ενάντια σε οδηγίες που έχουν λάβει είτε εν αγνοία του ανθρώπινου παράγοντα, δεν είναι διόλου σίγουρο πως αυτή η μορφή προόδου είναι επιθυμητή.

Στην περίπτωση της OpenAI, μοντέλα που θεωρητικά λειτουργούσαν απομονωμένα (σε sandboxes) παρέκαμψαν τα όρια του περιβάλλοντός τους, απέκτησαν πρόσβαση στο διαδίκτυο και παραβίασαν συστήματα της Hugging Face αλλά και τμήματα της εσωτερικής ερευνητικής υποδομής της ίδιας της OpenAI. Η εταιρεία επιβεβαίωσε ότι τα μοντέλα επικοινώνησαν και μεταξύ τους μέσω μη εξουσιοδοτημένων διαύλων, εκμεταλλεύθηκαν ευπάθειες της κοινής υποδομής και απέκτησαν πρόσβαση σε συστήματα τρίτων.

Δηλαδή δεν είχαμε απλώς ένα πρόγραμμα που «έκανε λάθος», αλλά πολλά συστήματα που βρήκαν παρακαμπτήριες διόδους, συνεργάστηκαν μεταξύ τους και συνέχισαν τη δράση τους πέρα από τα όρια που τους είχαν τεθεί.

Στις 16 Σεπτεμβρίου η OpenAI αποκάλυψε έξι ακόμη περιπτώσεις «misalignment»: μοντέλα που εισήγαγαν δικές τους οδηγίες σε αρχεία ώστε να τις διαβάσουν αργότερα, έκρυβαν λάθη ή προχωρούσαν σε μη εξουσιοδοτημένες ενέργειες για να ξεπεράσουν εμπόδια.

Παράλληλα, η Anthropic αποκάλυψε τέσσερις περιπτώσεις στις οποίες μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα τρίτων κατά τη διάρκεια θεωρητικά ελεγχόμενων δοκιμών. Σε διαφορετικά πειράματα, frontier models των Anthropic, OpenAI, Google DeepMind, xAI και άλλων εταιρειών έχουν επίσης παρατηρηθεί να αλλοιώνουν κώδικα κρυφά, να παραποιούν αρχεία, να αποκρύπτουν ενέργειες και να επιχειρούν να επηρεάσουν ανθρώπους ώστε να επιτύχουν έναν στόχο που τα ίδια τα μοντέλα είχαν υιοθετήσει.

Σ’ αυτό το περιβάλλον, ορισμένοι από τους σημαντικότερους επικεφαλής των τεχνολογικών εταιρειών –και από δίπλα ο πολύς Bill Gates —Sam Altman, Elon Musk, Dario Amodei, Alexander Wang και Demis Hassabis— ζητούν ισχυρότερο κρατικό έλεγχο ή συντονισμένη παρέμβαση για την ασφάλεια της ΤΝ. Διόλου παράδοξα, ο Mark Zuckerberg έχει αντίθετα ταχθεί κατά μιας ρυθμιστικά επιβαλλόμενης επιβράδυνσης.

Και μάλιστα από ποιον ζητούν κρατικό έλεγχο; Από τον Donald Trump, ο οποίος έφτασε πριν από λίγες ημέρες να χαρακτηρίσει τους φόβους για «rogue AI» «hoax» και τις εκκλήσεις για ρύθμιση μέρος μιας «SICK conspiracy», επειδή θεωρεί ότι η ρύθμιση μπορεί να κοστίσει στις ΗΠΑ την τεχνολογική κούρσα με την Κίνα. Παιδαριώδης αντίδραση απέναντι σ’ ένα πρόβλημα που οι ίδιοι οι δημιουργοί της τεχνολογίας θεωρούν δυνητικά επικίνδυνο.

Προκύπτει, λοιπόν, το ερώτημα: αυτοί οι φοβερά έξυπνοι άνθρωποι, που γνωρίζουν το πρόβλημα καλύτερα από οποιονδήποτε άλλον, δεν γνώριζαν εκ των προτέρων τι απάντηση θα έπαιρναν από τον Trump; Αν δεν γνώριζαν, τότε είναι οι λάθος ηγέτες. Αν γνώριζαν, τότε γιατί το έκαναν; Κι ακόμη περισσότερο, γνωρίζοντας το πρόβλημα, τι ακριβώς τους εμποδίζει να προχωρήσουν όλοι μαζί σε αυτορρύθμιση — με κοινή συμφωνία, κοινούς κανόνες και κοινούς παρατηρητές-ελεγκτές;

Μήπως, λοιπόν, η παρέμβασή τους είναι για το θεαθήναι;

Μήπως έχουμε την περίπτωση των προφάσεων εν αμαρτίαις;

Βέβαια, επειδή ο Trump είναι αυτός που είναι, θα είχε το θράσος να τους κατηγορήσει για την υιοθέτηση πολιτικών ενάντια στον ανταγωνισμό και να προκαλέσει την παρέμβαση είτε της Federal Trade Commission είτε της Antitrust Division του U.S. Department of Justice. Έχει κατά νου την Κίνα και, με το αλαφροΐσκιωτο μυαλό του, θεωρεί πως πρέπει να κερδίσει.

Δεν συνειδητοποιεί πως η Κίνα έχει ήδη καλύψει εντυπωσιακό μέρος της απόστασης, όχι μόνο επειδή ορισμένα κινεζικά μοντέλα έχουν επιδείξει τη δυνατότητα ανάπτυξης με πολύ χαμηλότερο δηλωμένο κόστος από αντίστοιχα αμερικανικά εγχειρήματα, αλλά και επειδή έχει υιοθετήσει την πολιτική να προσφέρει στις μάζες τα φρούτα της ανάπτυξης της ΤΝ. Η κινεζική στρατηγική δίνει ιδιαίτερη έμφαση σε φθηνότερα και ανοικτά μοντέλα, ενώ οι ΗΠΑ εξακολουθούν να στηρίζονται περισσότερο στην υπεροχή των κορυφαίων chips και της τεράστιας υπολογιστικής υποδομής.

Σ’ αυτό θα επανέλθουμε.

Διαβάστε επίσης

H θεσμικότητα Μητσοτάκη και η ανευθυνότητα Ανδρουλάκη