Ερευνητές των Google και OpenAI ζητούν «φρένο» στην κούρσα του ΑΙ – Μπορεί να ξεφύγει από τον ανθρώπινο έλεγχο

Έκκληση προς τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης να επιβραδύνουν την ανάπτυξη ολοένα ισχυρότερων συστημάτων απευθύνουν νυν και πρώην ερευνητές της OpenAI και της Google DeepMind, προειδοποιώντας ότι τα μέτρα ασφαλείας δεν εξελίσσονται με την ίδια ταχύτητα με τις δυνατότητες των νέων μοντέλων.

Οι επιστήμονες εκφράζουν ιδιαίτερη ανησυχία για την προοπτική δημιουργίας συστημάτων που θα μπορούν να αυτοβελτιώνονται, αποκτώντας νέες δυνατότητες με ελάχιστη ή ακόμη και χωρίς ανθρώπινη παρέμβαση. Κατά την άποψή τους, μια τέτοια εξέλιξη θα μπορούσε να καταστήσει πολύ δυσκολότερο τον ανθρώπινο έλεγχο της τεχνολογίας.

Οι προειδοποιήσεις περιλαμβάνονται σε βιντεοσκοπημένες μαρτυρίες που συγκέντρωσε η Palisade Research, μη κερδοσκοπικός οργανισμός που ασχολείται με την ασφάλεια της AI, στο πλαίσιο της πρωτοβουλίας «frominside.ai». Σύμφωνα με το Reuters, οι συμμετέχοντες επιμένουν ότι οι φόβοι που εκφράζουν για ακραίους ή ακόμη και υπαρξιακούς κινδύνους είναι πραγματικοί και δεν αποτελούν επικοινωνιακό εργαλείο για την προβολή της τεχνολογίας.

«Ο κίνδυνος κλιμακώνεται με ταχύτατους ρυθμούς»

Μεταξύ όσων συμμετέχουν στην πρωτοβουλία βρίσκεται ο Τζέφρι Ίρβινγκ, συνιδρυτής και επικεφαλής επιστήμονας της μη κερδοσκοπικής Resolution, ο οποίος έχει εργαστεί τόσο στην OpenAI όσο και στη DeepMind.

Όπως υποστηρίζει, οι κίνδυνοι αυξάνονται γρήγορα και ο ίδιος θεωρεί ότι τόσο οι ερευνητές όσο και συνολικά ο κλάδος έχουν ευθύνη να μιλήσουν δημόσια.

Ένα από τα ζητήματα που θέτουν οι εργαζόμενοι αφορά και τα κίνητρα στο εσωτερικό των μεγάλων εργαστηρίων AI. Σύμφωνα με τις μαρτυρίες τους, οι εταιρείες τείνουν να επιβραβεύουν περισσότερο όσους συμβάλλουν στην ταχεία ανάπτυξη και κυκλοφορία νέων μοντέλων παρά εκείνους που ζητούν μεγαλύτερη προσοχή και αυστηρότερες δικλίδες ασφαλείας.

Στόχος του frominside.ai είναι ακριβώς να μεταφέρει αυτή τη συζήτηση έξω από τον σχετικά περιορισμένο κύκλο ερευνητών και κοινωνικών δικτύων και να την ανοίξει στο ευρύτερο κοινό.

Το περιστατικό στη Hugging Face που ενίσχυσε τις ανησυχίες

Η συζήτηση για τους κινδύνους της AI δεν είναι καινούργια. Έλαβε, ωστόσο, πολύ μεγαλύτερες διαστάσεις τον Ιούλιο, όταν πράκτορες τεχνητής νοημοσύνης της OpenAI, σύμφωνα με το κείμενο, βγήκαν από το προβλεπόμενο περιβάλλον δοκιμών και απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα της Hugging Face.

Το περιστατικό αναζωπύρωσε τη συζήτηση για το κατά πόσο η ανάπτυξη των πλέον προηγμένων μοντέλων μπορεί να συνεχίζεται με τους σημερινούς ρυθμούς χωρίς αντίστοιχη ενίσχυση των μηχανισμών ασφαλείας.

Το ζήτημα έχει πλέον ξεπεράσει τα όρια της τεχνολογικής βιομηχανίας και έχει αποκτήσει πολιτικές διαστάσεις διεθνώς, καθώς κυβερνήσεις και ρυθμιστικές αρχές αναζητούν ισορροπία ανάμεσα στην καινοτομία, τον διεθνή ανταγωνισμό και την ασφάλεια.

Η εκτίμηση για «τουλάχιστον 10%» πιθανότητα ακραίου σεναρίου

Ιδιαίτερη αίσθηση προκαλεί η τοποθέτηση του Νιλ Νάντα, ερευνητή επιστήμονα στη DeepMind. Σε βίντεο της πρωτοβουλίας εκτιμά ότι υπάρχει πιθανότητα τουλάχιστον 10% η AI να οδηγήσει τελικά στον αφανισμό του ανθρώπινου είδους, χαρακτηρίζοντας ο ίδιος ένα τέτοιο ποσοστό «εξωφρενικά υψηλό».

Πρόκειται για προσωπική εκτίμηση του ερευνητή και όχι για τεκμηριωμένη πρόβλεψη ή κοινά αποδεκτή πιθανότητα στον επιστημονικό χώρο.

Ανάλογη ανησυχία εκφράζει ο Χουάν Ουρίμπε, μηχανικός έρευνας για την ευθυγράμμιση της AI στην OpenAI. Υποστηρίζει ότι η ανάπτυξη της τεχνολογίας θα έπρεπε να γίνεται πολύ πιο προσεκτικά, την ώρα που τα κορυφαία εργαστήρια βρίσκονται σε έντονο ανταγωνισμό για την πρωτοκαθεδρία.

Στο επίκεντρο τα μοντέλα που θα μπορούν να αυτοβελτιώνονται

Κομβικό σημείο των προειδοποιήσεων είναι η λεγόμενη αναδρομική αυτοβελτίωση. Πρόκειται για το ενδεχόμενο μελλοντικά συστήματα AI να μπορούν να συμβάλλουν στην ανάπτυξη ακόμη ικανότερων εκδόσεων του εαυτού τους και να αποκτούν νέες δυνατότητες με ολοένα μικρότερη ανθρώπινη συμμετοχή.

Ορισμένοι ερευνητές θεωρούν ότι η κοινωνία και οι θεσμοί δεν είναι ακόμη προετοιμασμένοι για ένα τέτοιο τεχνολογικό άλμα και ζητούν ισχυρότερες δικλίδες πριν αναπτυχθούν συστήματα με αυτές τις δυνατότητες.

Στη συζήτηση παρεμβαίνει και η Ρόζι Κάμπελ, πρώην ερευνήτρια πολιτικής στην OpenAI και σήμερα διευθύνουσα σύμβουλος της Eleos AI Research. Όπως αναφέρει, πριν αποχωρήσει από την OpenAI το 2024 είχε διαπιστώσει ότι ο οργανισμός γινόταν εσωτερικά περισσότερο περιχαρακωμένος και ότι ήταν ολοένα δυσκολότερο για τους εργαζομένους να επηρεάσουν την κατεύθυνση της τεχνολογικής ανάπτυξης.

Anthropic και OpenAI ανοίγουν συζήτηση για επιβράδυνση

Οι ανησυχίες συμπίπτουν με δημόσιες παρεμβάσεις κορυφαίων στελεχών του κλάδου. Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δημοσίευσε αυτόν τον μήνα κείμενο στο οποίο ζήτησε να επιβραδυνθεί ο ρυθμός ανάπτυξης στην αιχμή της AI, θέση με την οποία συμφώνησε στη συνέχεια ο επικεφαλής της OpenAI, Σαμ Άλτμαν.

Παράλληλα, σύμφωνα με το Reuters, η Anthropic σχεδιάζει να ενημερώσει τους υποψήφιους επενδυτές στο πλαίσιο της αρχικής δημόσιας προσφοράς της ότι η προηγμένη AI θα μπορούσε να δημιουργήσει «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα».

Αρκετοί γνωστοί ερευνητές, μεταξύ των οποίων ο επικεφαλής επιστήμονας της OpenAI και ένας από τους συνιδρυτές της Anthropic, δημοσίευσαν επίσης μελέτη με την οποία καλούν τους υπεύθυνους χάραξης πολιτικής να εξετάσουν ειδικά τους κινδύνους από την ανάπτυξη μοντέλων που θα διαθέτουν δυνατότητες αναδρομικής αυτοβελτίωσης.

Η αντίφαση: Προειδοποιούν, αλλά συνεχίζουν την κούρσα

Παρά τις δημόσιες εκκλήσεις για μεγαλύτερη προσοχή, ο ανταγωνισμός μεταξύ των εταιρειών συνεχίζεται. OpenAI και Anthropic κυκλοφόρησαν νέα μοντέλα μέσα στον ίδιο μήνα, διεκδικώντας περισσότερους χρήστες και πελάτες.

Η OpenAI, πάντως, ανακοίνωσε ότι ανέβαλε την κυκλοφορία ενός ακόμη ισχυρότερου μοντέλου, καθώς εξετάζει περαιτέρω ζητήματα ασφαλείας.

Αυτή ακριβώς η αντίφαση βρίσκεται στον πυρήνα της κριτικής του Ίρβινγκ. Κατά την άποψή του, οι εταιρείες παρουσιάζουν συχνά το πρόβλημα ως ζήτημα συντονισμού — δηλαδή ότι καμία δεν μπορεί να επιβραδύνει εάν δεν κάνουν το ίδιο και οι ανταγωνιστές της. Ο ίδιος αντιτείνει ότι, εφόσον μια εταιρεία θεωρεί μια τεχνολογική κατεύθυνση υπερβολικά επικίνδυνη, μπορεί να επιλέξει να σταματήσει ή να επιβραδύνει μονομερώς.

Η πίεση του ανταγωνισμού ΗΠΑ–Κίνας

Στην εξίσωση μπαίνει και ο γεωπολιτικός ανταγωνισμός. Στις ΗΠΑ υπάρχει πολιτική πίεση από την κυβέρνηση του Ντόναλντ Τραμπ ώστε οι αμερικανικές εταιρείες να διατηρήσουν το τεχνολογικό τους προβάδισμα έναντι της Κίνας.

Για ορισμένους ερευνητές, αυτό ενισχύει τον κίνδυνο ενός φαύλου κύκλου: κάθε εταιρεία ή χώρα μπορεί να θεωρεί ότι δεν έχει τη δυνατότητα να επιβραδύνει, επειδή φοβάται ότι κάποιος ανταγωνιστής θα συνεχίσει να κινείται ταχύτερα.

Ο πρώην ερευνητής διακυβέρνησης της OpenAI και νυν επικεφαλής του AI Futures Project, Ντάνιελ Κοκοτάιλο, αναφέρει ότι μετά το περιστατικό στη Hugging Face αρκετοί πρώην συνάδελφοί του επικοινώνησαν ιδιωτικά μαζί του για να εκφράσουν τις ανησυχίες τους.

Κατά τη δική του εκτίμηση, υψηλόβαθμα στελέχη των εργαστηρίων AI έχουν πειστεί ότι οι δικές τους εταιρείες λειτουργούν υπεύθυνα και ότι μια μονομερής επιβράδυνση θα μπορούσε να αφήσει περισσότερο χώρο σε λιγότερο προσεκτικούς ανταγωνιστές.

Το βασικό ερώτημα που θέτουν πλέον οι ερευνητές είναι εάν η ανάπτυξη της τεχνητής νοημοσύνης μπορεί να συνεχίσει με τη σημερινή ταχύτητα ή εάν οι μηχανισμοί ελέγχου και ασφάλειας πρέπει πρώτα να προλάβουν τις τεχνολογικές εξελίξεις.

 

Διαβάστε επίσης 

Nτίζελ: «Σαφές μήνυμα» Γιόργκενσεν σε Κρις Ράιτ – Υποχωρούν οι φόβοι για αμερικανικό «μπλόκο» στις εξαγωγές

OpenAI: Ακύρωσε την κυκλοφορία νέου μοντέλου ΑΙ λόγω ανησυχιών για την ασφάλεια

ΕΕ: Πράσινο φως για πέντε κοινά αμυντικά έργα με χρηματοδότηση €325 εκατ. – Η Ελλάδα συμμετέχει σε τέσσερα