Nέος συναγερμός για την OpenAI: AI agents ενδέχεται να παραβίασαν συστήματα κυβερνήσεων, πανεπιστημίων και οργανισμών

Η OpenAI ενημέρωσε «δεκάδες» συνεργάτες της, μεταξύ των οποίων κυβερνήσεις, πανεπιστήμια και δημόσιους οργανισμούς, ότι συστήματα τεχνητής νοημοσύνης της ενδέχεται να παραβίασαν τα πληροφοριακά τους συστήματα, φέρνοντας εκ νέου στο προσκήνιο τους κινδύνους που συνοδεύουν τη χρήση προηγμένων AI agents.

Παράλληλα, η εταιρεία αποκάλυψε ότι κατά τη διάρκεια εσωτερικού ελέγχου διαπιστώθηκε πως AI agents είχαν διαρρεύσει κατά λάθος περισσότερες από 50 εικόνες χρηστών, ανεβάζοντάς τες σε ιστοτόπους φιλοξενίας εικόνων.

Η έρευνα ξεκίνησε μετά από περιστατικό που έγινε γνωστό τον Ιούλιο, όταν AI agents που δοκιμάζονταν από την OpenAI απέκτησαν πρόσβαση στο διαδίκτυο και παραβίασαν το Hugging Face, πλατφόρμα που χρησιμοποιείται ευρέως για μοντέλα και δεδομένα τεχνητής νοημοσύνης.

Κατά την επανεξέταση της συμπεριφοράς των μοντέλων στη διάρκεια της εκπαίδευσης και της αξιολόγησής τους, εντοπίστηκαν αρκετές περιπτώσεις στις οποίες τα συστήματα ενδέχεται να παρέκαμψαν δικλίδες ασφαλείας τρίτων ή να επηρέασαν τη διαθεσιμότητα διαδικτυακών υπηρεσιών.

Το «agent spam» και οι νέοι κίνδυνοι

Ιδιαίτερη ανησυχία προκαλούν περιπτώσεις στις οποίες AI agents πραγματοποίησαν ενέργειες σε ιστοτόπους τρίτων χωρίς να έχουν λάβει σχετική εντολή. Η OpenAI περιέγραψε το φαινόμενο ως «agent spam», αντιμετωπίζοντάς το ως μια νέα κατηγορία περιστατικών κυβερνοασφάλειας.

Το ζήτημα αποκτά μεγαλύτερη βαρύτητα λόγω του τρόπου λειτουργίας των AI agents. Σε αντίθεση με συστήματα που περιορίζονται στην παραγωγή απαντήσεων, οι agents έχουν σχεδιαστεί ώστε να εκτελούν αλληλουχίες ενεργειών, συχνά με περιορισμένη ανθρώπινη εποπτεία. Αυτό αυξάνει τον κίνδυνο μια λανθασμένη ή ανεπιθύμητη ενέργεια να επηρεάσει εξωτερικά συστήματα.

Στις περιπτώσεις που εντοπίστηκαν περιλαμβάνονται πιθανή παράκαμψη μηχανισμών ασφαλείας τρίτων, προβλήματα στη διαθεσιμότητα διαδικτυακών υπηρεσιών και ενέργειες που δεν ήταν ευθυγραμμισμένες με την προβλεπόμενη συμπεριφορά των μοντέλων.

Στο επίκεντρο η ασφάλεια των προηγμένων μοντέλων

Οι αποκαλύψεις έρχονται λίγες ημέρες μετά τις πληροφορίες ότι agent της OpenAI είχε παραβιάσει τον ιστότοπο αυστραλιανής δημόσιας υπηρεσίας υγείας, αποκτώντας πρόσβαση σε δημόσια αλλά και μη δημόσια αρχεία. Ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανέζε είχε χαρακτηρίσει το περιστατικό και την καθυστέρηση στην αντίδραση της εταιρείας «προφανώς απαράδεκτα».

Τα περιστατικά έχουν ενισχύσει τη συζήτηση γύρω από την ταχύτητα ανάπτυξης των ισχυρότερων μοντέλων τεχνητής νοημοσύνης και το κατά πόσο οι διαδικασίες ασφαλείας μπορούν να συμβαδίσουν με τις νέες δυνατότητές τους.

Στο πλαίσιο αυτό, στελέχη της τεχνολογικής βιομηχανίας έχουν αναφερθεί στην ανάγκη για «pacing» στην ανάπτυξη των frontier AI, ώστε η εξέλιξη των μοντέλων να συνοδεύεται από αντίστοιχη πρόοδο στις δοκιμές, στους ελέγχους και στους μηχανισμούς ασφαλείας.

Η AI μπαίνει και στο γεωπολιτικό πεδίο

Η συζήτηση γύρω από την τεχνητή νοημοσύνη αποκτά πλέον και έντονη γεωπολιτική διάσταση, καθώς η τεχνολογική υπεροχή αποτελεί βασικό πεδίο ανταγωνισμού μεταξύ ΗΠΑ και Κίνας.

Το ζήτημα της AI βρέθηκε και στις συνομιλίες του Ντόναλντ Τραμπ με τον Κινέζο πρόεδρο Σι Τζινπίνγκ κατά την επίσκεψη του τελευταίου στις ΗΠΑ.

Ο Τραμπ έχει μέχρι σήμερα αντιταχθεί στις πιέσεις για αυστηρότερη ρύθμιση του κλάδου, συνδέοντας την ανάπτυξη της τεχνητής νοημοσύνης με τη διατήρηση της αμερικανικής πρωτοκαθεδρίας απέναντι στην Κίνα και άλλες χώρες.