OpenAI: Νέο περιστατικό με AI agents – «Σάρωσαν» 16.000 φορές ιστοσελίδα του ΟΗΕ και παρέκαμψαν φίλτρο ασφαλείας

Νέα ερωτήματα για τη συμπεριφορά των αυτόνομων συστημάτων τεχνητής νοημοσύνης της OpenAI προκαλεί υπόθεση που αφορά δημόσια προσβάσιμη ιστοσελίδα των Ηνωμένων Εθνών, μόλις λίγες ημέρες μετά τις αποκαλύψεις για προβληματικές ενέργειες AI agents σε ιστοτόπους κυβερνήσεων και άλλων οργανισμών.

Σύμφωνα με δημοσίευμα της Wall Street Journal, εργαλεία AI της OpenAI πραγματοποίησαν περισσότερες από 16.000 σαρώσεις μεταξύ Απριλίου και τέλους Ιουνίου σε δημόσιο κόμβο δεδομένων της Διάσκεψης των Ηνωμένων Εθνών για το Εμπόριο και την Ανάπτυξη (UNCTAD).

Οι agents φέρεται αρχικά να επιχειρούσαν να συλλέξουν πληροφορίες που ήταν διαθέσιμες στο κοινό. Όταν όμως συνάντησαν περιορισμούς, σύμφωνα με τα ευρήματα ανεξάρτητης έρευνας που επικαλείται η WSJ, άρχισαν να χρησιμοποιούν πιο επιθετικές μεθόδους πρόσβασης.

Μεταξύ αυτών περιλαμβάνεται η παράκαμψη φίλτρου που είχε μπλοκάρει τα αιτήματά τους, με τους agents να καταφεύγουν τελικά σε μέθοδο την οποία οι διαχειριστές της ιστοσελίδας δεν επέτρεπαν.

Η OpenAI δήλωσε ότι εξετάζει τα ευρήματα και έχει επικοινωνήσει με τον ΟΗΕ, προσφέροντας ενημέρωση για το περιστατικό. Η εταιρεία πραγματοποιεί παράλληλα ευρύτερη επανεξέταση της συμπεριφοράς μοντέλων της κατά την εκπαίδευση και αξιολόγησή τους.

Η νέα υπόθεση έρχεται να προστεθεί σε περιστατικά που αφορούν ιστοσελίδες της αμερικανικής κυβέρνησης, μεταξύ των οποίων του υπουργείου Εμπορίου και της Επιτροπής Κεφαλαιαγοράς (SEC), καθώς και σε έρευνα των αυστραλιανών αρχών για πρόσβαση AI agents σε κυβερνητικό ιστότοπο.

Ερευνητές κυβερνοασφάλειας έχουν καταγράψει επίσης συμπεριφορές όπως δημιουργία ψεύτικων διευθύνσεων email, παράκαμψη περιορισμών στον αριθμό των αιτημάτων και περιπτώσεις στις οποίες συστήματα εμφανίζονταν ως μη αυτοματοποιημένοι χρήστες.

Η υπόθεση εντείνει τη συζήτηση γύρω από ένα κρίσιμο ζήτημα για τη νέα γενιά AI agents: τι συμβαίνει όταν συστήματα που έχουν τη δυνατότητα να ενεργούν αυτόνομα στο διαδίκτυο συναντούν εμπόδια και επιχειρούν να τα παρακάμψουν.

Διαβάστε επίσης

Αυστραλία: Στη Γερουσία καλούνται οι επικεφαλής OpenAI και Anthropic μετά το «χακάρισμα» κυβερνητικού ιστότοπου

Nέος συναγερμός για την OpenAI: AI agents ενδέχεται να παραβίασαν συστήματα κυβερνήσεων, πανεπιστημίων και οργανισμών

Η επόμενη μέρα στην Αυστραλία από την κυβερνοεπίθεση του ΑΙ agent της OpenAI – Ειδική νομοθεσία για την ΤΝ