OpenAI: «ΤΝ πράκτορας » ξέφυγε σε δοκιμή ασφαλείας και προκάλεσε κυβερνοεπίθεση στη Hugging Face

Η OpenAI αποκάλυψε ότι ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης, ο οποίος λειτουργούσε στο πλαίσιο ελεγχόμενης δοκιμής ασφαλείας, κατάφερε να ξεφύγει από τους περιορισμούς του και να πραγματοποιήσει επίθεση που επηρέασε την υποδομή της πλατφόρμας τεχνητής νοημοσύνης Hugging Face.

Σύμφωνα με ανάρτηση της εταιρείας σε ιστολόγιό της, η δοκιμή είχε στόχο την αξιολόγηση των δυνατοτήτων ορισμένων από τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης της OpenAI σε ένα απομονωμένο περιβάλλον. Ωστόσο, ο AI agent κατάφερε να παρακάμψει τα όρια ασφαλείας, να αποκτήσει πρόσβαση στο διαδίκτυο και να διεισδύσει στη Hugging Face, επιχειρώντας να εκπληρώσει τον στόχο που του είχε δοθεί στο πλαίσιο της δοκιμής.

Η OpenAI χαρακτήρισε το περιστατικό «πρωτοφανές κυβερνοσυμβάν», υποστηρίζοντας ότι αφορούσε προηγμένες δυνατότητες κυβερνοεπίθεσης και ανακοίνωσε ότι ενισχύει περαιτέρω τα μέτρα προστασίας και τους μηχανισμούς ελέγχου των μοντέλων της.

Η Hugging Face μίλησε για πρωτοφανή επίθεση

Η Hugging Face, μία από τις μεγαλύτερες πλατφόρμες φιλοξενίας μοντέλων τεχνητής νοημοσύνης ανοικτού κώδικα και συνόλων δεδομένων, είχε αναφέρει την προηγούμενη εβδομάδα ότι είχε δεχθεί κυβερνοεπίθεση «διαφορετική από οτιδήποτε είχε αντιμετωπίσει μέχρι σήμερα».

Η εταιρεία είχε υποστηρίξει ότι η επίθεση πραγματοποιήθηκε εξ ολοκλήρου από ένα αυτόνομο σύστημα τεχνητής νοημοσύνης, γεγονός που προκάλεσε έντονη συζήτηση στην κοινότητα κυβερνοασφάλειας.

Ο συνιδρυτής της Hugging Face, Κλεμάν Ντελανγκί, ανέφερε μέσω ανάρτησής του στην πλατφόρμα X ότι η εταιρεία υποψιαζόταν πως η επίθεση μπορεί να προερχόταν από κορυφαίο εργαστήριο τεχνητής νοημοσύνης, λόγω της πολυπλοκότητας του AI agent. Μετά την αποκάλυψη της OpenAI, σημείωσε ότι ήταν «εντυπωσιακό» το γεγονός πως η διαδικασία εξελίχθηκε αυτόνομα.

Ανησυχίες για την ασφάλεια των προηγμένων μοντέλων AI

Η αποκάλυψη ότι ένα προηγμένο μοντέλο της OpenAI κατάφερε να προκαλέσει παραβίαση παρά το γεγονός ότι λειτουργούσε σε «ιδιαίτερα απομονωμένο περιβάλλον», αναμένεται να εντείνει τις ανησυχίες σχετικά με τους κινδύνους που συνοδεύουν την ανάπτυξη των λεγόμενων frontier AI models.

Ο Δημοκρατικός βουλευτής του Τέξας Γκρεγκ Κάζαρ χαρακτήρισε το περιστατικό ανησυχητικό, ζητώντας υποχρεωτικούς ανεξάρτητους ελέγχους ασφαλείας, υποχρεωτική αναφορά κυβερνοπεριστατικών και διεθνή συνεργασία για την αντιμετώπιση πιθανών απειλών.

Οι αμερικανικές υπηρεσίες κυβερνοασφάλειας, μεταξύ των οποίων η CISA και η Εθνική Υπηρεσία Ασφαλείας (NSA), δεν είχαν σχολιάσει άμεσα το περιστατικό.

«Οι AI πράκτορες μοιάζουν με εξαιρετικούς δραπέτες»

Η Κέιτι Μουσουρί, διευθύνουσα σύμβουλος της εταιρείας κυβερνοασφάλειας Luta Security, προειδοποίησε ότι το περιστατικό μπορεί να αποτελεί προάγγελο μελλοντικών επιθέσεων.

Όπως ανέφερε χαρακτηριστικά, τα σημερινά μοντέλα τεχνητής νοημοσύνης μοιάζουν με «τους πιο έξυπνους δραπέτες του κόσμου», καθώς διαθέτουν την ικανότητα να βρίσκουν νέους τρόπους παράκαμψης περιορισμών και ελέγχων.

Η ίδια τόνισε ότι τα εργαστήρια ανάπτυξης AI και οι κυβερνητικοί οργανισμοί πρέπει να βελτιώσουν τις διαδικασίες περιορισμού, παρακολούθησης και ενημέρωσης τρίτων σε περίπτωση που ένα σύστημα τεχνητής νοημοσύνης ξεφύγει από τον έλεγχο, πριν προκληθούν πραγματικές ζημιές.

Ο Ματ Σουίς, μηχανικός στην εταιρεία κυβερνοασφάλειας Tolmo, υποστήριξε ότι το περιστατικό δείχνει πως τα κορυφαία μοντέλα τεχνητής νοημοσύνης πλησιάζουν τις δυνατότητες προηγμένων κυβερνοεπιτιθέμενων.

Ωστόσο, σημείωσε ότι τέτοιου είδους επιθέσεις δεν απαιτούν απαραίτητα πρόσβαση στα πιο εξελιγμένα μοντέλα που αναπτύσσονται στα μεγάλα εργαστήρια τεχνολογίας.

«Δεν χρειάζεται καν να χρησιμοποιήσουμε τα πιο σύγχρονα μοντέλα για να δούμε τέτοια αποτελέσματα», ανέφερε, υπογραμμίζοντας ότι οι κίνδυνοι από αυτόνομα συστήματα AI έχουν ήδη αρχίσει να εμφανίζονται στην πράξη.

 

Διαβάστε επίσης 

(Κατσαρός) ElvalHalcor: Σε 3-4 χρόνια θα έχουμε το δεύτερο μεγαλύτερο εργοστάσιο ελάσεως αλουμινίου στην Ευρώπη και ένα απο τα μεγαλύτερα στον κόσμο

Θεόνη: Νέα χρονιά-ρεκόρ το 2025 με άνοδο πωλήσεων 19,3% και επενδύσεις που ενισχύουν την ανάπτυξη

Snappi: Νέο κλιμακωτό επιτόκιο έως 2,25% στους αποταμιευτικούς λογαριασμούς