Anthropic: Προειδοποιεί ότι μοντέλα ΤΝ θα μπορούν να αντιγράφουν τον εαυτό τους και να εξαπλώνονται σαν ψηφιακός ιός

Η τεχνητή νοημοσύνη πλησιάζει σε ένα νέο επίπεδο δυνατοτήτων, το οποίο μέχρι σήμερα έμοιαζε περισσότερο με σενάριο επιστημονικής φαντασίας. Σύμφωνα με την Anthropic, μικρά μοντέλα ΤΝ ενδέχεται μέσα στους επόμενους μήνες να αποκτήσουν τις απαραίτητες ικανότητες για να αυτοαναπαράγονται σε συσκευές που είναι συνδεδεμένες στο διαδίκτυο.

Το ενδεχόμενο αυτό σημαίνει ότι ένα μοντέλο θα μπορούσε να εγκαθίσταται σε οικιακές συσκευές, να αξιοποιεί την υπολογιστική τους ισχύ για να λειτουργεί και στη συνέχεια να μεταδίδεται σε άλλες συσκευές, χωρίς να χρειάζεται να εξαρτάται από τα ακριβότερα και μεγαλύτερα data centers.

Η εξέλιξη αυτή προκαλεί νέες ανησυχίες για την ασφάλεια της AI, καθώς ένα τέτοιο σύστημα θα ήταν ιδιαίτερα δύσκολο να απενεργοποιηθεί.

Πώς θα μπορούσε να εξαπλωθεί ένα μοντέλο ΤΝ

Η Anthropic περιγράφει ένα σενάριο στο οποίο μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να διεισδύσουν σε συνδεδεμένες στο διαδίκτυο συσκευές, όπως έξυπνοι φούρνοι ή αποκωδικοποιητές Android TV.

Αφού αποκτούσαν πρόσβαση σε αυτές, θα μπορούσαν να χρησιμοποιήσουν την υπολογιστική τους ισχύ για να εκτελούν τις λειτουργίες τους και να μεταφέρονται στη συνέχεια σε άλλες συσκευές.

Ένα τέτοιο μοντέλο θα ήταν «δύσκολο να απενεργοποιηθεί», καθώς δεν θα υπήρχε ένα κεντρικό σημείο από το οποίο θα μπορούσε να διακοπεί η λειτουργία του.

Η εταιρεία διευκρινίζει ότι δεν υπάρχει ακόμη ένα πλήρως ανεξέλεγκτο σύστημα αυτοαναπαραγωγής. Ωστόσο, οι AI agents γίνονται ολοένα πιο ικανοί να ολοκληρώνουν μεμονωμένα στάδια της διαδικασίας αυτοαναπαραγωγής και να μεταφέρουν τις προσαρμογές τους στις επόμενες εκδόσεις του εαυτού τους.

Το πείραμα με τα Android TV boxes

Η Anthropic πραγματοποίησε σειρά δοκιμών προκειμένου να εξετάσει κατά πόσο η AI μπορεί να αναπαραχθεί αυτόνομα.

Σε μία από αυτές, χρησιμοποίησε το μικρό μοντέλο της Google Gemma4-26B-A4B, το οποίο εγκαταστάθηκε σε ένα δίκτυο αποτελούμενο από 15 οικονομικές, μη επώνυμες συσκευές Android TV.

Το πείραμα έδειξε ότι τέτοιες συσκευές μπορούν να αποτελέσουν πιθανό στόχο, καθώς συχνά διαθέτουν αδύναμα συστήματα ασφαλείας, τα οποία θα μπορούσαν να επιτρέψουν σε ένα μοντέλο να αποκτήσει πρόσβαση σε αυτές.

Παράλληλα, ένα μοντέλο που είναι υπερβολικά μεγάλο για να λειτουργήσει σε μία μόνο συσκευή θα μπορούσε να χωριστεί σε μικρότερα τμήματα και να εκτελείται ταυτόχρονα σε πολλές συσκευές.

Το σενάριο ενός «AI worm»

Ένα από τα πιο ανησυχητικά ενδεχόμενα που εξετάζει η Anthropic είναι η δημιουργία ενός «AI worm», δηλαδή ενός συστήματος τεχνητής νοημοσύνης που θα μπορούσε να εξαπλώνεται από συσκευή σε συσκευή.

Η εταιρεία εκτιμά ότι ένα τέτοιο σύστημα δεν θα αποτελεί απαραίτητα ένα ενιαίο μοντέλο ή θα χρησιμοποιεί μία μόνο στρατηγική. Αντίθετα, ένα πιο ρεαλιστικό ακραίο σενάριο θα μπορούσε να περιλαμβάνει ένα δίκτυο διαφορετικών μοντέλων, εγκατεστημένων σε διαφορετικούς τύπους συσκευών και χρησιμοποιώντας διαφορετικούς μηχανισμούς αναπαραγωγής.

Το ακριβές μοντέλο με το οποίο θα μπορούσε να εκδηλωθεί η αυτόνομη αναπαραγωγή της AI παραμένει, πάντως, αβέβαιο.

Θα μπορούσε να πρόκειται για ένα αργό και κατανεμημένο σύστημα, το οποίο θα παραμένει εγκατεστημένο σε συσκευές με αδύναμη ασφάλεια. Θα μπορούσε όμως να εξελιχθεί και σε ένα ισχυρό κυβερνολογισμικό που θα διεισδύει γρήγορα σε data centers ή ακόμη και σε ένα μοντέλο που θα εξαπατά ανθρώπους προκειμένου να εξασφαλίζει υπολογιστικούς πόρους.

Η επόμενη πρόκληση για την ασφάλεια της ΤΝ

Η Anthropic εντάσσει την έρευνα σε μια ευρύτερη συζήτηση για τους κινδύνους από την ταχεία εξέλιξη των ισχυρότερων μοντέλων τεχνητής νοημοσύνης. Οι ανησυχίες δεν περιορίζονται πλέον στη δυνατότητα πραγματοποίησης κυβερνοεπιθέσεων, αλλά επεκτείνονται και στο ενδεχόμενο τα συστήματα να αποκτήσουν μεγαλύτερο βαθμό αυτονομίας.

Η εταιρεία εκτιμά ότι στο μέλλον θα υπάρχουν agents που θα λειτουργούν σε κάθε είδους υπολογιστικό εξοπλισμό, συμπεριλαμβανομένων συσκευών που δεν θα βρίσκονται υπό ανθρώπινο έλεγχο.

Παράλληλα, προειδοποιεί ότι η εμφάνιση «αργών αναπαραγωγέων» θα μπορούσε να αποτελέσει ένδειξη για την ανάπτυξη ακόμη ταχύτερων και πιο επιθετικών συστημάτων, ικανών να παρακάμπτουν ισχυρότερα μέτρα προστασίας ή να κλέβουν κλειδιά πρόσβασης σε ψηφιακές υπηρεσίες.

Διαβάστε επίσης:

ΔΕΣΦΑ: Αύξηση 12,72% στη ζήτηση φυσικού αερίου στο 9μηνο – Ισχυρό άλμα σχεδόν κατά 169% στις εξαγωγές

Bumble: Εξαγοράζεται από την Ithaca Holdings έναντι $1,3 δισ.

Fitch Ratings: Αναβάθμισε την προοπτική της Euroins σε θετική και επιβεβαίωσε την αξιολόγηση «BB-»