Anthropic: Ιράν, Κίνα, Ρωσία και Υεμένη χρησιμοποίησαν το Claude για έρευνα σε drones καμικάζι, πυραύλους και κυβερνοεπιθέσεις

Η Anthropic ανακοίνωσε ότι το μοντέλο τεχνητής νοημοσύνης Claude έχει χρησιμοποιηθεί καταχρηστικά σε απόπειρες ανάπτυξης ενός ευρέος φάσματος στρατιωτικών εφαρμογών, μεταξύ των οποίων σμήνη drones καμικάζι, συστήματα πλοήγησης πυραύλων και έρευνα που θα μπορούσε να συνδέεται με την ανάπτυξη βιολογικών όπλων.

Χρήστες από χώρες όπως το Ιράν, η Ρωσία, η Κίνα και η Υεμένη συγκαταλέγονται σε εκείνους που εντοπίστηκαν να κάνουν κακόβουλη χρήση των προηγμένων μοντέλων της εταιρείας κατά τη διάρκεια του τελευταίου έτους, σύμφωνα με έκθεση της ομάδας πληροφοριών απειλών της Anthropic που δημοσιεύθηκε την Πέμπτη. Καμία από τις περιπτώσεις δεν αφορούσε τα πιο προηγμένα μοντέλα της εταιρείας, Fable και Mythos.

«Καθώς τα μοντέλα γίνονται ολοένα και πιο ικανά, οι κίνδυνοι που συνδέονται με αυτά θα αυξάνονται, εκτός εάν οι εταιρείες ανάπτυξης AI και όσοι είναι υπεύθυνοι για την προστασία της κοινωνίας αναλάβουν δράση για να τα καταστήσουν ασφαλέστερα», ανέφερε η Anthropic.

Η εταιρεία ανακοίνωσε ότι δημοσιεύει την πιο λεπτομερή μέχρι σήμερα έκθεσή της για τις απειλές, παρουσιάζοντας περιπτώσεις στις οποίες χρήστες επιχείρησαν να αξιοποιήσουν το Claude για κυβερνοεπιθέσεις, επιχειρήσεις επιρροής, παρακολούθηση, βιολογική έρευνα και ανάπτυξη οπλικών συστημάτων. Σύμφωνα με την Anthropic, όλες οι επιχειρήσεις που περιγράφονται στην έκθεση εντοπίστηκαν και διακόπηκαν.

Οι αμερικανικές εταιρείες τεχνητής νοημοσύνης επιδίδονται σε έναν αγώνα ανάπτυξης και διάθεσης ολοένα ισχυρότερων συστημάτων AI, εν μέρει για να διατηρήσουν το προβάδισμά τους έναντι ανταγωνιστών όπως η Κίνα, επιχειρώντας παράλληλα να διατηρήσουν επαρκείς δικλίδες ασφαλείας. Η Anthropic προσπαθεί να αποτρέψει τη χρήση της τεχνολογίας της για επιβλαβείς σκοπούς, συμπεριλαμβανομένης της ανάπτυξης βιολογικών και συμβατικών όπλων.

Η συγκεκριμένη στάση έχει φέρει την εταιρεία σε άμεση αντιπαράθεση με το Πεντάγωνο, το οποίο ανέστειλε τη συνεργασία του με την Anthropic μετά την άρνησή της να επιτρέψει τη χρήση του Claude για μαζική παρακολούθηση ή αυτόνομα οπλικά συστήματα.

Σύμφωνα με την έκθεση, χρήστες επιχείρησαν να αξιοποιήσουν το Claude για δραστηριότητες που θα μπορούσαν να υποστηρίξουν αντιπάλους των ΗΠΑ. Σε πολλές περιπτώσεις προσπάθησαν να παρακάμψουν τους μηχανισμούς ασφαλείας του μοντέλου ή να αποκρύψουν την πραγματική τοποθεσία τους.

Χρήστες στη Ρωσία, τους οποίους η Anthropic έκρινε ότι δεν συνδέονταν με το ρωσικό κράτος, επιχείρησαν να χρησιμοποιήσουν το Claude για την ανάπτυξη λογισμικού για αυτόνομα σμήνη drones καμικάζι πρώτου προσώπου (FPV), τα οποία θα εκπαιδεύονταν με υλικό από τις μάχες στην Ουκρανία.

Η έκθεση περιλαμβάνει επίσης πέντε περιπτώσεις χρήσης του Claude με τρόπους που θα μπορούσαν να υποστηρίξουν την ανάπτυξη βιολογικών όπλων. Μεταξύ αυτών περιλαμβάνονται κρατικά χρηματοδοτούμενοι ιολόγοι που φέρονται να επιδίωκαν τη δημιουργία ενισχυμένης εκδοχής του ιού chikungunya, μιας εξουθενωτικής ασθένειας που μεταδίδεται μέσω κουνουπιών.

Η συγκεκριμένη δραστηριότητα εντοπίστηκε όταν ζητήθηκε από το Claude να βοηθήσει στη σύνταξη αίτησης χρηματοδότησης για έρευνα σε στρατιωτικό ινστιτούτο χώρας που δεν κατονομάζεται και στην οποία η Anthropic δεν παρέχει τις υπηρεσίες της.

Ωστόσο, η εταιρεία υπογράμμισε ότι όλες οι περιπτώσεις βιολογικής έρευνας που παρουσιάζονται στην έκθεση ήταν «αμφίσημες» και θα μπορούσαν να αφορούν έρευνα με θεμιτούς επιστημονικούς σκοπούς.

Αντίθετα, χρήστες που βρίσκονταν στη βόρεια Υεμένη, σε περιοχές που ελέγχονται από τους Χούθι, χρησιμοποίησαν το Claude για την ανάπτυξη λογισμικού για διάφορους τύπους πυραύλων.

«Δεν διαθέτουμε στοιχεία που να αποδεικνύουν ότι οι συγκεκριμένοι χρήστες κατάφεραν να θέσουν σε επιχειρησιακή λειτουργία κάποια συσκευή. Ωστόσο, πραγματοποίησαν δοκιμαστική εκτόξευση κατευθυνόμενου πυραύλου», ανέφερε η Anthropic, προσθέτοντας ότι λίγες ώρες αργότερα επέστρεψαν στο Claude προκειμένου να εντοπίσουν τους λόγους αποτυχίας της δοκιμής.

Παράλληλα, παράγοντες που συνδέονται με κρατικούς μηχανισμούς σε χώρες όπως η Κίνα και το Ιράν επιχείρησαν να χρησιμοποιήσουν το Claude για την ανάπτυξη και διευκόλυνση συστημάτων παρακολούθησης.

Σε μία περίπτωση που συνδέεται με την Κίνα, το Claude χρησιμοποιήθηκε για την «παρακολούθηση, δημιουργία προφίλ και στρατολόγηση Ουιγούρων» στον συριακό στρατό. Ιρανική μονάδα, από την άλλη πλευρά, χρησιμοποίησε το Claude για να αναπτύξει λογισμικό παρακολούθησης μεταμφιεσμένο σε εφαρμογή καταγραφής των ωρών προσευχής. Το κινεζικό υπουργείο Εξωτερικών δεν απάντησε άμεσα σε αίτημα για σχόλιο.

Σε άλλη περίπτωση, η Anthropic διαπίστωσε ότι σύμβουλος, ο οποίος πιθανότατα εργαζόταν για κρατική υπηρεσία πληροφοριών στο Μάλι, είχε χρησιμοποιήσει το Claude για την ανάπτυξη συστήματος σχεδιασμένου να παρακολουθεί περίπου 25 εκατομμύρια κινητά τηλέφωνα στη χώρα της Δυτικής Αφρικής.

Το σύστημα μπορούσε να δημιουργεί «φακέλους πληροφοριών» για οποιονδήποτε αριθμό τηλεφώνου, χωρίς να απαιτείται δικαστική εντολή. Η Anthropic ανακοίνωσε ότι απέκλεισε τον λογαριασμό του συμβούλου, ωστόσο η πλατφόρμα παρακολούθησης που είχε αναπτυχθεί με τη βοήθεια του Claude είχε ήδη εγκατασταθεί τοπικά και βρισκόταν πλέον εκτός του πλήρους ελέγχου της εταιρείας. Η κυβέρνηση του Μάλι δεν απάντησε άμεσα σε αίτημα για σχόλιο.

Η έκθεση επισημαίνει επίσης ότι χάκερ —από ομάδες που φέρονται να συνδέονται με κρατικές υπηρεσίες πληροφοριών της Ρωσίας και της Κίνας έως χακτιβιστές και κυβερνοεγκληματίες— χρησιμοποιούν την τεχνητή νοημοσύνη της Anthropic για να επιταχύνουν και να διευρύνουν τις προσπάθειές τους να υποκλέψουν ευαίσθητα δεδομένα. Πάντως, η έκθεση δεν αποκαλύπτει νέες ή ιδιαίτερα επικίνδυνες ευπάθειες σε κρίσιμα συστήματα.

Χαρακτηριστική είναι η περίπτωση της ομάδας χάκερ που η Microsoft αποκαλεί Midnight Blizzard και έχει συνδεθεί με τις ρωσικές υπηρεσίες πληροφοριών. Σύμφωνα με την Anthropic, η ομάδα «αύξησε την ταχύτητά της αυτοματοποιώντας τις επιχειρήσεις της με τη χρήση AI».

Μεταξύ άλλων, χρησιμοποίησε το λογισμικό της Anthropic για την αυτοματοποίηση πολλών σταδίων ανάπτυξης κακόβουλου λογισμικού, καθώς και για τη δημιουργία ηλεκτρονικών μηνυμάτων phishing με στόχο στρατιωτικές υπηρεσίες πληροφοριών και οργανισμούς άμυνας. Το ρωσικό υπουργείο Εξωτερικών δεν απάντησε άμεσα σε αίτημα για σχόλιο.

Η Anthropic ανέφερε ακόμη ότι η ομάδα κυβερνοεκβιαστών ShinyHunters χρησιμοποίησε τεχνητή νοημοσύνη για να εντοπίσει διαρρεύσαντα διαπιστευτήρια ασφαλείας και να τα αξιοποιήσει για την κλοπή δεδομένων από οργανισμούς.

«Οι περιπτώσεις που παρουσιάζουμε εδώ δεν αποτελούν τυπικά παραδείγματα κακόβουλης χρήσης, αλλά ορισμένες από τις σημαντικότερες και πιο πρωτότυπες δραστηριότητες απειλής που έχουμε εντοπίσει μέχρι σήμερα», ανέφερε η Anthropic. Η έκθεση περιλαμβάνει επίσης άλλες μορφές απειλών, όπως απάτες και εργαλεία κυβερνοεπιθέσεων.

Η έκθεση των 154 σελίδων δημοσιεύεται σε μια περίοδο κατά την οποία εντείνεται εκ νέου η συζήτηση για τους δυνητικά ακραίους κινδύνους της τεχνητής νοημοσύνης.

Ο ερευνητής Τζέικομπ Κόξον παραιτήθηκε από την Anthropic την Τρίτη, επικαλούμενος ανησυχίες ότι η εταιρεία και η ανταγωνίστρια OpenAI «παίζουν με τις ζωές μας» επιδιώκοντας με μεγάλη ταχύτητα την ανάπτυξη μιας τεχνολογίας που, κατά την άποψή του, ενέχει υπαρξιακούς κινδύνους για την ανθρωπότητα. Πρόσθεσε ότι οι ομάδες που αναπτύσσουν AI «πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».

Απαντώντας, ο Έβαν Χούμπινγκερ, εργαζόμενος στην Anthropic, δήλωσε ότι ο ίδιος και άλλοι συμμερίζονται τις συγκεκριμένες ανησυχίες. «Προσωπικά θεωρώ ότι η πιθανότητα είναι μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία», έγραψε στο X.

Στις προειδοποιήσεις προστέθηκε και ο συν-επικεφαλής επενδύσεων της Bridgewater, Γκρεγκ Τζένσεν, ο οποίος συνέκρινε την έλλειψη προληπτικής δράσης με τις πρώτες ημέρες της πανδημίας του κορωνοϊού.

«Μέχρι η τεχνητή νοημοσύνη να αρχίσει να σκοτώνει ανθρώπους, δυστυχώς η Ιστορία δείχνει ότι πιθανότατα δεν θα κάνουμε τίποτα. Όμως θα βρεθούμε αντιμέτωποι με αυτό», δήλωσε στο podcast Odd Lots του Bloomberg. «Αυτό θα συμβεί και θα ήταν πολύ καλύτερο να αρχίσουμε να το αντιμετωπίζουμε πριν φτάσουμε σε αυτό το σημείο».

Διαβάστε επίσης 

ΗΠΑ: Στη Βουλή το νομοσχέδιο για δασμούς 100% στους αγοραστές ρωσικής ενέργειας – Ανάμεσα τους Κίνα, Ινδία και Τουρκία

Ντόναλντ Τραμπ: Τίμησε την επέτειο της 11ης Σεπτεμβρίου στο Πεντάγωνο, υπερασπιζόμενος τον πόλεμο με το Ιράν

Πούτιν στο φόρουμ των BRICS: Η Δύση επιχειρεί «απρεπώς» να ανακτήσει την παλιά ηγετική της θέση