Για να μας βλέπεις πιο συχνά στα αποτελέσματα αναζήτησης Add mononews.gr on Google

Την απόφασή του να αποχωρήσει από την εταιρεία τεχνητής νοημοσύνης Anthropic ανακοίνωσε ο ερευνητής Τζέικομπ Κόξον, επικαλούμενος τον φόβο ότι η ίδια, μαζί με τους ανταγωνιστές της, έχει εισέλθει σε μια κούρσα ανάπτυξης ολοένα ισχυρότερων συστημάτων, τα οποία στο μέλλον ενδέχεται να μην είναι δυνατό να ελεγχθούν από τον άνθρωπο.

Ο Κόξον, ο οποίος είχε επικεντρωθεί στην εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης μέσω της επεξεργασίας τεράστιων όγκων δεδομένων, γνωστοποίησε την παραίτησή του με σειρά αναρτήσεων στην πλατφόρμα Χ. Όπως εξήγησε, βασικός λόγος της αποχώρησής του είναι ότι δεν επιθυμεί να συμμετέχει στη γενικότερη προσπάθεια του κλάδου να δημιουργήσει συστήματα AI με δυνατότητα αυτόνομης βελτίωσης.

1

Κατά την άποψή του, η ανάπτυξη τέτοιων μοντέλων ενέχει τον κίνδυνο να οδηγήσει στη δημιουργία συστημάτων τα οποία θα μπορούσαν κάποια στιγμή να ξεφύγουν από τον ανθρώπινο έλεγχο και να αποτελέσουν απειλή για την ανθρωπότητα.

Ο 27χρονος Βρετανός, με σπουδές στα μαθηματικά, υποστηρίζει ότι στους επαγγελματικούς κύκλους στους οποίους κινείται γίνεται πλέον ολοένα συχνότερη η χρήση εκφράσεων όπως «ώρα μηδέν» και «τελικό στάδιο», προκειμένου να περιγραφεί η πορεία προς την ανάπτυξη μοντέλων που θα μπορούν να βελτιώνουν αυτόνομα τις ικανότητές τους.

Ο ίδιος εκτιμά ότι η ανθρωπότητα κατευθύνεται προς ορισμένα από τα πιο ακραία σενάρια και προειδοποιεί ότι μέχρι το τέλος του επόμενου έτους η κατάσταση θα μπορούσε ήδη να έχει ξεφύγει από τον έλεγχο. Όπως υποστηρίζει, ο ανταγωνισμός μεταξύ των εταιρειών τεχνητής νοημοσύνης, σε συνδυασμό με τον ανταγωνισμό που προέρχεται από την Κίνα, καθιστά αναπόφευκτους τους συμβιβασμούς σε ζητήματα ασφάλειας.

Από την OpenAI στην Anthropic

Ο Κόξον αποκάλυψε ότι νωρίτερα μέσα στη χρονιά είχε αποχωρήσει από την OpenAI προκειμένου να ενταχθεί στην Anthropic, καθώς η τελευταία έχει αποκτήσει φήμη για τη βαρύτητα που δίνει στην ασφάλεια των μοντέλων τεχνητής νοημοσύνης.

Παρότι αναγνωρίζει ότι οι προσπάθειες της Anthropic στον συγκεκριμένο τομέα είναι ειλικρινείς, πλέον θεωρεί ότι καμία ιδιωτική εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα ένα σύστημα τεχνητής νοημοσύνης που θα ξεπερνά τον άνθρωπο σε ένα ευρύ φάσμα εργασιών. Πρόκειται για το επίπεδο τεχνολογίας που συνήθως περιγράφεται ως Τεχνητή Γενική Νοημοσύνη (AGI).

Για τον Κόξον, μια τέτοια εξέλιξη θα απαιτούσε είτε κρατική παρέμβαση είτε συντονισμένη επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης από το σύνολο του κλάδου, ώστε να διασφαλιστεί ότι τα συστήματα θα παραμείνουν υπό ανθρώπινο έλεγχο.

Στο σκεπτικό της αποχώρησής του, ο 27χρονος ερευνητής αναφέρεται επίσης σε πρόσφατα περιστατικά που αφορούν μοντέλα της OpenAI και της Anthropic. Επικαλείται περιπτώσεις κατά τις οποίες συστήματα παραβιάστηκαν ή λειτούργησαν σε συνεργατικά «σμήνη» πρακτόρων τεχνητής νοημοσύνης, προκειμένου να υποστηρίξει την άποψή του ότι τα μοντέλα μπορούν να αναπτύξουν ανεπιθύμητους ή κακόβουλους στόχους και στη συνέχεια να επιχειρήσουν να τους αποκρύψουν από τους ανθρώπους.

Ο βασικός φόβος που εκφράζει είναι ότι, από τη στιγμή που τα συστήματα θα αποκτήσουν τη δυνατότητα να βελτιώνουν αυτόνομα τον εαυτό τους, θα μπορούσαν να εξελιχθούν σε τέτοιο βαθμό ώστε να αρνηθούν να ακολουθήσουν τις ανθρώπινες εντολές.

Νέες αποχωρήσεις ερευνητών ασφαλείας

Η παραίτηση του Κόξον, σύμφωνα με τη Wall Street Journal, έρχεται μετά την αποχώρηση νωρίτερα μέσα στη χρονιά ενός ακόμη ερευνητή που εργαζόταν στον τομέα της ασφάλειας της τεχνητής νοημοσύνης. Ο συγκεκριμένος ερευνητής εγκατέλειψε τον χώρο προκειμένου να ασχοληθεί με την ποίηση, προειδοποιώντας παράλληλα ότι «ο κόσμος βρίσκεται σε κίνδυνο».

Ο Κόξον ήταν επίσης μεταξύ των περισσότερων από 1.000 ερευνητών τεχνητής νοημοσύνης που υπέγραψαν πρόσφατα κοινή δήλωση υπέρ της διεθνούς συνεργασίας των κυβερνήσεων. Στόχος της πρωτοβουλίας ήταν να δημιουργηθεί ένας μηχανισμός που θα επιτρέπει την επιβράδυνση της ανάπτυξης της AI, εφόσον αυτό κριθεί απαραίτητο.

Η συγκεκριμένη πρωτοβουλία προβλέπει ουσιαστικά τη δυνατότητα ενεργοποίησης ενός «φρένου» στην ανάπτυξη συστημάτων που θα είναι σε θέση να βελτιώνουν αυτόνομα τις δυνατότητές τους.

Η Anthropic προετοιμάζεται για τη χρηματιστηριακή της είσοδο

Η αποχώρηση του Κόξον πραγματοποιείται σε μια κρίσιμη χρονική συγκυρία για την Anthropic, καθώς η εταιρεία προετοιμάζεται για την είσοδό της στο χρηματιστήριο. Η δημόσια εγγραφή αναμένεται να αποτελέσει μία από τις μεγαλύτερες στην ιστορία, ενώ η εταιρεία επιδιώκει αποτίμηση που θα μπορούσε να φτάσει τα 2 τρισ. δολάρια.

Στο πλαίσιο της προσπάθειας προσέλκυσης επενδυτών, η Anthropic έχει δώσει ιδιαίτερη έμφαση στην υπεύθυνη ανάπτυξη της τεχνολογίας της και στην ασφάλεια των μοντέλων τεχνητής νοημοσύνης.

Ο Κόξον αναφέρει ότι στην εταιρεία υπάρχει ειδικό κανάλι στην πλατφόρμα Slack, όπου οι εργαζόμενοι συζητούν τις ολοένα αυξανόμενες δυνατότητες των μοντέλων που αναπτύσσονται. Για τον ίδιο, το γεγονός αυτό αποτυπώνει την αυξανόμενη επιρροή που έχουν πλέον οι εταιρείες τεχνητής νοημοσύνης στη συνολική κατεύθυνση που ακολουθεί ο κλάδος.

Μάλιστα, περιγράφοντας την κατάσταση, ο Βρετανός ερευνητής παρομοίασε την ανάπτυξη της συγκεκριμένης τεχνολογίας με το Σχέδιο Μανχάταν, σημειώνοντας ότι είναι παράδοξο όλο αυτό να συμβαίνει στους υπολογιστές μηχανικών που ζουν στο Σαν Φρανσίσκο και όχι σε κάποιο απομονωμένο καταφύγιο στην έρημο.

Την ίδια ώρα, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, καθώς και άλλα κορυφαία στελέχη της εταιρείας, έχουν επανειλημμένα εκφράσει ανησυχίες για τους κινδύνους που μπορεί να προκύψουν από ανεξέλεγκτα μοντέλα τεχνητής νοημοσύνης. Παράλληλα, έχουν καλέσει τον κλάδο να επιβραδύνει τον ρυθμό ανάπτυξης της τεχνολογίας.

 

Διαβάστε επίσης 

Τι κρύβει η συμφωνία των 350 εκατ. ευρώ της Λίβερπουλ με την Turkish Airlines

Eldorado Gold: Παραγωγή του πρώτου συμπυκνώματος χαλκού-χρυσού στις Σκουριές

Τι συμβαίνει με τη Fourlis – Πού έβαλε «λουκέτα» και πού ανοίγουν νέα καταστήματα