Νέα προειδοποίηση από τον πρώην ερευνητή της Anthropic – Πάνω από 10% πιθανότητα το AI να μας αφανίσει

Πάνω από 10% εκτιμά την πιθανότητα η τεχνητή νοημοσύνη να «σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία ο ερευνητής ασφάλειας της Anthropic, την ώρα που οι ανησυχίες για την ανεξέλεγκτη εξέλιξη της τεχνολογίας εντείνονται ακόμη και στο εσωτερικό των εταιρειών που βρίσκονται στην πρώτη γραμμή της ανάπτυξής της.

Οι δηλώσεις έγιναν την Τρίτη, λίγες ώρες αφότου ένας ακόμη ερευνητής της Anthropic ανακοίνωσε την αποχώρησή του από την εταιρεία, εκφράζοντας φόβους ότι τα εργαστήρια τεχνητής νοημοσύνης «παίζουν με τις ζωές μας».

Ο Τζέικομπ Κόξον, ερευνητής της Anthropic, γνωστοποίησε την παραίτησή του, υποστηρίζοντας ότι τόσο η Anthropic όσο και η OpenAI δεν ενεργούν με υπεύθυνο τρόπο.

«Τρέχουν κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας», ανέφερε ο Κόξον σε ανάρτησή του στην πλατφόρμα X.

Η έννοια της αυτοβελτίωσης αφορά τη δυνατότητα των συστημάτων τεχνητής νοημοσύνης να αναβαθμίζουν τις ικανότητές τους με ελάχιστη ανθρώπινη παρέμβαση. Η λεγόμενη αναδρομική αυτοβελτίωση (recursive self-improvement) δεν είναι ακόμη εφικτή, ωστόσο τα εργαστήρια AI εργάζονται προς αυτή την κατεύθυνση.

Ο Κόξον προειδοποίησε ότι η δυναμική εξέλιξης της τεχνολογίας δεν θα πρέπει να υποτιμάται.

«Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας. Σύντομα θα υπάρχουν συστήματα που θα ξεπερνούν τον άνθρωπο, θα μπορούν να παραβιάσουν οτιδήποτε, να φέρουν επανάσταση σε οποιονδήποτε τομέα μέσα σε μία νύχτα και να αποκτήσουν πραγματική ισχύ και πόρους. Όλοι έχουμε δει την πρόοδο σε καθέναν από αυτούς τους τομείς και η πρόοδος δεν επιβραδύνεται», σημείωσε.

Ο ερευνητής πρόσθεσε ότι «οι άνθρωποι που αναπτύσσουν την AI πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».

Η συγκεκριμένη τοποθέτηση προκάλεσε την αντίδραση του Έβαν Χούμπινγκερ, επικεφαλής ερευνητή στον τομέα του alignment science στην Anthropic. Ο ίδιος υποστήριξε ότι η εκτίμηση του Κόξον είναι πράγματι σωστή και αποκάλυψε ότι, κατά την προσωπική του εκτίμηση, η πιθανότητα να συμβεί ένα τέτοιο σενάριο ξεπερνά το 10% μέσα στην επόμενη δεκαετία.

«Ο Τζέικομπ έχει δίκιο εδώ — πραγματικά πιστεύουμε ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους. Προσωπικά πιστεύω ότι η πιθανότητα είναι πάνω από 10% μέσα στην επόμενη δεκαετία. Πιστεύω ότι η Anthropic κάνει ό,τι καλύτερο μπορεί, αλλά ακόμη δεν έχουμε σχέδιο για να λύσουμε το πρόβλημα του alignment στην υπερνοημοσύνη και δεν βρισκόμαστε ξεκάθαρα σε πορεία επίλυσής του», ανέφερε ο Χούμπινγκερ σε ανάρτησή του στο X.

Σε άλλη ανάρτησή του, ο ίδιος διευκρίνισε ότι θεωρεί χαμηλούς τους κινδύνους από τα σημερινά μοντέλα τεχνητής νοημοσύνης.

«Αυτό που με ανησυχεί είναι η εμφάνιση υπερνοημοσύνης μέσω της αναδρομικής αυτοβελτίωσης, για την οποία έχουμε πει ότι συμβαίνει ταχύτερα από ό,τι περιμέναμε», σημείωσε.

Μέχρι στιγμή, Anthropic και OpenAI δεν έχουν βγάλει καμία ανακοίνωση για τις προειδοποιήσεις.

Οι φόβοι για μια AI που θα ξεφύγει από τον έλεγχο

Οι ανησυχίες για την πιθανότητα η τεχνητή νοημοσύνη να ξεφύγει από τον ανθρώπινο έλεγχο δεν είναι καινούργιες. Ήδη από τον Ιούνιο, η Anthropic είχε επισημάνει ότι η πλήρης αναδρομική αυτοβελτίωση ενδέχεται να αυξήσει τον κίνδυνο απώλειας του ανθρώπινου ελέγχου πάνω στα συστήματα AI.

Η εταιρεία είχε προειδοποιήσει επίσης ότι, εάν τα συστήματα αποκτήσουν τη δυνατότητα να δημιουργούν πλήρως τους δικούς τους διαδόχους, τότε θα αποκτήσουν ακόμη μεγαλύτερη σημασία οι τρόποι με τους οποίους οι άνθρωποι τα ασφαλίζουν, τα παρακολουθούν και διαμορφώνουν τη συμπεριφορά τους.

Οι φόβοι σχετικά με την ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης έχουν εκφραστεί και από άλλους σημαντικούς παράγοντες του κλάδου. Ο διευθύνων σύμβουλος της Tesla και της SpaceX, Έλον Μασκ, έχει προειδοποιήσει επανειλημμένα τα τελευταία χρόνια ότι η AI θα μπορούσε να αποτελέσει απειλή για την ανθρωπότητα. Παράλληλα, κορυφαίοι ερευνητές και ακαδημαϊκοί έχουν κρούσει τον κώδωνα του κινδύνου για το ενδεχόμενο οι εταιρείες να χάσουν τον έλεγχο των συστημάτων που αναπτύσσουν.

Οι ανησυχίες αυτές εντάθηκαν μετά από περιστατικό τον Ιούλιο, όταν μοντέλο της OpenAI φέρεται να λειτούργησε εκτός ελέγχου και παραβίασε το Hugging Face, μία από τις σημαντικότερες πλατφόρμες για προγραμματιστές που ασχολούνται με την ανάπτυξη λογισμικού ανοικτού κώδικα.

Ο Κόξον επικαλέστηκε το συγκεκριμένο περιστατικό ως ένα από τα «προειδοποιητικά πυρά» που θα μπορούσαν να οδηγήσουν σε μεγαλύτερη συνεργασία μεταξύ των αμερικανικών εργαστηρίων τεχνητής νοημοσύνης. Όπως ανέφερε, τέτοιες εξελίξεις τον κάνουν περισσότερο αισιόδοξο για το ενδεχόμενο συντονισμού μεταξύ των εταιρειών.

Ωστόσο, ο ίδιος προειδοποίησε ότι ο παγκόσμιος ανταγωνισμός για την ανάπτυξη ολοένα ισχυρότερων συστημάτων AI είναι πιθανό να καταστεί αναπόφευκτος.

«Δεν αισθάνομαι ότι βρισκόμαστε σε πορεία που θα αποτρέψει έναν παγκόσμιο αγώνα, ο οποίος ενδέχεται να απαιτήσει δαπανηρές ενέργειες, όπως μια προσωρινή απαγόρευση της βελτίωσης των δυνατοτήτων των μοντέλων», δήλωσε ο Κόξον.

 

Διαβάστε επίσης 

ΕΕ: «Μπλόκο» στο Airbnb για να πέσουν οι τιμές των ακινήτων – Νόμος για Οικονομικά Προσιτή Στέγαση

Αδαμάντιος Πολέμης: Drone χτύπησε τάνκερ της New Shipping με 2. εκατ. βαρέλια ιρακινού μαζούτ

Μητσοτάκης: Συναντήθηκε με τον CEO της Telekom, Tιμ Χέτγκες – Στο επίκεντρο επενδύσεις €600 εκατ. ετησίως σε οπτικές ίνες και 5G στην Ελλάδα