Jensen Huang (Nvidia): Ανάγκη για αυστηρότερα τεστ ασφάλειας για την Τεχνητή Νοημοσύνη

Οι κορυφαίοι παράγοντες της βιομηχανίας τεχνητής νοημοσύνης συγκεντρώθηκαν στη Σκωτία, όπου ο βασιλιάς της Βρετανίας τούς κάλεσε να διατηρήσουν τον έλεγχο πάνω στις δημιουργίες τους.

Ο βασιλιάς Κάρολος Γ΄ συγκάλεσε ηγέτες της τεχνολογίας και άλλες προσωπικότητες με επιρροή σε μια σύνοδο αφιερωμένη στους αυξανόμενους κινδύνους της τεχνητής νοημοσύνης, ένα ζήτημα που βρίσκεται αυτή την εβδομάδα στο επίκεντρο του παγκόσμιου ενδιαφέροντος. Αν και τα στελέχη που συμμετείχαν δεν δεσμεύτηκαν δημόσια για συγκεκριμένες αλλαγές, ορισμένοι αναφέρθηκαν άμεσα στις ανησυχίες για την ασφάλεια.

«Όσοι από εμάς κατασκευάζουμε συστήματα τεχνητής νοημοσύνης πρέπει να τα υποβάλλουμε σε αυστηρές δοκιμές», δήλωσε ο διευθύνων σύμβουλος της Nvidia, Jensen Huang, σε σύντομη τοποθέτησή του στην εκδήλωση την Πέμπτη. «Όταν ένα προϊόν δεν είναι αρκετά ασφαλές, θα πρέπει να καθυστερούμε τη διάθεσή του».

Στη Σκωτία βρέθηκαν επίσης η οικονομική διευθύντρια της OpenAI, Sarah Friar, και ο συνιδρυτής της Google DeepMind, Demis Hassabis. Στο φόρουμ για την AI στο Dumfries House συμμετείχε ακόμη ο επικεφαλής δημοσίων υποθέσεων της Anthropic, Tino Cuéllar, μαζί με στελέχη άλλων τεχνολογικών εταιρειών, μη κερδοσκοπικών οργανισμών και εκπαιδευτικών ιδρυμάτων, μεταξύ των οποίων και το Πανεπιστήμιο Tsinghua του Πεκίνου.

«Εκείνοι στον κόσμο μας που εκτιμούν την ανθρωπιά και τη ζωτικής σημασίας ηθική της διάσταση αναζητούν με αγωνία τη διαβεβαίωσή σας ότι δεν θα χάσουμε τον έλεγχο της μοίρας μας», ανέφερε ο βασιλιάς στην εναρκτήρια ομιλία του.

Η συνάντηση σχεδιάστηκε προκειμένου να εξεταστεί πώς η τεχνολογία μπορεί να «αξιοποιηθεί με τρόπους που θα ωφελήσουν την κοινωνία και τον φυσικό κόσμο», ανέφερε σε ανακοίνωσή του το Παλάτι του Μπάκιγχαμ.

Η χρονική συγκυρία της συνόδου είναι ιδιαίτερα κρίσιμη. Ο CEO της Anthropic, Dario Amodei, προκάλεσε παγκόσμια συζήτηση για τους αυξανόμενους κινδύνους της AI, με άρθρο του το Σαββατοκύριακο στο οποίο ζήτησε επιβράδυνση της ανάπτυξης των πλέον προηγμένων μοντέλων τεχνητής νοημοσύνης.

Ο CEO της OpenAI, Sam Altman, συμφώνησε με τα συμπεράσματα του άρθρου, ενώ ο Hassabis το χαρακτήρισε «τον σωστό δρόμο προς τα εμπρός». Αντίθετα, ο Huang της Nvidia διαφώνησε τόσο με την επιβράδυνση όσο και με την επιβολή πρόσθετων ρυθμίσεων.

Την τελευταία εβδομάδα, δύο ερευνητές AI αποχώρησαν από την Google DeepMind και την Anthropic, υποστηρίζοντας ότι η τεχνολογία θα μπορούσε να αποδειχθεί θανατηφόρα.

Οι ανησυχίες αυτές έχουν προκαλέσει νευρικότητα σε πολιτικούς και πολίτες διεθνώς. Ο πρωθυπουργός του Ηνωμένου Βασιλείου Andy Burnham βρίσκεται υπό πίεση από βουλευτές του κυβερνώντος Εργατικού Κόμματος να δώσει σαφέστερες απαντήσεις σχετικά με την πολιτική της χώρας για την AI.

Κινέζοι αξιωματούχοι τις τελευταίες ημέρες έχουν απορρίψει την «κινδυνολογία» του Amodei, αλλά ταυτόχρονα έχουν προειδοποιήσει για τους κινδύνους της τεχνητής νοημοσύνης. Παράλληλα, ο πρόεδρος των ΗΠΑ Donald Trump έχει ταχθεί κατά οποιασδήποτε επιβράδυνσης, ενώ νομοθέτες και από τα δύο κόμματα έχουν προτείνει μέτρα για την ασφάλεια της AI, την ώρα που οι ανησυχίες των ψηφοφόρων για την τεχνολογία αυξάνονται.

«Το τελευταίο διάστημα έχει γίνει, θα έλεγα, μια ιδιαίτερα έντονη συζήτηση γύρω από τον καταστροφικό κίνδυνο αυτής της τεχνολογίας», δήλωσε ο Hassabis στη σύνοδο.

Ο Βρετανός επιστήμονας, ο οποίος πρόσφατα αποχώρησε από τον ρόλο του επικεφαλής των δραστηριοτήτων AI της Google, ανέφερε ότι έχει δύο βασικές ανησυχίες σχετικά με τα ισχυρά συστήματα τεχνητής νοημοσύνης: τα αυτόνομα συστήματα που μπορεί να λειτουργήσουν με ανεπιθύμητο τρόπο και τους «κακόβουλους παράγοντες» που θα μπορούσαν να τα χρησιμοποιήσουν για επιβλαβείς σκοπούς.

Εξέφρασε πάντως την πεποίθηση ότι ο κλάδος μπορεί να αντιμετωπίσει αυτές τις προκλήσεις. «Πιστεύω πολύ στην ανθρώπινη ευρηματικότητα», σημείωσε.

Ο Huang, η εταιρεία του οποίου είναι ο μεγαλύτερος κατασκευαστής επεξεργαστών για εφαρμογές τεχνητής νοημοσύνης, παρουσίασε στη διάρκεια της εκδήλωσης ιδιαίτερα αισιόδοξες προβλέψεις για την ανάπτυξη της Nvidia.

Ο CEO δήλωσε σε δημοσιογράφους ότι αναμένει να πουλήσει διπλάσια chips το επόμενο έτος, δηλώσεις που συνέβαλαν σε άνοδο σχεδόν 3% της μετοχής της Nvidia.

Στη σύνοδο, ο βασιλιάς Κάρολος έθεσε δύο βασικά ερωτήματα:

«Πρώτον, πώς μπορούμε να αξιοποιήσουμε τα οφέλη της AI, έχοντας την ασφάλεια στον πυρήνα της. Και δεύτερον, πώς μπορούμε να οικοδομήσουμε διεθνή συνεργασία και συναίνεση για να το πετύχουμε αυτό, ώστε καμία χώρα να μη μείνει πίσω και να προστατευτεί το μέλλον της ανθρωπότητας;»

Κατά τη διάρκεια της συνόδου, ο βασιλιάς Κάρολος είχε ιδιωτική συνάντηση με τους Huang, Hassabis, Cuéllar και Friar, καθώς και με άλλους πέντε προσκεκλημένους, σύμφωνα με το πρόγραμμα της εκδήλωσης.

Μεταξύ αυτών ήταν ο καθολικός θεολόγος Paolo Benanti και ο Βρετανός επιστήμονας πληροφορικής Stuart Russell, ο οποίος έχει ασκήσει κριτική στις τεχνολογικές εταιρείες. Συμμετείχαν επίσης ο Βρετανός υπουργός για την AI Kanishka Narayan, η γραμματέας του Υπουργικού Συμβουλίου Antonia Romeo και ο James Arroyo, διευθυντής του Ditchley Foundation, που συνέβαλε στη διοργάνωση της εκδήλωσης.

Ο Βρετανός μονάρχης έχει μιλήσει και στο παρελθόν δημόσια για την τεχνητή νοημοσύνη. Στην πρώτη Σύνοδο για την Ασφάλεια της AI που πραγματοποιήθηκε στο Ηνωμένο Βασίλειο το 2023 είχε προειδοποιήσει ότι οι κίνδυνοι της τεχνολογίας πρέπει να αντιμετωπιστούν επειγόντως.

Ο Κάρολος έχει επίσης αναφερθεί επανειλημμένα στις ανησυχίες του για την κλιματική αλλαγή. Οι εκπομπές ρύπων των μεγαλύτερων τεχνολογικών εταιρειών έχουν αυξηθεί απότομα, καθώς στρέφονται σε ενεργοβόρα data centers, ορισμένα από τα οποία βασίζονται σε ορυκτά καύσιμα. Ωστόσο, ο μονάρχης δεν αναφέρθηκε στο θέμα αυτό στην προετοιμασμένη ομιλία του.

Την Τετάρτη, το κοινοβούλιο της Σκωτίας ψήφισε υπέρ της αυστηροποίησης των κανόνων για την κατασκευή νέων data centers, προετοιμάζοντας το έδαφος για αντιπαράθεση με την κυβέρνηση του Ηνωμένου Βασιλείου, αφού ο Burnham απέρριψε την ιδέα επιβολής μορατόριουμ στις νέες κατασκευές.

Οι Σκωτσέζοι νομοθέτες αποφάσισαν ότι οι νέες αιτήσεις για data centers θα πρέπει να υποβάλλονται σε αξιολόγηση για τις περιβαλλοντικές τους επιπτώσεις. Η συζήτηση στη Βρετανία αντανακλά αντίστοιχες ανησυχίες σε ολόκληρο τον κόσμο για τις επιπτώσεις των data centers, στα οποία φιλοξενούνται και εκπαιδεύονται τα συστήματα AI, τόσο στο περιβάλλον όσο και στο ενεργειακό κόστος.

Διαβάστε επίσης

Ο βασιλιάς Κάρολος προειδοποιεί τα στελέχη της AI για τους “υπαρξιακούς κινδύνους” της Τεχνητής Νοημοσύνης

Mark Zuckerberg (Meta): Μην φρενάρετε την AI – Βάλτε ανεξάρτητους ελεγκτές

Η OpenAI συνεργάζεται με την Anthropic και την Google για ζητήματα ασφάλειας γύρω από την Τεχνητή Νοημοσύνη