Mark Zuckerberg (Meta): Μην φρενάρετε την AI – Βάλτε ανεξάρτητους ελεγκτές

Ο διευθύνων σύμβουλος της Meta Platforms Inc., Mark Zuckerberg, δήλωσε ότι τα εργαστήρια τεχνητής νοημοσύνης θα πρέπει να βασίζονται σε ανεξάρτητους αξιολογητές και συμβούλους, ώστε να διασφαλίζουν ότι τα μοντέλα τους είναι ασφαλή.

«Η συνεργασία με ανεξάρτητους αξιολογητές και συμβούλους αποτελεί βέλτιστη πρακτική του κλάδου», έγραψε ο Zuckerberg την Τρίτη σε ανάρτησή του στο X, συμμετέχοντας σε ένα ολοένα και μεγαλύτερο κύμα τοποθετήσεων στελεχών της τεχνολογίας σχετικά με την παγκόσμια συζήτηση για τον καλύτερο τρόπο πρόληψης της πρόκλησης βλάβης στην ανθρωπότητα από τα συστήματα AI.

Ορισμένα στελέχη εταιρειών έχουν εκφράσει την υποστήριξή τους στην επιβράδυνση του ρυθμού ανάπτυξης της AI και έχουν υποστηρίξει ότι οι εταιρείες θα πρέπει να συνεργαστούν για να επιτύχουν συναίνεση.

Η Meta αποφάσισε από μόνη της να επιβραδύνει τις εργασίες για το εργαλείο AI Muse, αντί να ζητήσει πρώτα από άλλες εταιρείες του κλάδου να επανεξετάσουν και εκείνες την πρόοδό τους, έγραψε ο Zuckerberg.

Last month I wrote about how we can build a positive and safe future for everyone: https://t.co/eoLGVY8yad

Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens.

The reality is:

– People won’t want to use agents that are misaligned with them and that don’t do what they ask, so labs have a strong natural incentive to make their models more aligned.

There is a lot of debate about slowing progress on capabilities until alignment catches up. My view is that trust and alignment are quickly becoming the most important capabilities that will differentiate agents and models. Any lab that doesn’t focus on alignment will fall behind.

– Labs face significant liability if their models cause harm, so they have a strong incentive to prevent this as well.

Meta delayed shipping Muse for several months to focus on safety and security. We didn’t call for everyone else to do this before we would. We just did it as part of our day-to-day work because it was clearly the right thing for people and for us. I’m proud of the security foundations we’ve built.

– Engaging independent evaluators and advisors is industry best practice. MSL already does this today in several areas because it helps produce better work. Other labs can just do this too. In general, it would be helpful for there to be a larger and more diverse ecosystem of evaluators.

– Committing the significant majority of compute towards serving people rather than racing towards recursive self-improvement is one of the best ways to ensure we develop this technology safely. Meta has made this commitment and other labs can do this as well.

I believe the key to building a positive future for everyone is maintaining the right balance of power. This is within our power to do.

— Mark Zuckerberg (@finkd) September 15, 2026

«Η Meta καθυστέρησε την κυκλοφορία του Muse για αρκετούς μήνες, προκειμένου να επικεντρωθεί στην ασφάλεια και την προστασία», έγραψε. «Δεν ζητήσαμε από όλους τους άλλους να κάνουν το ίδιο πριν το κάνουμε εμείς. Απλώς το κάναμε στο πλαίσιο της καθημερινής μας εργασίας, επειδή ήταν ξεκάθαρα το σωστό τόσο για τους ανθρώπους όσο και για εμάς».

Αντιπαράθεση για την επιβράδυνση της AI

Η έντονη συζήτηση σχετικά με τους οικονομικούς κινδύνους και τους κινδύνους ασφάλειας που συνδέονται με την AI εντάθηκε το Σαββατοκύριακο, μετά τη δημοσίευση ενός δοκιμίου 3.800 λέξεων από τον διευθύνοντα σύμβουλο της Anthropic PBC, Dario Amodei. Ο Amodei τάχθηκε υπέρ της επιβράδυνσης του ρυθμού ανάπτυξης των πιο προηγμένων συστημάτων, ώστε οι ερευνητές να μπορέσουν να κατανοήσουν καλύτερα τις πιθανές απειλές.

Ο CEO της OpenAI, Sam Altman, και ο Elon Musk της SpaceXAI, οι εταιρείες των οποίων είναι μεγάλοι ανταγωνιστές της Anthropic, εξέφρασαν την υποστήριξή τους στο κείμενο του Amodei, ενώ στέλεχος της OpenAI δήλωσε ότι η εταιρεία συνεργάζεται με την Anthropic και την Alphabet Inc., μητρική εταιρεία της Google, για ζητήματα ασφάλειας της AI.

Η ανάρτηση του Zuckerberg αποτέλεσε την πρώτη δημόσια παρέμβαση του CEO στον τελευταίο γύρο συζητήσεων σχετικά με τον τρόπο αντιμετώπισης των αυξανόμενων ανησυχιών. Προστέθηκε έτσι στις δηλώσεις στελεχών από ολόκληρο τον κλάδο της AI, καθώς και νομοθετών σε όλο τον κόσμο.

Νωρίτερα την Τρίτη, ο διευθύνων σύμβουλος της Nvidia Corp., Jensen Huang, έκανε παρόμοιες δηλώσεις, υποστηρίζοντας ότι η ασφάλεια θα πρέπει να αποτελεί τακτικό μέρος της διαδικασίας ανάπτυξης και ότι οι εταιρείες μπορούν να επιλέγουν να μην κυκλοφορούν προϊόντα που είναι επιβλαβή.

«Η ασφάλεια είναι υψίστης σημασίας», δήλωσε ο Huang κατά τη διάρκεια εκδήλωσης της Salesforce Inc. «Από πολλές απόψεις, είναι το νούμερο ένα καθήκον. Ωστόσο, η ασφάλεια είναι ένα πρόβλημα μηχανικής».

Εάν φτάσουμε σε ένα σημείο όπου «η εταιρεία έχει χάσει τον έλεγχο και το προϊόν δεν πρόκειται να είναι ασφαλές, κάντε μια παύση και βεβαιωθείτε ότι θα το κάνετε σωστά», είπε.

Ο Huang απέρριψε επίσης την ανάγκη για νέους κανονισμούς σχετικά με την ασφάλεια της AI, υποστηρίζοντας ότι οι δυνάμεις της αγοράς θα βοηθήσουν τις εταιρείες να καινοτομούν με ασφάλεια.

«Δεν χρειαζόμαστε νέους νόμους, δεν χρειαζόμαστε νέους κανονισμούς», είπε ο Huang. Ο CEO πρόσθεσε ότι έχει δημιουργηθεί μια «ψευδής επιλογή» για το αν η ανάπτυξη της AI θα πρέπει να είναι ασφαλής ή γρήγορη.

«Μπορείς οπωσδήποτε να έχεις και τα δύο ταυτόχρονα», είπε ο Huang κατά τη διάρκεια συζήτησης με τον CEO της Salesforce, Marc Benioff. «Ρυθμίζεις τον ρυθμό σου μέχρι να είσαι βέβαιος ότι κυκλοφορείς κάτι που η αγορά θα εκτιμήσει. Οι δυνάμεις της αγοράς είναι ήδη εκεί».

Στο ίδιο συνέδριο της Salesforce, ο Altman της OpenAI είχε επίσης πιο καθησυχαστικό τόνο, λέγοντας ότι πιστεύει πως οι εταιρείες AI μπορούν να αναπτύξουν την τεχνολογία με ασφάλεια, χωρίς να προκαλέσουν σημαντική βλάβη στους ανθρώπους.

«Είμαι απόλυτα βέβαιος για την ικανότητα της εταιρείας μας  και για την ικανότητα του κλάδου μας να το κάνουμε αυτό με ασφάλεια», δήλωσε ο Altman.

Αν και η OpenAI συνεργάζεται με την Anthropic και το εργαστήριο DeepMind της Google για την αντιμετώπιση ζητημάτων ασφάλειας, ο Altman δήλωσε ότι οι εταιρείες AI θα πρέπει να μπορούν να βελτιώνουν με ασφάλεια τα μοντέλα AI και ανεξάρτητα.

«Είμαι απογοητευμένος από τον τρόπο με τον οποίο έχει παρουσιαστεί το θέμα», είπε.

Διαβάστε επίσης:

Η OpenAI συνεργάζεται με την Anthropic και την Google για ζητήματα ασφάλειας γύρω από την Τεχνητή Νοημοσύνη

Google DeepMind: Πρώην ερευνητής προειδοποιεί ότι η ΤΝ «μπορεί να μας σκοτώσει όλους»

Πώληση-ρεκόρ 8,33 δισ. ευρώ, «χρυσά» τηλεοπτικά δικαιώματα και άνοιγμα στις διεθνείς αγορές για το NFL