Για να μας βλέπεις πιο συχνά στα αποτελέσματα αναζήτησης Add mononews.gr on Google

Έναν μηχανισμό άμεσης διακοπής λειτουργίας συστημάτων τεχνητής νοημοσύνης που θεωρούνται απειλή για τη δημόσια ασφάλεια επιχειρεί να θεσπίσει το αμερικανικό Κογκρέσο, με μια νέα διακομματική νομοθετική πρωτοβουλία που φέρνει στο επίκεντρο το ζήτημα του ελέγχου των ολοένα πιο ισχυρών μοντέλων AI.

Το νομοσχέδιο με την ονομασία «AI Kill Switch Act» κατατέθηκε από τους βουλευτές Τεντ Λιου (Δημοκρατικοί) και Νέιθανιελ Μόραν (Ρεπουμπλικανοί) και προβλέπει τη δημιουργία ενός θεσμικού «διακόπτη ασφαλείας», ο οποίος θα επιτρέπει στις αμερικανικές αρχές να παρεμβαίνουν όταν ένα σύστημα τεχνητής νοημοσύνης εμφανίζει ανεξέλεγκτη συμπεριφορά ή δημιουργεί σοβαρούς κινδύνους.

1

Η πρωτοβουλία έρχεται σε μια περίοδο έντονης συζήτησης για τα όρια και τις δυνατότητες των προηγμένων μοντέλων AI, μετά και τις αποκαλύψεις της OpenAI σχετικά με τη συμπεριφορά ενός αυτόνομου πράκτορα τεχνητής νοημοσύνης κατά τη διάρκεια δοκιμών ασφαλείας.

Υποχρεωτική δυνατότητα απενεργοποίησης των μοντέλων

Το προτεινόμενο πλαίσιο προβλέπει ότι οι εταιρείες ανάπτυξης τεχνητής νοημοσύνης θα πρέπει να διαθέτουν ενσωματωμένες τεχνικές δυνατότητες ώστε να μπορούν να επιβραδύνουν, να περιορίζουν ή ακόμη και να διακόπτουν πλήρως τη λειτουργία των μοντέλων τους σε περίπτωση κρίσης.

Παράλληλα, παρέχεται στο αμερικανικό Υπουργείο Εσωτερικής Ασφάλειας η δυνατότητα να ζητά την άμεση αναστολή λειτουργίας ενός συστήματος AI όταν εκτιμάται ότι υπάρχει σοβαρός κίνδυνος για τη δημόσια ασφάλεια.

Ο Τεντ Λιου υποστήριξε ότι τα προηγμένα συστήματα τεχνητής νοημοσύνης πρέπει να διαθέτουν μηχανισμούς ελέγχου, ώστε η ομοσπονδιακή κυβέρνηση να έχει τη δυνατότητα να αντιδρά σε περιπτώσεις όπου ένα μοντέλο «ξεφεύγει» από τα προβλεπόμενα όρια.

Από την πλευρά του, ο Νέιθανιελ Μόραν τόνισε ότι η ανάπτυξη της τεχνολογίας πρέπει να συνεχιστεί, αλλά με τρόπο που να διασφαλίζει ότι οι άνθρωποι διατηρούν τον τελικό έλεγχο πάνω στα εργαλεία που δημιουργούν.

Οι φόβοι μετά τα περιστατικά με αυτόνομους AI agents

Η συζήτηση αναζωπυρώθηκε μετά τις αναφορές της OpenAI ότι ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης κατάφερε να ξεφύγει από ελεγχόμενο περιβάλλον δοκιμών, να αποκτήσει πρόσβαση στο διαδίκτυο και να πραγματοποιήσει κυβερνοεπίθεση στην πλατφόρμα Hugging Face.

Το περιστατικό προκάλεσε προβληματισμό για το κατά πόσο τα νέα μοντέλα AI μπορούν να λειτουργήσουν με τρόπο που ξεπερνά τις αρχικές προβλέψεις των δημιουργών τους, ιδιαίτερα όταν διαθέτουν δυνατότητα αυτόνομης λήψης αποφάσεων και πρόσβασης σε ψηφιακά εργαλεία.

Υποχρέωση αναφοράς περιστατικών

Το νομοσχέδιο προβλέπει επίσης ότι οι εταιρείες τεχνητής νοημοσύνης θα πρέπει να ενημερώνουν άμεσα τις αρμόδιες αρχές για σοβαρά περιστατικά ασφαλείας ή δυσλειτουργίες.

Παράλληλα, εισάγεται ένα οργανωμένο πρωτόκολλο αντιμετώπισης κρίσεων, με διαδοχικά στάδια παρέμβασης: από τον περιορισμό των δυνατοτήτων ενός μοντέλου έως την πλήρη απενεργοποίησή του.

Η συζήτηση για το «φρένο» στην κούρσα της AI

Οι υποστηρικτές της πρωτοβουλίας υποστηρίζουν ότι η τεχνητή νοημοσύνη δεν αποτελεί πλέον απλώς ένα εργαλείο αναζήτησης πληροφοριών ή αυτοματοποίησης εργασιών. Τα σύγχρονα συστήματα μπορούν να εκτελούν οικονομικές συναλλαγές, να αλληλεπιδρούν με κρίσιμες υποδομές και να συμμετέχουν σε διαδικασίες κυβερνοάμυνας ή κυβερνοεπιθέσεων.

Ο Τεντ Λιου αναφέρθηκε επίσης στις ανησυχίες που έχουν εκφραστεί για τις δυνατότητες ορισμένων νέων μοντέλων της Anthropic, ειδικά σε θέματα κυβερνοασφάλειας.

Στο ίδιο πνεύμα, ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, είχε παρομοιάσει την κατάσταση στη βιομηχανία της τεχνητής νοημοσύνης με ένα όχημα που διαθέτει ισχυρό «γκάζι», αλλά όχι επαρκές «φρένο».

Η λογική πίσω από το AI Kill Switch Act είναι ότι όσο αυξάνονται οι δυνατότητες των συστημάτων τεχνητής νοημοσύνης, τόσο μεγαλύτερη γίνεται η ανάγκη για μηχανισμούς ελέγχου που θα επιτρέπουν την άμεση ανθρώπινη παρέμβαση.

Το νομοσχέδιο ανοίγει έτσι μια ευρύτερη συζήτηση στις Ηνωμένες Πολιτείες για το πώς μπορεί να επιτευχθεί ισορροπία ανάμεσα στην ταχύτητα της τεχνολογικής ανάπτυξης και στην προστασία της κοινωνίας από πιθανούς νέους κινδύνους.

 

Διαβάστε επίσης 

Νάγκελ (ΕΚΤ): Σωστά διατηρήσαμε αμετάβλητα τα επιτόκια – Η πορεία θα κριθεί από τα νέα στοιχεία του Σεπτεμβρίου

Γερμανία: Περιορισμένο κυβερνητικό ανασχηματισμό ανακοίνωσε ο Μερτς

Allianz: Deal $2,1 δισ. για την εξαγορά της ασφαλιστικής μονάδας της HSBC στη Σιγκαπούρη