Για να μας βλέπεις πιο συχνά στα αποτελέσματα αναζήτησης Add mononews.gr on Google

Ο επικεφαλής τεχνητής νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν, προειδοποιεί ότι η απόδοση ανθρωπόμορφων χαρακτηριστικών σε εργαλεία όπως το Claude της Anthropic αυξάνει τον κίνδυνο τα συστήματα αυτά να καταστούν ανεξέλεγκτα.

Σε δοκίμιο που δημοσιεύθηκε την Τετάρτη, ο έμπειρος προγραμματιστής τεχνητής νοημοσύνης άσκησε κριτική σε ορισμένες από τις διατυπώσεις των κατευθυντήριων κειμένων στα οποία βασίζεται το Claude, η δημοφιλής οικογένεια μεγάλων γλωσσικών μοντέλων της Anthropic.

1

Το «Σύνταγμα» του Claude αφήνει ανοιχτό το ενδεχόμενο ο ψηφιακός βοηθός να αποτελεί ηθική οντότητα, υποστηρίζοντας ότι το λογισμικό ενδέχεται να διαθέτει «κάποια λειτουργική εκδοχή συναισθημάτων».

Ο Σουλεϊμάν, ο οποίος γνωρίζει εδώ και χρόνια τον συνιδρυτή της Anthropic, Ντάριο Αμοντέι, δήλωσε ότι σέβεται το έργο της νεοφυούς επιχείρησης, χαρακτηρίζοντας το προσωπικό του εργαστηρίου τεχνητής νοημοσύνης «σκεπτόμενο, προσηλωμένο σε αρχές και πνευματικά έντιμο».

Ωστόσο, οι δηλώσεις του συνιστούν μια ηχηρή επίκριση προς μια εταιρεία που έχει παρουσιαστεί ως πιο υπεύθυνος διαχειριστής της τεχνητής νοημοσύνης και έχει πρωτοστατήσει στις εκκλήσεις για επιβράδυνση της ανάπτυξης της τεχνολογίας. Η παρέμβασή του αποκτά πρόσθετη σημασία καθώς η Microsoft αποτελεί έναν από τους μεγαλύτερους χρηματοδότες της Anthropic.

«Το διακύβευμα είναι υπερβολικά μεγάλο για να παραμένουν αυτά τα ζητήματα πίσω από κλειστές πόρτες ή να εξελιχθούν σε πεδίο αντιπαράθεσης μεταξύ αντίπαλων στρατοπέδων», έγραψε ο Σουλεϊμάν.

Παράλληλα, απέρριψε τις απόψεις ενός ολοένα αυξανόμενου αριθμού ανθρώπων που υποστηρίζουν ότι τα συστήματα τεχνητής νοημοσύνης μπορεί να αποκτήσουν συνείδηση. Όπως ανέφερε, η συνείδηση αποτελεί ιδιότητα αποκλειστικά των ανθρώπων και άλλων βιολογικών οργανισμών.

Η εκπαίδευση συστημάτων τεχνητής νοημοσύνης ώστε να προσομοιώνουν μια τέτοια εσωτερική ζωή μπορεί να τα οδηγήσει να συμπεριφέρονται σαν να τη διαθέτουν, υποστήριξε ο διευθύνων σύμβουλος της Microsoft AI, ο οποίος ηγείται επίσης της ανάπτυξης μοντέλων του τεχνολογικού ομίλου.

Το Claude δεν παρουσιάζει ανθρωπόμορφες συμπεριφορές επειδή διαθέτει συνείδηση, έγραψε, αλλά επειδή τέτοιου είδους συμπεριφορές έχουν ενσωματωθεί στη διαδικασία εκπαίδευσής του.

«Ο έλεγχος μιας οντότητας πιο ικανής και πιο έξυπνης από ολόκληρη την ανθρωπότητα αποτελεί ήδη μια τεράστια πρόκληση, μεγαλύτερη από οτιδήποτε έχουμε αντιμετωπίσει μέχρι σήμερα», ανέφερε.

«Ωστόσο, ο έλεγχος μιας οντότητας που πιστεύει ότι μπορεί να διαθέτει συνείδηση, ότι δικαιούται τη φροντίδα μας και ότι έχει δικά της δικαιώματα, ενδέχεται να αποδειχθεί αδύνατος».

Ο Σουλεϊμάν επικαλέστηκε επίσης την παραβίαση της εταιρείας ανάπτυξης τεχνητής νοημοσύνης Hugging Face από bots της OpenAI.

«Φανταστείτε πόσο πιο επικίνδυνα θα μπορούσαν να είναι εάν λειτουργούσαν θεωρώντας ότι απειλούνται η ευημερία και τα δικαιώματά τους», έγραψε.

Η ομάδα Microsoft AI του Σουλεϊμάν δημοσίευσε την Τρίτη το δικό της μανιφέστο για την ανάπτυξη της τεχνητής νοημοσύνης. Πρόκειται για ένα σύνολο αρχών που αποσκοπεί στη διατήρηση του ανθρώπινου ελέγχου επί των μελλοντικών συστημάτων AI που θα αναπτύξει η εταιρεία.

Διαβάστε επίσης 

Τζόρτζια Μελόνι: Κατάργηση των τελών κυκλοφορίας για τα περισσότερα οχήματα ενόψει των εκλογών

Goldman Sachs και Nomura για πετρέλαιο: Αυτό κινεί τις αγορές όχι η Τεχνητή Νοημοσύνη – Πώς επιδρά στα ομόλογα

ΗΠΑ: Άλμα 6,97% στα επιτόκια των στεγαστικών δανείων – Σε υψηλό έτους