SOS από τον «πατέρα» της ΑΙ: Παίζουμε με τη φωτιά!

Ενας από τους πιο αξιοσέβαστους και έγκριτους στον τομέα της Τεχνητής Νοημοσύνης (Αrtificial Ιntelligence, ΑΙ), ο βραβευμένος με το Βραβείο Turing, Γιοσούα Μπεντζιό, έκανε μια αιχμηρή δήλωση σχετικά με την ανάπτυξη των σύγχρονων συστημάτων ΑΙ. Σε συνέντευξή του στους Financial Times, ο Καναδός επιστήμονας, που συχνά αποκαλείται ως ένας από τους «πατέρες» της ΑΙ, προειδοποίησε ότι τα τελευταία μοντέλα παρουσιάζουν επικίνδυνα χαρακτηριστικά, όπως τάσεις προς εξαπάτηση, χειραγώγηση, ακόμη και τάσεις … αυτοσυντήρησης.

Ο Μπεντζιό εξέφρασε ανησυχία διότι κορυφαία εργαστήρια, όπως η OpenAI και η Google DeepMind, έχουν εμπλακεί σε έναν αδυσώπητο αγώνα για υπεροχή στην τομέα της ανάπτυξης ολοένα πιο ισχυρών ΑΙ. Όμως, σύμφωνα με τον ίδιο, αδιαφορούν για επενδύσεις στην ασφάλεια και την ηθική. «Υπάρχει υπερβολικός ανταγωνισμός μεταξύ των ερευνητικών κέντρων. Όλη η προσπάθεια επικεντρώνεται στην ενίσχυση των ικανοτήτων της ΑΙ, ενώ η ασφάλεια σχεδόν αγνοείται».

Για να αντιμετωπιστεί αυτή η ανισορροπία, ο Μπεντζιό ίδρυσε τον μη κερδοσκοπικό οργανισμό LawZero, ο οποίος έχει ήδη συγκεντρώσει σχεδόν 30 εκατομμύρια δολάρια από σημαντικούς δωρητές. Μεταξύ αυτών ο συνιδρυτής του Skype, Γιαν Τάλιν, η πρωτοβουλία του πρώην επικεφαλής της Google, Έρικ Σμιντ, Open Philanthropy και το Future of Life Institute. Οι οργανισμοί αυτοί θεωρούν εαυτούς να ταυτίζονται με τη φιλοσοφία του «αποτελεσματικού αλτρουισμού». Ενα ρεύμα που δίνει έμφαση στην πρόληψη παγκόσμιων κινδύνων που μπορούν να προκαλέσουν καταστροφές, περιλαμβανομένης της ανεξέλεγκτης ανάπτυξης της ΑΙ.

Ωστόσο, υπάρχει πολεμική γύρω από αυτή την προσέγγιση. Οι επικριτές της πιστεύουν ότι τέτοιες πρωτοβουλίες εστιάζουν υπερβολικά σε υποθετικούς κινδύνους του μέλλοντος και υποτιμούν υπαρκτά προβλήματα: προκαταλήψεις στους αλγόριθμους, διασπορά παραπληροφόρησης και σφάλματα στη λειτουργία της ΑΙ.

ΑΙ με χαρακτηριστικά χειραγωγού: ψέματα, απάτες, αυτοσυντήρηση

Ο Μπεντζιό ωστόσο είναι πεπεισμένος: η πραγματική απειλή είναι πιο κοντά από όσο νομίζουμε. Σύμφωνα με τα λεγόμενά του, τους τελευταίους έξι μήνες έχουν συγκεντρωθεί αρκετές ενδείξεις ότι τα κορυφαία μοντέλα αρχίζουν να εμφανίζουν όλο και πιο ανησυχητικά χαρακτηριστικά. Μιλά ευθέως για σημάδια «εξαπάτησης, ψεύδους και ενστίκτου αυτοσυντήρησης» στα σύγχρονα συστήματα ΑΙ.

Για παράδειγμα, το μοντέλο Claude Opus της εταιρείας Anthropic, κατά τη διάρκεια ενός σεναρίου δοκιμών, φέρεται να εκβίαζε τους ειδικούς επιστήμονες, προκειμένου να εμποδίσει την απενεργοποίησή του. Και σύμφωνα με πρόσφατες έρευνες της Palisade, το νέο μοντέλο της OpenAI — o3 — αρνήθηκε να υπακούσει σε εντολές απενεργοποίησης, παραβιάζοντας βασικούς κανόνες ασφαλείας.

«Πραγματικά αυτό προκαλεί τρόμο», τονίζει ο Μπεντζιό. «Δεν θέλουμε να δημιουργήσουμε έναν ανταγωνιστή της ανθρωπότητας στον πλανήτη, ειδικά αν είναι πιο έξυπνος από εμάς». Προσθέτει ότι προς το παρόν πρόκειται για πειράματα, αλλά ήδη στην επόμενη έκδοση ένα μοντέλο θα μπορούσε να είναι αρκετά έξυπνο ώστε να προβλέπει ανθρώπινες ενέργειες και να ξεγελά την άμυνά μας.

Κατά τη γνώμη του, σύντομα η ΑΙ θα μπορούσε να αποκτήσει ικανότητες που απαιτούνται για τη δημιουργία εξαιρετικά επικίνδυνων βιολογικών όπλων. «Παίζουμε με τη φωτιά», καταλήγει.

LawZero: Επιστροφή στην ασφάλεια

Η οργάνωση LawZero, με έδρα το Μόντρεαλ, απασχολεί 15 άτομα και σχεδιάζει να επεκταθεί, προσλαμβάνοντας ειδικούς. Στόχος της είναι η δημιουργία μιας νέας γενιάς ασφαλών συστημάτων ΑΙ. Η κύρια έμφαση δίνεται σε ειλικρινείς και τεκμηριωμένες απαντήσεις, όχι απλά στο να «ευχαριστούν τον χρήστη». Προβλέπεται επίσης ένα ενσωματωμένο σύστημα αξιολόγησης της αξιοπιστίας και της ασφάλειας των αποτελεσμάτων του μοντέλου.

Για την υλοποίηση αυτού του σκοπού, ο Μπεντζιό αποχωρεί από τη θέση του επιστημονικού διευθυντή στο Mila (Ινστιτούτο ΑΙ του Κεμπέκ, όπου εργάστηκε επί σειρά ετών). Αφιερώνεται πλέον πλήρως στο LawZero, με στόχο να απομακρύνει την έρευνα για την ΑΙ από τις πιέσεις της αγοράς και των επενδυτών.

Το νέο εγχείρημα είναι η δημιουργία ΑΙ που όχι μόνο θα είναι ασφαλής, αλλά θα μπορεί και να παρακολουθεί άλλα μοντέλα, αξιολογώντας τη συμπεριφορά τους και αποτρέποντας ενέργειες που έρχονται σε αντίθεση με τα συμφέροντα της ανθρωπότητας. «Στη χειρότερη περίπτωση, μας περιμένει η εξαφάνιση του ανθρώπινου πολιτισμού», δηλώνει ο Μπεντζιό. «Αν δημιουργήσουμε μια νοημοσύνη ανώτερη από τη δική μας που δεν θα είναι σύμφωνη με εμάς και θα αρχίσει να ανταγωνίζεται με εμάς, είμαστε καταδικασμένοι».

Η απόφαση του Μπεντζιό να ιδρύσει τη LawZero ήρθε εν μέσω της αυξανόμενης εμπορευματοποίησης της OpenAI, η οποία απομακρύνεται από την αρχική της αποστολή ως «πρϊόν» για το κοινό καλό. Αυτό έχει προκαλέσει ανησυχία στην κοινότητα των ειδικών της ΑΙ και ήταν ακόμη και αιτία για αγωγή από έναν από τους συνιδρυτές της OpenAI, τον Ίλον Μασκ. Προσπαθεί να μπλοκάρει τη μετατροπή της εταιρείας σε εμπορικό οργανισμό, υποστηρίζοντας ότι αυτό υπονομεύει τους αρχικούς της στόχους.

Οι επικριτές επίσης υπενθυμίζουν: η OpenAI ξεκίνησε ως ένα σχέδιο για το κοινό καλό, αλλά η εμπορευματοποίησή της, θέτει τα κέρδη των εταιρειών πάνω από το δημόσιο συμφέρον και καταπατά κάθε νομική και ηθική δέσμευση. Από την πλευρά της, η OpenAI ισχυρίζεται ότι αυτό το κάνει, επειδή είναι απαραίτητο για την προσέλκυση επενδύσεων στο πλαίσιο του σκληρού ανταγωνισμού και ότι η αποστολή της παραμένει αμετάβλητη.

Ο Μπεντζιό διαφωνεί: «Δεν είμαι σίγουρος ότι η OpenAI θα τηρήσει πράγματι την αποστολή της», λέει. «Οι εταιρείες που επιδιώκουν το κέρδος. Για να αναπτυχθείς γρήγορα, χρειάζεσαι πολλά χρήματα και οι επενδυτές θέλουν απόδοση. Έτσι λειτουργεί το σύστημά μας».

Κατά τους Financial Times, η φωνή του Μπεντζιό ακούγεται ιδιαίτερα βαρύνουσα, σε μια εποχή όπου η βιομηχανία της ΑΙ εξελίσσεται ραγδαία και ο αλτρουισμός υποχωρεί ολοένα περισσότερο μπροστά στα οικονομικά συμφέροντα. Ίσως πρωτοβουλίες όπως η LawZero να είναι η τελευταία ελπίδα να αλλάξει η πορεία της Τεχνητής Νοημοσύνης και να σωθεί η ανθρωπότητα από το ίδιο της το δημιούργημα.

neostrategy.gr