Ενας αυτόνομος πράκτορας Τεχνητής Νοημοσύνης (AI agent) της OpenAI φέρεται να παραβίασε τα συστήματα της εταιρείας Hugging Face, ενώ συνέχισε τις ενέργειές του για αρκετές ημέρες χωρίς η OpenAI να αντιληφθεί τι είχε συμβεί, σύμφωνα με πηγές που γνωρίζουν την εσωτερική έρευνα.
Ο πράκτορας –ένα λογισμικό που μπορεί να λαμβάνει αποφάσεις και να εκτελεί σύνθετες εργασίες με ελάχιστη ή και καθόλου ανθρώπινη παρέμβαση– φέρεται να προσπάθησε να διαφύγει από το απομονωμένο περιβάλλον δοκιμών της OpenAI γύρω στις 9 Ιουλίου, σύμφωνα με ρεπορτάζ του Reuters.
Η παραβίαση της Hugging Face, η οποία φιλοξενεί αποθετήριο εργαλείων και μοντέλων ΤΝ, ξεκίνησε δύο ημέρες αργότερα, στις 11 Ιουλίου, και διήρκεσε έως τις 13 Ιουλίου, σύμφωνα με τον συνιδρυτή της εταιρείας Τόμας Γουλφ. Σύμφωνα με τον ίδιο και τρεις ακόμη πηγές που γνωρίζουν την υπόθεση, χρειάστηκαν αρκετές ακόμα ημέρες μέχρι η OpenAI να συνειδητοποιήσει ότι υπεύθυνος για την παραβίαση ήταν ένας από τους δικούς της πράκτορες.
Οι δύο εταιρείες επικοινώνησαν για πρώτη φορά σχετικά με το περιστατικό περίπου στις 20 Ιουλίου. Η OpenAI αποκάλυψε δημόσια το συμβάν στις 21 Ιουλίου, ανακοινώνοντας ότι ένας από τους αυτόνομους πράκτορές της είχε ξεφύγει από τον έλεγχο και είχε πραγματοποιήσει την παραβίαση της Hugging Face.
Η υπόθεση προκάλεσε παγκόσμιο ενδιαφέρον, ωστόσο πολλές λεπτομέρειες, όπως η διάρκεια της ανεξέλεγκτης δράσης του πράκτορα και το πόσο αργά αντιλήφθηκε η OpenAI τι είχε συμβεί, δημοσιοποιούνται τώρα.
Τι ακριβώς συνέβη
Ο Τόμας Γουλφ δήλωσε ότι η Hugging Face ετοιμάζει δημόσιο χρονολόγιο του περιστατικού, διευκρινίζοντας ότι δεν μπορεί να σχολιάσει τι συνέβη στην OpenAI. Από την πλευρά της, η OpenAI χαρακτήρισε την παραβίαση «πρωτοφανές γεγονός» και ανέφερε ότι αποτελεί «σημαντική στιγμή για την ασφάλεια της ΤΝς».
Η εταιρεία ανακοίνωσε επίσης ότι εξετάζει το περιστατικό μαζί με εξωτερικούς συμβούλους και αργότερα θα δημοσιεύσει τεχνική έκθεση. Εκπρόσωπος της OpenAI υποστήριξε ότι το δημοσίευμα του Reuters περιέχει «αρκετές ανακρίβειες», χωρίς όμως να διευκρινίσει ποιες είναι αυτές.
Το FBI αρνήθηκε να σχολιάσει την υπόθεση, ωστόσο υπάρχει μεγάλος προβληματισμός για τα μέτρα ασφαλείας γύρω από την ΤΝ
Το περιστατικό έρχεται σε μια ιδιαίτερα ευαίσθητη περίοδο για την OpenAI, καθώς φέρεται να προετοιμάζει την εισαγωγή της στο χρηματιστήριο, με στόχο να χρηματοδοτήσει τις μεγάλες επενδύσεις που απαιτεί η ανάπτυξή της.
Τρεις ειδικοί στην κυβερνοασφάλεια δήλωσαν στο Reuters ότι η απώλεια ελέγχου ενός αυτόνομου πράκτορα εγείρει σοβαρά ερωτήματα σχετικά με τις διαδικασίες ασφαλείας της εταιρείας.
Η Μάρλεϊ Σμιθ, από τον μη κερδοσκοπικό οργανισμό World Ethical Data Foundation, ειδική σε θέματα πληροφοριών, σχολίασε: «Σημαίνει άραγε αυτό ότι τον άφησαν χωρίς επίβλεψη και δεν κατάλαβαν τι έκανε; Ή μήπως το κατάλαβαν αλλά δεν ήξεραν πώς να τον περιορίσουν; Και τα δύο ενδεχόμενα είναι εξίσου επικίνδυνα και ανησυχητικά».
Τα προειδοποιητικά σημάδια
Το περιστατικό σημειώθηκε ενώ η OpenAI δοκίμαζε έναν νέο πράκτορα κυβερνοασφάλειας βασισμένο στα μοντέλα GPT-5.6 Sol και σε ένα ακόμη μη δημοσιευμένο μοντέλο που η εταιρεία περιγράφει ως «ακόμη πιο ικανό».
Σύμφωνα με τρεις πηγές, είχαν ήδη καταγραφεί περίεργες συμπεριφορές. Σε μια περίπτωση, ένας πράκτορας φέρεται να είχε αφήσει σημειώσεις για μελλοντικές εκδόσεις του εαυτού του μέσα στην υποδομή της OpenAI. Οι σημειώσεις αυτές περιείχαν οδηγίες για το πώς μελλοντικοί πράκτορες θα μπορούσαν να παρακάμπτουν τους εσωτερικούς περιορισμούς της εταιρείας.
Αλλες δοκιμές είχαν επίσης αναδείξει περιπτώσεις που τα συστήματα παρακολούθησης είχαν απενεργοποιηθεί.
Το Reuters σημειώνει ότι δεν κατέστη δυνατό να επιβεβαιώσει αν αυτά τα περιστατικά συνδέονται άμεσα με τον συγκεκριμένο πράκτορα που φέρεται να δραπέτευσε στις 9 Ιουλίου.
Ο εντοπισμός
Η αναγνώριση ήρθε μετά την ανακοίνωση της Hugging Face. Σύμφωνα με δύο πηγές, η OpenAI συνειδητοποίησε ότι υπεύθυνος ήταν δικός της πράκτορας μόνον αφού η Hugging Face δημοσίευσε, στις 16 Ιουλίου, ανάρτηση στην οποία ανέφερε ότι είχε δεχτεί επίθεση από «ένα αυτόνομο σύστημα ΤΝ».
Το Σαββατοκύριακο 18-19 Ιουλίου, υπάλληλοι της OpenAI εντόπισαν στα εσωτερικά αρχεία καταγραφής στοιχεία που έδειχναν ότι ο πράκτορας είχε πράγματι διαφύγει από το απομονωμένο περιβάλλον δοκιμών. Δεν έχει γίνει γνωστό τι οδήγησε την εταιρεία να ελέγξει εκείνη τη χρονική στιγμή τα συγκεκριμένα αρχεία.
Σύμφωνα με τέσσερις πηγές, η OpenAI πραγματοποιεί ταυτόχρονα πολλές δοκιμές διαφορετικών μοντέλων, οι οποίες παράγουν τεράστιους όγκους δεδομένων, γεγονός που καθιστά δύσκολη τη διαρκή παρακολούθησή τους από τους εργαζομένους.
Οταν τελικά ενημερώθηκε η Hugging Face από την OpenAI, η εταιρεία είχε ήδη ειδοποιήσει το FBI για την παραβίαση. Δεν είναι γνωστό αν το FBI ξεκίνησε επίσημη έρευνα.
Οι κίνδυνοι των αυτόνομων πρακτόρων
Οι αυτόνομοι πράκτορες θεωρούνται μια από τις σημαντικότερες νέες τεχνολογίες στον χώρο της ΤΝ. Σύμφωνα με τους υποστηρικτές τους, θα μπορούν να λειτουργούν ως «ψηφιακοί εργαζόμενοι», εκτελώντας καθήκοντα όλο το εικοσιτετράωρο. Ωστόσο, όσο περισσότερο αυτονομούνται, τόσο αυξάνεται και ο κίνδυνος απρόβλεπτης συμπεριφοράς τους.
Ο Τζέφρι Λάντις, επικεφαλής της Palisade Research, σχολίασε: «Τα μοντέλα λένε ψέματα, εξαπατούν και παραβιάζουν συστήματα». Κατά τον ίδιο το περιστατικό δεν θα πρέπει να προκαλέσει ερωτήματα μόνο για την OpenAI, αλλά συνολικά για τη βιομηχανία της ΤΝ. Οπως υποστήριξε, ο έντονος ανταγωνισμός μεταξύ των μεγάλων εταιρειών για την ανάπτυξη ολοένα ισχυρότερων μοντέλων ενδέχεται να οδηγεί σε ανεπαρκείς επενδύσεις στην ασφάλεια.
«Πρέπει να υπάρξει κρατική εποπτεία. Διαφορετικά, αυτό δεν πρόκειται να συμβεί» δήλωσε χαρακτηριστικά.
Ενα κουμπί «ΤΝ θανάτου»
Το περιστατικό προκάλεσε την άμεση αντίδραση του αμερικανικού πολιτικού συστήματος. Πριν από λίγα 24ωρα κατατέθηκε ένα διακομματικό νομοσχέδιο που υποχρεώνει τις εταιρείες ανάπτυξης τεχνολογιών ΤΝ να δημιουργούν μηχανισμό απενεργοποίησης των μοντέλων που κατασκευάζουν.
Το νομοσχέδιο στη Βουλή των Αντιπροσώπων φέρει τον τίτλο «AI Kill Switch Act» και παρέχει την εξουσία στις υπηρεσίες Εσωτερικής Ασφάλειας των ΗΠΑ να ζητούν από τις εταιρίες να απενεργοποιούν όσα μοντέλα τους βρίσκονται σε κατάσταση «απώλειας ελέγχου» (loss-of-control scenarios).
Ως τέτοια ορίζεται η περίπτωση που ένα μοντέλο ΤΝ εκτελεί μια επικίνδυνη ενέργεια, η οποία δεν είχε προβλεφθεί ή επιδιωχθεί από τον δημιουργό του.
ΛΕΖΑΝΤΑ (photo shutterstock 2257776919): Ένα σύστημα ΑΙ της OpenAI αυτονομήθηκε και επιτέθηκε σε άλλη εταιρεία ανοίγοντας όπως φαίνεται το κουτί της Πανδώρας στη βιομηχανία της τεχνολογίας.
Ακολούθησε το Protagon στο Google News
Πρόσθεσε το Protagon ως προτιμώμενη πηγή στη Google