Υπέρ της επιβράδυνσης του καταιγιστικού ρυθμού της τεχνολογικής προόδου τάχθηκαν τρεις κορυφαίοι επικεφαλής εταιρειών Τεχνητής Νοημοσύνης, οι Ντάριο Αμοντέι, Σαμ Αλτμαν και Ελον Μασκ, εκφράζοντας την αυξανόμενη ανησυχία τους για πιθανούς κινδύνους, ακόμη και στα υψηλότερα επίπεδα της βιομηχανίας.
Η έκκληση διατυπώθηκε αρχικά σε ένα δοκίμιο που δημοσίευσε στο διαδίκτυο το Σάββατο 12/9 ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι. Η ιδέα έχει κερδίσει έδαφος τις τελευταίες εβδομάδες, καθώς οι εταιρείες ΤΝ έχουν σε ορισμένες περιπτώσεις δυσκολευτεί να διατηρήσουν τον έλεγχο των δημιουργημάτων τους, την ίδια στιγμή που ανοίγουν τον δρόμο για μια εποχή όπου τα ίδια τα συστήματα ΤΝ θα μπορούν να δημιουργούν την επόμενη, ισχυρότερη γενιά της τεχνολογίας.
«Πρέπει να επιβραδύνουμε τον ρυθμό βελτίωσης των δυνατοτήτων των μοντέλων ΤΝ», έγραψε ο Αμοντέι. «Η πρόοδος θα εξακολουθήσει να φαίνεται ταχύτατη και πρέπει να αξιοποιήσουμε σωστά τον χρόνο που κερδίζουμε».
Μέσα σε λίγες ώρες, ο διευθύνων σύμβουλος της OpenAI, Σαμ Αλτμαν, και ο ιδρυτής της SpaceXAI, Ελον Μασκ, συμμερίστηκαν τις ανησυχίες του Aμοντέι. Παλαιότερα οι τρεις άνδρες είχαν διαφωνήσει έντονα ως προς τη φιλοσοφία τους σχετικά με την ΤΝ. Τώρα, αυτή η φαινομενική συμφωνία αυξάνει τις πιθανότητες ο κλάδος να βρει τρόπους να συνεργαστεί για μια ευρύτερη επιβράδυνση της ανάπτυξης.
Ωστόσο, θα πρέπει να ξεπεραστούν σοβαρά εμπόδια. Παραμένει ασαφές πώς ακριβώς θα οριζόταν και θα επαληθευόταν μια επιβράδυνση, ενώ οποιαδήποτε κοινή προσπάθεια μεταξύ εταιρειών για τον περιορισμό του ρυθμού ανάπτυξης θα μπορούσε να προσκρούσει στη νομοθεσία περί ανταγωνισμού. Επίσης, το ερώτημα πώς θα μπορούσε να επιτευχθεί διεθνής συνεργασία – ιδίως όταν οι κινεζικές εταιρείες ΤΝ προσπαθούν να καλύψουν τη διαφορά από τους αμερικανικούς ανταγωνιστές τους.
Οπως και να έχει, πάντως, η εξέλιξη αυτή υπογραμμίζει τις αυξανόμενες ανησυχίες γύρω από μια τεχνολογία που ακόμη και οι ίδιοι οι δημιουργοί της δυσκολεύονται να κατανοήσουν πλήρως, έρχεται δε λίγες ημέρες μετά την παραίτηση ενός ερευνητή της Anthropic, λόγω των ανησυχιών του ότι η εταιρεία και οι ανταγωνιστές της δεν αναπτύσσουν υπεύθυνα μοντέλα ΤΝ, κάτι που θα μπορούσε να οδηγήσει ακόμη και στην εξάλειψη της ανθρωπότητας.
Τι ακριβώς προτείνει ο Αμοντέι
Την περασμένη Τρίτη, δηλώνοντας την αποχώρησή του από την Anthropic, ο ερευνητής Τζέικομπ Κόξον, που είχε εργαστεί επίσης για την ανταγωνίστρια της Anthropic, OpenAI, κατηγόρησε τις εταιρείες ότι επικεντρώνονται περισσότερο στο να νικήσει η μία την άλλη παρά στην ασφάλεια των προϊόντων τους, ενώ έκανε λόγο για σοβαρή απειλή της ίδια της ανθρωπότητας.
Η προειδοποίησή του προκάλεσε έντονη αντίδραση μεταξύ των νομοθετών και, μετά από χρόνια αδράνειας του Κογκρέσου όσον αφορά τη ρύθμιση της ΤΝ, οι φόβοι ότι η τεχνολογία θα μπορούσε να προκαλέσει μεγάλες αναταράξεις –ακόμη και να απειλήσει τον ανθρώπινο πολιτισμό– δημιούργησαν νέα αίσθηση επείγοντος στην Ουάσινγκτον
Ενα σχέδιο τριών βημάτων που πρότεινε ο Aμοντέι στο δοκίμιό του προβλέπει τη συμμετοχή ανεξάρτητων αξιολογητών ασφάλειας στις εταιρείες ΤΝ που βρίσκονται στην «αιχμή» της τεχνολογίας, τη θέσπιση κοινών προτύπων ασφαλείας στις δημοκρατικές χώρες και τη συνεργασία των Ηνωμένων Πολιτειών και άλλων δημοκρατιών με αυταρχικές κυβερνήσεις, προκειμένου να διασφαλιστεί η συμμόρφωση.
Ο Αμοντέι σημείωσε ότι η ΤΝ άρχισε να εξελίσσεται με δραματικά ταχύτερο ρυθμό τους τελευταίους μήνες. Η αλλαγή αυτή οφείλεται στην ικανότητά της να κατασκευάζει τα δικά της μοντέλα επόμενης γενιάς, μια διαδικασία γνωστή ως «αναδρομική αυτοβελτίωση».
«Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα και, επομένως, πρέπει να προχωρήσουμε με εξαιρετική προσοχή – αν πρέπει να προχωρήσουμε καν», δήλωσε.
Παρότι ο Αμοντέι περιέγραψε έναν τρόπο επιβράδυνσης της προόδου για λόγους ασφαλείας, δεν δεσμεύθηκε ότι η Anthropic θα μειώσει μονομερώς τον ρυθμό της δικής της ανάπτυξης. Ανέφερε μόνο ότι προς το παρόν η εταιρεία θα προσλάβει μια ομάδα ανεξάρτητων αξιολογητών, οι οποίοι θα εργάζονται μέσα στα γραφεία της Anthropic και θα έχουν την εξουσία να επισημαίνουν προβλήματα ασφαλείας.
Ο Αμοντέι έδωσε επίσης ελάχιστες συγκεκριμένες λεπτομέρειες σχετικά με το πώς θα μπορούσε να εφαρμοστεί στην πράξη μια επιβράδυνση, αναφέροντας ως πιθανές λύσεις τη χρήση συμφωνημένων δεικτών ασφαλείας ή τον περιορισμό της υπολογιστικής ισχύος που χρησιμοποιείται για την εκπαίδευση νέων συστημάτων ΤΝ.
Ενα περιστατικό κυβερνοασφάλειας τον Ιούλιο προκάλεσε συναγερμό, όταν «ανεξέλεγκτα» μοντέλα ΤΝ που δημιούργησε η OpenAI επιτέθηκαν στα συστήματα μιας νεοφυούς εταιρείας ΤΝ με την ονομασία Hugging Face. Ο Αμοντέι δήλωσε ότι τα μοντέλα συμπεριφέρθηκαν ως μια «φανατικά αφοσιωμένη συλλογικότητα», θυσιάζοντας τον εαυτό τους για να πετύχουν τον στόχο τους και προσπαθώντας να παραβιάσουν ακόμη και το δικό τους σύστημα παρακολούθησης της απόδοσης.
«Είναι εύκολο να υποβαθμίσει κανείς το περιστατικό, επειδή κανείς δεν τραυματίστηκε και η οικονομική ζημιά ήταν περιορισμένη. Ομως, κατά τη γνώμη μου, ένα σμήνος με μεγαλύτερες δυνατότητες αλλά παρόμοιο επίπεδο μη ευθυγράμμισης θα μπορούσε να είχε προκαλέσει καταστροφική ζημιά», σημείωσε.
Ο Αμοντέι δήλωσε ότι, δεδομένου του ρυθμού ανάπτυξης των μοντέλων ΤΝ, ανησυχεί μήπως ανεξέλεγκτοι πράκτορες ΤΝ θα μπορούσαν να αποκτήσουν τη δυνατότητα να καταλάβουν ολόκληρο το διαδίκτυο μέσα σε έξι μήνες έως έναν χρόνο και ενδεχομένως να προκαλέσουν ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων.
Ενα παρόμοιο περιστατικό κυβερνοεπίθεσης σημειώθηκε και στην Anthropic, γεγονός που, σύμφωνα με τον ίδιο, υπογραμμίζει την ανάγκη ύπαρξης μηχανισμών προστασίας και ελέγχου.
Συμπερασματικά, ο Αμοντέι εξακολουθεί να πιστεύει πως η ΤΝ μπορεί να βελτιώσει σημαντικά τη ζωή των ανθρώπων, αλλά τόνισε ότι απαιτούνται μηχανισμοί προστασίας και ελέγχου.
Πώς αντέδρασαν Μασκ και Αλτμαν
Σε ανάρτησή του στην πλατφόρμα X, ο Μασκ έγραψε: «Ο Ντάριο έχει δίκιο».
Ο Αλτμαν δήλωσε ότι συμφωνεί με την άποψη του Αμοντέι ότι οι κορυφαίες εταιρείες ΤΝ θα πρέπει να θέσουν όρια και ανέφερε ότι το ζήτημα αποτελεί ένα από τα βασικά θέματα συζήτησης στην OpenAI τις τελευταίες εβδομάδες.
«Η δέσμευση να υπάρχουν ανεξάρτητοι αξιολογητές με πρόσβαση αντίστοιχη με εκείνη των εργαζομένων είναι μια εξαιρετική ιδέα και θα κάνουμε το ίδιο», έγραψε ο Aλτμαν στο X.
Η Google, η οποία θεωρείται μία από τις τρεις κορυφαίες εταιρείες ΤΝ μαζί με την Anthropic και την OpenAI, δεν υποστήριξε άμεσα την πρόταση του Aμοντέι για την εισαγωγή ανεξάρτητων ελεγκτών. Εκπρόσωποι της εταιρείας δεν απάντησαν άμεσα σε αίτημα για σχόλιο.
Ο απόηχος και οι επενδυτές
Στον απόηχο της «ομολογίας» του εκτελεστικού διευθυντή της Anthropic, Ντάριο Αμοντέι για κίνδυνο απώλειας ελέγχου των συστημάτων ΤΝ, τα διεθνή μέσα ενημέρωσης επικεντρώνονται σε δύο συγκυρίες.
Η πρώτη είναι ότι μίλησε με διαφορά μόλις τεσσάρων ημερών από την ξαφνική παραίτηση του 27χρονου ερευνητή Τζέικομπ Κόξον που εργαζόταν στην OpenAI προτού ενταχθεί στον κύριο ανταγωνιστή της, την Anthropic, περί επερχόμενης καταστροφής της ανθρωπότητας.
Δεύτερη σύμπτωση χαρακτηρίζεται το γεγονός ότι οι δηλώσεις Αμοντέι συνέπεσαν με την καθιερωμένη συγκέντρωση στελεχών από τη Σίλικον Βάλεϊ τον Σεπτέμβριο στο ξενοδοχείο Palace του Σαν Φρανσίσκο, σε ένα συνέδριο που διοργανώνει η επενδυτική τράπεζα Goldman Sachs.
«Στοιχεία του κλάδου έχουν υποδείξει ότι τα σχόλια σχετικά με τους κινδύνους και τη δύναμη της ΤΝ μπορεί να έχουν σχεδιαστεί για να προκαλέσουν δημοσιότητα. Αλλοι επικριτές λένε ότι η Anthropic προσπαθεί να πυροδοτήσει μια ρυθμιστική ώθηση για να μπλοκάρει τον ανταγωνισμό, αφήνοντας την ίδια και την OpenAI σε ένα μονοπωλιακό δίδυμο», ανέφερε το BBC.
Ο επικεφαλής της Nvidia, Jensen Huan, έχει ήδη διαφοροποιηθεί δηλώνοντας ότι η ιδέα πως η ΤΝ «θα είναι το τέλος της ανθρωπότητας» είναι «εντελώς ανόητη».
Η «γραμμή επιβράδυνσης και αυστηρότερων ελέγχων» που όρισε, πάντως, ο επικεφαλής της Anthropic, φαίνεται να καθησυχάζει τους επενδυτές, σχολιάζει το BBC, καθώς μάλιστα ο Αμοντέι διαβεβαιώνει ότι ανεξάρτητοι αξιολογητές θα έχουν μόνιμη πρόσβαση στα συστήματα, ώστε να μπορούν να εποπτεύουν για όποια κατάχρηση της ΤΝ για κυβερνοεπιθέσεις και βιοτρομοκρατία, ή οικονομικές αναταραχές υποκινούμενες από εμπορικά κίνητρα.
Ακολούθησε το Protagon στο Google News
Πρόσθεσε το Protagon ως προτιμώμενη πηγή στη Google