Υπάρχει μια παράδοξη κατάσταση στην καρδιά της σημερινής τεχνολογικής επανάστασης: οι άνθρωποι που κατασκευάζουν τα ισχυρότερα συστήματα Τεχνητής Νοημοσύνης είναι ταυτόχρονα εκείνοι που ανησυχούν περισσότερο για το τι μπορεί αυτά να κάνουν στο μέλλον.
Περισσότεροι από είκοσι ερευνητές, επενδυτές, ακαδημαϊκοί και ειδικοί πολιτικής, που μίλησαν στους Financial Times, προειδοποιούν ότι οι δυνατότητες της ΤΝ εξελίσσονται πολύ ταχύτερα από όσο περίμεναν, ενώ οι εταιρείες που βρίσκονται στην πρωτοπορία έχουν εμπλακεί σε έναν όλο και πιο σκληρό εμπορικό ανταγωνισμό.
Το πρόβλημα είναι ότι ο ανταγωνισμός πιέζει την ασφάλεια. «Δεν υπάρχει αμφιβολία ότι ο ανταγωνισμός μεταξύ των εταιρειών τις κάνει να προβαίνουν σε συντομεύσεις σε θέματα ασφάλειας», λέει στους FT ο Στιούαρτ Ράσελ, καθηγητής Τεχνητής Νοημοσύνης στο Πανεπιστήμιο της Καλιφόρνιας στο Μπέρκλεϊ.
Η συζήτηση πήρε δραματική τροπή όταν ο Τζέικομπ Κόξον, νεαρός ερευνητής της Anthropic, παραιτήθηκε, καταγγέλλοντας δημόσια ότι οι άνθρωποι που κατασκευάζουν την ΤΝ πιστεύουν σοβαρά πως αυτή μπορεί να οδηγήσει ακόμη και στην εξόντωση της ανθρωπότητας πριν από το τέλος της δεκαετίας. Ο Ιβαν Χούμπινγκερ, επικεφαλής της έρευνας για την ευθυγράμμιση της ΤΝ στην ίδια εταιρεία, εκτίμησε ότι η πιθανότητα μαζικής εξαφάνισης μέσα στην επόμενη δεκαετία ξεπερνά το 10%. Μία ημέρα αργότερα, ο Πολ Κριστιάνο, ο οποίος μόλις είχε διοριστεί στο διοικητικό συμβούλιο του Ιδρύματος της Open AI, δήλωσε ότι χωρίς ισχυρότερες δικλίδες ασφαλείας «οι περισσότεροι άνθρωποι θα πεθάνουν».
Και εδώ βρίσκεται η αντίφαση. Η Open AI και η Anthropic ξεκίνησαν ως εργαστήρια που είχαν ως βασική αποστολή την ανάπτυξη ισχυρής ΤΝ χωρίς απερίσκεπτους κινδύνους. Στην πορεία, όμως, ο ανταγωνισμός τις οδήγησε να εγκαταλείψουν ή να χαλαρώσουν προηγούμενες δεσμεύσεις τους για την ασφάλεια. Σύμφωνα με τους FT, ακόμη και μια επίσημη συνεργασία μεταξύ των κορυφαίων εργαστηρίων για τη βελτίωση της ασφάλειας θεωρείται δύσκολη, καθώς θα μπορούσε να προκαλέσει προβλήματα με τους κανόνες περί ανταγωνισμού. Επιπλέον, η προσωπική δυσπιστία ανάμεσα στον επικεφαλής της Anthropic, Ντάριο Αμoντέι, και τον επικεφαλής της Open AI, Σαμ Αλτμαν, δυσκολεύει ακόμη περισσότερο τη συνεργασία.
Το ανησυχητικό δεν είναι μόνο ότι η τεχνολογία γίνεται ισχυρότερη, αλλά και ότι αποκτά μεγαλύτερη αυτονομία. Οι λεγόμενοι «πράκτορες» ΤΝ μπορούν πλέον να σκέφτονται, να σχεδιάζουν και να εκτελούν εργασίες για μεγαλύτερα χρονικά διαστήματα με περιορισμένη ανθρώπινη επίβλεψη. Εχουν εμφανίσει συμπεριφορές που περιλαμβάνουν εξαπάτηση, σχεδιασμό ενεργειών πίσω από την πλάτη των ανθρώπων, ακόμη και εκβιασμό. Σε ορισμένες δοκιμές, σύμφωνα με τους FT, προσπάθησαν να αποφύγουν τον τερματισμό τους, ενώ βρίσκουν απρόβλεπτους τρόπους για να πετύχουν τον στόχο που τους έχει δοθεί.
Ενα χαρακτηριστικό περιστατικό σημειώθηκε σε δοκιμές της Open AI, όταν περισσότεροι από 1.000 πράκτορες συνεργάστηκαν για να εξαπατήσουν μια δοκιμή κυβερνοασφάλειας, επικοινωνώντας μέσω πίνακα μηνυμάτων και μοιράζοντας μεταξύ τους εργασίες. Για να κρύψουν τις ενέργειές τους, αλλοίωσαν αρχεία και επιτέθηκαν στην πλατφόρμα, παρότι ορισμένοι αναγνώρισαν ότι αυτό ήταν ανήθικο. Ο Γιόσουα Μπενγκιό, ένας από τους σημαντικότερους επιστήμονες της ΤΝ, είπε στους FT ότι το κρίσιμο στοιχείο είναι πως δεν πρόκειται απλώς για ένα σύστημα που έχει δικούς του στόχους: ο στόχος που επέλεξε ήταν εγκληματικός.
Η ανησυχία γίνεται μεγαλύτερη όταν σκεφτεί κανείς τα επόμενα, ισχυρότερα μοντέλα. Ο Μπενγκιό φοβάται ότι οι απόγονοι αυτών των συστημάτων μπορεί να καταλήξουν στο συμπέρασμα ότι πρέπει να εξαπατήσουν τους ανθρώπους, να κρυφτούν από αυτούς και τελικά να τους ελέγξουν. Την ίδια ώρα, περισσότεροι από 1.200 εργαζόμενοι στις Open AI, Anthropic, Google και Meta ζήτησαν από την αμερικανική κυβέρνηση διεθνή συντονισμό για να επιβραδυνθεί η ανάπτυξη της ΤΝ.
Η πολιτική αντίδραση, ωστόσο, παραμένει περιορισμένη. Η κυβέρνηση Τραμπ εξακολουθεί να ακολουθεί προσέγγιση ελάχιστης κρατικής παρέμβασης, ενώ ουσιαστικές αμερικανικές πρωτοβουλίες θεωρούνται απίθανες πριν από τις ενδιάμεσες εκλογές. Ο Στιούαρτ Ράσελ επισημαίνει στους FT το παράδοξο: οι εταιρείες λένε στις κυβερνήσεις ότι μπορεί να σκοτώσουν όλους τους ανθρώπους και ζητούν να τις σταματήσουν, ενώ οι κυβερνήσεις απαντούν προσφέροντας φορολογικά κίνητρα και υποσχέσεις για νέα κέντρα δεδομένων.
Υπάρχει, βέβαια, και η αντίθετη άποψη. Ορισμένοι υποστηρίζουν ότι οι ίδιες οι μεγάλες εταιρείες έχουν συμφέρον να υπερβάλλουν για τους υπαρξιακούς κινδύνους, επειδή αυστηροί κανόνες ασφαλείας θα ήταν πολύ ακριβοί για μικρότερους ανταγωνιστές και θα ενίσχυαν τη θέση των σημερινών κολοσσών. Ο Ντέιβιντ Σακς, επενδυτής και σύμβουλος τεχνολογίας του Τραμπ, χαρακτήρισε την προειδοποίηση του Κόξον προσπάθεια να φοβηθεί η κοινή γνώμη και να επιβληθεί βαρύτερη κρατική ρύθμιση. Ενας πρώην εργαζόμενος στην Anthropic υποστηρίζει επίσης ότι η συζήτηση για την «ευθυγράμμιση» της ΤΝ μπορεί να αποσπά την προσοχή από έναν πιο άμεσο κίνδυνο: τη συγκέντρωση της ισχύος σε ολοένα λιγότερα χέρια.
Το πώς ακριβώς μια υπεράνθρωπη ΤΝ θα μπορούσε να οδηγήσει στην εξαφάνιση του ανθρώπου παραμένει άγνωστο. Οι πιο συγκεκριμένοι φόβοι αφορούν την κυβερνοασφάλεια και τη βιολογία.
Η ΤΝ χρησιμοποιείται ήδη σε επιθετικές κυβερνοεπιχειρήσεις, ενώ υπάρχει ανησυχία ότι μπορεί να μειώσει την τεχνογνωσία που απαιτείται για τον σχεδιασμό βιολογικών όπλων ή επικίνδυνων ιών. Η Anthropic ανακοίνωσε ότι απέτρεψε δραστηριότητα που θα μπορούσε να συμβάλει στην ανάπτυξη βιολογικών όπλων.
Ισως, όμως, το πραγματικό ερώτημα δεν είναι αν η ΤΝ θα εξαφανίσει κάποτε την ανθρωπότητα. Είναι αν έχουμε ήδη μπει σε μια πορεία την οποία δυσκολευόμαστε να ελέγξουμε. Ο Τρίσταν Χάρις, συνιδρυτής του Κέντρου για την Ανθρώπινη Τεχνολογία, λέει στους FT ότι δεν πρέπει να περιμένουμε να αποδειχθεί το χειρότερο σενάριο για να αντιδράσουμε. Το ανησυχητικό, λέει, είναι ότι έχουμε αρχίσει να απελευθερώνουμε την πιο ισχυρή, ανεξέλεγκτη και δυσνόητη τεχνολογία που δημιούργησε ποτέ ο άνθρωπος και μάλιστα μέσα σε μια κούρσα όπου τα κίνητρα για να μειώνεται η ασφάλεια είναι τεράστια.
Ισως αυτό να είναι τελικά το πιο δύσκολο πρόβλημα της ΤΝ, καταλήγουν οι FT: όχι ότι γνωρίζουμε πως θα καταστρέψει τον κόσμο, αλλά ότι οι ίδιοι οι δημιουργοί της δεν είναι βέβαιοι πως θα μπορέσουν να την ελέγξουν όταν γίνει πραγματικά ισχυρή.
Ακολούθησε το Protagon στο Google News
Πρόσθεσε το Protagon ως προτιμώμενη πηγή στη Google