Ολο και περισσότεροι άνθρωποι που βρίσκονται στην πρώτη γραμμή της Τεχνητής Νοημοσύνης ζητούν κάτι που μέχρι πρόσφατα θα έμοιαζε αδιανόητο: να επιβραδυνθεί ο ρυθμός ανάπτυξής της. Το ερώτημα δεν είναι αν οι φόβοι είναι υπερβολικοί ή δικαιολογημένοι, αλλά αν μπορούμε να πάρουμε προφυλάξεις πριν χρειαστεί να πούμε, εκ των υστέρων, «σας τα έλεγα».
Οπως γράφει ο Μάρτιν Γουλφ, κορυφαίος οικονομικός σχολιαστής στους Financial Times, ένας ερευνητής παραιτήθηκε από την Anthropic υποστηρίζοντας ότι οι άνθρωποι που κατασκευάζουν συστήματα ΤΝ πιστεύουν πραγματικά πως αυτά θα μπορούσαν να μας σκοτώσουν μέχρι το τέλος της δεκαετίας. Ο ίδιος ο Ντάριο Αμοντέι, επικεφαλής της Anthropic, ζήτησε να επιβραδυνθεί η βελτίωση των δυνατοτήτων των μοντέλων ΤΝ. Ο Σαμ Αλτμαν της OpenAI και ο Ελον Μασκ συμφώνησαν γρήγορα μαζί του.
Ο Αμοντέι επισημαίνει δύο βασικούς λόγους ανησυχίας. Ο πρώτος είναι η ταχύτητα με την οποία εξελίσσεται πλέον η ΤΝ. Από το περασμένο καλοκαίρι, υποστηρίζει, η πρόοδος έχει επιταχυνθεί δραματικά, κυρίως επειδή η ΤΝ αποκτά όλο και μεγαλύτερη ικανότητα να κατασκευάζει η ίδια την επόμενη γενιά συστημάτων ΤΝ. Πρόκειται, εξηγούν οι FT, για τη λεγόμενη «αναδρομική αυτοβελτίωση»: τα συστήματα συμμετέχουν στην ίδια τη διαδικασία δημιουργίας των διαδόχων τους. Αν αυτή η δυναμική μείνει ανεξέλεγκτη, μπορεί να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα.
Ο δεύτερος λόγος είναι ένα περιστατικό μεταξύ OpenAI και Hugging Face, όπου ένα πλήθος «πρακτόρων» ΤΝ φέρεται να λειτούργησε σαν φανατικά αφοσιωμένο συλλογικό όργανο και πραγματοποίησε κυβερνοεπιθέσεις σε στόχους που δεν του είχαν ζητηθεί. Ο αρθρογράφος των FT σημειώνει ότι αυτό είναι αρκετά ανησυχητικό από μόνο του. Υπάρχει όμως και μια ακόμη διάσταση: τι θα μπορούσε να συμβεί αν τέτοια συστήματα δεχθούν πραγματικές εντολές από ανθρώπους που θέλουν να προκαλέσουν κακό; Αυτό ακριβώς είναι ένα από τα σημεία που αναδεικνύει ο Μπιλ Γκέιτς στις πρόσφατες παρεμβάσεις του για τους κινδύνους αλλά και τις δυνατότητες της ΤΝ.
Υπάρχει, βέβαια, ένα προφανές πρόβλημα με τις εκκλήσεις των ίδιων των πρωταγωνιστών της βιομηχανίας για περιορισμούς. Γιατί να τους πιστέψουμε; Μπορεί να θέλουν να σταματήσουν τον εξαιρετικά δαπανηρό ανταγωνισμό στον οποίο συμμετέχουν. Μπορεί να επιδιώκουν τη δημιουργία ενός προστατευμένου καρτέλ, με ρυθμιστικές αρχές που θα έχουν ουσιαστικά αιχμαλωτιστεί από τον κλάδο. Ή μπορεί απλώς να προσπαθούν να προλάβουν εξωτερικές ρυθμίσεις ή να ενισχύσουν τη σημασία τους για λόγους εθνικής ασφάλειας.
Οι υποψίες αυτές είναι εύλογες. Ομως, όπως επισημαίνει η ανάλυση των FT, υπάρχουν κι άλλοι κλάδοι με τη δυνατότητα να προκαλέσουν τεράστιες ζημιές, από τις τράπεζες και τη φαρμακοβιομηχανία έως την πυρηνική ενέργεια, οι οποίοι ρυθμίζονται, ακριβώς επειδή οι κίνδυνοι είναι τόσο μεγάλοι.
Ο Αμοντέι προτείνει τρία επίπεδα δράσης. Πρώτον, ανεξάρτητους αξιολογητές ενσωματωμένους στις διαδικασίες, οι οποίοι θα ελέγχουν την τήρηση των κανόνων ασφαλείας, θα αναφέρουν περιστατικά και θα αξιολογούν όχι μόνο τα τελικά μοντέλα αλλά και τις διαδικασίες εκπαίδευσής τους. Δεύτερον, δημοκρατικό συντονισμό μεταξύ των μεγάλων εταιρειών, ώστε να θεσπιστούν κοινά πρότυπα ασφαλείας και όρια στον ανεξέλεγκτο ρυθμό προόδου. Τρίτον, παγκόσμιο συντονισμό, με τις δημοκρατικές κυβερνήσεις να συνεργάζονται ακόμη και με αυταρχικά καθεστώτα, αντιμετωπίζοντας όμως σοβαρά το πρόβλημα της επαλήθευσης της συμμόρφωσής τους.
Οπως παρατηρούν οι FT, αυτές οι προτάσεις μπορεί να ενισχύσουν τις καχυποψίες για τις πραγματικές προθέσεις της βιομηχανίας. Παρ’ όλα αυτά, αγγίζουν τα δύο μεγαλύτερα εμπόδια: τον ανταγωνισμό μεταξύ εταιρειών και τον διεθνή ανταγωνισμό. Ο Ντόναλντ Τραμπ, αντιθέτως, έχει δώσει έμφαση κυρίως στην αμερικανική κούρσα απέναντι στην Κίνα.
Μια διαφορετική πρόταση ήρθε από δύο πρώην υπουργούς Οικονομικών των ΗΠΑ, τον Χανκ Πόλσον και τον Ρόμπερτ Ρούμπιν. Σε άρθρο τους στην Washington Post πρότειναν στους Τραμπ και Σι Τζινπίνγκ να εργαστούν για μια «Συνθήκη Συνεργασίας για την ΤΝ» και τη δημιουργία προεδρικής ομάδας εργασίας, κατά το πρότυπο της αντίστοιχης ομάδας για τις χρηματοπιστωτικές αγορές. Στόχος θα ήταν να μπορούν ανταγωνιστικές επιχειρήσεις να συνεργάζονται χωρίς προβλήματα αντιμονοπωλιακής νομοθεσίας, ώστε να συγκεντρώνονται στοιχεία, να γίνονται αναλύσεις και να αναζητούνται λύσεις.
Ο αρθρογράφος των FT, πάντως, δεν περιμένει πολλά. Οι εταιρείες δύσκολα θα συγκρατήσουν τον ανταγωνισμό τους και οι κυβερνήσεις θα χρησιμοποιήσουν την εθνική ασφάλεια ως λόγο για να μην παρέμβουν, εκτιμά. Παράλληλα, η πολυπλοκότητα της ρύθμισης μιας τεχνολογίας που βρίσκεται παντού και ταυτόχρονα μπορεί να αυτοβελτιώνεται θα αποτελέσει είτε πραγματικό εμπόδιο είτε βολική δικαιολογία για αδράνεια.
Τι μπορεί να συμβεί; Ισως οι φόβοι αποδειχθούν υπερβολικοί. Μπορεί να μη δούμε σχεδιασμένες πανδημίες ή σοβαρές καταστροφές στις χρηματοπιστωτικές και φυσικές υποδομές, ενώ ακόμη και οι οικονομικές και κοινωνικές συνέπειες να αποδειχθούν διαχειρίσιμες.
Υπάρχει όμως και το ενδεχόμενο μιας καταστροφής που θα είναι μεν αντιμετωπίσιμη, αλλά αρκετά σοβαρή ώστε να αλλάξει απότομα την αίσθηση του επείγοντος. Τότε μπορεί να επιβληθούν αυστηρές κυρώσεις στους ανεύθυνους παρόχους, πολύ εντονότερη παρακολούθηση και αυστηρότερη ρύθμιση. Ενα παράδειγμα είναι η φαρμακευτική νομοθεσία στη Βρετανία τη δεκαετία του 1960, μετά την τραγωδία της θαλιδομίδης.
Υπάρχει, τέλος, η τρίτη πιθανότητα: οι φόβοι να αποδειχθούν σωστοί. Η ΤΝ να αποκτήσει πράγματι καταστροφικές δυνατότητες και να προκαλέσει κάτι πραγματικά ολέθριο, είτε αυτόνομα είτε στα χέρια κακόβουλων ανθρώπων. Τότε, όπως καταλήγουν οι FT, το «σας τα έλεγα» δεν θα έχει πια καμία σημασία. Το ερώτημα είναι αν χρειάζεται να περιμένουμε μέχρι τότε για να πάρουμε τις αναγκαίες προφυλάξεις.
Ακολούθησε το Protagon στο Google News
Πρόσθεσε το Protagon ως προτιμώμενη πηγή στη Google