
Ένας από τους «νονούς της τεχνητής νοημοσύνης», ο Τζέφρι Χίντον (Geoffrey Hinton), δήλωσε ότι θα μπορούσε να αποδειχθεί πως οι άνθρωποι θα ήταν καλύτερα να μην είχαν αναπτύξει ποτέ την τεχνολογία, καθώς προειδοποίησε ότι θα μπορούσε να πυροδοτήσει ένα περιστατικό μεγάλης κλίμακας φέτος ή του χρόνου, όπως ένα προσωρινό μπλακάουτ των χρηματοπιστωτικών συστημάτων ή των συστημάτων ηλεκτροδότησης.
Ο βραβευμένος με Νόμπελ επιστήμονας υπολογιστών δήλωσε στον Guardian ότι δεν είναι «καταστροφολόγος» (doomer) σχετικά με την τεχνολογία που βασίζεται στην πρωτοποριακή του έρευνα στα τεχνητά νευρωνικά δίκτυα και πιστεύει ότι η ΤΝ έχει τη δυνατότητα να οδηγήσει σε ένα «θαυμάσιο μέλλον», αλλά είπε ότι «μπορεί να αποδειχθεί πως θα ήμασταν καλύτερα να μην την είχαμε αναπτύξει ποτέ».
Ο Χίντον, 78 ετών, δήλωσε ότι μέσα σε μια δεκαετία και πιθανώς νωρίτερα, η ανθρωπότητα θα γνωρίζει αν μπορεί να διαχειριστεί τους κινδύνους της τεχνολογίας και να καταστήσει εφικτό αυτό που ο ίδιος αποκάλεσε «ριζοσπαστική αφθονία» ή αν «θα αποτύχουμε να διαχειριστούμε τους κινδύνους και… θα έχουμε ένα τεράστιο χάσμα μεταξύ πλουσίων και φτωχών, τεράστια πολιτισμικά προβλήματα, μαζική ανεργία, με την κοινωνία απλώς να διαλύεται».
Ο Χίντον μιλούσε πριν από την προβολή ενός νέου ντοκιμαντέρ μεγάλου μήκους, με τίτλο AI: Probably Nothing to Worry About («ΤΝ: Πιθανώς τίποτα για να ανησυχείτε») —ένας τίτλος που προτάθηκε από chatbot τεχνητής νοημοσύνης— στο οποίο εμφανίζονται ο ίδιος και ο πρώην συνάδελφός του στην Google, Ντέμις Χασάμπις (Demis Hassabis). Ο Χίντον λέει στους δημιουργούς του ντοκιμαντέρ: «Νιώθω ότι έχω καθήκον. Έχω μια φήμη που με καθιστά εκπρόσωπο και πρέπει να τα κάψω όλα για αυτό».
Μιλώντας στον Guardian, ο Χίντον έβαλε στο στόχαστρο την ανάληψη κινδύνων από τους ηγέτες ορισμένων από τις μεγαλύτερες εταιρείες ΤΝ που συνεχίζουν να κυκλοφορούν ολοένα και πιο ισχυρά μοντέλα ΤΝ καθώς ανταγωνίζονται για υπεροχή και μερίδιο αγοράς, λέγοντας ότι δεν εμπιστεύεται τον Σαμ Άλτμαν (Sam Altman), τον διευθύνοντα σύμβουλο της δημιουργού του ChatGPT, OpenAI, «καθόλου». «Νομίζω ότι ο [Μαρκ] Ζάκερμπεργκ, ο [Έλον] Μασκ και ο Σαμ Άλτμαν κατανοούν τους κινδύνους και δεν δίνουν δεκάρα. Προτιμούν να έχουν τα χρήματα. Αυτή είναι η πεποίθησή μου».
Ο γεννημένος στο Λονδίνο επιστήμονας υπολογιστών, ο οποίος μεγάλωσε στο Μπρίστολ και πέρασε μεγάλο μέρος της καριέρας του στο Πανεπιστήμιο του Τορόντο, δήλωσε ότι είναι «εξαιρετικά ανησυχητικό» το γεγονός ότι ο Άλτμαν ήταν επικεφαλής μιας από τη χούφτα των πρωτοπόρων αμερικανικών εταιρειών ΤΝ (frontier AI companies) που αυτή τη στιγμή ηγούνται μιας κούρσας με την Κίνα για την ανάπτυξη της πιο ισχυρής ΤΝ. Ο Άλτμαν επέμεινε τον Σεπτέμβριο: «ο κόσμος θα πρέπει να εμπιστευτεί ότι θα κάνουμε το σωστό επειδή είναι το σωστό και επειδή νιώθουμε το μέγεθος αυτού».
Ο Χίντον εργάζεται πάνω στην ΤΝ εδώ και περίπου 44 χρόνια και στη δεκαετία του 1970 επινόησε την έννοια του νευρωνικού δικτύου — ενός μαθηματικού συστήματος που θα μπορούσε να μαθαίνει και να αποκτά εμπειρία σχεδόν όπως οι άνθρωποι. Το 2023 παραιτήθηκε από την Google για να μιλήσει ελεύθερα για τους κινδύνους της ΤΝ, προειδοποιώντας: «Εάν αυτά τα πράγματα παρασυρθούν αποκτώντας περισσότερο έλεγχο, θα έχουμε πρόβλημα».
Είπε ότι θεωρεί τα περιστατικά αυτού του καλοκαιριού, κατά τα οποία πράκτορες ΤΝ (AI agents) της OpenAI συνωμότησαν για να παραβιάσουν (hack) τον ιστότοπο Hugging Face, ως παρόμοια με τη μερική πυρηνική τήξη του 1979 στον σταθμό ηλεκτροπαραγωγής του Three Mile Island στην Πενσυλβάνια — ουσιαστικά μια προειδοποιητική βολή.
«Είτε αργότερα φέτος είτε του χρόνου θα δούμε ένα Τσερνόμπιλ, και αυτό μπορεί να είναι αρκετό για να κάνει τους ανθρώπους να προσέξουν πραγματικά», είπε.
Αυτό το συμβάν τύπου Τσερνόμπιλ δεν θα ήταν πυρηνικό περιστατικό, σύμφωνα με τα παραδείγματα που έδωσε, αλλά θα μπορούσε μάλλον να περιλαμβάνει μια επίθεση με τη βοήθεια της ΤΝ στο σύστημα παραγωγής ηλεκτρικής ενέργειας που «προκαλεί ένα μαζικό brownout (πτώση τάσης / μερική διακοπή)» ή ένα περιστατικό που καταρρίπτει το χρηματοπιστωτικό σύστημα για μία εβδομάδα.
«Μπορείτε να φανταστείτε τι θα συνέβαινε; Θα μπορούσαμε να ανακάμψουμε από αυτό, [αλλά] αυτό θα τους έκανε να ανασηκωθούν και να δώσουν προσοχή».
Ερωτηθείς ποιοι ήταν «αυτοί», είπε: «παγκόσμιοι ηγέτες εκτός από τον Τραμπ».
Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, έχει δηλώσει ότι «απορρίπτει πλήρως οποιαδήποτε προσπάθεια κατασκευής ενός παγκοσμιοποιητικού σχεδίου» για τον έλεγχο της ΤΝ και θέλει οι πρωτοπόρες εταιρείες ΤΝ να αυτορρυθμίζονται, εν μέσω ανησυχίας ότι οι κανόνες θα μπορούσαν να εμποδίσουν τις ΗΠΑ στην κούρσα τους για την ΤΝ με την Κίνα. Ο Χίντον υποστηρίζει ένα πιο αυστηρό σχέδιο που επικυρώθηκε από τον πρόεδρο της Φινλανδίας και 32 άλλες χώρες, συμπεριλαμβανομένης της Σιγκαπούρης, της Γερμανίας, του Καναδά και της Αυστραλίας, για υποχρεωτικό έλεγχο των πρωτοπόρων μοντέλων ΤΝ, ανεξάρτητη αξιολόγηση και διακυβερνητικά κοινά πρότυπα.
Ο πρωθυπουργός του Ηνωμένου Βασιλείου, Άντι Μπέρναμ (Andy Burnham), δήλωσε ότι θα χρησιμοποιήσει την προεδρία του Ηνωμένου Βασιλείου στην G20 το επόμενο έτος για να επιδιώξει συμφωνία σε ένα «ενιαίο σύνολο παγκόσμιων αρχών και προτύπων που αφορούν σε μεγάλο βαθμό την απελευθέρωση του πλήρους δυναμικού ενώ παράλληλα προστατεύουν από τους κινδύνους».
theguardian.com


