Προειδοποιώντας για την ανεξέλεγκτη ανάπτυξη αυτοβελτιούμενων συστημάτων τεχνητής νοημοσύνης (ΤΝ), ο ερευνητής Τζέικομπ Κόξον, ανακοίνωσε την Τρίτη την αποχώρησή του από την τεχνολογική εταιρεία Anthropic. Μάλιστα ο Κόξον κατηγορεί τόσο την Anthropic όσο και την OpenAI όπου εργαζόταν στο παρελθόν ότι «παίζουν με τη ζωή μας» στον αγώνα τους για την ανάπτυξη Τεχνητής Νοημοσύνης ικανής να αυτοβελτιώνεται.
Ο 27χρονος ερευνητής, ο οποίος ειδικεύεται στην προεκπαίδευση νέων μοντέλων ΤΝ μέσω της επεξεργασίας τεράστιων ποσοτήτων δεδομένων, εξήγησε ότι δεν θέλει να συμμετέχει σε μια κούρσα μεταξύ εταιρειών που επιδιώκουν να δημιουργήσουν ολοένα ισχυρότερα και αυτοβελτιούμενα συστήματα, χωρίς να έχει προηγουμένως διασφαλιστεί ότι αυτά θα παραμείνουν υπό ανθρώπινο έλεγχο.
Σε ανάρτησή του την Τρίτη στην πλατφόρμα Χ, όπου ανακοίνωσε την παραίτησή του από την Anthropic, υποστήριξε ότι καμία από τις δύο κορυφαίες εταιρείες ΤΝ δεν κινείται πλέον με επαρκώς υπεύθυνο τρόπο.
Στην ανάρτησή του αναφέρει χαρακτηριστικά: «Παραιτήθηκα από την Anthropic σήμερα. Πέρασα τα τελευταία τρία χρόνια κάνοντας έρευνα προεκπαίδευσης τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν ολοταχώς προς την αυτοβελτιούμενη υπερνοημοσύνη, παίζοντας με τις ζωές μας».
«Οι άνθρωποι που δημιουργούν την ΤΝ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους έως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ», υπογράμμισε μεταξύ άλλων.
Ο Κόξον φυσικά δεν είναι ο μόνος ερευνητής που επικοινωνεί τις ανησυχίες του. Χαρακτηριστικό είναι ότι ο Εβαν Χάμπιντζερ, στέλεχος της Anthropic αρμόδιος για την ασφάλεια, συμφώνησε με τον Κόξον σχολιάζοντας μάλιστα στο Χ: «Πράγματι, πιστεύουμε ειλικρινά ότι η ΤΝ θα μπορούσε να σκοτώσει όλους τους ανθρώπους», εκτιμώντας ότι ο κίνδυνος αυτός είναι «πάνω από 10%» μέσα στη δεκαετία.
Ο Χάμπιντζερ πρόσθεσε ότι η Anthropic κάνει «ό,τι καλύτερο» μπορεί, αλλά ακόμη «δεν έχει σχέδιο» για το πώς θα διασφαλίσει ότι ένα σύστημα ΤΝ που ξεπερνά τις ανθρώπινες δυνατότητες θα συνεχίσει να υπακούει στους δημιουργούς του, αν και εκτίμησε ότι ο κίνδυνος να συμβεί αυτό με τα τρέχοντα μοντέλα ΤΝ είναι «μικρός».
Η παραίτηση του Κόξον έλαβε χώρατην ώρα που η Anthropic ετοιμάζεται να εισαχθεί στο χρηματιστήριο και έπειτα από ένα καλοκαίρι στη διάρκεια του οποίου αποκαλύφθηκαν περιστατικά πειρατείας στα οποία ενεπλάκησαν χωρίς άδεια εργαλεία της ΤΝ.
Οι δύο εταιρείες δεν έχουν απαντήσει προς το παρόν σε αίτημα του AFP για σχολιασμό.
Ακολούθησε το Protagon στο Google News
Πρόσθεσε το Protagon ως προτιμώμενη πηγή στη Google