Δήλωση του Dario Amodei σχετικά με τις συνομιλίες μας με το Υπουργείο Πολέμου
Πιστεύω βαθύτατα στην υπαρξιακή σημασία της χρήσης της Τεχνητής Νοημοσύνης για την προάσπιση των Ηνωμένων Πολιτειών και άλλων δημοκρατιών, καθώς και για την ήττα των αυταρχικών αντιπάλων μας.
Ως εκ τούτου, η Anthropic εργάστηκε προληπτικά για τη διάθεση των μοντέλων μας στο Υπουργείο Πολέμου και την κοινότητα των υπηρεσιών πληροφοριών. Υπήρξαμε η πρώτη εταιρεία τεχνητής νοημοσύνης αιχμής που διέθεσε τα μοντέλα της στα απόρρητα δίκτυα της κυβέρνησης των ΗΠΑ, η πρώτη που τα διέθεσε στα Εθνικά Εργαστήρια και η πρώτη που παρείχε προσαρμοσμένα μοντέλα για πελάτες στον τομέα της εθνικής ασφάλειας. Το Claude χρησιμοποιείται εκτενώς σε όλο το Υπουργείο Πολέμου και σε άλλες υπηρεσίες εθνικής ασφάλειας για αποστολές κρίσιμης σημασίας, όπως η ανάλυση πληροφοριών, η μοντελοποίηση και προσομοίωση, ο επιχειρησιακός σχεδιασμός, οι κυβερνοεπιχειρήσεις και πολλά άλλα.
Η Anthropic έδρασε επίσης για να υπερασπιστεί το προβάδισμα της Αμερικής στην Τεχνητή Νοημοσύνη, ακόμη και όταν αυτό ήταν αντίθετο προς το βραχυπρόθεσμο συμφέρον της εταιρείας. Επιλέξαμε να παραιτηθούμε από έσοδα εκατοντάδων εκατομμυρίων δολαρίων προκειμένου να διακόψουμε τη χρήση του Claude από εταιρείες που συνδέονται με το Κινεζικό Κομμουνιστικό Κόμμα (ορισμένες από τις οποίες έχουν χαρακτηριστεί από το Υπουργείο Πολέμου ως Κινεζικές Στρατιωτικές Εταιρείες), σταματήσαμε κυβερνοεπιθέσεις υποστηριζόμενες από το ΚΚΚ που επιχείρησαν να καταχραστούν το Claude και υποστηρίξαμε ισχυρούς ελέγχους στις εξαγωγές τσιπ για να διασφαλίσουμε το δημοκρατικό πλεονέκτημα.
Η Anthropic κατανοεί ότι το Υπουργείο Πολέμου, και όχι οι ιδιωτικές εταιρείες, λαμβάνει τις στρατιωτικές αποφάσεις. Ποτέ δεν εγείραμε αντιρρήσεις σε συγκεκριμένες στρατιωτικές επιχειρήσεις ούτε επιχειρήσαμε να περιορίσουμε τη χρήση της τεχνολογίας μας με τρόπο ad hoc.
Ωστόσο, σε ένα περιορισμένο σύνολο περιπτώσεων, πιστεύουμε ότι η Τεχνητή Νοημοσύνη μπορεί να υπονομεύσει, αντί να υπερασπιστεί, τις δημοκρατικές αξίες. Ορισμένες χρήσεις είναι επίσης απλώς πέρα από τα όρια αυτού που η σημερινή τεχνολογία μπορεί να κάνει με ασφάλεια και αξιοπιστία. Δύο τέτοιες περιπτώσεις χρήσης δεν συμπεριλήφθηκαν ποτέ στις συμβάσεις μας με το Υπουργείο Πολέμου και πιστεύουμε ότι δεν πρέπει να συμπεριληφθούν ούτε τώρα:
-
Μαζική εγχώρια επιτήρηση. Υποστηρίζουμε τη χρήση της Τεχνητής Νοημοσύνης για νόμιμες αποστολές ξένων πληροφοριών και αντικατασκοπείας. Αλλά η χρήση αυτών των συστημάτων για μαζική εγχώρια επιτήρηση είναι ασυμβίβαστη με τις δημοκρατικές αξίες. Η μαζική επιτήρηση μέσω Τεχνητής Νοημοσύνης παρουσιάζει σοβαρούς, πρωτόγνωρους κινδύνους για τις θεμελιώδεις ελευθερίες μας. Στον βαθμό που τέτοιου είδους επιτήρηση είναι επί του παρόντος νόμιμη, αυτό συμβαίνει μόνο επειδή ο νόμος δεν έχει ακόμη προλάβει τις ραγδαία αυξανόμενες δυνατότητες της Τεχνητής Νοημοσύνης. Για παράδειγμα, βάσει της ισχύουσας νομοθεσίας, η κυβέρνηση μπορεί να αγοράσει λεπτομερή αρχεία των κινήσεων των Αμερικανών, της περιήγησής τους στο διαδίκτυο και των επαφών τους από δημόσιες πηγές χωρίς να λάβει δικαστικό ένταλμα – μια πρακτική που η κοινότητα των υπηρεσιών πληροφοριών έχει παραδεχθεί ότι εγείρει ανησυχίες για την ιδιωτικότητα και που έχει προκαλέσει διακομματική αντίθεση στο Κογκρέσο. Η ισχυρή Τεχνητή Νοημοσύνη καθιστά δυνατή τη συναρμολόγηση αυτών των διάσπαρτων, μεμονωμένα ακίνδυνων δεδομένων σε μια ολοκληρωμένη εικόνα της ζωής οποιουδήποτε ατόμου – αυτόματα και σε μαζική κλίμακα.
-
Πλήρως αυτόνομα όπλα. Τα μερικώς αυτόνομα όπλα, όπως αυτά που χρησιμοποιούνται σήμερα στην Ουκρανία, είναι ζωτικής σημασίας για την άμυνα της δημοκρατίας. Ακόμη και τα πλήρως αυτόνομα όπλα (εκείνα που απομακρύνουν εντελώς τον άνθρωπο από τη διαδικασία λήψης αποφάσεων και αυτοματοποιούν την επιλογή και την προσβολή στόχων) μπορεί να αποδειχθούν κρίσιμα για την εθνική μας άμυνα. Όμως σήμερα, τα συστήματα Τεχνητής Νοημοσύνης αιχμής απλώς δεν είναι αρκετά αξιόπιστα για να τροφοδοτήσουν πλήρως αυτόνομα όπλα. Δεν θα παράσχουμε εν γνώσει μας ένα προϊόν που θέτει σε κίνδυνο τους Αμερικανούς μαχητές και τους πολίτες. Προσφερθήκαμε να συνεργαστούμε απευθείας με το Υπουργείο Πολέμου στην έρευνα και ανάπτυξη (R&D) για τη βελτίωση της αξιοπιστίας αυτών των συστημάτων, αλλά δεν έχουν αποδεχθεί αυτή την προσφορά. Επιπλέον, χωρίς την κατάλληλη επίβλεψη, δεν μπορεί κανείς να βασιστεί στα πλήρως αυτόνομα όπλα για την άσκηση της κρίσιμης κρίσης που επιδεικνύουν καθημερινά τα άρτια εκπαιδευμένα, επαγγελματικά στρατεύματά μας. Πρέπει να αναπτύσσονται με τις κατάλληλες δικλείδες ασφαλείας, οι οποίες δεν υπάρχουν σήμερα.
Εξ όσων γνωρίζουμε, αυτές οι δύο εξαιρέσεις δεν αποτέλεσαν εμπόδιο στην επιτάχυνση της υιοθέτησης και της χρήσης των μοντέλων μας εντός των ενόπλων δυνάμεών μας μέχρι σήμερα.
Το Υπουργείο Πολέμου δήλωσε ότι θα συνάπτει συμβάσεις μόνο με εταιρείες Τεχνητής Νοημοσύνης που συναινούν σε «οποιαδήποτε νόμιμη χρήση» και αφαιρούν τις δικλείδες ασφαλείας στις περιπτώσεις που προαναφέρθηκαν. Απείλησαν να μας απομακρύνουν από τα συστήματά τους εάν διατηρήσουμε αυτές τις δικλείδες. Απείλησαν επίσης να μας χαρακτηρίσουν ως «κίνδυνο για την εφοδιαστική αλυσίδα» –ένας χαρακτηρισμός που προορίζεται για τους αντιπάλους των ΗΠΑ και δεν έχει εφαρμοστεί ποτέ ξανά σε αμερικανική εταιρεία– και να επικαλεστούν τον Νόμο περί Αμυντικής Παραγωγής (Defense Production Act) για να εξαναγκάσουν την αφαίρεση των δικλείδων ασφαλείας. Αυτές οι δύο τελευταίες απειλές είναι εγγενώς αντιφατικές: η μία μας χαρακτηρίζει κίνδυνο για την ασφάλεια, η άλλη χαρακτηρίζει το Claude ως απαραίτητο για την εθνική ασφάλεια.
Σε κάθε περίπτωση, οι απειλές αυτές δεν αλλάζουν τη θέση μας: δεν μπορούμε με καθαρή συνείδηση να συναινέσουμε στο αίτημά τους.
Αποτελεί προνόμιο του Υπουργείου να επιλέγει τους αναδόχους που είναι περισσότερο ευθυγραμμισμένοι με το όραμά του. Ωστόσο, δεδομένης της σημαντικής αξίας που παρέχει η τεχνολογία της Anthropic στις ένοπλες δυνάμεις μας, ελπίζουμε να το ξανασκεφτούν. Η ισχυρή μας προτίμηση είναι να συνεχίσουμε να υπηρετούμε το Υπουργείο και τους μαχητές μας – με τις δύο ζητούμενες δικλείδες ασφαλείας σε ισχύ. Εάν το Υπουργείο επιλέξει να διακόψει τη συνεργασία με την Anthropic, θα εργαστούμε για να επιτρέψουμε μια ομαλή μετάβαση σε άλλον πάροχο, αποφεύγοντας οποιαδήποτε διατάραξη του συνεχιζόμενου στρατιωτικού σχεδιασμού, των επιχειρήσεων ή άλλων κρίσιμων αποστολών. Τα μοντέλα μας θα είναι διαθέσιμα υπό τους διευρυμένους όρους που προτείναμε για όσο διάστημα απαιτηθεί.
Παραμένουμε έτοιμοι να συνεχίσουμε το έργο μας για την υποστήριξη της εθνικής ασφάλειας των Ηνωμένων Πολιτειών.