Δεύτερον, κάθε απάντηση στην εκτόπιση θέσεων εργασίας λόγω της Τεχνητής Νοημοσύνης πρέπει να αντιμετωπίζει τόσο την ανάγκη για οικονομική εξασφάλιση όλων, όσο και την ανάγκη των ανθρώπων να βρίσκουν νόημα, σκοπό και αυτενέργεια (agency). Το τελευταίο είναι τελικά πιο σημαντικό και εξαρτάται από βαθιά ερωτήματα σχετικά με το πώς είναι οργανωμένη η κοινωνία, τι πρέπει να επιδιώκουν οι άνθρωποι και τι συνιστά την καλή ζωή. Είμαι στην πραγματικότητα πολύ αισιόδοξος ότι, ακόμη και σε έναν κόσμο με συστήματα AI που είναι καλύτερα από τον καθένα στα πάντα, οι άνθρωποι μπορούν να ζήσουν ζωές με βαθύ σκοπό και να προσπαθήσουν να χτίσουν πράγματα που προκαλούν δέος και είναι όμορφα⁵. Αλλά αυτό είναι κάτι που πρέπει να επεξεργαστεί συλλογικά η κοινωνία στο σύνολό της, όχι κάτι που μπορεί να αντιμετωπίσει άμεσα η πολιτική. Η πολιτική μπορεί να φανεί εξαιρετικά χρήσιμη στο να μας κερδίσει χρόνο για να κάνουμε αυτή τη δουλειά, επιβραδύνοντας την απώλεια θέσεων εργασίας και παρέχοντας οικονομική στήριξη σε όσους ενδέχεται να επηρεαστούν.
Σε αυτό το πνεύμα, ορισμένες βασικές πολιτικές παρεμβάσεις που είναι πιθανό να φανούν χρήσιμες περιλαμβάνουν:
-
Μέτρηση και παρακολούθηση. Είναι εύκολο να απορρίψει κανείς την απλή συλλογή και ανάλυση δεδομένων ως ανεπαρκή για την κλίμακα του προβλήματος, αλλά είναι απίθανο να έχουμε μια καλή πολιτική εάν δεν μπορούμε να μετρήσουμε με ακρίβεια τι συμβαίνει στην πράξη. Η Anthropic λειτουργεί έναν Οικονομικό Δείκτη (Economic Index) για το πώς οι άνθρωποι χρησιμοποιούν το Claude εδώ και σχεδόν ενάμισι χρόνο, αλλά οι κυβερνήσεις έχουν πρόσβαση σε είδη δεδομένων που εμείς δεν έχουμε, και θα μπορούσαν να επεκτείνουν σημαντικά τις οικονομικές τους στατιστικές για να παρακολουθούν πιο προσεκτικά την εκτόπιση θέσεων εργασίας από το AI.
-
Κίνητρα υπέρ της απασχόλησης. Ένα ευρύ φάσμα πολιτικών κινήτρων υπέρ της απασχόλησης μπορεί να βοηθήσει στην επιβράδυνση ή τη μείωση της εκτόπισης θέσεων εργασίας, συμπεριλαμβανομένων: πολιτικών ασφάλισης μισθού (wage insurance) που αποζημιώνουν τους ανθρώπους όταν αναγκάζονται να αναλάβουν μια χαμηλότερα αμειβόμενη εργασία⁶, φορολογικών κινήτρων διατήρησης προσωπικού για να ενθαρρύνονται οι εργοδότες να μην κάνουν απολύσεις, επιχορηγήσεων κατάρτισης του εργατικού δυναμικού ή υποδομών για τη διευκόλυνση της αντιστοίχισης εργοδοτών και εργαζομένων με σκοπό την επιτάχυνση του ρυθμού προσαρμογής της αγοράς εργασίας. Αν και οι ιδιαιτερότητες σχετικά με το ποιες παρεμβάσεις είναι οι καλύτερες θα εξαρτηθούν από το είδος της εκτόπισης εργασίας που θα φέρει η Τεχνητή Νοημοσύνη, θα πρέπει να αποδεχθούμε πρόθυμα το κόστος και τις αναποτελεσματικότητες της αγοράς που θα μπορούσαν να συνεπάγονται αυτές οι πολιτικές, ιδίως καθώς είναι πιθανό να αντισταθμιστούν από τα κέρδη παραγωγικότητας που οδηγούνται από το AI.
-
Μακροπρόθεσμη μακροοικονομική υποστήριξη. Εάν η εκτόπιση εργασίας λόγω του AI καταλήξει να είναι μεγάλης κλίμακας και μειώσει μόνιμα τη ζήτηση για εργασία, θα είναι πιθανώς απαραίτητο να προχωρήσουμε πέρα από απλά προγράμματα κινήτρων, σε μια μακροπρόθεσμη εισοδηματική στήριξη για ένα σημαντικό τμήμα του εργατικού δυναμικού. Μηχανισμοί όπως το καθολικό βασικό εισόδημα (universal basic income) θα μπορούσαν να χρηματοδοτηθούν μέσω φόρων στις σχετικές εταιρείες ή μέσω της αύξησης του φόρου κεφαλαιακών κερδών. Οι καθολικοί λογαριασμοί κεφαλαίου (universal capital accounts) προσφέρουν ένα άλλο μέσο. Γενικά μιλώντας, η γρήγορη οικονομική ανάπτυξη θα πρέπει να δημιουργήσει τη φορολογική βάση για μια κοινή ευημερία.
Ένα κοινό επίκεντρο οικονομικής ανησυχίας σχετικά με το AI που δεν έχω αναφέρει είναι τα κέντρα δεδομένων (datacenters) και συγκεκριμένα η πιθανότητά τους να αυξήσουν τις τιμές της ενέργειας. Η άποψή μου είναι ότι οι εταιρείες AI θα πρέπει να πληρώνουν για να απορροφούν τις αυξήσεις των τιμολογίων —και η Anthropic έχει ήδη δεσμευτεί να το πράξει— αλλά βλέπω τη δημόσια εχθρότητα προς τα κέντρα δεδομένων κυρίως ως σύμβολο ή διέξοδο για ευρύτερες οικονομικές ανησυχίες σχετικά με την Τεχνητή Νοημοσύνη. Είναι σημαντικό να έχουμε μια άμεση κοινωνική συζήτηση για αυτά τα ευρύτερα οικονομικά ζητήματα και να έχουμε πραγματικά πειστικές λύσεις για αυτά, αλλιώς είναι πιθανό να εκδηλωθούν έμμεσα, όπως συνέβη με τα κέντρα δεδομένων.
3. Επιτάχυνση του θετικού αντίκτυπου της Τεχνητής Νοημοσύνης
Ακριβώς όπως πρέπει να παλέψουμε με την ισορροπία μεταξύ καινοτομίας και ασφάλειας για την ίδια την Τεχνητή Νοημοσύνη, πρέπει να παλέψουμε με την ίδια ισορροπία και για τεχνολογίες που είναι πιθανό να επιταχυνθούν από αυτήν, όπως η βιοϊατρική, η ενέργεια ή η επιστήμη των υλικών. Όμως, ενώ η ίδια η Τεχνητή Νοημοσύνη είναι πιθανό να παρουσιάσει πρωτόγνωρες προκλήσεις που αναδύονται πολύ γρήγορα και για τις οποίες δεν έχουμε προηγούμενη εμπειρία διαχείρισης, άλλοι τομείς που επιταχύνονται από το AI είναι πιθανό να αντιμετωπίσουν ένα πολύ διαφορετικό πρόβλημα: ρυθμιστικά συστήματα που σχεδιάστηκαν για έναν πιο αργό ρυθμό καινοτομίας και δεν είναι προετοιμασμένα να διαχειριστούν τον κατακλυσμό νέων προϊόντων και προόδων που θα φέρει η Τεχνητή Νοημοσύνη. Το AI μπορεί επίσης να καταστήσει αυτές τις μεταγενέστερες (downstream) τεχνολογίες ασφαλέστερες και πιο προβλέψιμες, με έναν τρόπο που καταρρίπτει τις σκεπτικιστικές παραδοχές ρυθμιστικών φορέων όπως ο Οργανισμός Τροφίμων και Φαρμάκων των ΗΠΑ (FDA).
Επομένως, για τις μεταγενέστερες εφαρμογές της Τεχνητής Νοημοσύνης —σε αντίθεση με την ίδια την Τεχνητή Νοημοσύνη— ανησυχώ περισσότερο μήπως ο ρυθμιστικός μηχανισμός επιβραδύνει την πρόοδο (επειδή δεν μπορεί να διαχειριστεί τον αυξημένο ρυθμό αλλαγής) παρά μήπως αποτύχει να αντιμετωπίσει σημαντικούς κινδύνους. Το τελευταίο πράγμα που θέλουμε είναι να καθυστερήσουν τα οφέλη της Τεχνητής Νοημοσύνης ενώ οι κίνδυνοί της διαφαίνονται μεγάλοι, επομένως είναι σημαντικό να αναλάβουμε δράση για αυτό το πρόβλημα το συντομότερο δυνατό.
Το πρόβλημα και οι λύσεις του θα εκδηλωθούν διαφορετικά σε κάθε τομέα της επιστήμης, του εμπορίου και της τεχνολογίας, επομένως θα επικεντρωθώ σε έναν ενδεικτικό τομέα: τη βιοϊατρική καινοτομία. Αυτό συμβαίνει τόσο επειδή πιθανότατα θα είναι η πηγή των μεγαλύτερων ανθρωπιστικών οφελών της Τεχνητής Νοημοσύνης, όσο και επειδή πρόκειται για έναν τομέα όπου η ρύθμιση είναι ιδιαίτερα περίπλοκη. Δεν γνωρίζουμε ακριβώς πώς το AI θα επιταχύνει τη βιοϊατρική καινοτομία, αλλά φαίνεται πιθανό να:
-
Αυξήσει σημαντικά τον ρυθμό με τον οποίο νέα υποψήφια φάρμακα εισέρχονται στη ρυθμιστική διαδικασία έγκρισης·
-
Αυξήσει το μέγεθος του αποτελέσματος (effect sizes) και να βελτιώσει τα προφίλ ασφαλείας των νέων φαρμάκων, λόγω καλύτερης βελτιστοποίησης και ίσως καλύτερης κατανόησης της υποκείμενης βιολογίας τους·
-
Αναπτύξει υποψήφια φάρμακα για ασθένειες που δεν έχουν αντιμετωπιστεί ποτέ με επιτυχία στο παρελθόν·
-
Δημιουργήσει γρήγορα εντελώς νέες μορφές θεραπειών, παρόμοια με το πώς τα αντισώματα, τα πεπτίδια και οι κυτταρικές θεραπείες έγιναν νέες κατηγορίες θεραπείας τις τελευταίες δεκαετίες.
Ορισμένες από αυτές τις προόδους θα επιταχύνουν φυσικά τα ρυθμιστικά χρονοδιαγράμματα χωρίς ανάγκη για δομικές αλλαγές. Φάρμακα με μεγαλύτερο μέγεθος αποτελέσματος μπορούν να οδηγήσουν σε μικρότερες, λιγότερο δαπανηρές κλινικές δοκιμές και να ενεργοποιήσουν μηχανισμούς για επιταχυνόμενη έγκριση. Όμως το ρυθμιστικό σύστημα είναι επί του παρόντος σχεδιασμένο να εφαρμόζει υψηλό επίπεδο ελέγχου και πολλά στάδια δοκιμών, υπό την παραδοχή ότι τα υποψήφια φάρμακα συχνά δεν λειτουργούν και συχνά παρουσιάζουν σοβαρά προβλήματα ασφάλειας ακόμη και όταν λειτουργούν. Τόσο στον FDA όσο και στον Ευρωπαϊκό Οργανισμό Φαρμάκων (EMA), ο τυπικός χρόνος για να περάσει ένα υποψήφιο φάρμακο από τη ρυθμιστική διαδικασία είναι 7-8 χρόνια, εν μέρει λόγω αυτών των απαισιόδοξων παραδοχών. Χωρίς μεταρρυθμίσεις, το AI απλώς θα μπλοκάρει ή θα υπερφορτώσει αυτό το σύστημα.
Προφανώς, δεν θέλουμε να αλλάξουμε τα πράγματα με τρόπο που θα οδηγήσει σε μια σοδειά από αναποτελεσματικά φάρμακα-θαύματα (snake-oil drugs) ή σε εκτεταμένα περιστατικά ασφάλειας. Αλλά μερικές σχετικά απλές μεταρρυθμίσεις θα μπορούσαν να καταστήσουν τον FDA, τον EMA και παρόμοιες υπηρεσίες πιο προσαρμόσιμες σε μια γρήγορη επιστημονική επιτάχυνση καθοδηγούμενη από το AI, εάν μια τέτοια συνέβαινε.
Πολλά από τα βήματα στην κλινική διαδικασία που προηγουμένως απαιτούσαν δαπανηρά και αργά πειράματα ενδέχεται σύντομα να γίνονται μέσω προσομοίωσης ή ανάλυσης AI. Οι ρυθμιστικές υπηρεσίες θα πρέπει να εξετάσουν το ενδεχόμενο ανάπτυξης προτύπων από τώρα για το τι θα χρειαζόταν ώστε να γίνουν αποδεκτές τέτοιες μέθοδοι. Αυτό θα σήμαινε ότι μπορούν να υιοθετηθούν γρήγορα μόλις λειτουργήσουν, αντί να υπάρξει μια παρατεταμένη περίοδος κατά την οποία θα συνεχίσουν να απαιτούνται περιττές δοκιμές. Οι τομείς στους οποίους θα μπορούσε να εφαρμοστεί αυτό περιλαμβάνουν:
-
Μοντελοποίηση φαρμακοδυναμικής και φαρμακοκινητικής (PD/PK) που βασίζεται σε AI·
-
Πρόβλεψη τοξικολογίας για την αποφυγή της ανάγκης για τοξικολογικές δοκιμές σε ζώα πολλαπλών ειδών·
-
Πιο ακριβής επιλογή δόσης, για τη μείωση της ανάγκης για μεγάλα εύρη δόσεων στις δοκιμές·
-
Επικύρωση βιοδεικτών μέσω ανάλυσης μεγάλων συνόλων δεδομένων·
-
Συνθετικοί βραχίονες ελέγχου (synthetic control arms) σε κλινικές δοκιμές, για τη μείωση της ανάγκης προσέλκυσης περισσότερων συμμετεχόντων·
-
Ανάπτυξη υποκατάστατων τελικών σημείων (surrogate endpoints – ιδιαίτερα σημαντικό στη γήρανση και τον νευροεκφυλισμό).
Πέρα από αυτά τα συγκεκριμένα παραδείγματα, οι υπηρεσίες θα πρέπει επίσης να εξετάσουν πιο ριζοσπαστικούς και ευέλικτους μηχανισμούς για επιταχυνόμενη έγκριση. Εάν οι προβλέψεις μου για το AI είναι σωστές, σύντομα θα υπάρξουν πολλές περιπτώσεις παρεμβάσεων που θα λειτουργούν εξαιρετικά καλά εντελώς ξαφνικά, και το ρυθμιστικό σύστημα θα πρέπει να είναι προετοιμασμένο να τις λάβει σοβαρά υπόψη και να μην υιοθετήσει μια στάση υπερβολικού σκεπτικισμού.
Η βιοϊατρική επιτάχυνση θα πρέπει να αυξήσει σημαντικά τα οφέλη του AI, αλλά αξίζει να σημειωθεί ότι μπορεί επίσης να βοηθήσει στη μείωση των κινδύνων του. Η μεταρρύθμιση των βιοϊατρικών εγκρίσεων μπορεί να βοηθήσει στη βιοάμυνα, και η καθοδηγούμενη από το AI βιοϊατρική πρόοδος μπορεί επίσης να βελτιώσει την ψυχική υγεία, κάτι που θα μπορούσε να έχει σταθεροποιητική επίδραση στην κοινωνία.
4. Το κράτος και οι πολιτικές ελευθερίες
Κάθε σύστημα διακυβέρνησης πρέπει να αντιμετωπίσει το ερώτημα της κρατικής εξουσίας και των ορίων της. Το κράτος έχει ένα νόμιμο, συχνά υπαρξιακό, συμφέρον να προστατεύει τον πληθυσμό του από εσωτερικές και εξωτερικές απειλές. Αλλά η παραχώρηση υπερβολικής εξουσίας σε αυτό είναι ο δρόμος προς την τυραννία. Οι σύγχρονες δημοκρατίες έχουν καταφέρει σε μεγάλο βαθμό να διαχειριστούν αυτή την ισορροπία με επιτυχία, αλλά πρόκειται για μια εύθραυστη ισορροπία ακόμη και στις καλύτερες στιγμές της. Η επιβολή της απαιτούσε έναν τεράστιο νομικό και συνταγματικό μηχανισμό που οικοδομήθηκε κατά τη διάρκεια αιώνων — για παράδειγμα στις Ηνωμένες Πολιτείες η Πρώτη, η Τέταρτη και η Πέμπτη Τροπολογία του Συντάγματος, ο νόμος Posse Comitatus, ο νόμος FISA κ.ο.κ.
Η Τεχνητή Νοημοσύνη απειλεί να ανατρέψει αυτή την ισορροπία, ανεβάζοντας παράλληλα δραματικά το διακύβευμα. Αλλά εάν αντιδράσουμε γρήγορα και φανούμε αντάξιοι των περιστάσεων, μπορούμε να χρησιμοποιήσουμε το AI για να δημιουργήσουμε έναν κόσμο που θα έχει πιο ισχυρές και ανθεκτικές εγγυήσεις ελευθερίας και καλύτερη άμυνα έναντι απειλών από ό,τι είχαμε ποτέ στο παρελθόν.
Η ισχυρή Τεχνητή Νοημοσύνη σε λάθος χέρια θα μπορούσε να είναι το απόλυτο εργαλείο απολυταρχίας, και οι υπάρχουσες νομικές και συνταγματικές μας προστασίες δεν είναι πλήρως εξοπλισμένες για να αντιμετωπίσουν αυτή την απειλή. Θεμελιωδώς, οι τεράστιες αποδόσεις της νοημοσύνης σε όρους ισχύος στον κόσμο, σε συνδυασμό με τον γρήγορο ρυθμό προόδου του AI, δημιουργούν μια τέλεια καταιγίδα για μια ξαφνική κατάληψη της εξουσίας από μια σειρά επικίνδυνων παραγόντων⁷.
Ο κίνδυνος θα μπορούσε να πάρει διάφορες συγκεκριμένες τεχνολογικές ή επιχειρησιακές μορφές, αλλά αυτό που όλες έχουν κοινό είναι η ιδέα ότι το AI θα μπορούσε ξαφνικά να προσδώσει τεράστια ισχύ παρακάμπτοντας τους υπάρχοντες μηχανισμούς δημοκρατικής εποπτείας. Ένας πλήρως αυτοματοποιημένος στρατός από drones που σήμερα ακούγεται σαν επιστημονική φαντασία θα μπορούσε, στο μέλλον, να υπακούει σε παράνομες διαταγές και να επιτρέπει στις κυβερνήσεις να εδραιώνουν μονομερώς την εξουσία τους· οι επαγγελματικά εκπαιδευμένοι άνθρωποι είναι πιο πιθανό να φέρουν αντιρρήσεις σε μια τέτοια παράνομη κατεύθυνση. Ένα AI εστιασμένο στην επιτήρηση θα μπορούσε να αναλύει ευρέως διαθέσιμες πληροφορίες σε μαζική κλίμακα και να τις χρησιμοποιεί για να συμπεραίνει τις πιο μύχιες λεπτομέρειες της ζωής κάθε πολίτη — μια τεχνολογική ικανότητα που δεν έχει προβλεφθεί από την τρέχουσα νομοθεσία για τις πολιτικές ελευθερίες. Όλα αυτά θα μπορούσαν να συμβούν πολύ γρήγορα ή στα κρυφά, επομένως είναι σημαντικό να θωρακίσουμε προληπτικά τη δέσμευση των δημοκρατιών στην ελευθερία και τις πολιτικές ελευθερίες.
Ακολουθούν ορισμένες ιδέες πολιτικής που θα πρέπει να εξετάσουμε:
-
Δημιουργία αξιόπιστων κανόνων λογοδοσίας για πλήρως αυτόνομα όπλα. Τα αυτόνομα όπλα, και ειδικά τυχόν αυτόνομα συστήματα που τα συντονίζουν ή τα κατευθύνουν, θα πρέπει να υποχρεούνται να ανταποκρίνονται σε μηχανισμούς συνταγματικής και διοικητικής λογοδοσίας (π.χ. δικαστικές αποφάσεις, νομοθεσία και λογοδοσία σε ανώτερους ανθρώπινους επόπτες) αντί να ακολουθούν τυφλά εντολές. Αυτό θα μπορούσε να σημαίνει ότι μια κατάλληλα σχεδιασμένη επιτροπή νομικού ελέγχου ή ο δικαστικός κλάδος θα έχουν το χέρι τους σε έναν «διακόπτη απενεργοποίησης» (off switch), ότι τα ίδια τα συστήματα θα είναι εγγενώς εκπαιδευμένα να αναζητούν και να ανταποκρίνονται σε νόμιμη αρχή εποπτείας, ή και τα δύο.
-
Απαγόρευση της εγχώριας χρήσης πλήρως αυτόνομων όπλων. Ενώ υπάρχει βάσιμη επιχειρηματολογία για την αναγκαιότητα των πλήρως αυτόνομων όπλων για την άμυνα έναντι ξένων αντιπάλων (όπως η εισβολή της Ρωσίας στην Ουκρανία), δεν υπάρχει καμία δικαιολογία για τη χρήση τους εναντίον Αμερικανών πολιτών. Ο στρατός έχει ήδη κάποιους περιορισμούς στην ικανότητά του να δραστηριοποιείται στο εσωτερικό της χώρας, αλλά ιδανικά αυτά τα όπλα θα πρέπει να απαγορευτούν και στην επιβολή του νόμου.
-
Κλείσιμο του παραθύρου της μαζικής συλλογής δεδομένων / μεσιτών δεδομένων (data brokers). Βάσει της τρέχουσας νομοθεσίας, δεδομένα που οι Αμερικανοί μοιράζονται με ιδιωτικές εταιρείες (όπως οι πάροχοι διαδικτύου) μπορούν να αγοραστούν και να χρησιμοποιηθούν για μαζική ανάλυση στην εγχώρια επιτήρηση και την επιβολή του νόμου. Αυτό το κενό στις προστασίες της ιδιωτικότητας προϋπήρχε του AI, αλλά η Τεχνητή Νοημοσύνη θα ανεβάσει σημαντικά το διακύβευμα, καθιστώντας τη μαζική ανάλυση τέτοιων δεδομένων πολύ πιο αποκαλυπτική και χρήσιμη από ό,τι στο παρελθόν. Αυτό το «παραθυράκι» πρέπει να κλείσει.
-
Δημόσια δικαιώματα σε συμβουλές AI κατά τη διάρκεια δυσμενών κυβερνητικών ενεργειών. Ως γενική αρχή, φαίνεται σημαντικό ότι οποιοδήποτε πρόσωπο ή οργανισμός αποτελεί αντικείμενο δυσμενούς κυβερνητικής ενέργειας (π.χ. ρυθμιστικής ή νομικής δράσης) να έχει πρόσβαση σε ένα AI που είναι τουλάχιστον εξίσου ικανό με αυτό που επιτρέπεται να χρησιμοποιεί η κυβέρνηση στη συγκεκριμένη ενέργεια. Αυτό θα σήμαινε ότι δεν δίνεται στην κυβέρνηση ένα άδικο πλεονέκτημα, υπονομεύοντας ουσιαστικά τα νομικά δικαιώματα των πολιτών. Αυτό θα μπορούσε να προστεθεί ως επέκταση ή ερμηνεία του Νόμου περί Διοικητικής Διαδικασίας (Administrative Procedure Act), των προστασιών της δίκαιης διαδικασίας (due process), ή του δικαιώματος σε νομική εκπροσώπηση της Έκτης Τροπολογίας του Συντάγματος.
Τέλος, αξίζει να σημειωθεί ότι οι κυβερνήσεις δεν είναι οι μόνες οντότητες που θα πρέπει να προσέχουμε όταν πρόκειται για την κατάληψη της εξουσίας με τη βοήθεια του AI. Σε διάφορες στιγμές της ιστορίας (όπως η Επίχρυση Εποχή — Gilded Age — στις Ηνωμένες Πολιτείες ή η Εταιρεία Ανατολικών Ινδιών στο Ηνωμένο Βασίλειο), οι εταιρείες έγιναν τόσο ισχυρές που κατέλαβαν το κράτος ή υιοθέτησαν οιονεί κρατικά χαρακτηριστικά. Η Τεχνητή Νοημοσύνη θα γίνει σύντομα τόσο ικανή, που ανησυχώ ότι δεν μπορεί να ανατεθεί με ασφάλεια εξολοκλήρου ούτε σε κυβερνήσεις ούτε σε εταιρείες, και πρέπει να υπάρχουν θεσμοί ελέγχου και εξισορρόπησης (checks and balances) για καθεμία.
Η ρύθμιση είναι μια απάντηση στο πώς να χαλιναγωγηθούν οι εταιρείες (και οι ιδέες μου για αυτό βρίσκονται στην Ενότητα 1), αλλά είναι επίσης σημαντικό οι εταιρείες AI να έχουν μεγαλύτερο διαχωρισμό εξουσιών και λογοδοσία από ό,τι είναι σύνηθες για τις ιδιωτικές οντότητες. Το Long-Term Benefit Trust της Anthropic (ένα ανεξάρτητο όργανο διακυβέρνησης που έχει σχεδιαστεί για να δεσμεύει την εταιρεία στην αποστολή της) είναι μια τέτοια δομή, και ο κλάδος θα πρέπει να συνεχίσει να εξερευνά μηχανισμούς που προχωρούν ακόμη περισσότερο. Η επίτευξη της σωστής ισορροπίας —ώστε τόσο οι εταιρείες όσο και η κυβέρνηση να έχουν ουσιαστικούς ελέγχους στις εξουσίες τους— είναι θεμελιώδους σημασίας.
5. Διασφάλιση της ηγεσίας από τις δημοκρατίες