Trump: «Όποιος κερδίσει στην AI, κερδίζει» – Η τεχνητή νοημοσύνη γίνεται η νέα κούρσα εξοπλισμών ΗΠΑ–Κίνας

Το Σαββατοκύριακο συνέβη κάτι που ανατρέπει αυτή την εικόνα. Οι ίδιοι οι άνθρωποι που βρίσκονται στην πρώτη γραμμή της παγκόσμιας κούρσας της AI άρχισαν να λένε: Πρέπει να κόψουμε ταχύτητα.

Ο Dario Amodei της Anthropic ζήτησε επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων. Ο Sam Altman της OpenAI συμφώνησε. Ο Elon Musk, επικεφαλής της xAI, επίσης. Και ο Demis Hassabis της Google DeepMind χαρακτήρισε σωστή την κατεύθυνση της πρότασης Amodei. Και τότε παρενέβη ο Donald Trump. Η απάντησή του, ουσιαστικά, ήταν: Δεν μπορούμε να σταματήσουμε. Γιατί υπάρχει η Κίνα.

«Όποιος κερδίσει στην AI, κερδίζει»

Ο Trump απέρριψε την Κυριακή τις εκκλήσεις για γενικευμένη επιβράδυνση της τεχνητής νοημοσύνης. Ο Αμερικανός πρόεδρος δέχθηκε ότι μπορούν να υπάρξουν ορισμένα "guardrails" - δικλίδες ασφαλείας, αλλά υποστήριξε ότι οι ΗΠΑ προηγούνται της Κίνας και πρέπει να διατηρήσουν αυτό το πλεονέκτημα. Η φράση με την οποία συνόψισε τη θέση του είναι ίσως σημαντικότερη από ολόκληρη τη συζήτηση: "Whoever wins AI, wins".

Όποιος κερδίσει στην τεχνητή νοημοσύνη, κερδίζει. Δεν είναι απλώς μια ακόμη χαρακτηριστική ατάκα του Trump. Περιγράφει με εξαιρετική ακρίβεια το γεωπολιτικό δίλημμα μέσα στο οποίο έχει παγιδευτεί η AI. Ακόμη και αν οι ΗΠΑ πιστέψουν ότι η τεχνολογία εξελίσσεται υπερβολικά γρήγορα, οποιαδήποτε μονομερής επιβράδυνση δημιουργεί τον φόβο ότι η Κίνα θα συνεχίσει να τρέχει. Και αν η τεχνητή νοημοσύνη εξελιχθεί πράγματι σε τεχνολογία αντίστοιχης στρατηγικής σημασίας με την πυρηνική ενέργεια, το διάστημα ή τους ημιαγωγούς, τότε κανένας από τους δύο ανταγωνιστές δεν θέλει να τερματίσει δεύτερος.

Γιατί οι ίδιοι οι κατασκευαστές της AI ζητούν τώρα φρένο;

Αυτό είναι ίσως το πιο εντυπωσιακό στοιχείο της ιστορίας. Ο Amodei δεν ζήτησε να σταματήσει η AI. Ζήτησε αυτό που ονομάζει "pacing the frontier": πιο αργή ανάπτυξη των ισχυρότερων frontier models, ώστε να υπάρχει περισσότερος χρόνος για ελέγχους ασφαλείας πριν κυκλοφορήσουν ακόμη ισχυρότερα συστήματα. Μεταξύ άλλων προτείνει ανεξάρτητους αξιολογητές με ουσιαστική πρόσβαση στα μοντέλα, κοινά πρότυπα ασφαλείας για τη βιομηχανία και διεθνή συντονισμό. Η αλλαγή στάσης δεν προέκυψε στο κενό.

Τις τελευταίες εβδομάδες έχουν ενταθεί οι ανησυχίες για τις δυνατότητες αυτόνομων AI agents, ιδιαίτερα στον κυβερνοχώρο.Ο Amodei υποστήριξε ότι, εάν οι σημερινές τάσεις συνεχιστούν, μέσα στους επόμενους έξι έως δώδεκα μήνες συστήματα πολλαπλών agents θα μπορούσαν να αποκτήσουν εξαιρετικά επικίνδυνες κυβερνοδυνατότητες. Παράλληλα, ο ερευνητής Jacob Coxon αποχώρησε από την Anthropic, αφού είχε εργαστεί προηγουμένως και στην OpenAI, προειδοποιώντας με εξαιρετικά δραματικούς όρους για τους κινδύνους της κούρσας προς την υπερνοημοσύνη. Οι συγκεκριμένες εκτιμήσεις για καταστροφικά σενάρια παραμένουν φυσικά προβλέψεις και όχι αποδεδειγμένα γεγονότα.

Αλλά πολιτικά υπάρχει κάτι που δύσκολα αγνοείται: όταν οι ίδιοι οι επικεφαλής των εταιρειών που κατασκευάζουν την τεχνολογία ζητούν περισσότερο χρόνο για να ελέγξουν την ασφάλειά της, η συζήτηση αλλάζει επίπεδο.

Το παράδοξο του φυλακισμένου

Και εδώ αρχίζει το πραγματικά ενδιαφέρον οικονομικό πρόβλημα. Ας υποθέσουμε ότι τόσο η Ουάσιγκτον όσο και το Πεκίνο καταλήγουν ανεξάρτητα στο συμπέρασμα ότι η AI εξελίσσεται υπερβολικά γρήγορα. Θα μπορούσε να συμφέρει και τις δύο πλευρές να επιβραδύνουν. Καμία όμως δεν μπορεί να είναι βέβαιη ότι η άλλη θα κάνει το ίδιο. Εάν οι ΗΠΑ επιβραδύνουν και η Κίνα συνεχίσει, το Πεκίνο μπορεί να αποκτήσει στρατηγικό πλεονέκτημα. Εάν η Κίνα επιβραδύνει και οι ΗΠΑ συνεχίσουν, συμβαίνει το αντίστροφο. Άρα και οι δύο έχουν ισχυρό κίνητρο να συνεχίσουν.

Ακόμη κι αν και οι δύο θεωρούν ότι η ανεξέλεγκτη κούρσα είναι επικίνδυνη. Είναι σχεδόν το κλασικό prisoner's dilemma της θεωρίας παιγνίων, μεταφερμένο στην τεχνητή νοημοσύνη. Και ο ίδιος ο Amodei αναγνωρίζει το πρόβλημα: μια ουσιαστική επιβράδυνση των αμερικανικών δυνατοτήτων χωρίς αντίστοιχη κινεζική δέσμευση θα μπορούσε, κατά την εκτίμησή του, να δημιουργήσει γεωπολιτικό κίνδυνο για τις ΗΠΑ.

Η AI αρχίζει να θυμίζει πυρηνική κούρσα

Η αναλογία με τα πυρηνικά όπλα δεν είναι τέλεια. Η τεχνητή νοημοσύνη είναι εμπορική τεχνολογία, χρησιμοποιείται από εκατοντάδες εκατομμύρια ανθρώπους και αναπτύσσεται κυρίως από ιδιωτικές εταιρείες. Αλλά ο μηχανισμός του ανταγωνισμού αρχίζει να παρουσιάζει μια ανησυχητική ομοιότητα με την κούρσα εξοπλισμών του Ψυχρού Πολέμου. Τότε η λογική ήταν: δεν μπορούμε να σταματήσουμε την ανάπτυξη νέων όπλων επειδή δεν γνωρίζουμε εάν θα σταματήσει η Σοβιετική Ένωση.

Σήμερα γίνεται: δεν μπορούμε να επιβραδύνουμε την AI επειδή δεν γνωρίζουμε εάν θα επιβραδύνει η Κίνα.

Ο Mike Johnson, Ρεπουμπλικανός πρόεδρος της Βουλής των Αντιπροσώπων, διατύπωσε ουσιαστικά το ίδιο επιχείρημα: οι ΗΠΑ δεν μπορούν να επιβάλουν μορατόριουμ, επειδή υπάρχει κίνδυνος να τις ξεπεράσει η Κίνα. Αυτό μετατρέπει την ασφάλεια της AI από τεχνολογικό ζήτημα σε πρόβλημα διεθνούς ασφάλειας.

Και το Πεκίνο φοβάται επίσης

Η άλλη πλευρά της ιστορίας έχει ιδιαίτερο ενδιαφέρον. Την ίδια ημέρα που η Ουάσιγκτον συζητά εάν πρέπει να επιβραδύνει την AI εξαιτίας των κινδύνων της, η κινεζική υπηρεσία κρατικής ασφάλειας προειδοποιεί ότι η τεχνολογία δημιουργεί νέους κινδύνους για την εθνική ασφάλεια της Κίνας. Άρα δεν έχουμε μία Αμερική που φοβάται και μία Κίνα που αδιαφορεί. Και οι δύο υπερδυνάμεις αντιλαμβάνονται ότι η AI μπορεί να δημιουργήσει νέες απειλές.

Το πρόβλημα είναι ότι ταυτόχρονα και οι δύο φοβούνται περισσότερο το ενδεχόμενο η άλλη πλευρά να αποκτήσει τεχνολογικό πλεονέκτημα. Αυτό είναι ακριβώς το είδος της κατάστασης στην οποία η διεθνής συνεργασία είναι περισσότερο απαραίτητη - και ταυτόχρονα περισσότερο δύσκολη.

Trump και Xi έχουν πλέον ένα νέο θέμα στο τραπέζι

Η συγκυρία είναι ακόμη πιο ενδιαφέρουσα επειδή ο Xi Jinping αναμένεται στην Ουάσιγκτον για νέα σύνοδο με τον Trump. Μετά τη συνάντησή τους τον Μάιο, οι δύο πλευρές είχαν ανακοινώσει διάλογο γύρω από την AI και τα σχετικά guardrails. Ωστόσο, σύμφωνα με τους Financial Times, μέχρι στιγμής δεν φαίνεται να έχει υπάρξει ουσιαστική πρόοδος σε υψηλό επίπεδο. Τώρα όμως η πίεση είναι πολύ μεγαλύτερη. Και για πρώτη φορά μπορεί να τεθεί σοβαρά το ερώτημα εάν η AI χρειάζεται κάτι αντίστοιχο με τις συμφωνίες ελέγχου εξοπλισμών του Ψυχρού Πολέμου.

Όχι απαραίτητα περιορισμούς στην ίδια την τεχνολογία. Αλλά κοινές κόκκινες γραμμές για τις πιο επικίνδυνες δυνατότητες.

Υπάρχει όμως και ένα τεράστιο οικονομικό πρόβλημα

Η επιβράδυνση της AI δεν αφορά μόνο την ασφάλεια. Αφορά πλέον τρισεκατομμύρια δολάρια επενδύσεων. Η Wall Street έχει αποτιμήσει εταιρείες ημιαγωγών, data centers, ηλεκτρικής ενέργειας, cloud computing και υποδομών πάνω στην υπόθεση ότι η ζήτηση για AI compute θα συνεχίσει να αυξάνεται με εξαιρετικά υψηλούς ρυθμούς.Εάν η ανάπτυξη των frontier models επιβραδυνθεί πραγματικά, τότε μπορεί να επιβραδυνθεί και μέρος αυτής της τεράστιας επενδυτικής έκρηξης. Οι αγορές ήδη έδωσαν μια πρώτη ένδειξη.

Οι τεχνολογικές μετοχές υποχώρησαν μετά τις εκκλήσεις των κορυφαίων AI εταιρειών για επιβράδυνση, με ιδιαίτερη πίεση στις εταιρείες ημιαγωγών. Και αυτό δημιουργεί ένα δεύτερο δίλημμα. Η επιβράδυνση μπορεί να αυξήσει την ασφάλεια. Αλλά μπορεί επίσης να μειώσει τις αναμενόμενες αποδόσεις επενδύσεων εκατοντάδων δισεκατομμυρίων σε chips, data centers και ηλεκτρικά δίκτυα.

Η συζήτηση λοιπόν δεν αφορά πλέον μόνο το ερώτημα: "Είναι ασφαλής η AI;"

Αφορά επίσης: "Τι συμβαίνει στην παγκόσμια οικονομία εάν αποφασίσουμε ότι πρέπει να αναπτυχθεί πιο αργά;"

Η παράξενη συμμαχία Altman–Musk–Amodei

Υπάρχει και μια πολιτική λεπτομέρεια που δεν πρέπει να περάσει απαρατήρητη. Οι κορυφαίοι παίκτες της AI δεν είναι φυσικοί σύμμαχοι. OpenAI, Anthropic, Google DeepMind και xAI ανταγωνίζονται μεταξύ τους για μοντέλα, πελάτες, ταλέντο, compute και κεφάλαια. Ο Musk και ο Altman έχουν μάλιστα συγκρουστεί δημόσια και έντονα επί χρόνια.Κι όμως, μέσα σε λίγες ώρες, οι επικεφαλής τεσσάρων από τα μεγαλύτερα AI labs συνέκλιναν στην άποψη ότι χρειάζεται πιο αργός ρυθμός ανάπτυξης των frontier models. Αυτό δεν σημαίνει ότι συμφωνούν στο πώς θα εφαρμοστεί.

Ούτε ότι πρέπει να δεχθούμε χωρίς κριτική τις προειδοποιήσεις τους. Οι εταιρείες έχουν επίσης οικονομικά και ρυθμιστικά συμφέροντα: ένα καθεστώς αυστηρών standards μπορεί να προστατεύσει τους ήδη μεγάλους παίκτες αυξάνοντας το κόστος εισόδου για μικρότερους ανταγωνιστές.

Αλλά η ίδια η σύγκλιση είναι αξιοσημείωτη.

Το πρόβλημα του Trump είναι πραγματικό

Είναι εύκολο να παρουσιάσει κανείς τη θέση του Αμερικανού προέδρου ως απλή άρνηση των κινδύνων της AI. Αυτό όμως θα έχανε το σημαντικότερο σημείο. Το δίλημμα που περιγράφει ο Trump είναι πραγματικό. Ακόμη και εάν οι κίνδυνοι δικαιολογούν επιβράδυνση, μια δημοκρατική κυβέρνηση πρέπει να απαντήσει σε ένα εξαιρετικά δύσκολο ερώτημα: Τι κάνει εάν ο στρατηγικός της ανταγωνιστής δεν ακολουθήσει;

Αν η AI εξελιχθεί σε τεχνολογία γενικού σκοπού που επηρεάζει παραγωγικότητα, κυβερνοπόλεμο, πληροφορίες, επιστήμη, βιοτεχνολογία και στρατιωτικές δυνατότητες, τότε η απώλεια τεχνολογικής πρωτοκαθεδρίας μπορεί να έχει συνέπειες πολύ μεγαλύτερες από την απώλεια μεριδίου αγοράς.

Και γι' αυτό το "China argument" είναι τόσο ισχυρό.

Η νέα κούρσα εξοπλισμών δεν έχει πυραύλους – έχει compute

Στον Ψυχρό Πόλεμο, η ισχύς μετριόταν σε πυρηνικές κεφαλές, πυραύλους και υποβρύχια. Στη νέα τεχνολογική αντιπαράθεση μετριέται όλο και περισσότερο σε chips, compute, data centers, ηλεκτρική ενέργεια, δεδομένα και ανθρώπινο κεφάλαιο.Αυτό εξηγεί γιατί η Ουάσιγκτον περιορίζει την πρόσβαση της Κίνας στους προηγμένους ημιαγωγούς. Γιατί το Πεκίνο επενδύει τεράστια ποσά στην τεχνολογική αυτάρκεια. Και γιατί ακόμη και όταν οι άνθρωποι που κατασκευάζουν τα ισχυρότερα συστήματα στον κόσμο ζητούν να κόψουμε ταχύτητα, ο πρόεδρος των Ηνωμένων Πολιτειών απαντά: δεν μπορούμε να το κάνουμε μόνοι μας.

Η μεγαλύτερη ειρωνεία της νέας εποχής της AI μπορεί επομένως να είναι αυτή. Η ανθρωπότητα ίσως φτάσει στο σημείο όπου οι κατασκευαστές της τεχνολογίας, οι επιστήμονες και ακόμη και οι κυβερνήσεις συμφωνούν ότι θα ήταν ασφαλέστερο να κινηθούν λίγο πιο αργά. Και παρ' όλα αυτά να συνεχίσουν όλοι να επιταχύνουν. Όχι επειδή δεν αντιλαμβάνονται τον κίνδυνο.

Αλλά επειδή κανείς δεν εμπιστεύεται τον αντίπαλό του αρκετά ώστε να πατήσει πρώτος το φρένο.