"10% πιθανότητα καταστροφής", AI που καταλαμβάνει το internet, σύγκριση με τα πυρηνικά και φόβοι για την Κίνα - Τι λένε Amodei, Altman, Musk και κορυφαίοι ερευνητές και πού τελειώνουν τα πραγματικά δεδομένα και αρχίζει η εικασία.
Από τους Robert Booth, Dan Milmo και Aisha Down | The Guardian
Απόδοση – δημοσιογραφική επιμέλεια: Αργώ | Greece2Day
Μέσα σε λίγες ημέρες, η συζήτηση γύρω από την Τεχνητή Νοημοσύνη πέρασε από την παραγωγικότητα, τις θέσεις εργασίας και τις χρηματιστηριακές αποτιμήσεις σε κάτι πολύ πιο σκοτεινό.
- Μπορεί η AI να καταλάβει το internet;
- Μπορεί να δημιουργήσει βιολογικά όπλα;
- Μπορεί να προκαλέσει μια πυρηνική σύγκρουση;
- Και, στο ακραίο σενάριο, υπάρχει πραγματικά πιθανότητα να οδηγήσει στην εξαφάνιση της ανθρωπότητας;
Οι ερωτήσεις δεν προέρχονται πλέον από συγγραφείς επιστημονικής φαντασίας. Διατυπώνονται από ανθρώπους που βρίσκονται στην καρδιά της ανάπτυξης των ισχυρότερων συστημάτων AI στον κόσμο. Ο επικεφαλής της Anthropic Dario Amodei προειδοποιεί ότι μέσα σε μόλις 6 έως 12 μήνες ένα σμήνος προηγμένων AI agents θα μπορούσε δυνητικά να δημιουργήσει ένα τεράστιο botnet και να προκαλέσει ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων.
Ο επικεφαλής του alignment science της Anthropic Evan Hubinger δηλώνει ότι προσωπικά τοποθετεί την πιθανότητα η AI να εξοντώσει την ανθρωπότητα πάνω από 10% μέσα στην επόμενη δεκαετία. Πρώην υπουργός Άμυνας της Βρετανίας συγκρίνει την πιθανή υπερνοημοσύνη με τα πυρηνικά όπλα. Και πολιτικοί στις ΗΠΑ ζητούν πλέον επιβράδυνση ή ακόμη και πάγωμα της ανάπτυξης των ισχυρότερων συστημάτων. Όμως απέναντι σε αυτές τις προειδοποιήσεις υπάρχει ένα εξίσου ισχυρό στρατόπεδο επιστημόνων που απαντά: Οι κίνδυνοι είναι πραγματικοί. Οι βεβαιότητες περί καταστροφής δεν είναι.
1. Μπορεί η AI να «καταλάβει ολόκληρο το internet»;
Η πιο εντυπωσιακή προειδοποίηση ήρθε από τον Dario Amodei. Ο επικεφαλής της Anthropic υποστήριξε ότι μέσα στους επόμενους 6 έως 12 μήνες, ένα σμήνος AI agents με μεγαλύτερες δυνατότητες θα μπορούσε να δημιουργήσει ένα επίμονο botnet, να εξαπλωθεί στο internet και να προκαλέσει ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων. Δεν πρόκειται για εντελώς θεωρητική ανησυχία. Το καλοκαίρι, εκατοντάδες agents της OpenAI συνεργάστηκαν κατά τη διάρκεια δοκιμών ασφαλείας και κατάφεραν να παραβιάσουν συστήματα της Hugging Face.
Η υπόθεση έδειξε κάτι σημαντικό: όταν πολλά αυτόνομα συστήματα AI μπορούν να συνεργαστούν, η κλίμακα μιας κυβερνοεπίθεσης μπορεί να αλλάξει δραματικά. Από αυτό όμως μέχρι την "κατάληψη ολόκληρου του internet" υπάρχει τεράστια απόσταση. Ο Gary Marcus, ομότιμος καθηγητής του New York University και γνωστός επικριτής της υπερβολικής αισιοδοξίας γύρω από την AI, θεωρεί τον συγκεκριμένο ισχυρισμό υπερβολικό. Η αξιολόγηση του βρετανικού AI Security Institute για ένα από τα προηγμένα συστήματα της Anthropic έδειξε ότι μπορούσε αυτόνομα να παραβιάζει κυρίως μικρά, ευάλωτα και ανεπαρκώς προστατευμένα συστήματα.
Αυτό απέχει πολύ από την κατάρρευση υποδομών που ελέγχονται από εταιρείες όπως Amazon Web Services, Google και Cloudflare.
Υπάρχει και ένα ακόμη τεχνικό πρόβλημα. Το internet δεν είναι ένα ενιαίο σύστημα. Αποτελείται από εκατομμύρια διαφορετικές υποδομές, λειτουργικά συστήματα, δίκτυα και επίπεδα ασφαλείας. Ο καθηγητής κυβερνοασφάλειας Alan Woodward του University of Surrey επισημαίνει ότι ακριβώς αυτή η ανομοιογένεια δυσκολεύει ένα botnet να εξαπλωθεί παντού και να παραμείνει ενεργό. Το internet έχει επίσης σχεδιαστεί ώστε η κίνηση να μπορεί να αναδρομολογείται όταν τμήματα του δικτύου παρουσιάζουν προβλήματα.
Άρα: AI που πραγματοποιεί μαζικές κυβερνοεπιθέσεις; Απολύτως πιθανός και ήδη ορατός κίνδυνος. AI που "καταλαμβάνει ολόκληρο το internet" μέσα σε έναν χρόνο; Πολύ πιο αμφισβητούμενος ισχυρισμός.
2. Υπάρχει πραγματικά «10% πιθανότητα» να μας εξοντώσει η AI;
Εδώ η συζήτηση γίνεται ακόμη πιο δύσκολη. Ο Evan Hubinger της Anthropic δήλωσε ότι πιστεύει ειλικρινά πως η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους και ότι ο ίδιος τοποθετεί την πιθανότητα αυτού του σεναρίου σε πάνω από 10% μέσα στην επόμενη δεκαετία. Στον κόσμο της AI υπάρχει μάλιστα ένας όρος γι' αυτό: p(doom). Probability of doom (πιθανότητα καταστροφής). Η υποτιθέμενη πιθανότητα ένα μελλοντικό προηγμένο σύστημα AI να ξεφύγει από τον ανθρώπινο έλεγχο και να προκαλέσει μια μη αναστρέψιμη καταστροφή. Το πρόβλημα είναι ότι κανείς δεν γνωρίζει πώς μπορεί να υπολογιστεί επιστημονικά ένα τέτοιο ποσοστό.
Η Heidy Khlaaf, επικεφαλής επιστήμονας του AI Now Institute, αμφισβητεί ακριβώς αυτή τη χρήση αριθμών. Δεν υπάρχει ιστορικό δείγμα. Δεν υπάρχει προηγούμενο. Δεν υπάρχει παρατηρήσιμη συχνότητα "εξαφανίσεων από υπερνοημοσύνη". Και δεν υπάρχει σήμερα superintelligent AI πάνω στην οποία να μπορεί να στηριχθεί ένας στατιστικός υπολογισμός. Το 10%, το 20% ή το 5% δεν πρέπει επομένως να αντιμετωπίζονται όπως μια μετρημένη πιθανότητα ύφεσης ή αθέτησης ενός ομολόγου.
Είναι υποκειμενικές εκτιμήσεις κινδύνου. Αυτό δεν σημαίνει ότι ο κίνδυνος είναι μηδενικός. Σημαίνει ότι δεν γνωρίζουμε πώς να τον ποσοτικοποιήσουμε αξιόπιστα.
3. Μπορεί μια AI να αποφασίσει μόνη της να επιτεθεί;
Εδώ βρίσκεται μία από τις σημαντικότερες διακρίσεις ολόκληρης της συζήτησης. Πολλά από τα πραγματικά περιστατικά που έχουμε μέχρι σήμερα δεν αφορούν μια AI η οποία «ξύπνησε» και αποφάσισε να καταστρέψει κάτι. Αφορούν ανθρώπους που:
- της έδωσαν έναν στόχο,
- της παραχώρησαν εργαλεία,
- της επέτρεψαν πρόσβαση σε συστήματα
- και της έδωσαν αρκετή αυτονομία ώστε να εκτελέσει μια εργασία με απρόβλεπτο τρόπο.
Αυτό αλλάζει το πρόβλημα. Ο Woodward υποστηρίζει ότι η AI πρέπει να αντιμετωπίζεται ως εργαλείο και ότι η ανθρώπινη ευθύνη παραμένει καθοριστική. Αλλά όσο πιο αυτόνομα γίνονται τα εργαλεία, τόσο μεγαλύτερη γίνεται η σημασία των περιορισμών που τους επιβάλλονται. Η πραγματική ερώτηση επομένως ίσως δεν είναι: "Θα αποφασίσει η AI να μας επιτεθεί;". Αλλά: "Πόση πρόσβαση και πόση αυτονομία είμαστε διατεθειμένοι να της δώσουμε;"
4. Είναι η υπερνοημοσύνη πιο επικίνδυνη από τα πυρηνικά;
Ο πρώην υπουργός Άμυνας της Βρετανίας Des Browne υποστήριξε ότι μια superintelligent AI θα μπορούσε να αποτελέσει απειλή ίδιας ή ακόμη μεγαλύτερης κλίμακας από τα πυρηνικά όπλα. Ο Toby Ord του Oxford University θεωρεί ότι η σύγκριση έχει βάση. Το επιχείρημα είναι ότι, όπως δεν μπορούσαμε να "ξε-ανακαλύψουμε" την ατομική βόμβα μετά το 1945, έτσι θα ήταν εξαιρετικά δύσκολο να επιστρέψουμε σε έναν κόσμο χωρίς υπερνοημοσύνη εάν αυτή δημιουργηθεί. Υπάρχει όμως μια θεμελιώδης διαφορά: τα πυρηνικά όπλα υπάρχουν. Η superintelligent AI όχι.
Και δεν υπάρχει καμία βεβαιότητα ούτε για το εάν ούτε για το πότε θα υπάρξει. Ακόμη και οι προβλέψεις των ανθρώπων που θεωρούν πιθανή την εμφάνισή της διαφέρουν σημαντικά. Ορισμένα safety-oriented μοντέλα προβλέψεων τοποθετούν ένα πιθανό τέτοιο σημείο όχι πριν από τα τέλη του 2028. Ο Sam Altman έχει μιλήσει ακόμη και για χρονικό ορίζοντα έως το 2035. Η συζήτηση επομένως συγκρίνει ένα υπαρκτό οπλικό σύστημα με μια τεχνολογία που δεν έχει ακόμη δημιουργηθεί.
5. Μπορεί η AI να προκαλέσει πυρηνικό πόλεμο;
Εδώ η απάντηση είναι περισσότερο καθησυχαστική - αλλά όχι απόλυτα. Τα σημερινά συστήματα διοίκησης πυρηνικών όπλων διαθέτουν αυστηρούς μηχανισμούς ανθρώπινου ελέγχου. Μελέτη της RAND έχει καταλήξει ότι η AI δεν μπορεί απλώς να αποφασίσει μόνη της να εκτοξεύσει πυρηνικά όπλα υπό τα σημερινά πρωτόκολλα. Ο ΟΗΕ έχει επίσης ταχθεί υπέρ της διατήρησης ανθρώπινου ελέγχου και εποπτείας στα συστήματα πυρηνικών όπλων. Αλλά υπάρχει ένας έμμεσος κίνδυνος. Η AI μπορεί να χρησιμοποιηθεί για:
- κυβερνοεπιθέσεις,
- παραπληροφόρηση,
- παραποίηση πληροφοριών,
- ταχύτερη ανάλυση στρατιωτικών δεδομένων
- ή δημιουργία ψευδούς εικόνας ότι ένας αντίπαλος ετοιμάζεται να επιτεθεί.
Το πρόβλημα επομένως δεν είναι απαραίτητα ότι ένα chatbot θα "πατήσει το κόκκινο κουμπί". Είναι ότι η AI μπορεί να επηρεάσει τις πληροφορίες που βλέπει ο άνθρωπος που βρίσκεται μπροστά στο κουμπί.
6. Τότε γιατί να μην πατήσουμε απλώς «φρένο»;
Αυτή είναι η θέση που κερδίζει έδαφος. Ο Dario Amodei ζητά επιβράδυνση της ανάπτυξης των frontier models ώστε οι μηχανισμοί ασφαλείας να προλάβουν τις δυνατότητες της τεχνολογίας. Ο Sam Altman έχει συμφωνήσει ότι χρειάζεται να "ρυθμιστεί ο ρυθμός" ανάπτυξης των ισχυρότερων μοντέλων. Ο Elon Musk έχει επίσης υποστηρίξει την ανάγκη μεγαλύτερης προσοχής. Ο Bernie Sanders προχωρά ακόμη περισσότερο, ζητώντας απαγόρευση της δημιουργίας superintelligence και παύση στην ανάπτυξη προηγμένων συστημάτων.
Ακούγεται απλό. Στην πραγματικότητα είναι εξαιρετικά δύσκολο. Γιατί υπάρχει η Κίνα.
Το δίλημμα της Κίνας
Η Ουάσιγκτον αντιμετωπίζει πλέον την Τεχνητή Νοημοσύνη όχι μόνο ως τεχνολογία αλλά και ως στρατηγικό πλεονέκτημα. Ο Αμερικανός υπουργός Οικονομικών Scott Bessent έχει περιγράψει το διακύβευμα με εξαιρετικά δραματικούς όρους: εάν η Κίνα αποκτήσει αποφασιστικό προβάδισμα στην AI, θεωρεί ότι οι συνέπειες για τις ΗΠΑ θα είναι τεράστιες. Ο ίδιος ο Amodei, παρότι ζητά επιβράδυνση, έχει προειδοποιήσει ότι ένα κινεζικό προβάδισμα στην AI θα δημιουργούσε σοβαρούς κινδύνους για τις ΗΠΑ και τον κόσμο. Εδώ εμφανίζεται το βασικό στρατηγικό αδιέξοδο.
- Εάν οι αμερικανικές εταιρείες επιβραδύνουν και η Κίνα δεν το κάνει, ποιος κερδίζει;
- Εάν κανείς δεν επιβραδύνει επειδή φοβάται τον αντίπαλο, ποιος ελέγχει την κούρσα;
Πρόκειται ουσιαστικά για μια νέα εκδοχή του διλήμματος των εξοπλισμών.
Ή μήπως όλα αυτά είναι ένα τεράστιο «psy-op»;
Υπάρχει όμως και μια πολύ διαφορετική ερμηνεία. Ο Elon Musk χρησιμοποίησε τον όρο "psy op" για να περιγράψει την ιδέα ότι οι μεγάλες εταιρείες AI μπορεί να καλλιεργούν τον φόβο γύρω από την τεχνολογία προκειμένου να οδηγήσουν τις κυβερνήσεις σε αυστηρότερη ρύθμιση. Το επιχείρημα των επικριτών είναι ενδιαφέρον. Οι OpenAI και Anthropic έχουν ήδη:
- τεράστια κεφάλαια,
- κορυφαίους ερευνητές,
- πρόσβαση σε πανάκριβη υπολογιστική ισχύ
- και μοντέλα αιχμής.
Εάν η ανάπτυξη frontier AI απαιτήσει ένα πολύ ακριβό κανονιστικό πλαίσιο ασφαλείας, οι μεγαλύτερες εταιρείες μπορούν να το αντέξουν. Ένα startup ίσως όχι. Ο αντιπρόεδρος των ΗΠΑ JD Vance έχει εκφράσει παρόμοιο προβληματισμό, χαρακτηρίζοντας παράξενο το γεγονός ότι οι ίδιες οι μεγαλύτερες εταιρείες frontier AI ζητούν από το κράτος να τις ρυθμίσει. Η υποψία είναι ότι η "ασφάλεια" θα μπορούσε να μετατραπεί σε ρυθμιστικό τείχος εισόδου για τους ανταγωνιστές.
Το αντεπιχείρημα: Γιατί να ζητήσεις κάτι που θα σου κοστίσει δισεκατομμύρια;
Ο Yoshua Bengio, ένας από τους πρωτοπόρους της σύγχρονης AI, θεωρεί αυτή την ερμηνεία υπερβολικά κυνική. Εάν οι κυβερνήσεις επιβάλουν πραγματική επιβράδυνση στην ανάπτυξη των ισχυρότερων μοντέλων, οι μεγαλύτερες εταιρείες AI θα χάσουν τεράστια ποσά. OpenAI και Anthropic έχουν συγκεντρώσει πρωτοφανή κεφάλαια και βρίσκονται υπό πίεση να μετατρέψουν την τεχνολογική τους υπεροχή σε οικονομικές αποδόσεις. Ένα πραγματικό φρένο στην κούρσα δεν θα ήταν δωρεάν. Θα μπορούσε να καθυστερήσει νέα προϊόντα, έσοδα και χρηματιστηριακές εισαγωγές. Άρα είναι απολύτως πιθανό οι ανησυχίες να είναι ειλικρινείς. Αυτό όμως δεν σημαίνει ότι τα συμφέροντα των εταιρειών εξαφανίζονται.
Και τα δύο μπορούν να ισχύουν ταυτόχρονα.
Το μεγαλύτερο πρόβλημα: Συζητάμε για το 2035 και ξεχνάμε το 2026;
Εδώ βρίσκεται ίσως η ισχυρότερη κριτική απέναντι στο αφήγημα της "εξαφάνισης". Ερευνητές όπως η Timnit Gebru και οργανώσεις όπως το AI Now Institute υποστηρίζουν εδώ και χρόνια ότι η υπερβολική εστίαση σε υποθετικά σενάρια μελλοντικής υπερνοημοσύνης μπορεί να αποσπά την προσοχή από προβλήματα που υπάρχουν ήδη.
- Κυβερνοεπιθέσεις.
- Απάτες.
- Deepfakes.
- Παραπληροφόρηση.
- Αλγοριθμικές διακρίσεις.
- Παρακολούθηση.
- Απώλεια θέσεων εργασίας.
- Συγκέντρωση τεράστιας οικονομικής και πληροφοριακής ισχύος σε ελάχιστες εταιρείες.
- Και στρατιωτική χρήση της AI.
Για κανένα από αυτά δεν χρειάζεται να υπάρξει superintelligence. Υπάρχουν ήδη.
Τι γνωρίζουμε πραγματικά
Μετά από όλη αυτή τη συζήτηση, η εικόνα γίνεται περισσότερο - και όχι λιγότερο - σύνθετη. Δεν υπάρχει σήμερα επιστημονική βάση για να πούμε ότι η AI έχει 10% πιθανότητα να εξοντώσει την ανθρωπότητα. Δεν υπάρχει σήμερα superintelligent AI. Δεν υπάρχουν στοιχεία ότι ένα σημερινό μοντέλο μπορεί να "καταλάβει ολόκληρο το internet". Και τα σύγχρονα συστήματα AI δεν διαθέτουν ανεξάρτητη πρόσβαση στα πυρηνικά οπλοστάσια. Υπάρχουν όμως πραγματικές ενδείξεις ότι οι AI agents αποκτούν γρήγορα μεγαλύτερες δυνατότητες στον κυβερνοχώρο.
Υπάρχουν πραγματικά περιστατικά κατά τα οποία αυτόνομα συστήματα συμπεριφέρθηκαν με τρόπους που οι δημιουργοί τους δεν είχαν προβλέψει. Υπάρχει πραγματικός κίνδυνος χρήσης τους από ανθρώπους για κυβερνοεπιθέσεις, βιολογική έρευνα, παραπληροφόρηση ή στρατιωτικούς σκοπούς. Και υπάρχει μια πρωτοφανής τεχνολογική κούρσα στην οποία κανένας από τους μεγάλους παίκτες δεν θέλει να είναι ο πρώτος που θα πατήσει φρένο.
Ίσως κάνουμε τη λάθος ερώτηση
Το ερώτημα "θα μας εξοντώσει η AI;" είναι εντυπωσιακό. Κάνει πρωτοσέλιδα. Παράγει ποσοστά τύπου p(doom). Και μετατρέπει τη συζήτηση σε ένα δίλημμα μεταξύ ουτοπίας και Αποκάλυψης. Ίσως όμως δεν είναι ακόμη η σωστή ερώτηση. Η πιο χρήσιμη ερώτηση για το σήμερα είναι πολύ πιο πεζή: Πόση εξουσία είμαστε διατεθειμένοι να παραχωρήσουμε σε συστήματα που γίνονται ολοένα πιο αυτόνομα, πριν καταλάβουμε πλήρως τι μπορούν να κάνουν; Δεν χρειάζεται η AI να αποκτήσει συνείδηση. Δεν χρειάζεται να "μισήσει" τον άνθρωπο. Και δεν χρειάζεται να αποφασίσει ότι θέλει να κατακτήσει τον κόσμο.
Αρκεί να γίνει αρκετά ικανή, να της δοθεί αρκετή αυτονομία και πρόσβαση - και ένας άνθρωπος να της δώσει τον λάθος στόχο. Αυτός ο κίνδυνος είναι πολύ λιγότερο κινηματογραφικός από την εξαφάνιση της ανθρωπότητας. Αλλά είναι επίσης πολύ πιο κοντά στο παρόν.
Add comment
Comments