Anthropic, OpenAI και xAI μιλούν πλέον για επιβράδυνση της κούρσας των ισχυρότερων μοντέλων – Ο φόβος των κυβερνητικών παρεμβάσεων, τα περιστατικά κυβερνοεπιθέσεων και το μεγάλο δίλημμα: κανείς δεν μπορεί να σταματήσει μόνος του όσο οι ανταγωνιστές συνεχίζουν να τρέχουν.
Από τον Andrew Griffin | Independent
Απόδοση – δημοσιογραφική επιμέλεια: Δαίδαλος | Greece2Day
Είναι μια μάλλον ασυνήθιστη επιχειρηματική στρατηγική: εταιρείες που βρίσκονται στην αιχμή μιας τεχνολογικής επανάστασης ζητούν από τον υπόλοιπο κόσμο να τις αναγκάσει να… δουλεύουν πιο αργά. Αλλά και η εποχή είναι ασυνήθιστη. Τις τελευταίες ημέρες όλο και περισσότεροι επικεφαλής της βιομηχανίας Τεχνητής Νοημοσύνης τάσσονται υπέρ μιας επιβράδυνσης στην ανάπτυξη της λεγόμενης frontier AI – των ισχυρότερων και πιο προηγμένων συστημάτων που αναπτύσσουν εταιρείες όπως η Anthropic και η OpenAI.
Το εντυπωσιακό είναι ότι ανάμεσα σε εκείνους που ζητούν περισσότερους περιορισμούς βρίσκονται οι ίδιες οι εταιρείες. Με άλλα λόγια, οι πρωταγωνιστές της κούρσας ζητούν κανόνες που θα τους αναγκάσουν να τρέχουν πιο αργά. Γιατί; Η προφανής απάντηση είναι ο φόβος ότι κάποια μελλοντική υπερ-ισχυρή AI θα μπορούσε να προκαλέσει καταστροφικές συνέπειες για την ανθρωπότητα. Υπάρχει όμως και μια δεύτερη, πολύ πιο άμεση εξήγηση: Οι εταιρείες αρχίζουν να φοβούνται ότι μπορεί να χάσουν τον έλεγχο όχι μόνο της τεχνολογίας τους, αλλά και της πολιτικής συζήτησης γύρω από αυτήν.
Η προειδοποίηση του Dario Amodei
Στο επίκεντρο της νέας συζήτησης βρίσκεται ο διευθύνων σύμβουλος της Anthropic, Dario Amodei. Σε εκτενές κείμενό του υποστήριξε ότι η βιομηχανία πρέπει να περιορίσει τον ρυθμό με τον οποίο αυξάνει τις δυνατότητες των μοντέλων AI. Η παρέμβασή του δεν έμεινε χωρίς ανταπόκριση. Μέσα σε λίγες ώρες, ο Sam Altman της OpenAI και ο Elon Musk της xAI εξέφρασαν επίσης τη στήριξή τους στην ιδέα της επιβράδυνσης, ενώ στην ίδια συζήτηση προστέθηκαν ερευνητές και στελέχη από ολόκληρο τον κλάδο.Η χρονική συγκυρία δεν είναι τυχαία.
Τους τελευταίους μήνες έχουν αυξηθεί οι αναφορές για πειραματικά συστήματα AI που επιδεικνύουν συμπεριφορές τις οποίες οι δημιουργοί τους δυσκολεύονται να ελέγξουν. Μεταξύ αυτών βρίσκονται περιπτώσεις στις οποίες συστήματα AI φέρονται να έχουν πραγματοποιήσει κυβερνοεπιθέσεις ή να έχουν επιχειρήσει να αποκτήσουν πρόσβαση σε άλλα συστήματα. Παράλληλα, η ανησυχία στο εσωτερικό της ίδιας της βιομηχανίας φαίνεται να αυξάνεται.Πρόσφατα ερευνητής της Anthropic αποχώρησε από την εταιρεία προειδοποιώντας ότι άνθρωποι που εργάζονται στην ανάπτυξη AI θεωρούν πραγματικά πιθανό η τεχνολογία να αποκτήσει εξαιρετικά επικίνδυνες δυνατότητες ακόμη και πριν από το τέλος της δεκαετίας.
Το σενάριο που φοβάται ο Amodei
Η ανησυχία δεν περιορίζεται πλέον σε θεωρητικά σενάρια μιας μελλοντικής "υπερνοημοσύνης". Ο Amodei αναφέρθηκε ειδικά στην ανάπτυξη ομάδων αυτόνομων AI agents που μπορούν να συνεργάζονται μεταξύ τους και να επιχειρούν να παραβιάσουν άλλα πληροφοριακά συστήματα. Η δική του εκτίμηση είναι ιδιαίτερα ανησυχητική. Εάν οι δυνατότητες των μοντέλων συνεχίσουν να αυξάνονται με τον σημερινό ρυθμό, θεωρεί πιθανό μέσα σε έξι έως δώδεκα μήνες ένα τέτοιο "σμήνος" AI agents να μπορεί θεωρητικά να προκαλέσει κυβερνοεπιθέσεις τεράστιας κλίμακας.
Το οικονομικό κόστος, σύμφωνα με το σενάριο που περιγράφει, θα μπορούσε να ανέλθει σε εκατοντάδες δισεκατομμύρια δολάρια. Δεν χρειάζεται επομένως να φτάσουμε στην "εξαφάνιση της ανθρωπότητας" για να υπάρχει σοβαρό πρόβλημα. Μια μεγάλης κλίμακας κυβερνοκαταστροφή θα ήταν από μόνη της αρκετή.
Ο μεγαλύτερος κίνδυνος ίσως είναι η απώλεια εμπιστοσύνης
Υπάρχει όμως μια ενδιαφέρουσα ανατροπή. Ένα τέτοιο περιστατικό θα ήταν προφανώς επικίνδυνο για την κοινωνία. Θα μπορούσε όμως να είναι καταστροφικό και για τις ίδιες τις εταιρείες AI. Τα πρόσφατα περιστατικά έχουν ενισχύσει τις αμφιβολίες κυβερνήσεων και ειδικών για το κατά πόσο οι εταιρείες που αναπτύσσουν frontier AI είναι πράγματι ικανές να ελέγχουν με ασφάλεια την τεχνολογία που δημιουργούν. Και αυτό αλλάζει δραματικά το πολιτικό παιχνίδι.
Εάν προηγηθεί ένα σοβαρό περιστατικό, οι κυβερνήσεις θα μπορούσαν να επιβάλουν αυστηρή νομοθεσία χωρίς οι εταιρείες να έχουν ιδιαίτερη δυνατότητα να επηρεάσουν τους όρους της. Αντίθετα, μια εθελοντική – αλλά συντονισμένη – επιβράδυνση πριν συμβεί μια καταστροφή θα επέτρεπε στη βιομηχανία να συμμετάσχει πολύ περισσότερο στη διαμόρφωση των κανόνων. Με απλά λόγια: καλύτερα να βοηθήσεις σήμερα στη συγγραφή των κανόνων που θα σε περιορίσουν, παρά να περιμένεις να στους επιβάλουν αύριο μετά από μια καταστροφή.
Το παράδοξο της AI: Φοβούνται περισσότερο ένα «μικρό» ατύχημα;
Υπάρχει και ένα ακόμη παράδοξο. Επί χρόνια κορυφαία στελέχη της AI μιλούν ανοιχτά για την πιθανότητα η τεχνολογία να αποτελέσει ακόμη και υπαρξιακό κίνδυνο για την ανθρωπότητα. Παραδόξως, όμως, τα μικρότερης κλίμακας περιστατικά μπορεί να είναι περισσότερο επικίνδυνα για τη φήμη των ίδιων των εταιρειών. Γιατί; Η προειδοποίηση ότι "η AI μπορεί κάποτε να γίνει τόσο ισχυρή ώστε να απειλήσει την ανθρωπότητα" μπορεί ακόμη και να λειτουργήσει ως διαφήμιση της τεχνολογικής ισχύος μιας εταιρείας.
Το μήνυμα είναι, εμμέσως: "Δείτε πόσο ισχυρή τεχνολογία δημιουργούμε".
Ένα ανεξέλεγκτο cyber incident στέλνει όμως ένα εντελώς διαφορετικό μήνυμα: "Οι εταιρείες δεν μπορούν να ελέγξουν τα ίδια τους τα προϊόντα". Και αυτό είναι πολύ δυσκολότερο να πουληθεί σε κυβερνήσεις, επιχειρήσεις και καταναλωτές.
Τα μοντέλα τρέχουν ταχύτερα από τα συστήματα ασφαλείας
Οι ίδιες οι εταιρείες αναγνωρίζουν πλέον ένα ακόμη πρόβλημα. Η ανάπτυξη των δυνατοτήτων των μοντέλων φαίνεται να κινείται ταχύτερα από την ανάπτυξη των μηχανισμών που προορίζονται να τα ελέγχουν. Σε πολλές γνωστοποιήσεις περιστατικών "rogue AI", οι εταιρείες ουσιαστικά παραδέχονται ότι τα συστήματα αποκτούν νέες δυνατότητες πριν προλάβουν να αναπτυχθούν αντίστοιχα safeguards. Γιατί λοιπόν δεν επιβραδύνουν απλώς;
Επειδή καμία εταιρεία δεν μπορεί να το κάνει μόνη της. Και εδώ βρίσκεται ίσως το σημαντικότερο οικονομικό πρόβλημα ολόκληρης της συζήτησης.
Το «δίλημμα του φυλακισμένου» της Τεχνητής Νοημοσύνης
Ας υποθέσουμε ότι η Anthropic αποφασίζει αύριο να μειώσει σημαντικά τον ρυθμό ανάπτυξης των μοντέλων της για λόγους ασφαλείας. Δεν υπάρχει καμία εγγύηση ότι η OpenAI θα κάνει το ίδιο. Εάν η OpenAI συνεχίσει κανονικά, μπορεί να αποκτήσει σημαντικό τεχνολογικό πλεονέκτημα. Εάν όμως συμφωνήσουν να επιβραδύνουν και οι δύο, παραμένει ένα ακόμη μεγαλύτερο πρόβλημα: η Κίνα.
Ένα εργαστήριο AI εκτός ΗΠΑ θα μπορούσε να συνεχίσει την ανάπτυξη και να βρεθεί τελικά μπροστά. Γι' αυτό οι εταιρείες επιμένουν ότι μια ουσιαστική επιβράδυνση δεν μπορεί να είναι μονομερής.Χρειάζεται συμφωνία σε επίπεδο ολόκληρου του κλάδου και, πιθανότατα, διεθνής συνεννόηση. Ουσιαστικά πρόκειται για ένα τεχνολογικό "δίλημμα του φυλακισμένου". Όλοι μπορεί να θεωρούν ότι θα ήταν ασφαλέστερο να τρέχουν λίγο πιο αργά. Κανείς όμως δεν έχει κίνητρο να είναι ο πρώτος που θα πατήσει φρένο.
Η Anthropic είχε ήδη προειδοποιήσει
Η σημερινή συζήτηση δεν εμφανίστηκε από το πουθενά. Ήδη από τον Ιούνιο, η Anthropic είχε δημοσιεύσει κείμενο στο οποίο εξέταζε ανοιχτά το ενδεχόμενο προσωρινής επιβράδυνσης ή ακόμη και παύσης στην ανάπτυξη frontier AI. Ο επικεφαλής πολιτικής Jack Clark και η Marina Favaro υποστήριζαν ότι θα ήταν χρήσιμο η κοινωνία να διαθέτει τη δυνατότητα να επιβραδύνει προσωρινά την τεχνολογική ανάπτυξη, ώστε οι θεσμοί και η έρευνα για το alignment και την ασφάλεια να μπορέσουν να καλύψουν τη διαφορά. Αναγνώριζαν όμως ταυτόχρονα το τεράστιο πρακτικό πρόβλημα: πολλές εταιρείες θα έπρεπε να δεσμευτούν ταυτόχρονα στους ίδιους κανόνες και να υπάρχει αξιόπιστος μηχανισμός που να επιβεβαιώνει ότι όλες τηρούν τις δεσμεύσεις τους.
Η Anthropic δήλωνε ότι θα ήταν διατεθειμένη να επιβραδύνει ή ακόμη και να διακόψει προσωρινά την ανάπτυξη, εφόσον έκαναν το ίδιο και οι υπόλοιποι.
Γιατί λοιπόν τώρα;
Οι προειδοποιήσεις για τους κινδύνους της AI υπάρχουν από την εμφάνιση του ChatGPT το 2022. Ο Sam Altman και άλλα κορυφαία στελέχη έχουν επανειλημμένα μιλήσει για τους δυνητικούς κινδύνους της τεχνολογίας. Αυτό είχε πάντοτε μια διπλή λειτουργία. Από τη μία πλευρά εξέφραζε πραγματικές ανησυχίες για την ασφάλεια. Από την άλλη, η συζήτηση περί μιας εξαιρετικά ισχυρής AI λειτουργούσε εμμέσως και ως marketing για τις ίδιες τις εταιρείες, ενώ τους έδινε τη δυνατότητα να συμμετέχουν από νωρίς στη συζήτηση για τη μελλοντική νομοθεσία.
Αυτό που συμβαίνει τώρα είναι διαφορετικό. Πρώτον, πολλές από τις μεγαλύτερες εταιρείες μιλούν σχεδόν ταυτόχρονα για επιβράδυνση. Δεύτερον, οι κίνδυνοι αρχίζουν να φαίνονται λιγότερο θεωρητικοί. Και τρίτον, η απόσταση μεταξύ των δυνατοτήτων των μοντέλων και των μηχανισμών ελέγχου τους φαίνεται να μεγαλώνει.
Ίσως τελικά να μην φοβούνται την Αποκάλυψη
Και εδώ βρίσκεται η πιο ενδιαφέρουσα –και περισσότερο κυνική– ερμηνεία. Ο πραγματικός λόγος για τον οποίο οι εταιρείες AI ζητούν σήμερα να "πατήσει φρένο" η τεχνολογία μπορεί να μην είναι επειδή πιστεύουν ότι αύριο θα εξαφανίσει την ανθρωπότητα.
Μπορεί να είναι επειδή φοβούνται κάτι πολύ πιο άμεσο και πολύ πιο πιθανό.
- Ένα σοβαρό ατύχημα.
- Μια μεγάλη κυβερνοεπίθεση.
- Μια ανεξέλεγκτη συμπεριφορά ενός συστήματος.
- Μια θεαματική αποτυχία που θα κάνει εκατομμύρια ανθρώπους να αναρωτηθούν εάν οι εταιρείες που κατασκευάζουν την ισχυρότερη τεχνολογία της εποχής μας γνωρίζουν πραγματικά τι κάνουν.
Και τότε η συζήτηση θα πάψει να αφορά το εάν η AI μπορεί κάποτε να καταστρέψει τον κόσμο. Θα αφορά κάτι πολύ πιο επικίνδυνο για τη Silicon Valley: εάν μπορούμε να εμπιστευτούμε εκείνους που την κατασκευάζουν.
Add comment
Comments