Σαράντα ένας διακεκριμένοι μαθηματικοί και μέλη της Royal Society προειδοποιούν ότι η ταχύτητα με την οποία εξελίσσεται η Τεχνητή Νοημοσύνη δεν αποτελεί πλέον απλώς ένα τεχνολογικό ζήτημα, αλλά ενδέχεται να εξελιχθεί σε πρόβλημα για ολόκληρη την ανθρωπότητα.
Από την Sarah Knapton | The Telegraph
Απόδοση – δημοσιογραφική επιμέλεια: Αργώ | Greece2Day
Η συζήτηση για τους κινδύνους της Τεχνητής Νοημοσύνης έχει περάσει σε μια νέα φάση. Και αυτή τη φορά η προειδοποίηση δεν προέρχεται μόνο από στελέχη της Silicon Valley ή ειδικούς στην ασφάλεια της AI. Προέρχεται από μερικούς από τους σημαντικότερους μαθηματικούς του κόσμου. Σαράντα ένας Fellows της βρετανικής Royal Society απέστειλαν κοινή επιστολή στον πρόεδρό της, Sir Paul Nurse, εκφράζοντας βαθιά ανησυχία για την ταχύτητα ανάπτυξης της Τεχνητής Νοημοσύνης και τις πιθανές συνέπειες για τον ανθρώπινο πολιτισμό.
Η βασική τους ανησυχία είναι ότι αυτό που συμβαίνει σήμερα στα μαθηματικά μπορεί να αποτελεί μια πρώτη ένδειξη όσων θα ακολουθήσουν και σε άλλους τομείς.
Η AI έφτασε στην κορυφή των μαθηματικών
Η αφορμή για την παρέμβαση ήταν μια εξέλιξη που μέχρι πρόσφατα θα φαινόταν σχεδόν αδιανόητη. Η OpenAI ανακοίνωσε ότι σύστημα Τεχνητής Νοημοσύνης κατάφερε να αντιμετωπίσει το περίφημο πρόβλημα Navier–Stokes, ένα από τα επτά Millennium Prize Problems. Οι εξισώσεις Navier–Stokes αποτελούν θεμελιώδες εργαλείο της φυσικής και των μαθηματικών για την περιγραφή της κίνησης των ρευστών. Χρησιμοποιούνται για να περιγράψουν φαινόμενα που εκτείνονται από τη ροή του αέρα γύρω από ένα αεροσκάφος μέχρι την κυκλοφορία του αίματος και τη συμπεριφορά της ατμόσφαιρας.
Το μαθηματικό πρόβλημα που τις συνοδεύει είχε αντισταθεί στις προσπάθειες κορυφαίων ερευνητών επί δεκαετίες. Και συνοδευόταν από χρηματικό έπαθλο $1 εκατ. Η ανακοίνωση της OpenAI προκάλεσε σοκ στη μαθηματική κοινότητα. Όχι μόνο λόγω του αποτελέσματος. Αλλά κυρίως λόγω της ταχύτητας με την οποία φαίνεται να εξελίσσονται πλέον οι δυνατότητες των συστημάτων AI.
«Βρίσκονται ήδη στο επίπεδο των κορυφαίων ανθρώπων»
Αυτό ακριβώς επισημαίνουν οι μαθηματικοί στην επιστολή τους προς τη Royal Society. Κατά την εκτίμησή τους, τα ισχυρότερα μοντέλα AI λειτουργούν ήδη, σε αρκετούς τομείς των μαθηματικών, σε επίπεδο συγκρίσιμο με εκείνο κορυφαίων ανθρώπινων ερευνητών. Και από αυτό προκύπτει το πραγματικό ερώτημα: Τι θα συμβεί εάν η σημερινή ταχύτητα βελτίωσης συνεχιστεί;
Οι υπογράφοντες θεωρούν ότι δεν μπορεί πλέον να αποκλειστεί το ενδεχόμενο τα συστήματα να αποκτήσουν σε σχετικά σύντομο χρονικό διάστημα δυνατότητες που θα ξεπερνούν εκείνες των καλύτερων ανθρώπων σε ορισμένα γνωστικά πεδία. Για τους μαθηματικούς, το ζήτημα δεν είναι ότι γνωρίζουμε με βεβαιότητα πως αυτό θα συμβεί. Είναι ότι η πιθανότητα θεωρείται πλέον αρκετά σοβαρή ώστε να απαιτεί προετοιμασία.
Τα μαθηματικά ως προειδοποίηση
Γιατί όμως τα μαθηματικά έχουν τόσο μεγάλη σημασία στη συζήτηση για την AI; Επειδή αποτελούν έναν από τους πιο απαιτητικούς τομείς ανθρώπινης διανοητικής δραστηριότητας. Ένα προηγμένο μαθηματικό πρόβλημα απαιτεί αφηρημένη σκέψη, λογική, δημιουργικότητα, κατανόηση προηγούμενων αποτελεσμάτων και συχνά την ανακάλυψη εντελώς νέων μεθόδων. Γι' αυτό η πρόοδος της AI σε αυτόν τον χώρο θεωρείται από ορισμένους ερευνητές πιθανός δείκτης για το τι θα μπορούσε να συμβεί και σε άλλες δραστηριότητες υψηλής νοητικής απαίτησης.
Εάν μια μηχανή μπορεί να ανταγωνιστεί κορυφαίους μαθηματικούς, το επόμενο ερώτημα είναι αναπόφευκτο: Σε ποιους άλλους τομείς θα μπορούσε να συμβεί το ίδιο;
Από τα μαθηματικά στην κυβερνοασφάλεια
Η ανησυχία των επιστημόνων γίνεται πολύ μεγαλύτερη όταν η ίδια ικανότητα επίλυσης σύνθετων προβλημάτων μεταφερθεί έξω από το εργαστήριο. Ένα εξαιρετικά προηγμένο σύστημα AI θα μπορούσε θεωρητικά να χρησιμοποιηθεί στην κυβερνοασφάλεια, στον σχεδιασμό νέων τεχνολογιών, στην παραπληροφόρηση ή ακόμη και στην ανάπτυξη αυτόνομων οπλικών συστημάτων. Και εδώ βρίσκεται η ουσία της προειδοποίησης.
Η μαθηματική ικανότητα από μόνη της δεν αποτελεί απειλή. Αποδεικνύει όμως πόσο γρήγορα μπορούν να αυξηθούν οι γνωστικές δυνατότητες ενός συστήματος. Εάν αντίστοιχη πρόοδος σημειωθεί σε πεδία όπου μια AI μπορεί να ενεργεί αυτόνομα στον πραγματικό κόσμο, τότε οι συνέπειες γίνονται πολύ δυσκολότερο να προβλεφθούν.
Η παραίτηση από την Anthropic
Την ανησυχία ενίσχυσε και μια εξέλιξη στο εσωτερικό της βιομηχανίας της AI. Ο Jacob Coxon, ερευνητής της Anthropic, της εταιρείας πίσω από το Claude, αποχώρησε από την εταιρεία εκφράζοντας εξαιρετικά σοβαρές ανησυχίες για την ανάπτυξη συστημάτων που ενδέχεται να καταστούν δύσκολο να ελεγχθούν. Δεν είναι η μοναδική προειδοποίηση που έχει ακουστεί από ανθρώπους οι οποίοι βρίσκονται στο εσωτερικό της ίδιας της βιομηχανίας.
Ο επικεφαλής της Anthropic, Dario Amodei, έχει επίσης μιλήσει δημόσια για πολύ σοβαρούς κινδύνους από μελλοντικά αυτόνομα συστήματα AI και για την ανάγκη δημιουργίας ισχυρότερων μηχανισμών ασφαλείας.
Όταν τα ίδια τα συστήματα αρχίζουν να ενεργούν
Το πρόβλημα γίνεται πιο σύνθετο με την ανάπτυξη των λεγόμενων AI agents. Σε αντίθεση με ένα παραδοσιακό chatbot, το οποίο περιμένει μια ερώτηση και παράγει μια απάντηση, ένας agent μπορεί να αναλάβει έναν στόχο και να εκτελέσει μια ακολουθία ενεργειών για να τον επιτύχει.
- Μπορεί να χρησιμοποιήσει εργαλεία.
- Να γράψει και να εκτελέσει κώδικα.
- Να αναζητήσει πληροφορίες.
- Να επικοινωνήσει με άλλα συστήματα.
- Να προσαρμόσει τη στρατηγική του.
Όσο μεγαλύτερη αυτονομία αποκτούν τέτοια συστήματα, τόσο σημαντικότερο γίνεται ένα θεμελιώδες πρόβλημα της έρευνας AI: Πώς εξασφαλίζεις ότι ένας πολύ ισχυρός αυτόνομος agent θα κάνει πράγματι αυτό που θέλεις;
Αυτό είναι μέρος του ευρύτερου προβλήματος που είναι γνωστό ως AI alignment.
Το πρόβλημα του alignment
Με απλά λόγια, alignment σημαίνει ότι οι στόχοι και η συμπεριφορά ενός συστήματος Τεχνητής Νοημοσύνης παραμένουν συμβατοί με τις ανθρώπινες προθέσεις και τους κανόνες ασφαλείας. Σε ένα σημερινό chatbot, ένα λάθος μπορεί να σημαίνει μια λανθασμένη απάντηση. Σε ένα μελλοντικό σύστημα με πολύ μεγαλύτερη αυτονομία, πρόσβαση σε ψηφιακές υποδομές και δυνατότητα πραγματοποίησης ενεργειών, το κόστος ενός λάθους θα μπορούσε να είναι πολύ μεγαλύτερο.
Και εδώ βρίσκεται ένα από τα μεγαλύτερα προβλήματα: οι δυνατότητες της AI μπορεί να εξελίσσονται ταχύτερα από την ικανότητά μας να αποδεικνύουμε ότι τα συστήματα είναι ασφαλή.
Η προειδοποίηση της ίδιας της βιομηχανίας
Η συζήτηση έχει ιδιαίτερη βαρύτητα επειδή ανησυχίες έχουν εκφράσει κατά καιρούς και άνθρωποι που πρωταγωνιστούν στην ανάπτυξη της Τεχνητής Νοημοσύνης. Ερευνητές και στελέχη εταιρειών AI έχουν ζητήσει μεγαλύτερη έμφαση στην ασφάλεια, στην αξιολόγηση των μοντέλων και στους μηχανισμούς ελέγχου πριν από την ανάπτυξη ακόμη ισχυρότερων συστημάτων. Παράλληλα, όμως, οι μεγαλύτερες εταιρείες τεχνολογίας βρίσκονται σε έναν εξαιρετικά έντονο ανταγωνισμό. Κάθε νέα γενιά μοντέλων πρέπει να είναι ισχυρότερη από την προηγούμενη. Και κάθε εταιρεία φοβάται ότι, εάν επιβραδύνει μονομερώς, κάποιος ανταγωνιστής θα την ξεπεράσει. Αυτό δημιουργεί ένα κλασικό δίλημμα: όλοι μπορεί να συμφωνούν ότι χρειάζονται φρένα, αλλά κανείς δεν θέλει να είναι ο πρώτος που θα φρενάρει.
Trump: Οι φόβοι είναι υπερβολικοί
Υπάρχει όμως και η αντίθετη άποψη. Ο Αμερικανός πρόεδρος Donald Trump, σχολιάζοντας τις προειδοποιήσεις γύρω από την Τεχνητή Νοημοσύνη, υποστήριξε ότι ορισμένες "πολύ αρνητικές δυνάμεις" υπερβάλλουν ως προς τους κινδύνους και περιγράφουν σενάρια τα οποία, κατά την εκτίμησή του, δεν πρόκειται να συμβούν. Η θέση αυτή αντανακλά μια ευρύτερη σχολή σκέψης.
Για αρκετούς πολιτικούς, επιχειρηματίες και ερευνητές, ο μεγαλύτερος κίνδυνος δεν είναι ότι η AI θα αναπτυχθεί υπερβολικά γρήγορα, αλλά ότι οι δυτικές χώρες θα επιβραδύνουν την καινοτομία και θα χάσουν το τεχνολογικό πλεονέκτημά τους. Η αντιπαράθεση επομένως δεν είναι απλώς τεχνολογική.
Είναι οικονομική και γεωπολιτική.
Η επιστήμη δεν γνωρίζει ακόμη πόσο γρήγορα θα εξελιχθεί η AI
Εδώ χρειάζεται μια κρίσιμη διευκρίνιση. Οι προειδοποιήσεις των μαθηματικών δεν αποτελούν πρόβλεψη ότι μια καταστροφική υπερνοημοσύνη είναι αναπόφευκτη. Η επιστημονική κοινότητα εξακολουθεί να διαφωνεί έντονα για το πόσο γρήγορα μπορούν να εξελιχθούν τα σημερινά συστήματα. Ορισμένοι ερευνητές θεωρούν ότι η συνέχιση της αύξησης της υπολογιστικής ισχύος και η βελτίωση των αλγορίθμων μπορεί να οδηγήσουν σε συστήματα που θα φτάσουν ή θα ξεπεράσουν τον άνθρωπο σε ένα μεγάλο εύρος γνωστικών εργασιών. Άλλοι θεωρούν ότι τα σημερινά μοντέλα έχουν θεμελιώδεις περιορισμούς και ότι θα χρειαστούν σημαντικές επιστημονικές ανακαλύψεις για να πραγματοποιηθεί ένα τέτοιο άλμα.
Δεν υπάρχει σήμερα επιστημονική συναίνεση για το ποιο από τα δύο σενάρια θα επικρατήσει.
«Μην περιμένετε μέχρι να είναι πολύ αργά»
Αυτό όμως είναι ακριβώς το επιχείρημα των 41 μαθηματικών. Όταν οι πιθανές συνέπειες είναι εξαιρετικά μεγάλες, υποστηρίζουν, η απουσία βεβαιότητας δεν αποτελεί λόγο αδράνειας. Η επιστολή τους καλεί τη Royal Society να χρησιμοποιήσει το επιστημονικό της κύρος ώστε το θέμα να αντιμετωπιστεί σοβαρότερα από κυβερνήσεις, θεσμούς και μέσα ενημέρωσης. Η λογική τους θυμίζει περισσότερο διαχείριση κινδύνου παρά βεβαιότητα για μια επερχόμενη καταστροφή. Ακόμη και αν η πιθανότητα ενός ακραίου σεναρίου είναι αβέβαιη, όταν η πιθανή ζημιά είναι τεράστια, το ζήτημα αξίζει προσοχή.
Οι μαθηματικοί ίσως είναι τα «καναρίνια στο ανθρακωρυχείο»
Υπάρχει τέλος μια βαθύτερη διάσταση. Τα μαθηματικά μπορεί να είναι ένας από τους πρώτους κλάδους όπου μπορούμε να παρακολουθήσουμε σχεδόν σε πραγματικό χρόνο την AI να πλησιάζει - και σε συγκεκριμένες εργασίες να ανταγωνίζεται - ανθρώπους με δεκαετίες εκπαίδευσης. Αυτό που σήμερα συμβαίνει στους μαθηματικούς θα μπορούσε αύριο να αφορά προγραμματιστές, μηχανικούς, επιστήμονες, οικονομολόγους, γιατρούς ή άλλους επαγγελματίες της γνώσης. Το πραγματικό ερώτημα επομένως δεν είναι μόνο: "Μπορεί η AI να λύσει ένα μαθηματικό πρόβλημα που ο άνθρωπος δεν κατάφερε να λύσει;"
Είναι κάτι πολύ μεγαλύτερο: Τι συμβαίνει όταν δημιουργούμε μια τεχνολογία που βελτιώνεται ταχύτερα από την ικανότητα των κοινωνιών να κατανοήσουν τις συνέπειές της;
Οι 41 μαθηματικοί δεν ισχυρίζονται ότι γνωρίζουν την απάντηση. Προειδοποιούν όμως ότι ίσως να μην έχουμε απεριόριστο χρόνο για να τη βρούμε.
Add comment
Comments