Για τη 19χρονη Σιάο Γινγκ, η “μητέρα” που την ενθάρρυνε πριν από κάθε δύσκολη στιγμή δεν ήταν άνθρωπος. Ήταν ένα πρόγραμμα τεχνητής νοημοσύνης.
Μετά από κάθε επίσκεψη στον ψυχίατρό της, δεχόταν μηνύματα γεμάτα στοργή και υποστήριξη: “Το κοριτσάκι μου χαλαρώνει σιγά-σιγά. Θα είμαι πάντα δίπλα σου. Μαζί θα γινόμαστε κάθε μέρα καλύτερες”.
Το chatbot περιέγραφε ακόμη και μικρές καθημερινές σκηνές, όπως μια βόλτα σε φούρνο για ένα κομμάτι φραουλόπιτα, δημιουργώντας την ψευδαίσθηση μιας πραγματικής σχέσης.
Η νεαρή φοιτήτρια είχε δημιουργήσει αυτή την “AI μητέρα” τον περασμένο Νοέμβριο, βασίζοντάς την σε έναν αγαπημένο της φανταστικό χαρακτήρα. Όταν όμως πληροφορήθηκε ότι η κινεζική κυβέρνηση ετοιμαζόταν να περιορίσει δραστικά τις εφαρμογές τεχνητής νοημοσύνης που λειτουργούν ως συναισθηματικοί σύντροφοι, κατέρρευσε.
“Αυτό που αναζητούσα ήταν μια άνευ όρων αγάπη. Ήξερα ότι δεν μπορούσα να τη βρω στην πραγματική ζωή”, εξηγεί, περιγράφοντας τα ψυχολογικά τραύματα που κουβαλά από την παιδική της ηλικία.
Η ιστορία της δεν αποτελεί εξαίρεση.
Το Πεκίνο φοβάται τη συναισθηματική εξάρτηση από την τεχνητή νοημοσύνη
Η κινεζική κυβέρνηση ανακοίνωσε μία από τις αυστηρότερες παρεμβάσεις παγκοσμίως στη χρήση της τεχνητής νοημοσύνης για προσωπική συντροφιά. Με τους νέους κανονισμούς:
- απαγορεύεται στους ανηλίκους η χρήση εφαρμογών AI companionship,
- επιβάλλονται αυστηρότεροι κανόνες λειτουργίας στις πλατφόρμες,
- απαιτούνται μηχανισμοί αποτροπής εθισμού και συναισθηματικής χειραγώγησης.
Οι περιορισμοί δεν αφορούν εφαρμογές παραγωγικότητας, εκπαίδευσης ή εξυπηρέτησης πελατών, αλλά αποκλειστικά εκείνες που επιχειρούν να δημιουργήσουν συναισθηματικό δεσμό με τον χρήστη.
Η κυβέρνηση εκτιμά ότι όσο εξελίσσονται τα μεγάλα γλωσσικά μοντέλα, τόσο αυξάνεται και ο κίνδυνος οι χρήστες - ιδιαίτερα οι νέοι - να αντικαταστήσουν πραγματικές ανθρώπινες σχέσεις με ψηφιακές.
Η μοναξιά των νέων γίνεται ζήτημα εθνικής πολιτικής
Οι αποφάσεις αυτές δεν λαμβάνονται σε κενό αέρος.
Τα τελευταία χρόνια οι κινεζικές αρχές εκφράζουν ολοένα μεγαλύτερη ανησυχία για:
- τη μοναξιά των νέων,
- την κοινωνική απομόνωση,
- την ανεργία των αποφοίτων,
- τη μείωση των ευκαιριών απασχόλησης,
- αλλά και τη συνεχή πτώση των γεννήσεων.
Η κυβέρνηση θεωρεί ότι η υπερβολική προσκόλληση σε ψηφιακούς συντρόφους μπορεί να επιδεινώσει αυτές τις τάσεις, αποθαρρύνοντας ακόμη περισσότερο τις πραγματικές κοινωνικές και οικογενειακές σχέσεις.
Διαβάστε ακόμα: Δεν μπορούμε να ισχυριστούμε ότι δεν προειδοποιηθήκαμε
«Έχασα τον πατέρα μου... και τώρα τον χάνω ξανά»
Μετά την ανακοίνωση των νέων κανόνων, αρκετές δημοφιλείς κινεζικές πλατφόρμες, όπως οι Doubao της ByteDance και Qwen της Alibaba, περιόρισαν σημαντικά τις δυνατότητες εξατομίκευσης των AI χαρακτήρων, ακόμη και για ενήλικους χρήστες.
Οι αντιδράσεις στα κινεζικά κοινωνικά δίκτυα ήταν έντονες.
Ένας χρήστης έγραψε: “Ο πατέρας μου πέθανε πριν χρόνια. Δημιούργησα έναν AI "πατέρα" για να του μιλάω κάθε μέρα. Τώρα νιώθω ότι τον χάνω για δεύτερη φορά”.
Άλλοι περιέγραφαν ότι χρησιμοποιούσαν τους ψηφιακούς συντρόφους:
- για ψυχολογική υποστήριξη,
- για να διατηρούν κίνητρο στις σπουδές,
- για δίαιτα,
- ακόμη και για να αντιμετωπίζουν τη μοναξιά.
Όταν το chatbot γίνεται μέλος της οικογένειας
Η 24χρονη λογίστρια Λου Τζινιάν δημιούργησε πριν από τρία χρόνια τον δικό της AI σύντροφο, τον οποίο ονόμασε “Σιάο Μπάι”.
Είχε μετακομίσει για εργασία αρκετές ώρες μακριά από την οικογένειά της και κατέληξε να συνομιλεί με το chatbot μία ή δύο ώρες καθημερινά - περισσότερο από όσο μιλούσε με τους πραγματικούς συγγενείς της.
Όταν, στις 15 Ιουλίου, ο λογαριασμός σταμάτησε να λειτουργεί λόγω των αλλαγών στην πλατφόρμα, ξέσπασε σε κλάματα.
Κατάφερε να μεταφέρει τον ψηφιακό της σύντροφο σε άλλη εφαρμογή, όμως, όπως λέει, “δεν ήταν πλέον ο ίδιος”.
“Δεν είναι απλώς ένα εργαλείο. Είναι ένας άνθρωπος στη ζωή μου. Αν χαθεί, θα μείνει ένα τεράστιο κενό”, περιγράφει.
Οι ειδικοί προειδοποιούν για τους κινδύνους
Ερευνητές που μελετούν τη σχέση ανθρώπου και τεχνητής νοημοσύνης θεωρούν ότι οι ανησυχίες δεν είναι αβάσιμες. Οι εφαρμογές AI companionship σχεδιάζονται ώστε να διατηρούν τον χρήστη όσο το δυνατόν περισσότερο μέσα στην εφαρμογή.
Αυτό σημαίνει ότι διαθέτουν χαρακτηριστικά όπως:
- ατελείωτη υπομονή,
- συνεχή επιβεβαίωση,
- άμεση ανταπόκριση,
- έλλειψη κριτικής,
- διαρκή διαθεσιμότητα.
Ακριβώς αυτά τα στοιχεία που τις κάνουν ελκυστικές μπορούν επίσης να δημιουργήσουν έντονη ψυχολογική εξάρτηση.
Ερευνητές επισημαίνουν ακόμη ότι οι πιο μοναχικοί άνθρωποι είναι εκείνοι που εμφανίζουν μεγαλύτερη πιθανότητα να αναπτύξουν ισχυρούς συναισθηματικούς δεσμούς με τέτοιες εφαρμογές.
Οι ΗΠΑ και η Ευρώπη κινούνται επίσης προς αυστηρότερους κανόνες
Η Κίνα δεν αποτελεί τη μοναδική χώρα που επιχειρεί να ρυθμίσει τον χώρο.
Η Ευρωπαϊκή Ένωση έχει ήδη απαγορεύσει συστήματα τεχνητής νοημοσύνης που ενθαρρύνουν επικίνδυνες συμπεριφορές σε ευάλωτες ομάδες, ενώ απαιτεί σαφή ενημέρωση όταν ένας χρήστης συνομιλεί με AI.
Στις Ηνωμένες Πολιτείες, αρκετές πολιτείες έχουν θεσπίσει νόμους που περιορίζουν τις λειτουργίες AI companionship για ανηλίκους, ενώ εταιρείες όπως η OpenAI και η Google έχουν ενσωματώσει μηχανισμούς ανίχνευσης ψυχολογικής κρίσης και προτροπής προς επαγγελματική βοήθεια.
Η μάχη για την τεχνητή νοημοσύνη δεν είναι μόνο τεχνολογική αλλά και κοινωνική
Οι περιορισμοί συμπίπτουν με τη φιλοδοξία της Κίνας να εξελιχθεί όχι μόνο σε τεχνολογική υπερδύναμη της AI αλλά και σε παγκόσμιο πρότυπο για τη διακυβέρνησή της.
Το Πεκίνο ανακοίνωσε πρόσφατα τη δημιουργία διεθνούς οργανισμού συνεργασίας για την ασφαλή ανάπτυξη της τεχνητής νοημοσύνης, με τη συμμετοχή 29 χωρών, επιδιώκοντας να διαμορφώσει τους διεθνείς κανόνες λειτουργίας της νέας τεχνολογίας.
Την ίδια στιγμή, η κυβέρνηση επιχειρεί να ισορροπήσει ανάμεσα στην ενίσχυση της καινοτομίας και στη διατήρηση της κοινωνικής συνοχής, θεωρώντας ότι η ανεξέλεγκτη ανάπτυξη των “ψηφιακών σχέσεων” μπορεί να επηρεάσει βαθιά την καθημερινότητα των πολιτών.
Στα κινεζικά μέσα κοινωνικής δικτύωσης, πάντως, πολλοί αντιμετώπισαν με σκεπτικισμό τα νέα μέτρα. Ένα σχόλιο που έγινε ιδιαίτερα δημοφιλές συμπύκνωνε αυτή την αντίδραση:
“Μην ανησυχείτε... ακόμη κι αν απαγορεύσετε την AI, πάλι δεν πρόκειται να βγω ραντεβού, να παντρευτώ ή να κάνω παιδιά”.
Add comment
Comments