Μια διαρροή δεδομένων που ήρθε στο φως μέσω του TechCrunch αποκαλύπτει ότι η Κίνα έχει αναπτύξει ένα εξελιγμένο σύστημα Τεχνητής Νοημοσύνης για την ενίσχυση της κρατικής λογοκρισίας. Το σύστημα επεκτείνεται πέρα από τα γνωστά απαγορευμένα θέματα, όπως η σφαγή στην πλατεία Τιενανμέν, στοχεύοντας σε ευρύτερες κοινωνικοπολιτικές συζητήσεις.
Σύμφωνα με την έρευνα, το νέο σύστημα λογοκρίνει θέματα όπως καταγγελίες για φτώχεια, σκάνδαλα διαφθοράς και κριτική προς την αστυνομία. Ενώ η κύρια χρήση του φαίνεται να αφορά τον έλεγχο του περιεχομένου των Κινέζων χρηστών στο διαδίκτυο, η τεχνολογία αυτή ενδέχεται να ενισχύσει και τη λογοκρισία που εφαρμόζεται σε κινεζικά μοντέλα AI.
Ο ερευνητής του UC Berkeley, Xiao Qiang, ο οποίος εξέτασε τα δεδομένα, δήλωσε ότι η κινεζική κυβέρνηση επιδιώκει να χρησιμοποιήσει προηγμένα γλωσσικά μοντέλα (LLM) για να βελτιώσει τη λογοκριτική της ικανότητα. Αντί να στηρίζεται σε μηχανισμούς που απαιτούν ανθρώπινη παρέμβαση, όπως ο έλεγχος λέξεων-κλειδιών, το νέο σύστημα χρησιμοποιεί AI για την αυτοματοποιημένη αναγνώριση και φίλτρανση «ευαίσθητου» περιεχομένου.
Η εξέλιξη αυτή αποτελεί μέρος μιας ευρύτερης τάσης όπου αυταρχικά καθεστώτα αξιοποιούν την Τεχνητή Νοημοσύνη για έλεγχο και παρακολούθηση. Τον Φεβρουάριο, η OpenAI αποκάλυψε ότι κινεζικές οντότητες χρησιμοποιούσαν LLM για να εντοπίζουν αντικυβερνητικές αναρτήσεις και να στοχοποιούν αντιφρονούντες.
Διαρροή Δεδομένων και Ανακάλυψη του Συστήματος
Το σύστημα αυτό εντοπίστηκε από τον ερευνητή ασφαλείας NetAskari, ο οποίος βρήκε τα δεδομένα αποθηκευμένα σε μια μη ασφαλή βάση Elasticsearch, φιλοξενούμενη σε διακομιστή της Baidu. Αν και δεν υπάρχει ένδειξη εμπλοκής της Baidu ή άλλης εταιρείας, τα αρχεία δείχνουν ότι το σύστημα βρίσκεται σε λειτουργία τουλάχιστον από τον Δεκέμβριο του 2024.
Η τεχνητή νοημοσύνη που χρησιμοποιείται λειτουργεί ως μηχανισμός σάρωσης περιεχομένου, επισημαίνοντας θέματα υψηλής προτεραιότητας, όπως η ρύπανση, η ασφάλεια τροφίμων, οι οικονομικές απάτες και οι εργατικές διαμάχες – ζητήματα που έχουν προκαλέσει κοινωνικές αναταραχές στην Κίνα στο παρελθόν.
Ιδιαίτερη προσοχή δίνεται επίσης σε κάθε μορφή πολιτικής σάτιρας, όπως η χρήση ιστορικών αναφορών για τη σύγχρονη πολιτική κατάσταση, καθώς και σε περιεχόμενο που σχετίζεται με την Ταϊβάν.
Αντιδρώντας στις αποκαλύψεις, η κινεζική πρεσβεία στην Ουάσινγκτον χαρακτήρισε τις καταγγελίες «αβάσιμες» και τόνισε ότι η Κίνα δίνει έμφαση στην ηθική ανάπτυξη της AI. Ωστόσο, η διαρροή των δεδομένων ενισχύει τις ανησυχίες για τη χρήση της Τεχνητής Νοημοσύνης ως όπλο ελέγχου της πληροφορίας.
Με πληροφορίες από Liberal
