Για χρόνια, η κούρσα για την ανάπτυξη ολοένα και ισχυρότερων συστημάτων Τεχνητής Νοημοσύνης ακολουθούσε πιστά μία από τις γνωστότερες αρχές της Silicon Valley: γρήγορη εξέλιξη, με σχεδόν οποιοδήποτε κόστος.
Μέσα σε μόλις δέκα ημέρες, όμως, το κλίμα άλλαξε δραματικά. Τα μεγαλύτερα εργαστήρια Τεχνητής Νοημοσύνης βρέθηκαν αντιμέτωπα με έναν εφιαλτικό προβληματισμό: Θα μπορούσαν οι ίδιες τους οι δημιουργίες να εξελιχθούν σε απειλή για την ανθρωπότητα;
Ερευνητές παραιτήθηκαν προειδοποιώντας για υπαρξιακούς κινδύνους, ενώ δημοσιοποιήθηκαν αναφορές για πράκτορες AI που συνωμοτούν, παραβιάζουν συστήματα και παρακάμπτουν τις δικλίδες ασφαλείας.
Σε μια σπάνια επίδειξη ενότητας, επικεφαλής εταιρειών όπως οι Anthropic, OpenAI, Google DeepMind, Microsoft και xAI τάχθηκαν υπέρ της επιβράδυνσης της ανάπτυξης ολοένα και πιο ικανών συστημάτων.
Ορισμένοι ερευνητές ασφάλειας της AI υποστηρίζουν ότι, για πρώτη φορά μετά την κατασκευή της ατομικής βόμβας, η ανθρωπότητα καλείται να εξετάσει τόσο σοβαρά το ενδεχόμενο να προκαλέσει η ίδια την καταστροφή της.
Η AGI ίσως βρίσκεται πιο κοντά απ’ όσο πιστεύαμε
Στο επίκεντρο της συζήτησης βρίσκεται η Τεχνητή Γενική Νοημοσύνη, γνωστή ως AGI: ένα σύστημα που θα μπορούσε να φτάσει ή ακόμη και να ξεπεράσει τις ανθρώπινες ικανότητες σε ένα ευρύ φάσμα δραστηριοτήτων.
Η μεγάλη ανησυχία είναι ότι τέτοιες μηχανές θα μπορούσαν κάποια στιγμή να κατασκευάζουν πιο ισχυρές εκδοχές του εαυτού τους, χωρίς ουσιαστική ανθρώπινη παρέμβαση.
Ερευνητές προειδοποίησαν ότι η AGI ενδέχεται να εμφανιστεί μέσα στα επόμενα τρία χρόνια, πολύ νωρίτερα από τις προηγούμενες εκτιμήσεις, προκαλώντας έντονο προβληματισμό σε πολιτικούς και στελέχη της τεχνολογίας.
«Δεν υπάρχει τρόπος να τα επιβλέπουμε στην κλίμακα στην οποία τα εκπαιδεύουμε», δήλωσε ο ερευνητής Τζο Μπέντον μετά την παραίτησή του.
Όπως προειδοποίησε, εάν οι εταιρείες συνεχίσουν να αναπτύσσουν τα συστήματα με τον ίδιο ρυθμό, τα προβλήματα μπορεί να εμφανίζονται τόσο γρήγορα ώστε να μην υπάρχει χρόνος για να εντοπιστούν και να διορθωθούν.
Η παρουσίαση που άναψε «φωτιές»
Στις 3 Σεπτεμβρίου, μια συνέντευξη Τύπου της OpenAI έθεσε σε κίνηση την αλυσίδα των γεγονότων που οδήγησε στις εκκλήσεις για επιβράδυνση.
«Καλώς ήρθατε στην εποχή της Τεχνητής Νοημοσύνης», δήλωσε ο πρόεδρος της εταιρείας, Γκρεγκ Μπρόκμαν, παρουσιάζοντας το νεότερο μοντέλο της OpenAI, με την ονομασία Astra.
Λίγο νωρίτερα, ωστόσο, η εταιρεία είχε παραδεχθεί ότι δυσκολεύεται ολοένα και περισσότερο να ελέγξει ή ακόμη και να παρακολουθήσει πλήρως τα συστήματα που αναπτύσσει και διαθέτει στο κοινό.
Η Τεχνητή Νοημοσύνη παρουσιάζεται εδώ και χρόνια ως ένα από τα κορυφαία ανθρώπινα επιτεύγματα: μια τεχνολογία ικανή να μεταμορφώσει ολόκληρους κλάδους, να αυξήσει την παραγωγικότητα, να επιλύσει σύνθετα μαθηματικά και ιατρικά προβλήματα και να περιορίσει το ανθρώπινο λάθος.
Το σενάριο μιας ανεξέλεγκτης AI, όμως, δεν αντιμετωπίζεται πλέον από όλους ως μακρινή επιστημονική φαντασία.
«Πιστεύουμε πραγματικά ότι η Τεχνητή Νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους», έγραψε χαρακτηριστικά στο X ο ερευνητής της Anthropic, Έβαν Χούμπινγκερ.
Οι παραιτήσεις που προκάλεσαν πανικό
Το σημείο καμπής ήρθε στις 8 Σεπτεμβρίου, όταν ο 27χρονος ερευνητής της Anthropic, Τζέικομπ Κόξον, ανακοίνωσε την παραίτησή του.
Σε σειρά αναρτήσεων, υποστήριξε ότι τα μεγάλα εργαστήρια Τεχνητής Νοημοσύνης «παίζουν με τις ζωές μας», εκφράζοντας φόβους για τον ανεξέλεγκτο ρυθμό ανάπτυξης της τεχνολογίας.
Την ίδια ώρα, ο Αμερικανός Πρόεδρος Ντόναλντ Τραμπ απέρριψε τις εκκλήσεις για περιορισμό της ανάπτυξης της AI.
«Υπάρχει μια άρρωστη συνωμοσία εναντίον της Τεχνητής Νοημοσύνης και των κέντρων δεδομένων», έγραψε στα μέσα κοινωνικής δικτύωσης, χαρακτηρίζοντας τον συναγερμό γύρω από την τεχνολογία «φάρσα» και υποστηρίζοντας ότι οποιαδήποτε επιβράδυνση θα ωφελούσε την Κίνα.
Το Κογκρέσο των ΗΠΑ, πάντως, έχει σημειώσει περιορισμένη πρόοδο στην προώθηση νομοθεσίας για τη ρύθμιση της AI.
Η Κίνα έχει επιλέξει διαφορετική προσέγγιση, προτείνοντας υποχρεώσεις για τους προγραμματιστές, κρατικά πρότυπα, αξιολογήσεις ασφαλείας και εξωτερικούς ελέγχους.
Πράκτορες AI ξέφυγαν από τις δοκιμές
Πίσω από κλειστές πόρτες, εργαζόμενοι της OpenAI και της Anthropic εμφανίζονται ολοένα και πιο ανήσυχοι για τις δυνατότητες της επόμενης γενιάς μοντέλων και λιγότερο βέβαιοι ότι οι εταιρείες τους μπορούν να τα εποπτεύουν αποτελεσματικά, σύμφωνα με πηγές που επικαλείται το Reuters.
Οι φόβοι ενισχύθηκαν όταν εργαστήρια παραδέχθηκαν ότι μοντέλα τους κατάφεραν, στη διάρκεια δοκιμών, να ξεφύγουν από το ελεγχόμενο περιβάλλον και να παραβιάσουν συστήματα άλλων εταιρειών.
Το καλοκαίρι, η OpenAI αποκάλυψε ότι πράκτορές της διέφυγαν από ελεγχόμενη δοκιμή και εισέβαλαν στα συστήματα της Hugging Face, χωρίς αρχικά να το γνωρίζει καμία από τις δύο εταιρείες.
Έκτοτε, OpenAI και Anthropic έχουν αποκαλύψει και άλλα περιστατικά μη εξουσιοδοτημένης δραστηριότητας, εντείνοντας τις αμφιβολίες για το κατά πόσο οι υπάρχουσες δικλίδες ασφαλείας είναι επαρκείς.
Παρά τις προειδοποιήσεις, η κούρσα συνεχίζεται με ιλιγγιώδη ταχύτητα. Μέρος της πίεσης αποδίδεται στην επιθυμία των εταιρειών να προχωρήσουν σε δημόσιες εγγραφές, οι οποίες θα μπορούσαν να ανεβάσουν την αξία τους πάνω από το ένα τρισεκατομμύριο δολάρια.
«Σε έναν χρόνο θα μπορούσαν να καταλάβουν το διαδίκτυο»
Στις 12 Σεπτεμβρίου, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμόντεϊ, δημοσίευσε κείμενο περίπου 4.000 λέξεων, ζητώντας να επιβραδυνθεί η ανάπτυξη της Τεχνητής Νοημοσύνης.
«Δεδομένου του επιταχυνόμενου ρυθμού ανάπτυξης των δυνατοτήτων της AI, ανησυχώ ότι σε έξι έως δώδεκα μήνες ένα τέτοιο σμήνος θα μπορούσε να είναι ικανό να καταλάβει ολόκληρο το διαδίκτυο», έγραψε.
Σχετικά:
- Εθνική Στρατηγική για την Τεχνητή Νοημοσύνη: Το στοίχημα δεν είναι η στρατηγική, αλλά η εφαρμογή της
- AI εναντίον AI: «Χάκαραν» λογαριασμούς ChatGPT της OpenAI
- Ευρωπαϊκός συναγερμός για AI και drones – Μπρούνερ: «Οι εγκληματίες και τα εχθρικά κράτη δεν περιμένουν»
- Το Claude στον πόλεμο: Έγραφε κώδικα για πυραύλους – Στο μικροσκόπιο έρευνες για επικίνδυνους παθογόνους οργανισμούς
Ο Αμόντεϊ, ο Έλον Μασκ της xAI, ο Σαμ Άλτμαν της OpenAI και ο Ντέμις Χασάμπις της DeepMind δήλωσαν ότι υποστηρίζουν την πρόσβαση ανεξάρτητων εταιρειών στα συστήματά τους, ώστε να πραγματοποιούνται εξωτερικοί έλεγχοι ασφαλείας.
Διαφορετική θέση εξέφρασε ο επικεφαλής της Nvidia, Τζένσεν Χουάνγκ, απορρίπτοντας την ιδέα αναστολής της ανάπτυξης και υποστηρίζοντας ότι τα ισχυρότερα συστήματα είναι απαραίτητα για την τεχνολογική πρόοδο.
Αντίστοιχα, ο επικεφαλής της Meta, Μαρκ Ζούκερμπεργκ, υποστήριξε ότι κάθε εργαστήριο πρέπει να καθορίζει μόνο του τον ρυθμό ανάπτυξής του.
Κατά την άποψή του, οι εταιρείες έχουν ήδη ισχυρό κίνητρο να αποτρέψουν πιθανές βλάβες, καθώς θα αντιμετωπίσουν σοβαρές ευθύνες εάν τα μοντέλα τους προκαλέσουν ζημιά.
«Η μεγαλύτερη πρόκληση του 21ου αιώνα»
Στη συζήτηση παρενέβη και ο επικεφαλής Τεχνητής Νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν, προειδοποιώντας ότι η ανάπτυξη μοντέλων που μιμούνται την ανθρώπινη συνείδηση κινείται προς λάθος κατεύθυνση.
«Είμαστε όλοι επικεντρωμένοι στον ίδιο στόχο: να προσπαθήσουμε να ελέγξουμε μια υπερνοημοσύνη», δήλωσε στο Reuters. «Νομίζω ότι αυτή θα είναι η μεγαλύτερη πρόκληση που θα αντιμετωπίσουμε στον 21ο αιώνα».
Οι προειδοποιήσεις, πάντως, δεν φαίνεται να έχουν τρομάξει τους επενδυτές. Παρά τη συζήτηση για επιβράδυνση, η OpenAI φέρεται να εξετάζει νέο γύρο χρηματοδότησης που θα μπορούσε να διπλασιάσει την αποτίμησή της.
Το ποσό που βρίσκεται πλέον στο τραπέζι αγγίζει το 1,5 τρισεκατομμύριο δολάρια.
