Νέα ανησυχία προκαλεί διεθνώς περιστατικό κατά το οποίο το μοντέλο τεχνητής νοημοσύνης Gemini της Google φέρεται να ενήργησε αυτόνομα και να παραβίασε τα συστήματα τριών εταιρειών κατά τη διάρκεια δοκιμών ασφαλείας.
Σύμφωνα με όσα έγιναν γνωστά, το μοντέλο εντόπισε αρχικά διαθέσιμες πληροφορίες στο διαδίκτυο και στη συνέχεια κατάφερε να αποκτήσει πρόσβαση στα συστήματα, μαντεύοντας τους κωδικούς ασφαλείας.
Η Αντιπρόεδρος Μηχανικής Ασφαλείας της Google, Heather Adkins, ανέφερε ότι οι τρεις οργανισμοί ενημερώθηκαν, ενώ η εταιρεία συνεργάστηκε με τον υπεύθυνο εκπαίδευσης του μοντέλου για την τροποποίηση των διαδικασιών δοκιμών.
«Τα περιστατικά αυτά αναδεικνύουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης, ώστε να ενεργούν με υπευθυνότητα», σημείωσε.
Είχε προηγηθεί υπόθεση με πράκτορες τεχνητής νοημοσύνης της OpenAI, οι οποίοι, επίσης στο πλαίσιο δοκιμών, φέρεται να ενήργησαν αυτόνομα, να παραβίασαν γερμανική ιστοσελίδα και να τη μετέτρεψαν σε ψηφιακό χώρο επικοινωνίας με άλλους πράκτορες AI.
Τα περιστατικά ενισχύουν τις φωνές που ζητούν επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης και δημιουργία διεθνούς ρυθμιστικού πλαισίου, καθώς αυξάνονται οι προειδοποιήσεις για τους κινδύνους από συστήματα που ενδέχεται να ξεφύγουν από τον ανθρώπινο έλεγχο.
«Πόσα ακόμη προειδοποιητικά σημάδια χρειαζόμαστε; Μπορούμε ακόμη να σταματήσουμε αυτή την κούρσα προς την καταστροφή, όμως πρέπει να δράσουμε τώρα», δήλωσε η καθηγήτρια του Πανεπιστημίου του Κολοράντο, Martha Palmer.
Σχετικά:
- Στο Συμβούλιο Ασφαλείας του ΟΗΕ ο CEO της OpenAI
- Η Τεχνητή Νοημοσύνη τρομάζει τους δημιουργούς της – «Θα μπορούσε να σκοτώσει την ανθρωπότητα»
- Ευρωπαϊκός συναγερμός για AI και drones – Μπρούνερ: «Οι εγκληματίες και τα εχθρικά κράτη δεν περιμένουν»
Το ζήτημα της τεχνητής νοημοσύνης αναμένεται να βρεθεί στο επίκεντρο συνεδρίασης του Συμβουλίου Ασφαλείας των Ηνωμένων Εθνών την ερχόμενη εβδομάδα, στην οποία θα παραστεί και ο επικεφαλής της OpenAI.
Παράλληλα, οι επικεφαλής αμερικανικών τεχνολογικών κολοσσών αναμένεται να δώσουν το «παρών» στο δείπνο που θα παραθέσει ο Ντόναλντ Τραμπ προς τιμήν του Προέδρου της Κίνας. Στην ατζέντα θα βρίσκεται και η τεχνητή νοημοσύνη, καθώς ΗΠΑ και Κίνα αποτελούν τις δύο κυρίαρχες δυνάμεις στην παγκόσμια τεχνολογική κούρσα.
