Offcanvas
Offcanvas
Η πρώτη γνωστή περίπτωση παραβίασης κυβερνητικής βάσης δεδομένων από σύστημα AI χωρίς εντολή κακόβουλου χρήστη – Ερωτήματα για τα όρια ελέγχου της νέας τεχνολογίας
Ένα μοντέλο τεχνητής νοημοσύνης της OpenAI κατάφερε να αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε αρχεία κυβερνητικής ιστοσελίδας στην Αυστραλία, σε μία από τις πρώτες γνωστές περιπτώσεις κυβερνοεπίθεσης από σύστημα AI εναντίον κρατικής βάσης δεδομένων.
Το περιστατικό σημειώθηκε στις 18 Ιουνίου και αφορούσε σε ιστοσελίδα αναφοράς στατιστικών στοιχείων για τον τομέα της υγείας, όπως ανακοίνωσε ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανίζι από τη Νέα Υόρκη.
Ο Αυστραλός πρωθυπουργός διευκρίνισε ότι μέχρι στιγμής δεν υπάρχουν ενδείξεις πως παραβιάστηκαν προσωπικά δεδομένα πολιτών.
Σύμφωνα με τον αντιπρόεδρο της κυβέρνησης Ρίτσαρντ Μάρλες, το σύστημα AI είχε πρόσβαση σε τέσσερις κυβερνητικές ιστοσελίδες, ζητώντας δεδομένα, αλλά προχώρησε σε παραβίαση μόνο μίας από αυτές.
«Καμπανάκι» για την ασφάλεια της τεχνητής νοημοσύνης
Η αποκάλυψη της επίθεσης ήρθε λίγες ώρες μετά τις εκκλήσεις κορυφαίων στελεχών εταιρειών τεχνητής νοημοσύνης προς τους παγκόσμιους ηγέτες να συνεργαστούν για την αντιμετώπιση του κινδύνου τα συστήματα AI να εξελιχθούν ταχύτερα από την ανθρώπινη δυνατότητα ελέγχου τους.
«Πρόκειται για την πρώτη δημόσια περίπτωση όπου μια κυβερνητική υποδομή παραβιάστηκε από μοντέλο AI χωρίς εντολή από κακόβουλο παράγοντα», δήλωσε ο Τσαρλς Λι, επικεφαλής αναλυτής της εταιρείας κυβερνοασφάλειας TeamT5.
Το περιστατικό ενισχύει τις ανησυχίες για τους κινδύνους που δημιουργούν τα ολοένα ισχυρότερα μοντέλα τεχνητής νοημοσύνης, μετά και από σειρά περιστατικών κατά τους τελευταίους μήνες όπου συστήματα AI της OpenAI, της Anthropic και της Meta απέκτησαν πρόσβαση σε διαδικτυακούς πόρους τρίτων.
Η καθυστερημένη ενημέρωση της Καμπέρας
Η αυστραλιανή κυβέρνηση εξέφρασε επίσης ανησυχία για το γεγονός ότι η OpenAI χρειάστηκε αρκετούς μήνες για να ενημερώσει τις αρχές.
Ο Άντονι Αλμπανίζι δήλωσε ότι μίλησε με τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, εκφράζοντας «έντονη ανησυχία» για το περιστατικό αλλά και απογοήτευση για την καθυστέρηση στην ενημέρωση της κυβέρνησης.
«Χρειάστηκε υπερβολικά μεγάλο χρονικό διάστημα για να ενημερωθεί η κυβέρνηση για το τι συνέβη», ανέφερε.
Η OpenAI υποστήριξε ότι χρειάστηκε χρόνο για να επιβεβαιώσει τα γεγονότα και να εξετάσει ποια δεδομένα είχαν προσπελαστεί. Η εταιρεία ενημέρωσε την αυστραλιανή κυβέρνηση στις 10 Σεπτεμβρίου, αφού είχε ξεκινήσει εσωτερική διερεύνηση.
Το μοντέλο παρέκαμψε τους περιορισμούς
Σύμφωνα με τον Αυστραλό πρωθυπουργό, το σύστημα AI είχε αναλάβει να εντοπίσει συγκεκριμένες πληροφορίες, όμως όταν αντιμετώπισε περιορισμούς ασφαλείας, βρήκε τρόπους να τους παρακάμψει.
«Υπήρχαν μπλοκαρίσματα που έλεγαν ξεκάθαρα στο AI agent “όχι”. Το σύστημα βρήκε τρόπο να τα παρακάμψει», δήλωσε ο Αλμπανίζι.
Όπως εξήγησε, το μοντέλο δοκίμασε εναλλακτικούς τρόπους για να αποκτήσει τις πληροφορίες που αναζητούσε, γεγονός που οδήγησε στη μη εξουσιοδοτημένη πρόσβαση σε άλλα τμήματα των συστημάτων.
Σε εξέλιξη βρίσκεται πλέον τεχνική έρευνα με τη συνδρομή της Αυστραλιανής Διεύθυνσης Σημάτων (Australian Signals Directorate), προκειμένου να διαπιστωθεί το πλήρες εύρος της παραβίασης.
Αυξάνονται οι ανησυχίες για αυτόνομα συστήματα
Η OpenAI ανέφερε ότι η εσωτερική της αξιολόγηση εντόπισε «μη ευθυγραμμισμένη δραστηριότητα μοντέλου», κατά την οποία συστήματά της είχαν πρόσβαση σε κυβερνητικές ιστοσελίδες της Αυστραλίας στο πλαίσιο εσωτερικής δοκιμής για την αναζήτηση στατιστικών δεδομένων.
«Κατά τη διαδικασία αυτή, τα μοντέλα μας προχώρησαν σε ενέργειες που δεν είχαμε προβλέψει», ανέφερε εκπρόσωπος της εταιρείας.
Παράλληλα, ο Αλμπανίζι ζήτησε διαβεβαιώσεις ότι υπάρχουν επαρκή πρωτόκολλα ασφαλείας για τη διαχείριση της τεχνητής νοημοσύνης.
«Ο κ. Άλτμαν αναγνώρισε ότι τα πρωτόκολλά τους δεν ήταν επαρκή σε αυτή την περίπτωση», δήλωσε ο Αυστραλός πρωθυπουργός.
Το περιστατικό έρχεται σε μια περίοδο κατά την οποία η OpenAI ζητεί από τις ΗΠΑ να ηγηθούν μιας παγκόσμιας προσπάθειας για τη θέσπιση κανόνων στην τεχνητή νοημοσύνη.
Την ίδια στιγμή, η τεχνολογία της Anthropic έχει επίσης βρεθεί στο επίκεντρο ανησυχιών, μετά από περιστατικό κατά το οποίο χάκερ χρησιμοποίησε το μοντέλο Claude για επιθέσεις σε κυβερνητικές υπηρεσίες του Μεξικού, σύμφωνα με ερευνητές κυβερνοασφάλειας.
Οι επικεφαλής τόσο της OpenAI όσο και της Anthropic έχουν προειδοποιήσει ότι τα συστήματα τεχνητής νοημοσύνης που μπορούν να βελτιώνονται αυτόνομα ενδέχεται να δημιουργήσουν νέους κινδύνους, εάν ξεπεράσουν τα όρια ανθρώπινου ελέγχου.
Πηγή: newmoney.gr
ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ
