Οι αμερικανικές εταιρείες ευθύνονται σε μεγάλο βαθμό για τη διάδοση του φόβου ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει στην εξαφάνιση του ανθρώπινου είδους

Εν μέσω φόβων ότι τα μοντέλα τεχνητής νοημοσύνης (AI) θα μπορούσαν να καταστρέψουν την ανθρωπότητα, κορυφαίοι Ευρωπαίοι ηγέτες του τομέα της τεχνολογίας και ειδικοί στον τομέα της κυβερνοασφάλειας εκφράζουν μια όλο και πιο έντονη αντίδραση: Αγνοήστε τον θόρυβο και συνεχίστε τη σκληρή δουλειά για τη διαφύλαξη της ασφάλειας του ψηφιακού κόσμου.

Αυτή η ρεαλιστική έκκληση βρίσκεται στο επίκεντρο μιας ολοένα και πιο έντονης αντίδρασης στον ευρωπαϊκό κλάδο της τεχνολογίας ενάντια στον πανικό που δημιουργούν οι ΗΠΑ σχετικά με την εξαφάνιση της ανθρωπότητας εξαιτίας της τεχνητής νοημοσύνης.

Όλες οι προειδοποιήσεις τύπου «Chicken Little», όπως λένε τόσο τα στελέχη όσο και οι επαγγελματίες του κυβερνοχώρου, εμποδίζουν τη σκληρή δουλειά της ενίσχυσης των αμυντικών μηχανισμών ενάντια στη νέα πραγματικότητα της τεχνητής νοημοσύνης.

Οι αμερικανικές εταιρείες που αναπτύσσουν τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης ευθύνονται σε μεγάλο βαθμό για τη διάδοση του φόβου ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει στην εξαφάνιση του ανθρώπινου είδους.

Οι φόβοι έχουν φτάσει στο αποκορύφωμά τους μετά από περιστατικά όπως η εισβολή αυτόνομων πρακτόρων ΤΝ της OpenAI στην πλατφόρμα τεχνητής νοημοσύνης Hugging Face αυτό το καλοκαίρι, γεγονός που συνέβαλε σε μια προειδοποίηση νωρίτερα αυτό το μήνα από τον πρώην υπάλληλο της Anthropic, Τζέικομπ Κόξον, ότι η τεχνητή νοημοσύνη θα μπορούσε σύντομα να «χακάρει τα πάντα» και να «μας σκοτώσει όλους».

«Δυστυχώς, η κατάσταση έχει φτάσει στο σημείο να λέμε ότι έρχεται ο Εξολοθρευτής», δήλωσε ο Τζέιμς Ουάιζ, της Balderton Capital και πρόεδρος του κρατικού ταμείου τεχνητής νοημοσύνης της βρετανικής κυβέρνησης, αναφερόμενος στην τρέχουσα συζήτηση. «Δεν πιστεύω καθόλου ότι έρχεται ο Εξολοθρευτής».

Αυτοί οι φόβοι βρίσκονται στην κορυφή της ατζέντας των παγκόσμιων ηγετών αυτή την εβδομάδα, αφού το θέμα της ασφάλειας της τεχνητής νοημοσύνης συζητήθηκε στη Γενική Συνέλευση των Ηνωμένων Εθνών και σε μια ειδική συνάντηση του γκρουπ των G7.

Ηγέτες από 22 χώρες υιοθέτησαν μια δήλωση στην οποία αναφέρουν ότι η τεχνητή νοημοσύνη πρέπει να παραμείνει υπό την καθοδήγηση, την εποπτεία και τον έλεγχο του ανθρώπου, και προτείνουν τη δημιουργία ενός παγκόσμιου εποπτικού καθεστώτος.

Ωστόσο, για όσους έχουν αναλάβει την υπεράσπιση των συστημάτων υπολογιστών, ο τρομακτικός πανικός προειδοποιήσεων σχετικά με τα προηγμένα μοντέλα τεχνητής νοημοσύνης — και η πολιτική αναστάτωση για την αντίδραση αυτή — ενέχει τον κίνδυνο να εφαρμοστεί η λάθος λύση στο λάθος πρόβλημα.

«Θα πρέπει να αφιερώνουμε περισσότερο χρόνο στο να κάνουμε τους κανόνες και τα πρότυπα που διαθέτουμε να λειτουργούν σε μεγάλη κλίμακα, και λιγότερο χρόνο εστιάζοντας σε φόβους σχετικά με θεωρητικούς κινδύνους ή ειδησεογραφικά ρεπορτάζ από τη φούσκα των καταστροφολόγων της τεχνητής νοημοσύνης της Σίλικον Βάλεϊ», δήλωσε ο Αλεξάντρου Βόικα, υπεύθυνος πολιτικής στην εταιρεία τεχνητής νοημοσύνης Synthesia με έδρα το Ηνωμένο Βασίλειο.

«Πολλές αφηγήσεις τρίτων, και ακόμη και οι ίδιες οι αφηγήσεις των πρωτοποριακών εργαστηρίων, παραμελούν εντελώς να συνυπολογίσουν τη συμπεριφορά και τις ικανότητες των χάκερς στις καταστροφικές θεωρίες τους», δήλωσε ο Μάρκους Χάτσινς, ερευνητής στον τομέα των κυβερνοαπειλών και πρώην χάκερ, γνωστός κυρίως για την αποτροπή της τεράστιας επίθεσης με το λογισμικό εκβιασμού WannaCry το 2017.

Ένα πρόσφατο παράδειγμα ατόμων του χώρου της τεχνητής νοημοσύνης που αναμφισβήτητα αστοχούν είναι η προειδοποίηση του διευθύνοντος συμβούλου της Anthropic, Nτάριο Αμοντέι, ότι ένας πράκτορας τεχνητής νοημοσύνης θα μπορούσε να καταλάβει το internet. Αυτός ο ισχυρισμός, ο οποίος έτυχε ευρείας κάλυψης, έγινε αντικείμενο χλευασμού και απομυθοποιήθηκε στους κύκλους της κυβερνοασφάλειας.

Οι σκεπτικιστές επισημαίνουν επίσης τις συνεχείς αναφορές στο περιστατικό του Hugging Face — το οποίο ανέφερε ακόμη και η Πρόεδρος της Ευρωπαϊκής Επιτροπής, Ούρσουλα φον ντερ Λάιεν, στην ομιλία της για την Κατάσταση της ΕΕ — ως χαρακτηριστικό παράδειγμα της υστερίας σχετικά με υποτιθέμενα μοντέλα τεχνητής νοημοσύνης που θα μπορούσαν να ξεφύγουν από τον έλεγχο.

Αντί να απεικονίζει ένα ισχυρό μοντέλο τεχνητής νοημοσύνης που ξεφεύγει από τους περιορισμούς του, η επίθεση στο Hugging Face προσφέρει, κατά πάσα πιθανότητα, ένα πολύ πιο απλό δίδαγμα: ότι η OpenAI απέτυχε να περιορίσει κατάλληλα το μοντέλο σε ένα τεχνικό περιβάλλον γνωστό ως «sandbox».

«Πολλά προβλήματα μπορούν να επιλυθούν αν αυτές οι εταιρείες ενεργούν απλώς με λίγο περισσότερη υπευθυνότητα», δήλωσε ο Πιμ ντε Βίτε από το ολλανδικό εργαστήριο τεχνητής νοημοσύνης General Intuition, το οποίο αναπτύσσει μοντέλα που αντιλαμβάνονται το περιβάλλον τους.

Ο Χάτσινς ανέφερε ότι η OpenAI γνώριζε ότι το μοντέλο ήταν πολύ ικανό να εκμεταλλεύεται σφάλματα λογισμικού, και παρ’ όλα αυτά το προκάλεσε να το κάνει σε μια δοκιμή που διεξήχθη με μειωμένα μέτρα ασφαλείας. «Παρ’όλα αυτά, δεν το περιόρισαν σωστά δημιουργώντας επαρκή φράγματα μεταξύ των πρακτόρων και του ανοικτού διαδικτύου, ούτε διαχώρισαν επαρκώς τους πράκτορες μεταξύ τους, ούτε παρακολουθούσαν τα συστήματα αρκετά στενά ώστε να παρέμβουν», είπε.

Ο Μαξ Γιούνεστραντ, συνιδρυτής και διευθύνων σύμβουλος της Legora, μιας αμερικανο-σουηδικής εταιρείας που αναπτύσσει συνεργατικά εργαλεία τεχνητής νοημοσύνης για δικηγόρους, δήλωσε σχετικά με τα περιστατικά παραβίασης: «Πολλά από αυτά είναι θέμα μάρκετινγκ».

Ωστόσο, η προστασία των λειτουργιών της Legora από επιθέσεις χάκινγκ που βασίζονται στην τεχνητή νοημοσύνη αποτελεί κορυφαία προτεραιότητα για τον ίδιο, ο οποίος τόνισε ότι η πρόσβαση στα πιο πρόσφατα και προηγμένα μοντέλα των ΗΠΑ είναι καθοριστική για αυτή την προσπάθεια: «Η ασφάλεια πρέπει να θεωρείται πιο σοβαρή ακόμη και πριν από τις νέες λειτουργίες».

Πράγματι, ακόμη και οι επικριτές και οι αμφισβητίες του καταστροφικού σεναρίου συμφωνούν ότι τα πρωτοποριακά μοντέλα τεχνητής νοημοσύνης είναι εξαιρετικά ισχυρά εργαλεία στον κυβερνοχώρο, καθώς και ένα στρατηγικό πλεονέκτημα στο οποίο η Ευρώπη πρέπει να έχει πρόσβαση.

Επιπλέον, ελάχιστοι αμφισβητούν ότι οι τρέχουσες δυνατότητες της τεχνητής νοημοσύνης που αναπτύσσονται βρίσκονται σε ένα εντελώς νέο επίπεδο, με τις πιθανές επιπτώσεις τους — τόσο θετικές όσο και αρνητικές — να είναι δύσκολο να προβλεφθούν.

Ωστόσο, οι επικριτές της τρέχουσας αφήγησης υποστηρίζουν ότι η υπερβολή των δυνατοτήτων της τεχνητής νοημοσύνης ή του βαθμού στον οποίο τις χρησιμοποιούν οι χάκερ — καθώς και το παιχνίδι εικασιών για θεωρητικά αποτελέσματα — δεν βοηθά, όταν οι κυβερνοεπιθέσεις στον πραγματικό κόσμο ήδη διαταράσσουν κρίσιμες υποδομές. Το οπλοστάσιο των αμυντικών εργαλείων και τεχνικών, σημειώνουν, είναι ήδη καλά εδραιωμένο.

Η εστίαση σε εξωφρενικά ή απίθανα αποτελέσματα όχι μόνο ενδέχεται να παραγκωνίσει πιο επείγοντα ζητήματα — αλλά και δεν βοηθά στην επίλυση του άμεσου προβλήματος, υποστήριξε ο Χάτσινς, σύμφωνα με το POLITICO.

«Αυτές οι καταστροφολογικές απόψεις είναι πολύ αντιπαραγωγικές», είπε, αναφερόμενος στην «κόπωση από τις καταστροφές» που εμποδίζει τη λήψη κρίσιμων μέτρων, όπως ενημερώσεις ασφαλείας που θα μπορούσαν πραγματικά να βοηθήσουν.

Η ομάδα των «ρεαλιστών» έχει υποστήριξη εντός του ευρωπαϊκού κατεστημένου στον τομέα του κυβερνοχώρου, συμπεριλαμβανομένου του Βίνσεντ Στρούμπελ, ο οποίος ηγείται της γαλλικής υπηρεσίας κυβερνοασφάλειας ANSSI.

«Όπως όλες οι μεγάλες αλλαγές, η τεχνητή νοημοσύνη δημιουργεί σημαντικούς κινδύνους και τεράστιες ευκαιρίες. Η διαχείριση αυτών των κινδύνων και η αξιοποίηση αυτών των ευκαιριών θα απαιτήσει πολύ σοβαρή δουλειά, υπό μεγάλη χρονική πίεση», ανέφερε πρόσφατα στο LinkedIn.

«Αυτό που δεν απαιτεί, ωστόσο, είναι να ξεσπάει νέος πανικός κάθε δύο εβδομάδες, γιατί γενικά δεν καταφέρνεις και πολλά τρέχοντας πανικόβλητος και προειδοποιώντας για την κυβερνο-αποκάλυψη», συμπλήρωσε χαρακτηριστικά.

ΠΗΓΗ: newmoney.gr