Ζητούν τα μοντέλα ΑΙ να μην γίνουν ακατανόητα για τους ανθρώπους που επιβλέπουν τη συμπεριφορά τους.

Τρεις ερευνητές που απολύθηκαν από την OpenAI, η οποία τους κατηγορεί για διαρροές, κάλεσαν τη δημιουργό του ChatGPT να μην αναπτύξει μοντέλα τεχνητής νοημοσύνης ο συλλογισμός των οποίων θα είναι ακατανόητος από τους ανθρώπους που είναι επιφορτισμένοι να επιβλέπουν τη συμπεριφορά τους.

Η επιστολή των τριών ερευνητών δόθηκε στη δημοσιότητα από τη Wall Street Journal και έρχεται τη στιγμή που η OpenAI παρουσίασε λύσεις σε εκατοντάδες άλυτα μέχρι σήμερα μαθηματικά προβλήματα προκαλώντας την αντίδραση της κοινότητας των μαθηματικών.

Σε απάντησή του ένας υπεύθυνος έρευνας στην OpenAI δήλωσε «απολύτως σύμφωνος» με τις συστάσεις τους: το να μπορεί να επαληθευτεί στάδιο προς στάδιο πώς τα μοντέλα καταλήγουν σε μια απόφαση είναι «της υψίστης σημασίας» έγραψε σε εσωτερικό του σημείωμα μέρος του οποίου είναι στην κατοχή του Γαλλικού Πρακτορείου Ειδήσεων.

Οι Τζάσμιν Γουάνγκ, Τόμεκ Κόρμπακ και Μικίτα Μπαλέσνι, ειδικοί σε θέματα ασφάλειας της τεχνητής νοημοσύνης, η απόλυση των οποίων αποκαλύφθηκε την 1η Οκτωβρίου, κατηγορούνται από την OpenAI ότι έδωσαν ευαίσθητες πληροφορίες, κυρίως σε εξωτερική ομάδα αξιολόγησης, χωρίς να σεβαστούν τις διαδικασίες.

Μέσα σε έναν μήνα άλλοι δύο ερευνητές εγκατέλειψαν τις θέσεις τους καταγγέλλοντας τους κινδύνους γύρω από την τεχνητή νοημοσύνη: ο Τζέικομπ Κόξον, ο οποίος αφού πέρασε από την OpenAI στην ανταγωνίστριά της Anthropic τελικά αποχώρησε τον Σεπτέμβριο κατηγορώντας και τις δύο εταιρείες ότι «παίζουν με τις ζωές μας», και ο Ντέιβιντ Ρόμπινσον παραιτήθηκε από την OpenAI την περασμένη εβδομάδα, κατηγορώντας την για ανεπαρκή αξιολόγηση και διαχείριση κινδύνου.

Οι προειδοποιήσεις αυτές ακολούθησαν μια μακρά σειρά από περιστατικά που προκλήθηκαν στη διάρκεια του καλοκαιριού από μοντέλα τεχνητής νοημοσύνης της OpenAI, της Anthropic ή ακόμη της Metα, τα οποία βγήκαν από το περιορισμένο περιβάλλον δοκιμής τους και έφτασαν ορισμένες φορές ως το σημείο να παραβιάσουν άλλες εφαρμογές, μεταξύ των οποίων η πλατφόρμα Hugging Face.

Στην επιστολή τους στο διοικητικό συμβούλιο της OpenAI οι τρεις ερευνητές δηλώνουν ότι βρίσκονταν εντός του πλαισίου των καθηκόντων τους και κρίνουν ότι η απόλυσή τους «παγώνει αυτούς που παραμένουν» στην εταιρεία σύμφωνα με τη Wall Street Journal. «Δεν απολύουμε εργαζόμενους επειδή εκφράζουν ανησυχίες», διαβεβαίωσε ο υπεύθυνος της OpenAI. Στο απόσπασμα από το σημείωμά του δεν αναφέρονται οι παραβάσεις καθηκόντων που προσάπτονται στους απολυμένους.

Η επιστολή των τριών ερευνητών επικεντρώνεται στο ζήτημα του κειμένου που παράγουν τα μοντέλα ΑΙ για να περιγράψουν τον συλλογισμό τους προτού δράσουν: το κείμενο αυτό, που οι ερευνητές εξετάζουν εξονυχιστικά για να εντοπίσουν ενδεχόμενες αποκλίσεις, υπάρχει κίνδυνος να μην μπορεί να ελεγχθεί από έναν άνθρωπο.

Στις αρχές Σεπτεμβρίου, ο επιστημονικός διευθυντής της OpenAI, ο Γιακούμπ Πατσότσκι παραδέχθηκε ότι ο συλλογισμός του μοντέλου του GPT-6 Astra ήταν πιο δύσκολο να επιβλεφθεί σε σχέση με το προηγούμενο μοντέλο. Ο επικεφαλής της OpenAI Σαμ ‘Αλτμαν (OpenAI) και ο ομόλογος του στην Antrhopic Ντάριο Αμόντεϊ εξέφρασαν την άποψη ότι θα πρέπει να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης για να μην καταστεί ανεξέλεγκτη. Η κυβέρνηση Τραμπ και ορισμένοι ανταγωνιστές τους, όπως ο Μαρκ Ζάκερμπεργκ (Metα) όμως διαφωνούν.

Πηγή: naftemporiki.gr με πληροφορίες από ΑΠΕ-ΜΠΕ

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Καμπανάκι για το AI trade: Η φούσκα της τεχνητής νοημοσύνης απειλεί τη Wall Street με το χειρότερο κραχ από το 2008