Έντονη ανησυχία προκαλεί σε κυβερνήσεις και χρηματοπιστωτικούς οργανισμούς το Claude Mythos, ένα νέο μοντέλο τεχνητής νοημοσύνης, το οποίο εκτιμάται ότι μπορεί να εντοπίζει και να εκμεταλλεύεται κενά ασφαλείας σε κρίσιμα συστήματα.
Το AI μοντέλο που ανέπτυξε η εταιρεία Anthropic βρέθηκε στο επίκεντρο συζητήσεων σε πρόσφατες συναντήσεις κορυφαίων αξιωματούχων, μετά από ενδείξεις ότι μπορεί να αποκαλύπτει αδυναμίες σε ευρέως χρησιμοποιούμενα λειτουργικά συστήματα.
Το θέμα συζητήθηκε εκτενώς στη σύνοδο του Διεθνές Νομισματικού Ταμείου στην Ουάσινγκτον, σύμφωνα με τον υπουργό Οικονομικών του Καναδά, François-Philippe Champagne. Όπως ανέφερε, το ζήτημα «είναι αρκετά σοβαρό ώστε να απασχολεί όλους τους υπουργούς Οικονομικών».
Ο ίδιος σημείωσε ότι, σε αντίθεση με γνωστά γεωπολιτικά σημεία κινδύνου, όπως το Στενό του Ορμούζ, όπου οι παράμετροι είναι σαφείς, στην περίπτωση αυτή «έχουμε να κάνουμε με το άγνωστο».
Το Claude Mythos αποτελεί ένα από τα πιο πρόσφατα μοντέλα της Anthropic και εντάσσεται στην ευρύτερη πλατφόρμα τεχνητής νοημοσύνης Claude, η οποία ανταγωνίζεται εργαλεία όπως το ChatGPT και το Gemini.
Το μοντέλο παρουσιάστηκε νωρίτερα αυτόν τον μήνα, με τους δοκιμαστές να επισημαίνουν ότι είναι ιδιαίτερα ικανό στο να εντοπίζει και να αξιοποιεί κενά ασφαλείας, ακόμη και σε σενάρια που θεωρούνται εκτός των κανονικών ορίων λειτουργίας τέτοιων συστημάτων.
Η εταιρεία δεν έχει προχωρήσει στη δημόσια διάθεση του Mythos, επικαλούμενη ανησυχίες ότι θα μπορούσε να εντοπίσει παλαιά σφάλματα λογισμικού ή να προσφέρει τρόπους εύκολης εκμετάλλευσης ευπαθειών. Αντί για αυτό, το έχει διαθέσει περιορισμένα σε μεγάλες εταιρείες τεχνολογίας, όπως η Amazon Web Services, η Microsoft και η Nvidia, στο πλαίσιο πρωτοβουλίας με στόχο την ενίσχυση της ασφάλειας κρίσιμων συστημάτων.
Την Πέμπτη, η Anthropic ανακοίνωσε επίσης μια νέα έκδοση του υπάρχοντος μοντέλου Claude Opus, η οποία αναμένεται να επιτρέψει τη δοκιμή των δυνατοτήτων του Mythos σε λιγότερο ισχυρά περιβάλλοντα.
Παρά την έντονη συζήτηση που έχει προκαλέσει, ορισμένοι ειδικοί εκφράζουν επιφυλάξεις για το κατά πόσο οι ανησυχίες είναι δικαιολογημένες, επισημαίνοντας ότι το μοντέλο δεν έχει ακόμη δοκιμαστεί ευρέως από τη βιομηχανία.
Ανεξάρτητη αξιολόγηση από το AI Security Institute στο Ηνωμένο Βασίλειο, που έχει αποκτήσει πρόσβαση σε δοκιμαστική έκδοση του μοντέλου, δίνει μια πιο μετριοπαθή εικόνα των δυνατοτήτων του.
