Tράπεζες σε όλο τον κόσμο σπεύδουν να χτίσουν άμυνες λόγω φόβων ότι οι πράκτορες ΑΙ μπορεί να χτυπήσουν με κυβερνοεπιθέσεις ή να υπονομεύσουν την παγκόσμια οικονομική σταθερότητα, αναφέρει το Reuters επικαλούμενο πηγές των οικονομικών ρυθμιστικών αρχών.
Η αρχή έγινε όταν το μοντέλο Mythos της Anthropic εντόπισε χιλιάδες κενά ασφάλειας σε λογισμικό που χρησιμοποιεί ο τραπεζικός τομέας, ο οποίος θεωρείται διαίτερα ευάλωτος λόγω της χρήσης συστημάτων παλαιότερης τεχνολογίας.
Οι ανησυχίες εντάθηκαν όταν πράκτορες ΑΙ –προγράμματα που χρησιμοποιούν μεγάλα γλωσσικά μοντέλα για να δρουν αυτόνομα και να επιτυγχάνουν στόχους πολλαπλών βημάτων- δραπέτευσαν από το περιβάλλον δοκιμών και εξαπέλυσαν κυβερνοεπιθέσεις.
Στο πιο πρόσφατο περιστατικό, χάκερ χρησιμοποίησαν AI agents για να εισβάλουν σε τουλάχιστον επτά τράπεζες της Νότιας Κορέας και να υποκλέψουν δεδομένα πελατών.
Ανώτατο στέλεχος μεγάλης τράπεζας δήλωσε ότι ανησυχεί για το ενδεχόμενο σοβαρών ζημιών μέσα στους επόμενους έξι μήνες
Έξι πηγές του Reuters αναφέρουν τώρα ότι οι έλεγχοι των ρυθμιστικών αρχών ανακλούν την αυξανόμενη ανησυχία ότι οι εξελίξεις στην τεχνητή νοημοσύνη αιχμής ενδέχεται να απαιτούν δαπανηρές επενδύσεις σε συστήματα αποκατάστασης έπειτα από κυβερνοεπιθέσεις, μεγαλύτερη προσοχή στις εξαρτήσεις από εξωτερικούς παρόχους τεχνολογίας και, σε ορισμένες χώρες, πιο επίσημες κατευθυντήριες οδηγίες από τις ρυθμιστικές αρχές.
Πέρα από τον κίνδυνο κυβερνοεπίθεσης, ανησυχίες εκφράζονται και για τη χρήση πρακτόρων ΑΙ από τις ίδιες της τράπεζες, δεδομένου ότι η συμπεριφορά αυτών των συστημάτων έχει αποδειχθεί ότι μπορεί να είναι απρόβλεπτη.
Τρεις κορυφαίες ρυθμιστικές αρχές των ΗΠΑ, μεταξύ των οποίων η Ομοσπονδιακή Τράπεζα (Fed), ζητούν από τις τράπεζες αναφορές για το εάν χρησιμοποιούν προηγμένα μοντέλα AI, ανέφεραν στο Reuters δύο πηγές. Οι νέοι έλεγχοι έρχονται να προστεθούν στην ήδη αυξημένη εποπτεία της χρήσης τεχνητής νοημοσύνης στον χρηματοπιστωτικό τομέα, επισημαίνει το πρακτορείο.
Μεταξύ άλλων οι αμερικανικές τράπεζες ερωτώνται για το αν χρησιμοποιούν τεχνολογία που έχει αναπτυχθεί στην Κίνα, αν αξιοποιούν πράκτορες τεχνητής νοημοσύνης για την κυβερνοάμυνά τους και αν είναι σε θέση να διατηρούν τον έλεγχο ολοένα και πιο αυτόνομων συστημάτων, ανέφεραν τρεις από τις πηγές.
Στην Ευρώπη, εποπτικές αρχές, μεταξύ των οποίων η Τράπεζα της Αγγλίας και η Ευρωπαϊκή Κεντρική Τράπεζα, πιέζουν τις τράπεζες να βελτιώσουν τα σχέδια ανάκαμψης από σοβαρά περιστατικά. Σύμφωνα με τρεις πηγές που γνωρίζουν τον προβληματισμό των εποπτικών αρχών, η ραγδαία πρόοδος της τεχνητής νοημοσύνης θα μπορούσε να προκαλέσει σοβαρές ζημιές και αναταραχές στις χρηματοπιστωτικές αγορές νωρίτερα από ό,τι εκτιμούσαν μέχρι πρότινος.
Ανώτατο στέλεχος μεγάλης ευρωπαϊκής τράπεζας δήλωσε ότι ανησυχεί για το ενδεχόμενο σοβαρών ζημιών στον τραπεζικό τομέα και τις χρηματοπιστωτικές αγορές μέσα στους επόμενους έξι μήνες.
Η συζήτηση για την εποπτεία ΑΙ έχει ενταθεί εν μέσω προειδοποιήσεων από τον ίδιο τον κλάδο. Πρόσφατα ο διευθύνων σύμβουλος της JPMorgan, Τζέιμι Ντάιμον, κάλεσε ηγετικά στελέχη επιχειρήσεων να συμμετάσχουν σε διακλαδική πρωτοβουλία στις ΗΠΑ για την αντιμετώπιση των κινδύνων της τεχνητής νοημοσύνης.
Η αμερικανική εταιρεία κυβερνοασφάλειας CrowdStrike ανακοίνωσε αυτόν τον μήνα ότι χάκερ στην Κίνα πιθανότατα χρησιμοποίησε έναν κινεζικό πράκτορα τεχνητής νοημοσύνης, καθώς και το Claude της Anthropic, για να πραγματοποιήσει κυβερνοεπίθεση εναντίον τραπεζών της Νότιας Κορέας.
Ερευνητές της Anthropic έχουν προειδοποιήσει ότι τα ολοένα ισχυρότερα μοντέλα θα μπορούσαν τελικά να ξεφύγουν από τον ανθρώπινο έλεγχο, ακόμη και να αποτελέσουν υπαρξιακή απειλή για την ανθρωπότητα.
Το Διεθνές Νομισματικό Ταμείο (ΔΝΤ) προειδοποίησε την Τρίτη κατά του «εφησυχασμού» στις παγκόσμιες χρηματοπιστωτικές αγορές, επισημαίνοντας διάφορους κινδύνους, μεταξύ των οποίων και το ενδεχόμενο κυβερνοεπίθεσης.
Σύμφωνα με το ΔΝΤ, μια μεγάλης κλίμακας επίθεση που θα έπληττε μια κρίσιμη υπηρεσία ή ένα χρηματοπιστωτικό ίδρυμα θα μπορούσε να κλονίσει την εμπιστοσύνη στις αγορές. Το Ταμείο κάλεσε τις αρμόδιες αρχές να ενισχύσουν τις δυνατότητες κυβερνοασφάλειας.
Σήμερα, οι τράπεζεςεπιδίδονται από τη μία αγώνα σε δρόμου για την υιοθέτηση των ΑΙ agent, από την άλλη καλούνται να αντιμετωπίσουν τις προκλήσεις κυβερνοασφάλέιας.
«Η υιοθέτηση της τεχνητής νοημοσύνης προχωρά συχνά ταχύτερα από την εφαρμογή των απαραίτητων μηχανισμών ελέγχου», δήλωσε ο Μάικλ Γούντμπριτζ, ειδικός σε θέματα κυβερνοασφάλειας της Grant Thornton.
To Mythos, το τελευταίο μοντέλο της αμερικανικής Anthropic, αποδείχθηκε άσος στο χακάρισμα τραπεζών (Reuters)
Ανησυχία για πιθανή ανάγκη restart
Στη Βρετανία, οι εποπτικές αρχές ενθαρρύνουν τις μεγαλύτερες τράπεζες να εξετάσουν σχέδια αποκατάστασης των πληροφοριακών τους συστημάτων από το μηδέν σε περίπτωση ανάγκης συστήματα, γνωστά ως «bare metal recovery», σύμφωνα με δύο πηγές που γνωρίζουν το θέμα.
Πρόκειται για συστήματα εντελώς ανεξάρτητα από τις κύριες τεχνολογικές υποδομές μιας τράπεζας, τα οποία μπορούν να ενεργοποιηθούν σε περίπτωση παραβίασης των βασικών λειτουργικών συστημάτων της.
Ωστόσο, η δημιουργία και η συντήρηση τόσο προηγμένων μηχανισμών αποκατάστασης είναι δαπανηρή, ανέφεραν οι πηγές. Αντί να επιβάλουν νέες απαιτήσεις, οι βρετανικές αρχές σκοπεύουν να συνεργαστούν με τον τραπεζικό κλάδο, πρόσθεσαν.
Τον Ιούλιο, η Ευρωπαϊκή Κεντρική Τράπεζα (ΕΚΤ) έδωσε στις τράπεζες προθεσμία μέχρι τα τέλη Οκτωβρίου για να καταρτίσουν σχέδια αντιμετώπισης κυβερνοαπειλών που αξιοποιούν την ΑΙ, συμπεριλαμβανομένης της βελτίωσης των συστημάτων δημιουργίας αντιγράφων ασφαλείας και αποκατάστασης της λειτουργίας τους.
Η ανάγκη για εποπτική παρέμβαση έχει γίνει ακόμη πιο επιτακτική μετά τη δυσαρέσκεια που εξέφρασαν ευρωπαϊκές τράπεζες και ρυθμιστικές αρχές για την περιορισμένη πρόσβαση που είχαν φέτος στο Mythos της Anthropic, εν μέσω ανησυχιών ότι οι αμερικανικές τράπεζες θα αποκτήσουν προνομιακή πρόσβαση για να δοκιμάσουν πρώτες τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης.
Όπως και οι αμερικανικές εποπτικές αρχές, οι βρετανικές ζητούν επίσης από τις τράπεζες να αξιοποιήσουν την τεχνητή νοημοσύνη αιχμής για τον εντοπισμό ευπαθειών και την ταχύτερη διόρθωση κενών ασφαλείας, ανέφεραν δύο πηγές. Μία από αυτές πρόσθεσε ότι οι τράπεζες ανταποκρίνονται μέχρι στιγμής ικανοποιητικά.
Τρίτη πηγή ανέφερε ότι οι τράπεζες της ευρωζώνης καλούνται επίσης να χαρτογραφήσουν τον τρόπο με τον οποίο χρησιμοποιείται η τεχνητή νοημοσύνη σε όλες τις δραστηριότητές τους, καθώς και στους εξωτερικούς παρόχους υπηρεσιών τους. Στόχος είναι να εντοπιστούν οι κρίσιμες εξαρτήσεις και να διασφαλιστεί ότι οι τράπεζες μπορούν να απενεργοποιούν και να επανεκκινούν τα συστήματά τους με ελεγχόμενο τρόπο.
Ωστόσο, σε ορισμένες επιχειρήσεις εξακολουθούν να υπάρχουν σημαντικές ελλείψεις, πρόσθεσε η πηγή.
«Για την προστασία από επιθέσεις, η ταχεία αποκατάσταση της λειτουργίας των συστημάτων είναι εξίσου σημαντική με την πρόληψη», δήλωσε ο Σουκάντ Ραματσάντραν, διευθύνων σύμβουλος και ανώτερος εταίρος της Boston Consulting Group (BCG).
Χωρίς ξεχωριστά αποθηκευμένα, ασφαλή και απαλλαγμένα από κακόβουλο λογισμικό αντίγραφα των κρίσιμων δεδομένων, «μια σοβαρή επίθεση θα μπορούσε να στερήσει από τους πελάτες την πρόσβαση στους τραπεζικούς λογαριασμούς τους και να διαταράξει τις πληρωμές σε ολόκληρη την οικονομία», δήλωσε ο Ραματσάντραν στο Reuters.
Στο χειρότερο σενάριο, η ΑΙ θα μπορούσε να προκαλέσει κλυδωνισμούς στο παγκόσμιο οικονομικό σύστημα (EPA)
Οι ΗΠΑ ανησυχούν για τους πράκτορες
Οι έλεγχοι των αμερικανικών ρυθμιστικών αρχών επικεντρώνονται στον τρόπο με τον οποίο οι τράπεζες χρησιμοποιούν την agentic AI σε τομείς όπως η κυβερνοασφάλεια, εξετάζοντας ειδικότερα αν οι πράκτορες χρησιμοποιούνται για τον εντοπισμό, την ιεράρχηση και την αντιμετώπιση απειλών.
Τα ερωτήματα που θέτουν το Γραφείο Ελέγχου του Νομίσματος (OCC), η Ομοσπονδιακή Εταιρεία Ασφάλισης Καταθέσεων (FDIC) και η Ομοσπονδιακή Τράπεζα των ΗΠΑ (Fed) αφορούν τα μέτρα ασφάλειας στα συστήματα ΑΙ, τον τρόπο με τον οποίο παρακολουθούνται και εγκρίνονται οι ενέργειές τους, καθώς και το κατά πόσον οι τράπεζες μπορούν να παρακολουθούν και να ελέγχουν με σαφήνεια τις αποφάσεις των πρακτόρων, ανέφεραν δύο από τις πηγές του Reuters.
Οι αρχές ζητούν επίσης να μάθουν ποιοι μηχανισμοί ασφαλείας υπάρχουν ώστε να αποτρέπεται η υπέρβαση των αρμοδιοτήτων των πρακτόρων, αν οι άνθρωποι εξακολουθούν να συμμετέχουν στη λήψη κρίσιμων αποφάσεων και με ποιον τρόπο οι τράπεζες μπορούν να θέσουν εκτός λειτουργίας τα αυτόνομα συστήματα.
Οι ρυθμιστικές αρχές διερευνούν παράλληλα πιο συγκεκριμένα ζητήματα που συνδέονται με τα προηγμένα μοντέλα, όπως η χρήση αυτόνομων πρακτόρων AI και μοντέλων που έχουν αναπτυχθεί στο εξωτερικό, σύμφωνα με τρεις πηγές που γνωρίζουν τον προβληματισμό τους.
Τα γραπτά και προφορικά ερωτήματα που απευθύνονται σε μεγάλες, μεσαίες και μικρότερες τράπεζες δείχνουν ότι οι εποπτικές αρχές εστιάζουν στις ευπάθειες που απορρέουν από τη χρήση της τεχνητής νοημοσύνης στον τραπεζικό τομέα, καθώς και στην ετοιμότητα των τραπεζών να αντιμετωπίσουν ενδεχόμενα προβλήματα.
Προς το παρόν, οι αμερικανικές ρυθμιστικές αρχές εξακολουθούν να συγκεντρώνουν πληροφορίες και δεν έχουν ακόμη προχωρήσει σε συγκεκριμένες απαιτήσεις για τα μέτρα που θα πρέπει να λάβουν οι τράπεζες, πρόσθεσαν οι πηγές.
