Πώς αλλάζει η τεχνητή νοημοσύνη την κυβερνοασφάλεια;

Η κυβερνοασφάλεια ήταν πάντα ένας αγώνας ανάμεσα σε επιτιθέμενους και αμυνόμενους. Η τεχνητή νοημοσύνη αλλάζει αυτόν τον αγώνα κάνοντας ορισμένες εργασίες γρηγορότερες, φθηνότερες και ευκολότερες στην επανάληψη. Αυτό έχει σημασία για το phishing, την ανάλυση κακόβουλου λογισμικού, την έρευνα ευπαθειών, τις επιθέσεις ταυτότητας, την παρακολούθηση και την απόκριση σε περιστατικά.

Για τους αμυνόμενους, η τεχνητή νοημοσύνη μπορεί να βοηθήσει στην ανάλυση ειδοποιήσεων, τη σύνοψη περιστατικών, την ανίχνευση ανωμαλιών, τη δημιουργία ερωτημάτων, την προτεραιοποίηση κινδύνου και την υποστήριξη ομάδων ασφάλειας που κατακλύζονται από δεδομένα. Για τους επιτιθέμενους, μπορεί να βοηθήσει στη σύνταξη πειστικών μηνυμάτων, τη μετάφραση απατών, την αυτοματοποίηση αναγνώρισης ή την προσαρμογή κοινωνικής μηχανικής.

Το αποτέλεσμα δεν είναι ένα απλό πλεονέκτημα για τη μία πλευρά. Οι οργανισμοί πρέπει να ασφαλίζουν τα συστήματα τεχνητής νοημοσύνης τους, να χρησιμοποιούν προσεκτικά την τεχνητή νοημοσύνη στην άμυνα και να προετοιμάζονται για αντιπάλους που έχουν επίσης πρόσβαση σε ολοένα πιο ικανά εργαλεία.

Οι ομάδες ασφάλειας βασίζονται ήδη σε αυτοματοποίηση και μηχανική μάθηση σε τομείς όπως το φιλτράρισμα ανεπιθύμητης αλληλογραφίας, η ανίχνευση απάτης, η προστασία τερματικών, η βαθμολόγηση κινδύνου ταυτότητας και η ανίχνευση ανωμαλιών. Η γενετική τεχνητή νοημοσύνη προσθέτει νέες δυνατότητες για σύνοψη αποδεικτικών στοιχείων, εξήγηση ειδοποιήσεων και βοήθεια στους αναλυτές να υποβάλλουν ερωτήματα σε σύνθετα συστήματα.

Σε ένα κέντρο επιχειρήσεων ασφάλειας, η τεχνητή νοημοσύνη μπορεί να μειώσει την τριβή. Μπορεί να ομαδοποιεί σχετικές ειδοποιήσεις, να μετατρέπει logs σε ευανάγνωστες συνόψεις, να προτείνει βήματα διερεύνησης, να συντάσσει χρονολόγια περιστατικών και να βοηθά νεότερους αναλυτές να κατανοούν άγνωστα σήματα.

Οι ισχυρότερες αμυντικές χρήσεις εξακολουθούν να κρατούν τον άνθρωπο στον έλεγχο. Η τεχνητή νοημοσύνη μπορεί να επιταχύνει την αρχική αξιολόγηση, αλλά ενέργειες υψηλού αντίκτυπου, όπως η απενεργοποίηση λογαριασμών, ο αποκλεισμός παραγωγικών συστημάτων ή η κήρυξη περιστατικού, πρέπει να παραμένουν υπό πολιτικές, ροές έγκρισης και αρχεία ελέγχου.

Η τεχνητή νοημοσύνη μπορεί να μειώσει το κόστος παραγωγής πειστικών μηνυμάτων phishing, ψεύτικων συνομιλιών υποστήριξης, μεταφρασμένων απατών και εξατομικευμένων δελεασμάτων. Μπορεί επίσης να βοηθήσει λιγότερο έμπειρους επιτιθέμενους να γράφουν scripts, να κατανοούν μηνύματα σφάλματος ή να αυτοματοποιούν επαναλαμβανόμενη αναγνώριση.

Αυτό δεν σημαίνει ότι η τεχνητή νοημοσύνη δημιουργεί αυτόματα κορυφαίους επιτιθέμενους. Πολλές κυβερνοεπιθέσεις εξακολουθούν να εξαρτώνται από κλεμμένα διαπιστευτήρια, μη ενημερωμένα συστήματα, εκτεθειμένες υπηρεσίες, αδύναμους ελέγχους ταυτότητας και κακή επιχειρησιακή ασφάλεια. Η τεχνητή νοημοσύνη συχνά ενισχύει υπάρχουσες αδυναμίες αντί να αντικαθιστά ολόκληρη την αλυσίδα επίθεσης.

Η αμυντική συνέπεια είναι πρακτική: οι οργανισμοί πρέπει να αναμένουν μεγαλύτερο όγκο, καλύτερη γλωσσική ποιότητα και ταχύτερη προσαρμογή σε καμπάνιες κοινωνικής μηχανικής. Η ισχυρή ταυτότητα, ο έλεγχος ταυτότητας ανθεκτικός στο phishing, η μηχανική ανίχνευσης και η αναφορά από χρήστες παραμένουν κεντρικά.

Η χρήση τεχνητής νοημοσύνης σε μια εταιρεία δημιουργεί νέα περιουσιακά στοιχεία προς προστασία: prompts, endpoints μοντέλων, δεδομένα εκπαίδευσης, ευρετήρια ανάκτησης, ενσωματώσεις εργαλείων, logs, σύνολα δεδομένων αξιολόγησης και δικαιώματα πρακτόρων. Αυτά τα συστήματα μπορεί να περιέχουν ευαίσθητο επιχειρηματικό πλαίσιο ακόμη και όταν το υποκείμενο μοντέλο παρέχεται από τρίτο.

Οι ειδικοί κίνδυνοι της τεχνητής νοημοσύνης περιλαμβάνουν prompt injection, διαρροή δεδομένων, μη ασφαλείς κλήσεις εργαλείων, χειραγώγηση μοντέλου, δηλητηριασμένα δεδομένα, μη ασφαλείς εξόδους και υπερβολικά δικαιώματα. Αυτοί οι κίνδυνοι είναι ιδιαίτερα σημαντικοί όταν οι πράκτορες τεχνητής νοημοσύνης μπορούν να διαβάζουν αρχεία, να υποβάλλουν ερωτήματα σε βάσεις δεδομένων, να στέλνουν μηνύματα ή να ενεργοποιούν ενέργειες ροής εργασίας.

Η ασφάλιση συστημάτων τεχνητής νοημοσύνης μοιάζει επομένως με συνδυασμό κλασικής κυβερνοασφάλειας και διακυβέρνησης τεχνητής νοημοσύνης: έλεγχος πρόσβασης, ταξινόμηση δεδομένων, επικύρωση εισόδου, επικύρωση εξόδου, παρακολούθηση, red teaming, απόκριση σε περιστατικά και σαφή όρια για το τι επιτρέπεται να κάνει το σύστημα.

Η τεχνητή νοημοσύνη μπορεί να κάνει τις λειτουργίες ασφάλειας πιο αποδοτικές μειώνοντας τον χρόνο που οι αναλυτές περνούν διαβάζοντας θορυβώδεις ειδοποιήσεις και αναζητώντας σε εργαλεία. Μπορεί να μετατρέψει logs, tickets και πληροφορίες απειλών σε πιο καθαρό σημείο εκκίνησης για διερεύνηση.

Αλλά η τεχνητή νοημοσύνη μπορεί επίσης να δημιουργήσει νέους λειτουργικούς κινδύνους. Μια σίγουρη σύνοψη μπορεί να παραλείψει μια σημαντική λεπτομέρεια. Ένα αυτοματοποιημένο playbook μπορεί να ενεργήσει υπερβολικά επιθετικά. Ένα μοντέλο μπορεί να κάνει λάθος ως προς τη σοβαρότητα ενός συμβάντος. Οι ομάδες ασφάλειας χρειάζονται αξιολόγηση και βρόχους ανατροφοδότησης, όχι τυφλή εμπιστοσύνη.

Το καλύτερο μοτίβο είναι η ενίσχυση. Η τεχνητή νοημοσύνη βοηθά τους αναλυτές να κινούνται γρηγορότερα, αλλά οι αναλυτές ορίζουν το πρότυπο διερεύνησης, επικυρώνουν τα στοιχεία και αποφασίζουν ποιες ενέργειες είναι κατάλληλες για το επιχειρηματικό πλαίσιο.

Το κεντρικό ερώτημα κυβερνοασφάλειας δεν είναι μόνο αν η τεχνητή νοημοσύνη μπορεί να ανιχνεύει απειλές. Είναι ποια δεδομένα μπορεί να βλέπει, ποια εργαλεία μπορεί να καλεί, ποιες ενέργειες μπορεί να εκτελεί και πώς επανεξετάζονται αυτές οι αποφάσεις.

Ένας βοηθός τεχνητής νοημοσύνης συνδεδεμένος με logs μπορεί να είναι χαμηλού κινδύνου αν απλώς συνοψίζει δεδομένα μόνο για ανάγνωση. Ένας πράκτορας συνδεδεμένος με συστήματα ταυτότητας, ticketing, κονσόλες cloud ή αποθετήρια κώδικα χρειάζεται ισχυρότερους ελέγχους, επειδή τα λάθη μπορούν να έχουν πραγματικές λειτουργικές συνέπειες.

Γι' αυτό πλαίσια από οργανισμούς όπως το NIST δίνουν έμφαση ταυτόχρονα στην ασφάλιση συστημάτων τεχνητής νοημοσύνης, την άμυνα με τεχνητή νοημοσύνη και την προετοιμασία για επιθέσεις με υποστήριξη τεχνητής νοημοσύνης. Η αντιμετώπιση αυτών ως ξεχωριστών προβλημάτων αφήνει κενά.

Η κυβερνοασφάλεια πιθανότατα θα γίνει περισσότερο υποβοηθούμενη από τεχνητή νοημοσύνη και στις δύο πλευρές. Οι αμυνόμενοι θα χρησιμοποιούν πράκτορες AI για αρχική αξιολόγηση, μηχανική ανίχνευσης, ανάλυση κακόβουλου λογισμικού, ελέγχους πολιτικής και συντονισμό απόκρισης. Οι επιτιθέμενοι θα χρησιμοποιούν τεχνητή νοημοσύνη για να αυξάνουν τον όγκο, την εξατομίκευση και την ταχύτητα.

Ταυτόχρονα, τα βασικά θα γίνουν πιο σημαντικά, όχι λιγότερο: απογραφή περιουσιακών στοιχείων, επιδιορθώσεις, ταυτότητα, ελάχιστα δικαιώματα, καταγραφή, αντίγραφα ασφαλείας, τμηματοποίηση, ασφαλής ανάπτυξη λογισμικού και ετοιμότητα απόκρισης σε περιστατικά.

Το πιθανό μέλλον δεν είναι αυτόνομη ασφάλεια χωρίς ανθρώπους. Είναι εργασία ασφάλειας όπου οι άνθρωποι επιβλέπουν ταχύτερα συστήματα, ορίζουν όρια, ελέγχουν ενέργειες και εστιάζουν στην κρίση, ενώ η τεχνητή νοημοσύνη αναλαμβάνει περισσότερο από την επαναλαμβανόμενη ανάλυση.