Το «Adversarial AI» αποτελεί απειλή για τα στρατιωτικά συστήματα, λέει ο Lospinoso του Shift5

Το «Adversarial AI» αποτελεί απειλή για τα στρατιωτικά συστήματα, λέει ο Lospinoso του Shift5

Χρονική σήμανση: 29 Μαΐου 2023 3:43 μ.μ.
Κόμβος πηγής: 2685907

Η πρώτη startup του Josh Lospinoso στον τομέα της ασφάλειας στον κυβερνοχώρο εξαγοράστηκε το 2017 από την Raytheon/Forcepoint. Το δεύτερο του, το Shift5, συνεργάζεται με τον αμερικανικό στρατό, τις σιδηροδρομικές εταιρείες και τις αεροπορικές εταιρείες, συμπεριλαμβανομένης της JetBlue. Απόφοιτος του 2009 στο West Point και υπότροφος της Ρόδου, ο 36χρονος πρώην αρχηγός του Στρατού πέρασε πάνω από μια δεκαετία συγγραφή εργαλείων hacking για την Υπηρεσία Εθνικής Ασφάλειας και τη Διοίκηση Κυβερνοχώρου των ΗΠΑ.

Ο Lospinoso είπε πρόσφατα σε μια υποεπιτροπή Ενόπλων Υπηρεσιών της Γερουσίας πώς η τεχνητή νοημοσύνη μπορεί να βοηθήσει στην προστασία των στρατιωτικών επιχειρήσεων. Ο Διευθύνων Σύμβουλος/προγραμματιστής συζήτησε το θέμα με το Associated Press καθώς και πώς οι ευπάθειες λογισμικού στα οπλικά συστήματα αποτελούν σημαντική απειλή για τον αμερικανικό στρατό. Η συνέντευξη έχει επεξεργαστεί για λόγους σαφήνειας και έκτασης.

Ε: Στην κατάθεσή σας, περιγράψατε δύο βασικές απειλές για τις τεχνολογίες με δυνατότητα AI: Η μία είναι η κλοπή. Αυτό είναι αυτονόητο. Το άλλο είναι η δηλητηρίαση δεδομένων. Μπορείτε να το εξηγήσετε αυτό;

Α: Ένας τρόπος να σκεφτείς τη δηλητηρίαση δεδομένων είναι η ψηφιακή παραπληροφόρηση. Εάν οι αντίπαλοι είναι σε θέση να δημιουργήσουν τα δεδομένα που βλέπουν οι τεχνολογίες με δυνατότητα AI, μπορούν να επηρεάσουν βαθιά τον τρόπο λειτουργίας αυτής της τεχνολογίας.

Ε: Συμβαίνει δηλητηρίαση δεδομένων;

Α: Δεν το βλέπουμε γενικά. Αλλά έχει συμβεί. Μία από τις πιο γνωστές περιπτώσεις συνέβη το 2016. Η Microsoft κυκλοφόρησε ένα chatbot στο Twitter που ονόμασε Tay το οποίο έμαθε από συνομιλίες που είχε στο διαδίκτυο. Οι κακόβουλοι χρήστες συνωμότησαν για να δημοσιεύσουν υβριστική, προσβλητική γλώσσα στο Twitter. Ο Tay άρχισε να δημιουργεί φλεγμονώδες περιεχόμενο. Η Microsoft το έβγαλε εκτός σύνδεσης.

Ε: Το AI δεν είναι απλώς chatbots. Αποτελεί εδώ και καιρό αναπόσπαστο κομμάτι της κυβερνοασφάλειας, σωστά;

Α: Η τεχνητή νοημοσύνη χρησιμοποιείται σε φίλτρα email για να προσπαθήσει να επισημάνει και να διαχωρίσει ανεπιθύμητη αλληλογραφία και θέλγητρα phishing. Ένα άλλο παράδειγμα είναι τα τελικά σημεία, όπως το πρόγραμμα προστασίας από ιούς στον φορητό υπολογιστή σας - ή το λογισμικό εντοπισμού κακόβουλου λογισμικού που εκτελείται σε δίκτυα. Φυσικά, οι επιθετικοί χάκερ χρησιμοποιούν επίσης AI για να προσπαθήσουν να νικήσουν αυτά τα συστήματα ταξινόμησης. Αυτό ονομάζεται αντίπαλη τεχνητή νοημοσύνη.

Ε: Ας μιλήσουμε για στρατιωτικά συστήματα λογισμικού. Ένα ανησυχητικό 2018 Έκθεση κυβερνητικής λογοδοσίας είπε ότι σχεδόν όλα τα πρόσφατα αναπτυγμένα οπλικά συστήματα είχαν κρίσιμα τρωτά σημεία της αποστολής. Και το Πεντάγωνο σκέφτεται να βάλει την τεχνητή νοημοσύνη σε τέτοια συστήματα;

Α: Υπάρχουν δύο ζητήματα εδώ. Πρώτον, πρέπει να διασφαλίσουμε επαρκώς τα υπάρχοντα οπλικά συστήματα. Αυτό είναι ένα τεχνικό χρέος που έχουμε και θα χρειαστεί πολύς χρόνος για να πληρώσουμε. Στη συνέχεια, υπάρχει ένα νέο όριο ασφάλειας αλγορίθμων τεχνητής νοημοσύνης – καινοτόμα πράγματα που θα εγκαθιστούσαμε. Η έκθεση GAO δεν μίλησε πραγματικά για την τεχνητή νοημοσύνη. Ξεχάστε λοιπόν την τεχνητή νοημοσύνη για ένα δευτερόλεπτο. Εάν αυτά τα συστήματα παρέμειναν όπως είναι, εξακολουθούν να είναι βαθιά ευάλωτα.

Συζητάμε την προώθηση του φακέλου και την προσθήκη δυνατοτήτων με δυνατότητα AI για πράγματα όπως η βελτιωμένη συντήρηση και η λειτουργική ευφυΐα. Όλα υπέροχα. Αλλά χτίζουμε πάνω από ένα σπίτι από κάρτες. Πολλά συστήματα είναι παλιά δεκαετίες, εξοπλισμένα με ψηφιακές τεχνολογίες. Αεροσκάφη, οχήματα εδάφους, διαστημικά μέσα, υποβρύχια. Είναι πλέον αλληλένδετα. Ανταλλάσσουμε δεδομένα μέσα και έξω. Τα συστήματα είναι πορώδη, δύσκολα αναβαθμίζονται και θα μπορούσαν να δεχτούν επίθεση. Μόλις ένας εισβολέας αποκτήσει πρόσβαση, το παιχνίδι τελειώνει.

Μερικές φορές είναι πιο εύκολο να οικοδομήσουμε μια νέα πλατφόρμα παρά να επανασχεδιάσουν τα ψηφιακά στοιχεία των υπαρχόντων συστημάτων. Αλλά υπάρχει ένας ρόλος για την τεχνητή νοημοσύνη στην ασφάλεια αυτών των συστημάτων. Η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για να υπερασπιστεί εάν κάποιος προσπαθήσει να τις διακυβεύσει.

Ερ.: Καταθέσατε ότι η παύση της έρευνας για την τεχνητή νοημοσύνη, όπως ορισμένοι έχουν προτρέψει, θα ήταν κακή ιδέα, διότι θα ευνοούσε την Κίνα και άλλους ανταγωνιστές. Αλλά έχετε επίσης ανησυχίες σχετικά με την αδιάκοπη βιασύνη στα προϊόντα τεχνητής νοημοσύνης. Γιατί;

Α: Μισώ να ακούγομαι μοιρολατρικός, αλλά φαίνεται να ισχύει η λεγόμενη περίπτωση «καύσης-χρήσης». Ένα προϊόν που βγαίνει βιαστικά στην αγορά συχνά παίρνει φωτιά (παραβιάζεται, αποτυγχάνει, προκαλεί ακούσια ζημιά). Και λέμε, «Παιδί, έπρεπε να είχαμε χτίσει την ασφάλεια». Αναμένω ότι ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης θα επιταχυνθεί και ενδέχεται να μην κάνουμε αρκετή παύση για να το κάνουμε αυτό με ασφαλή και υπεύθυνο τρόπο. Τουλάχιστον ο Λευκός Οίκος και το Κογκρέσο συζητούν αυτά τα θέματα.

Ε: Φαίνεται ότι πολλές εταιρείες – συμπεριλαμβανομένου του αμυντικού τομέα – σπεύδουν να ανακοινώσουν μισοψημένα προϊόντα τεχνητής νοημοσύνης.

Α: Κάθε εταιρεία τεχνολογίας και πολλές μη τεχνολογικές εταιρείες έχουν κάνει σχεδόν μια ταραχώδη στροφή προς την τεχνητή νοημοσύνη. Έρχονται οικονομικές εξάρσεις. Τα επιχειρηματικά μοντέλα πρόκειται να αλλάξουν ριζικά. Εξαρθρώσεις συμβαίνουν ήδη ή βρίσκονται στον ορίζοντα - και οι ηγέτες των επιχειρήσεων προσπαθούν να μην πιαστούν με πλατυποδία.

Ε: Τι γίνεται με τη χρήση της τεχνητής νοημοσύνης στη λήψη στρατιωτικών αποφάσεων, όπως η στόχευση;

Α: Δεν νομίζω, κατηγορηματικά, δεν πιστεύω ότι οι αλγόριθμοι τεχνητής νοημοσύνης - τα δεδομένα που συλλέγουμε - είναι έτοιμοι για την πρώτη στιγμή για ένα θανατηφόρο οπλικό σύστημα να λαμβάνει αποφάσεις. Είμαστε τόσο μακριά από αυτό.

Σφραγίδα ώρας:

Περισσότερα από Άμυνας Νέα