Kanadas cybersäkerhetschef varnar för AI-genererade videor som hotar val

Kanadas cybersäkerhetschef varnar för AI-genererade videor som hotar val

Tidsstämpel: 8 januari 2024 9:57
Källnod: 3051446

Penka Hristovska


Penka Hristovska

Publicerad på: Januari 8, 2024

Den kanadensiska chefen för cybersäkerhet varnar för farorna som falska AI-genererade videor utgör inför det kommande valet.

Sami Khoury, chef för Canadian Center for Cyber ​​Security (CCCS), säger att AI-tekniken som används för att göra falska videor växer i en betydligt snabbare takt än utvecklingen av verifieringsverktyg som syftar till att upptäcka användningen av sådan teknik.

Detta betyder i huvudsak att Kanada (eller något annat land) kanske inte har möjlighet att framgångsrikt fånga alla falska AI-videor och ljud som dåliga skådespelare kan använda för att sprida desinformation relaterad till det kommande valet.

"AI kan nu användas för att nästan imitera min röst," sa Khoury till National Post. "Det är nästa utveckling. Nu kan du ta en bit av min röst, 30 sekunder, en minut, och få den att säga något helt motsatt av mitt meddelande och det kommer att vara väldigt autentiskt.”

"Det kan göras ganska enkelt med hjälp av onlineverktyg," fortsatte han. "Och sedan utvecklas du lite längre och du kommer in i de deepfake-videorna. Tekniken går i den riktningen. Vi vet ännu inte hur vi ska autentisera ... eller avautentisera. Hur säger jag att det här inte är min röst, eller hur verifierar jag att ett meddelande verkligen kommer från mig?”

I ljuset av cyberhoten mot Kanadas demokratiska process-rapport som sa att Kanadas geopolitiska motståndare kan använda AI för att skapa "deepfake" videor och bilder, pekade Khoury också på de allt mer övertygande nätfiskeförsöken - dåliga skådespelare har nu AI för att hjälpa dem att fullända sina attacker .

"Länge borta är de dagar då ett nätfiske-e-postmeddelande ... har stavfel, som har roliga skiljetecken, som säljer dig något som är för bra för att vara sant", sa han.

Dessutom är det mycket enklare än att hacka sig in i en organisation.

"Företag investerar i att göra produkterna lite säkrare," förklarade Khoury. "Så, det enda sättet att ofta kringgå det hårda skalet, den där perimetersäkerheten, är ... att katapultera dig själv mitt i ett nätverk. Nätfiske tenderar att vara ett sätt att göra det på."

När det gäller ransomware-attacker sa Khoury att Communications Security Establishment startade ett program för att varna statliga myndigheter och andra organisationer när de upptäcker en potentiell ransomware-attack.

"Vi har kommit på en teknik för att upptäcka några av dessa steg i dansen med tillräckligt självförtroende nu att vi kan utfärda en automatisk varning för att säga ... att vi har fångat upp några av dessa signaler, att det händer någon aktivitet på din infrastruktur det är steg till en potentiell ransomware-incident”, sa han.

Hittills har organisationen utfärdat cirka 500 sådana anmälningar.

"I många fall är feedbacken vi hör att det gjorde skillnad och de har lyckats isolera systemet och stoppa ransomware från att distribueras," sa Khoury.

Tidsstämpel:

Mer från Säkerhetsdetektiver