Canada Cybersecurity Chief waarschuwt voor door AI gegenereerde video’s die verkiezingen bedreigen

Canada Cybersecurity Chief waarschuwt voor door AI gegenereerde video’s die verkiezingen bedreigen

Tijdstempel: 8 januari 2024 9:57 uur
Bronknooppunt: 3051446

Penka Hristovska


Penka Hristovska

Gepubliceerd op: 8 januari 2024

Het Canadese hoofd cybersecurity waarschuwt voor de gevaren die nep-AI-gegenereerde video’s met zich meebrengen voor de komende verkiezingen.

Sami Khoury, hoofd van het Canadian Centre for Cyber ​​Security (CCCS), zegt dat de AI-technologie die wordt gebruikt om nepvideo's te maken aanzienlijk sneller groeit dan de ontwikkeling van verificatietools gericht op het detecteren van het gebruik van dergelijke technologie.

Dit betekent in wezen dat Canada (of welk ander land dan ook) mogelijk niet over de middelen beschikt om met succes alle nep-AI-video’s en -audio te onderscheppen die slechte actoren zouden kunnen gebruiken om desinformatie met betrekking tot de komende verkiezingen te verspreiden.

“AI kan nu worden gebruikt om bijna mijn stem na te bootsen”, vertelde Khoury aan de krant National Post. “Dat is de volgende evolutie. Nu kun je een fragment van mijn stem nemen, 30 seconden, één minuut, en het iets laten zeggen dat volledig het tegenovergestelde is van mijn boodschap, en het zal heel authentiek zijn.

“Dat kan vrij eenvoudig worden gedaan met behulp van online tools”, vervolgde hij. “En dan evolueer je nog een beetje verder, en kom je terecht in de deepfake-video’s. De technologie evolueert in die richting. We weten nog niet hoe we moeten authenticeren... of deauthenticeren. Hoe kan ik zeggen dat dit niet mijn stem is, of hoe kan ik verifiëren dat een bericht echt van mij afkomstig is?

In het licht van het Cyber ​​Threats to Canada's Democratic Process-rapport waarin wordt gesteld dat de geopolitieke tegenstanders van Canada AI zouden kunnen gebruiken om 'deepfake'-video's en -afbeeldingen te maken, wees Khoury ook op de steeds overtuigender wordende phishing-pogingen: slechte actoren hebben nu AI om hen te helpen hun aanvallen te perfectioneren. .

“De tijd dat een phishing-e-mail … typefouten bevat, grappige leestekens bevat en je iets verkoopt dat te mooi is om waar te zijn, is al lang voorbij,” zei hij.

Bovendien is het veel gemakkelijker dan een organisatie te hacken.

“Bedrijven investeren om producten een beetje veiliger te maken”, legt Khoury uit. “Dus de enige manier om die harde schaal, die perimeterbeveiliging, vaak te omzeilen, is … door jezelf midden in een netwerk te katapulteren. Phishing is meestal een manier om dit te doen.”

Wat ransomware-aanvallen betreft, zei Khoury dat de Communications Security Establishment een programma is gestart om overheidsinstanties en andere organisaties te waarschuwen wanneer zij een potentiële ransomware-aanval detecteren.

“We hebben een techniek bedacht om sommige van die stappen in de dans met voldoende vertrouwen te detecteren, nu we een automatische waarschuwing kunnen geven om te zeggen … dat we een aantal van die signalen hebben opgepikt, er vindt enige activiteit plaats op uw infrastructuur dat zijn stappen naar een potentieel ransomware-incident”, zei hij.

Tot nu toe heeft de organisatie ongeveer 500 dergelijke meldingen gedaan.

“In veel gevallen is de feedback die we horen dat het een verschil heeft gemaakt en dat ze erin zijn geslaagd het systeem te isoleren en te voorkomen dat ransomware wordt ingezet”, aldus Khoury.

Tijdstempel:

Meer van Veiligheidsdetectives