Canadas cybersikkerhetssjef advarer om AI-genererte videoer som truer valg

Canadas cybersikkerhetssjef advarer om AI-genererte videoer som truer valg

Tidsstempel: 8. januar 2024 9:57
Kilde node: 3051446

Penka Hristovska


Penka Hristovska

Publisert på: Januar 8, 2024

Den kanadiske sjefen for cybersikkerhet advarer om farene som falske AI-genererte videoer utgjør for det kommende valget.

Sami Khoury, lederen av Canadian Center for Cyber ​​Security (CCCS), sier at AI-teknologien som brukes til å lage falske videoer, vokser i et betydelig raskere tempo enn utviklingen av verifikasjonsverktøy som har som mål å oppdage bruken av slik teknologi.

Dette betyr i hovedsak at Canada (eller noe annet land) kanskje ikke har midler til å lykkes med å fange alle falske AI-videoer og -lyd som dårlige skuespillere kan bruke for å spre desinformasjon relatert til det kommende valget.

"AI kan nå brukes til nesten å etterligne stemmen min," fortalte Khoury National Post. "Det er den neste utviklingen. Nå kan du ta et stykke av stemmen min, 30 sekunder, ett minutt, og få den til å si noe helt motsatt av meldingen min, og den vil være veldig autentisk.»

"Det kan gjøres ganske enkelt ved å bruke nettbaserte verktøy," fortsatte han. «Og så utvikler du deg litt lenger, og du kommer inn i de dypfalske videoene. Teknologien beveger seg i den retningen. Vi vet ennå ikke hvordan vi skal autentisere ... eller deautentisere. Hvordan kan jeg si at dette ikke er stemmen min, eller hvordan bekrefter jeg at en melding virkelig kommer fra meg?»

I lys av Cyber ​​Threats to Canada's Democratic Process-rapporten som sa at Canadas geopolitiske motstandere kan bruke AI for å lage "deepfake" videoer og bilder, pekte Khoury også på stadig mer overbevisende phishing-forsøk – dårlige skuespillere har nå AI for å hjelpe dem å perfeksjonere angrepene sine. .

"For lengst er de dagene der en phishing-e-post … har skrivefeil, som har morsomme tegnsetting, som selger deg noe som er for godt til å være sant," sa han.

Dessuten er det mye enklere enn å hacke seg inn i en organisasjon.

"Bedrifter investerer i å gjøre produktene litt sikrere," forklarte Khoury. "Så, den eneste måten å omgå det harde skallet, den perimetersikkerheten, er ... å katapultere deg selv midt i et nettverk. Phishing pleier å være en måte å gjøre det på.»

Når det gjelder løsepengevareangrep, sa Khoury at Communications Security Establishment startet et program for å advare offentlige etater og andre organisasjoner når de oppdager et potensielt løsepengevareangrep.

"Vi har kommet opp med en teknikk for å oppdage noen av disse trinnene i dansen med nok selvtillit nå til at vi kan sende et automatisk varsel for å si ... at vi har fanget opp noen av disse signalene, det er noe aktivitet som skjer på infrastrukturen din som er skritt til en potensiell løsepengevarehendelse," sa han.

Så langt har organisasjonen sendt ut rundt 500 slike varsler.

"I mange tilfeller er tilbakemeldingene vi hører at det gjorde en forskjell, og de har klart å isolere systemet og stoppe løsepengevare fra å bli distribuert," sa Khoury.

Tidstempel:

Mer fra Sikkerhetsdetektiver