캐나다 사이버 보안 책임자, 선거를 위협하는 AI 생성 비디오에 대해 경고

캐나다 사이버 보안 책임자, 선거를 위협하는 AI 생성 비디오에 대해 경고

타임 스탬프 : 8 년 2024 월 9 일 오전 57:XNUMX
소스 노드 : 3051446

펜카 흐리스토프스카


펜카 흐리스토프스카

에 게시 : 2024 년 1 월 8 일

캐나다의 사이버 보안 책임자는 가짜 AI 생성 비디오가 다가오는 선거에 미치는 위험에 대해 경고했습니다.

캐나다 사이버 보안 센터(CCCS)의 사미 쿠리(Sami Khoury) 소장은 가짜 동영상을 만드는 데 사용되는 AI 기술이 그러한 기술의 사용을 탐지하기 위한 검증 도구의 개발보다 훨씬 빠른 속도로 성장하고 있다고 말합니다.

이는 본질적으로 캐나다(또는 다른 국가)가 악의적인 행위자가 다가오는 선거와 관련된 허위 정보를 퍼뜨리기 위해 사용할 수 있는 모든 가짜 AI 비디오 및 오디오를 성공적으로 포착할 수 있는 수단이 없을 ​​수 있음을 의미합니다.

Khoury는 "이제 AI를 사용하여 내 목소리를 거의 흉내낼 수 있습니다."라고 말했습니다. 국가 포스트. “이것이 다음 진화다. 이제 30초, XNUMX분 동안 내 목소리를 한 조각 뽑아서 내 메시지와 완전히 반대되는 말을 하게 하면 매우 진실될 것입니다.”

“온라인 도구를 사용하면 꽤 쉽게 이 작업을 수행할 수 있습니다.”라고 그는 계속 말했습니다. “그런 다음 조금 더 발전하면 딥페이크 동영상에 빠져들게 됩니다. 기술은 그 방향으로 나아가고 있습니다. 우리는 인증하는 방법이나 인증 해제하는 방법을 아직 모릅니다. 이것이 내 목소리가 아니라고 어떻게 말하거나 메시지가 진짜 나에게서 온 것인지 어떻게 인증할 수 있나요?”

캐나다의 지정학적 반대자들이 AI를 사용하여 "딥페이크" 비디오 및 이미지를 생성할 수 있다는 캐나다 민주 프로세스에 대한 사이버 위협 보고서에 비추어 Khoury는 또한 점점 더 설득력 있는 피싱 시도를 지적했습니다. 이제 악의적인 행위자들은 공격을 완벽하게 수행하는 데 도움이 되는 AI를 갖게 되었습니다. .

"피싱 이메일에 오타가 있고, 재미있는 구두점이 있고, 사실이라고 믿기에는 너무 좋은 것을 파는 시대는 오래 전에 지나갔습니다."라고 그는 말했습니다.

게다가 조직을 해킹하는 것보다 훨씬 쉽습니다.

“회사들은 제품을 좀 더 안전하게 만드는 데 투자하고 있습니다.”라고 Khoury는 설명했습니다. “그러므로 경계 보안이라는 하드 쉘을 우회하는 유일한 방법은 네트워크 중앙으로 뛰어드는 것입니다. 피싱은 이를 수행하는 방법인 경향이 있습니다.”

랜섬웨어 공격과 관련하여 Khoury는 통신 보안 기관이 잠재적인 랜섬웨어 공격을 감지하면 정부 기관 및 기타 조직에 경고하는 프로그램을 시작했다고 말했습니다.

“우리는 이제 자동화된 경고를 발행하여 이러한 신호 중 일부를 포착했으며 인프라에서 일부 활동이 일어나고 있음을 알려주는 충분한 자신감을 가지고 댄스의 일부 단계를 감지하는 기술을 개발했습니다. 이는 잠재적인 랜섬웨어 사고에 대한 조치입니다.”라고 그는 말했습니다.

지금까지 해당 조직은 약 500개의 알림을 발행했습니다.

Khoury는 "많은 경우에 우리가 듣는 피드백은 이것이 변화를 가져왔고 시스템을 격리하고 랜섬웨어 배포를 막았다는 것입니다."라고 Khoury는 말했습니다.

타임 스탬프 :

더보기 안전 탐정