OpenAI Boost를 위한 미군의 사이버 보안 기능

플라톤에 의해 재발행

팔로워 : 0

OpenAI는 미군을 위한 AI 기반 사이버 보안 기능을 개발하고 있으며 선거 보안 업무를 최고 수준으로 전환하고 있다고 이번 주 다보스에서 열린 세계경제포럼(WEF)에서 이 연구소 임원들이 말했습니다.

군대와 협력하는 것에 대한 대중의 태도는 며칠 후에 나타납니다. 변화 이전에는 "군사 및 전쟁" 애플리케이션에 대한 생성 AI 모델의 사용과 "악성 코드 생성"을 기술로 금지했던 OpenAI의 정책 언어입니다. 이러한 제한 사항은 이제 ChatGPT 제조업체의 작은 글씨에서 사라졌습니다. 그렇긴 하지만, 슈퍼 연구소는 자사의 기술이 여전히 폭력, 파괴 또는 통신 스파이 활동에 사용되어서는 안 된다고 강조했습니다.

OpenAI 대변인은 "우리 정책은 우리 도구가 사람에게 해를 끼치거나, 무기를 개발하거나, 통신 감시를 위해 사용되거나, 다른 사람에게 부상을 입히거나 재산을 파괴하는 데 사용되는 것을 허용하지 않습니다"라고 말했습니다. 등록 .

“그러나 우리의 임무에 부합하는 국가 안보 사용 사례가 있습니다.

“우리는 이미 DARPA와 협력하여 중요한 인프라와 산업이 의존하는 오픈 소스 소프트웨어를 보호하기 위한 새로운 사이버 보안 도구 개발에 박차를 가하고 있습니다. 이러한 유익한 사용 사례가 이전 정책의 '군사'에 따라 허용되었는지 여부는 명확하지 않았습니다. 따라서 우리 정책 업데이트의 목표는 이러한 논의를 위한 명확성과 능력을 제공하는 것입니다.”

화요일에 회견 세계 지도자들을 위한 WEF 신디그에서 OpenAI 글로벌 담당 부사장 Anna Makanju는 국방부와의 파트너십에 오픈 소스 사이버 보안 소프트웨어 개발이 포함되어 있다고 말했습니다. OpenAI는 또한 자사의 기술이 퇴역군인의 자살을 예방하는 데 어떻게 도움이 될 수 있는지에 대해 미국 정부와 논의를 시작하고 있다고 그녀는 말했습니다.

Makanju는 "이전에는 군대에 대한 전면적 금지 조치가 있었기 때문에 많은 사람들이 이러한 사용 사례 중 상당수를 금지할 것이라고 생각했습니다. 사람들은 이것이 우리가 세상에서 보고 싶은 것과 매우 일치한다고 생각합니다"라고 말했습니다.

그러나 ChatGPT에서 기타 '허용되지 않는 사용'과 함께 '군사 및 전쟁'을 삭제했음에도 불구하고 Makanju는 OpenAI가 모델을 사용하여 사람들에게 해를 끼치는 무기를 개발하는 것을 금지하고 있다고 말했습니다.

또한 같은 인터뷰에서 OpenAI CEO인 Sam Altman은 자사의 생성 AI 도구가 선거 관련 허위 정보를 퍼뜨리는 데 사용되지 않도록 하기 위한 조치를 취하고 있다고 말했습니다.

역시 비슷한 내용을 따른다 마이크로소프트의 푸시, OpenAI의 최대 투자자인 OpenAI는 지난 2024월 "XNUMX년에 중요한 선거가 치러질 미국 및 기타 국가"를 위한 XNUMX단계 선거 보호 전략을 발표했습니다.

알트만은 화요일에 “이번 선거에는 많은 위험이 걸려 있다”고 말했다.

이는 도널드 트럼프 전 미국 대통령이 취임한 지 하루 만에 나온 일이다. 큰 승리 월요일 아이오와 전당대회에서.

AI, 사이버 보안, 허위 정보 등 이러한 모든 주제는 다음과 같이 의제에서 중요한 역할을 합니다. 세계 지도자들이 만나다 이번주 다보스에서요.

WEF에 따르면 글로벌 위험 보고서 2024지난 주에 발표된 에서는 "잘못된 정보와 허위 정보"가 가장 단기적인 글로벌 위험으로 꼽혔으며, "사이버 불안"이 4위를 차지했습니다.

생성적 AI의 부상으로 인해 이러한 문제가 더욱 악화되고 있으며, WEF 설문 조사에 따르면 임원 중 56%가 설문조사에 참여했습니다. 사이버 보안 연례 회의 2023년 XNUMX월에 말하길 생성 AI는 공격자에게 이점을 제공합니다. 향후 2년 내에 수비수를 제압할 수 있습니다.

Tenable의 EMEA 기술 이사인 Bernard Montel은 "사이버 전쟁 능력을 강화하기 위해 AI 기술을 사용하는 것에 대한 특별한 우려가 있습니다."라고 말했습니다. 등록.

그는 “지난 12~24개월 동안 AI가 천문학적인 기술 발전을 이룩했지만 자율 장치가 최종 판단을 내리는 것은 오늘날 이해할 수 없는 일”이라고 덧붙였다.

“AI는 취해야 할 일부 조치를 신속하게 식별하고 자동화할 수 있지만 AI가 제공하는 인텔리전스를 바탕으로 언제 어디서 행동할지에 대한 중요한 결정을 내리는 사람은 인간이어야 합니다.” ®