Grimes는 그녀의 목소리를 사용하는 AI 노래에서 수익의 50%를 분할합니다.

Grimes는 그녀의 목소리를 사용하는 AI 노래에서 수익의 50%를 분할합니다.

타임 스탬프 : 26 년 2023 월 2 일 오전 25:XNUMX
소스 노드 : 2609654

기술 기업가 Wayne Chang은 챗봇과 LLM(대형 언어 모델)을 방지하는 AI 도구인 LLM Shield를 개발했다고 주장합니다. ChatGPT 회사 비밀을 취하는 것으로부터. 최근 인공지능(AI) 도구의 사용이 늘어나고 있어 기업이 데이터 유출 및 소송에 취약할 수 있다는 우려가 제기되고 있다.

의 보고서에 따르면, 사이버헤이븐, 직원의 약 2.3%가 기밀 회사 정보를 ChatGPT에 입력했으며 챗봇에 붙여넣은 데이터의 11%는 기밀입니다.

그 결과 JP Morgan Chase & Co를 비롯한 많은 기업들이 전하는 바에 의하면 도구에 대한 직원의 액세스를 차단했습니다.

또한 읽기 : Metaverse Office가 컴백하고 있습니까?

LLM Shield는 기업과 정부가 민감한 데이터를 ChatGPT 및 음유 시인.

Chang은 Fox Business에 OpenAI의 ChatGPT가 XNUMX월에 시장에 출시되었을 때 그것이 얼마나 강력한지 보았고 "크고 큰 위험"이 따른다고 말했습니다.

"상황이 매우 빠르게 확대될 것입니다. 긍정적인 면과 부정적인 면이 모두 있습니다."라고 그는 말했습니다.

"여기서 제 초점은 AI를 긍정적인 방향으로 긍정적으로 이끌고 가능한 한 단점을 피할 수 있는지 확인하고 싶다는 것입니다."

기술을 제어하는 ​​기술

지난주에 출시된 LLM Shield는 중요한 정보를 업로드하려는 시도가 있을 때마다 조직에 경고합니다. Fox Business에 따르면 관리자는 회사에서 보호하려는 데이터 유형에 대한 보호책을 설정할 수 있습니다.

이러한 정보를 업로드하려고 시도하면 LLM Shield가 사용자에게 중요한 데이터를 보내려고 한다는 것을 알리고 콘텐츠가 유용하지만 사람이 읽을 수 없도록 세부 정보를 난독화합니다.

LLM Shield는 제한을 담당하는 AI 도구와 마찬가지로 계속해서 더 똑똑해질 것으로 예상됩니다. 또한 스팸 필터처럼 업데이트되므로 더 많은 봇이 시장에 출시되면 자동으로 업데이트되어 보호를 강화합니다.

Chang에 따르면 개인이 가정용으로 다운로드할 수 있는 개인용 버전을 출시할 계획입니다.

데이터 유출은 회사를 걱정

올해는 기업의 AI 도구 사용이 붐을 일으켰고, 2023년은 AI 혁명이 본격적으로 시작된 해로 되돌아볼 가능성이 높습니다.

그러나 이러한 도구의 유입으로 인해 작업자가 의도적으로 또는 실수로 ChatGPT와 같은 AI 기반 도구에 민감한 정보를 유출할 수 있다는 우려도 제기되었습니다.

위험은 이미 존재합니다. 삼성 최근 직원들이 새로운 봇에 소스 코드를 붙여넣어 잠재적으로 독점 정보를 노출할 수 있는 일련의 데이터 유출을 경험했습니다.

고용주들은 점점 긴장하고 직원이 직장에서 AI 도구를 사용하는 방법에 대해 일부 기업은 직장에서 ChatGPT 사용을 이미 금지했지만 직원은 여전히 ​​제한 사항을 피하고 있습니다.

유출된 메모에는 월마트 직원들에게 기밀 정보를 ChatGPT와 공유하지 말라고 경고했습니다. 이 그룹은 이전에 "우리 회사에 위험을 초래하는 활동"으로 인해 챗봇을 차단했다고 말했습니다.

Amazon은 직원들에게도 동일한 문제를 경고했습니다. 회사 변호사는 회사가 이미 다음과 유사한 ChatGPT 응답 사례를 본 적이 있다고 직원들에게 말했습니다. 내부 아마존 데이터입니다.

교활한 직원

ChatGPT가 금지되어 있지만 여전히 사용되는 국가에서와 같이 – 중국 예를 들어 아프리카 일부 지역에서는 직원들이 조직에서 AI 기반 도구를 사용하는 데 방해를 받지 않았습니다.

A 어항 조사 70월에 발표된 내용에 따르면 직원의 거의 XNUMX%가 상사 모르게 직장에서 ChatGPT를 사용하고 있습니다.

Cyberhaven의 CEO인 Howard Ting은 Axios에 직원들이 항상 챗봇에 대한 액세스를 차단하는 기업 네트워크 금지를 회피하는 방법을 찾았다고 말했습니다.

그는 일부 회사에서 직원들이 챗봇에 접근할 수 없다고 믿고 있다고 말했습니다.

"사용자는 프록시를 사용하여 많은 네트워크 기반 보안 도구를 우회할 수 있습니다."라고 그는 밝혔습니다.

타임 스탬프 :

더보기 메타뉴스