Dell CTO: Enterprises Will Have GenAI In Production In 2024

플라톤에 의해 재발행

팔로워 : 0

Dell은 내년에 CIO를 밤잠 못 들게 할 것이 무엇인지 알고 있다고 생각하며, 여기에는 조직, 보안 및 엣지를 위한 생성적 AI 작업이 포함됩니다.

이러한 문제는 기술 산업에 종사하는 사람들에게는 놀라운 일이 아닐 수도 있지만 Dell의 최고 기술 책임자(CTO)인 John Roese는 2024년에는 이러한 문제가 기업에 더 큰 영향을 미칠 것이라고 믿습니다.

생성적 AI에 대한 과대광고가 너무 많아서 단순히 언급하는 것만으로도 일부 사람들은 꺼버릴 정도입니다. Roese는 언론 통화에서 2024년은 많은 기업이 프로젝트를 실험 단계에서 실제로 실행하는 해가 될 것이라고 말했습니다.

Roese는 지금까지 대부분의 기업이 AI를 "일상적으로" 사용하고 실험하면서 어떤 모델이 실제로 데이터와 애플리케이션에 적합한지 파악하려고 노력하고 있다고 주장했습니다. 이러한 조직이 실시간 워크로드에서 추론을 위해 이러한 기능을 사용하도록 전환하면 "실제 조치"가 이루어질 것입니다.

그는 “교육 비용에서 운영 비용으로 초점이 옮겨갈 것”이라며 “모델을 선택하고 이를 통해 데이터를 흐르게 할 때 비용이 발생한다”고 덧붙였다.

여기에는 시스템 구축 비용뿐만 아니라 매월 50,000건의 거래를 생성하기 위한 운영 비용도 포함됩니다. 따라서 조직은 단지 몇 가지 유망한 프로젝트에만 집중할 것이라고 그는 말했습니다.

그들이 직면하게 될 과제 중에는 데이터가 있는 곳에서 가장 잘 작동하기 때문에 이러한 AI 워크로드를 호스팅할 위치가 포함됩니다. Roese는 관할권(EU 등)마다 데이터 사용에 관한 규정이 다르기 때문에 이는 필연적으로 대규모 조직의 분산 모델로 이어질 것이라고 말했습니다.

이는 데이터뿐만 아니라 모델 자체의 보안도 강조합니다. Roese는 공격자가 조직의 AI 모델에 접근할 수 있다면 이를 리버스 엔지니어링하여 회사가 알고 있는 정보를 추출하는 것이 가능할 것이라고 주장했습니다.

그러나 Dell과 같은 기술 제조업체는 기업 고객이 생성 AI 플랫폼에 상당한 금액을 투자할 것으로 기대하고 있습니다. 우리는 AI 지원 애플리케이션의 수익이 지출된 금액을 정당화하지 못한다면 어떻게 되는지 물었습니다.

Roese는 그들이 보게 될 수익을 정량화할 수 없다면 누구도 대규모 AI 프로젝트, 심지어 작은 프로젝트에 착수해서는 안 된다고 말했습니다.

특정 목적을 위해 더 적은 수의 직원이 필요하다는 뜻인지, 더 많거나 적은 인프라가 필요한지, 아니면 결과적으로 더 나은 거래를 기대할 수 있는지에 대해 그들은 좋은 생각을 가지고 있어야 합니다.

“배치한 후에 알게 된다면 그때는 좀 늦은 것”이라고 그는 주장했다.

그러나 그는 일부 생성 AI 프로젝트에는 "상당한 금액"의 비용이 소요될 것이며 RoI가 아직 명확하지 않을 수 있기 때문에 2024년 동안 조직에서 많은 큰 아이디어가 "실행되지 않을 수 있다"는 점을 인정했습니다.

보안 문제로 돌아가서 Roese는 2024년에는 조직이 엄청난 증가하는 공격에 대응할 수 있는 유일한 현실적인 방법으로 전체 인프라에 걸쳐 제로 트러스트 모델로 전환하기 시작할 것이라고 예측했습니다.

제로 트러스트 기업 네트워크의 모든 작업이나 요청에 대해 모든 사용자, 장치 및 애플리케이션을 인증해야 합니다.

Roese는 이와 같은 아키텍처 변화는 "하기 어렵지만" "더 이상 이론적인 것이 아니며" Dell은 정부 기관을 포함한 고객이 향후 12년 이내에 제로 트러스트가 기본 상태로 전환되기 시작할 것으로 예상하고 있다고 말했습니다. 개월.

엣지의 경우 Roese는 2024년에 엣지 플랫폼이 등장할 것이라고 말했는데, 이는 Dell의 정의가 모든 클라우드 플랫폼에서 작동하는 애플리케이션을 위한 공통 플랫폼을 의미함을 나타냅니다.

Roese는 플랫폼 모델로 전환하지 않으면 다양한 엣지 박스와 시스템이 확산될 것이라고 주장했습니다.

"공통 플랫폼을 구축하고 이를 현실 세계에 배포한 다음 클라우드나 시스템에서 엣지 워크로드를 실행할 수 있다면 더 좋지 않을까요?" 그는 말했다.