엔터프라이즈 SaaS 회사가 AI를 구매하는 방법(또는 구매하지 않는 방법)

플라톤에 의해 재발행

팔로워 : 0

Saastr Annual에서 우리는 AI 리더들로 구성된 엔터프라이즈 패널을 주최하여 그들의 경험과 지식을 공유하여 대기업들이 AI에 대해 어떻게 생각하고 활용하는지 다른 사람들이 이해할 수 있도록 돕습니다. 물론입니다. ChatGPT의 부상은 소비자와 소규모 회사의 주류가 되었습니다. 하지만 대기업은 어떻습니까? 1세대 Generative AI는 훌륭하지만 기업 문제를 해결할 준비가 아직 되어 있지 않습니다. 그렇다면 현재 엔터프라이즈 세계의 채택 주기는 어디에 있습니까?

이번 세션에서 우리는 다음을 모았습니다:

ContextualAI의 CEO인 Douwe Kiela
앤트로픽(Anthropic) 공동 창업자 벤자민 만(Benjamin Mann)
글린(Glean)의 CEO 아르빈드 자인(Arvind Jain)
Unusual VC의 일반 파트너인 Sandhya Hedge는

GenAI 소프트웨어를 세계 최대 규모의 조직에 판매하는 방법을 알아내는 데 도움이 됩니다.

[포함 된 콘텐츠]

기업이 AI 사용에 대해 가장 기대하는 부분은 무엇입니까?

우리 패널리스트는 모두 엔터프라이즈 기업(예: Amazon, Google, Salesforce 등)과 협력해왔기 때문에 AI와 관련하여 이전에 본 적이 없는 수준의 흥분을 경험했습니다. 기업에서는 두 가지 큰 테마를 찾고 있습니다.

그들은 AI를 사용하여 고객에게 판매하는 제품을 개선하기를 원합니다.
그들은 AI를 사용하여 비즈니스와 직원의 업무 방식을 변화시키고 싶어합니다.

기업에서 AI의 가장 큰 사용 사례 중 일부는 고객 지원, 영업 및 마케팅, 엔지니어링 전반에 걸쳐 있습니다. 즉, 개발자가 코드를 테스트하고 문제를 해결하도록 돕습니다. 게다가 이들 AI 전문가들은 소프트웨어 회사뿐만 아니라 은행, 소매업체 등 소비자를 대면하는 대기업 규모의 기업이 AI를 통해 전진하는 방식에 깊은 인상을 받았습니다.

Anthropic의 공동 창립자인 Benjamin Mann은 다음과 같이 덧붙였습니다.예를 들어, 우리가 대화를 나누던 한 대형 은행이 우리에게 와서 '우리 회사의 모든 사람들과 이야기를 나눴는데 대규모 언어 모델을 적용하고 싶은 500가지의 서로 다른 사용 사례가 있습니다.'라고 말했습니다. 정말 놀랍습니다. 그리고 그들은 어디서부터 시작해야 할지조차 모릅니다. 그렇다면 우리와 협력하여 그들이 오늘 무엇을 할 수 있는지 이야기해 볼까요? 그리고 그 외에도 고객이 모든 문서를 읽을 필요 없이 AI가 솔루션 설계자이거나 앞으로 배포된 것처럼 AI와 대화할 수 있도록 어떻게 AI를 자사 제품의 전문가로 만들 수 있습니까? 엔지니어가 되어 제품을 즉시 사용할 수 있습니다.”

AI가 이미 우리가 일하는 방식을 변화시켰다는 것은 누구나 알고 있습니다. 동시에 많은 기업에서 많은 사람들이 이러한 변화에 대해 기대하고 있지만 아직 정확히 어떤 모습일지는 확신하지 못하는 모습을 볼 수 있습니다. 그리고 그것이 바로 모든 사람들이 기술이 가장 중요한 곳, 준비된 곳, 곧 준비될 곳을 찾으려고 노력하는 것입니다.

AI를 위한 엔터프라이즈 사용 사례 버킷

현재 사용 사례의 풍경을 보면, ContextualAI의 CEO인 Douwe Kiela는 다음과 같이 설명했습니다. 본질적으로 세 개의 큰 버킷입니다.

정보 발견 및 정보 합성 — 단순한 데이터가 아닌 더 깊은 통찰력을 얻으려면 어떻게 해야 합니까?
계층적 요약 — 이를 내가 실행할 수 있는 것으로 어떻게 변환합니까?
챗봇 지원

모든 사용 사례의 95%는 일반적으로 이러한 버킷 중 하나에 속하며, 해당 버킷 내에서 기업은 원하는 것이 무엇인지 파악하려고 노력합니다.

Douwe는 다음과 같이 덧붙였습니다. “우리에게 가장 좋은 사용 사례는 성공이 어떤 것인지 정의할 수 있는 사례입니다. 실제로 이러한 종류의 사용 사례는 놀랍게도 거의 없습니다. 오히려 '아, 이 기술이 대단하네요. 내 챗봇에서 사용해 보고 싶어요.' 사람들에게 물어보면 성공을 어떻게 정의하시나요? 이것이 실제로 프로덕션 배포에 충분한지 어떻게 측정할 예정인가요? 좋은 대답을 하지 못하는 경우가 많습니다. 그것은 실제로 우리가 가장 먼저 찾고 있는 것 중 하나입니다. 당신이 원하는 것이 무엇인지 실제로 이해하고 있나요?”

기업에서 채택을 가로막는 가장 큰 장벽은 무엇입니까?

특히 기업 부문에서 패널리스트들은 AI와 관련하여 실제로 거래를 보류하거나 상실한 것을 무엇으로 보았습니까?

보안 – 독점 데이터가 모델을 떠나 공개 시장으로 나가도록 하는 것
안전 - 데이터의 지속적인 모니터링을 유지하거나 설정해야 함
내부 데이터 거버넌스 - 단일 AI 도구 또는 모델로 통합하면 데이터가 손실됩니다.
환각 — 사물을 구성하는 모델
귀인 문제 - 훈련 데이터를 다시 추적할 수 있음
규정 준수 문제 - 사항을 잊어버리거나 쉽게 업데이트할 수 없음
FOMO – 이 모델이 2주 안에 다른 사람의 모델만큼 좋지 않다면 어떻게 될까요?

Anthropic의 공동 창업자인 Benjamin Mann은 “가장 민감한 고객은 FedRAMP 인증과 같은 것을 원하며 구현하는 데 수년과 엄청난 노력이 소요되는 것을 원합니다.”라고 덧붙였습니다. Amazon의 Bedrock 프로그램과 제휴하여 이 문제를 해결할 수 있었지만 이것이 모두에게 효과가 있는 것은 아닙니다.

마지막으로, 기업 채택의 또 다른 장벽은 이를 성공적으로 구현하는 데 필요한 추가 대역폭입니다.

벤자민은 이렇게 덧붙였습니다. “많은 사람들이 이 새로운 AI 기술을 처음부터 바로 업무에 사용할 수 있는 기술로 생각하는 것 같습니다. 하지만 실제로는 아직 소프트웨어인 것으로 밝혀졌네요. 그리고 소프트웨어를 사용하면 사용자 조사를 수행하고 모든 다른 팀과 함께 반복하는 작업을 수행해야 합니다. 우리의 경우 Notion은 Anthropics AI를 Notion 제품 경험에 깊이 통합하기 위해 CTO와 최전선의 엔지니어에 이르기까지 모두와 매우 긴밀하게 협력한 훌륭한 예이며 우리는 이것이 매우 좋다고 생각합니다. 하지만 그러기 위해서는 많은 헌신이 필요했습니다.”

기업에서 AI를 얼리 어답터하는 사람은 누구입니까?

지금까지 엔터프라이즈 분야의 얼리 어답터는 일반적으로 기술을 선도하는 기업일 뿐만 아니라 대형 은행 및 소매업체일 수도 있습니다. 다른 얼리 어답터는 현재 규모가 큰 소프트웨어 기업일 수 있으며 위에 나열된 장벽에 직면해 있습니다. CIO는 회사 전체의 요구 사항을 대표하기 때문에 책임을 주도하는 경우가 많습니다. 영업사원, 마케팅, HR 및 엔지니어링 모두가 기술을 원하므로 CIO는 제품을 도입하는 중심점이 되었습니다.

ContextualAI의 CEO인 Douwe Kiela 다음과 같이 가장 잘 요약했습니다. “내 생각에는 기본적으로 이제 막 시작할 준비가 되어 있는 기술을 선도하는 기업이 많은 경향이 있지만, 사내에서 할 수 있다고 생각하는 경우가 많습니다. 그래서 저는 사람들이 이 일이 처음에 생각했던 것보다 조금 더 어렵다는 것을 깨닫게 되면 앞으로 몇 년 안에 믿음이 사라질 것이라고 생각합니다. 하지만 그 외에도 우리가 보고 있는 흥미로운 것 중 하나는 실제로 CEO 아래의 권한이 있다는 것입니다. 우리가 뭔가를 해야 하는 상황에서 그것은 사업 기회이기 때문에 나에게는 매우 흥미로운 일입니다.”

미래 50대 기업이 채택할 수 있는 가장 중요한 투자는 무엇입니까?

규정 준수가 중요합니다. 보안이 중요합니다. 그리고 처음에는 AI가 너무 많은 데이터를 처리하기 때문에 신뢰가 기본입니다.

Glean의 CEO인 Arvind Jain은 다음과 같이 설명했습니다.가장 먼저 할 일은 모든 보안 측면과 규정 준수를 위해 노력하는 것입니다. 따라서 SOC-2 인증, HIPAA 규정 준수, GDPR 및 FedRAMP를 취득하세요. 이는 기업 요구 사항 중 하나이며 이러한 모든 규정 준수 문제가 필요합니다. 게다가 제품 측면에서는 귀하의 제품이 무엇인지에 따라 기업이 귀하에게 요구할 수요가 많을 것입니다.”

기업은 하루 만에 모든 데이터를 공유하는 것이 아닙니다. 따라서 AI를 기존 데이터 환경에 계층화하거나 프레임워크를 사용할 수 있습니다. Amazon과 Google은 광범위한 조달 및 추가 보안 감사를 거칠 필요가 없도록 도와줄 수 있습니다. 이러한 대규모 언어 모델의 미래는 언어 환각 및 데이터 귀속의 장벽을 해결하고, 신뢰할 수 있으며, 브랜드 목소리와 회사가 무엇인지 이해하는 것입니다.

미세 조정이 경쟁 우위를 제공합니까?

요즘 AI에 대한 언론 보도가 너무 많기 때문에 많은 사람들이 엄청난 기대를 갖고 ContextualAI, Anthropic 및 Glean을 찾아옵니다.

많은 사람들은 미세 조정에서 원하는 것이 무엇인지 이해하지 못합니다. 그들은 단지 그것에 대해 듣고 그것이 경쟁 우위를 확보하는 방법이라고 생각합니다. 그러나 더 나은 형태의 기술이 나오고 있으며 ContextualAI의 CEO인 Douwe Kiela는 이를 다음과 같이 설명했습니다.우리는 실제로 고객이 가는 곳에서 이것을 많이 봅니다. 우리는 모델을 미세 조정하고 싶습니다. 이에 대해 도와주실 수 있습니까? 그래서 우리가 그들에게 말하는 것은 당신은 아마 거짓말을 했을 겁니다. 모델을 미세 조정할 필요가 없습니다.”

다우웨 추가됨: ” 실제로는 필요하지 않습니다. 검색 증강 생성을 통해 또는 매우 긴 컨텍스트 창을 사용하여 해당 문제를 해결할 수 있습니다. 필요할 수 있는 유일한 경우는 다른 사람이 갖고 있지 않은 많은 데이터가 있고 해당 사용 사례와 관련된 사용 사례를 지원하려는 경우입니다."

2023년 AI에 대한 일련의 예측

Sandhya는 "2030년에 실현되기를 희망하는 거칠고 현실적인 것은 무엇입니까?"라고 질문하며 세션을 마감했습니다.

Arvind at Glean은 2030년까지 우리 모두가 우리를 위해 대부분의 업무를 수행할 진정으로 똑똑하고 지식이 풍부한 개인 비서를 갖게 될 것이라는 실질적인 희망을 갖고 있었습니다. 오늘날 이러한 사치는 기업의 임원에게만 국한됩니다. 미래에는 우리 모두의 일이 될 것입니다.

Anthropic의 Ben에게 밝은 미래는 우리가 우리 자신을 이해하는 것보다 우리를 더 잘 이해하는 언어 모델과 관련이 있습니다. 우리가 로봇에게 우리를 위해 일을 해달라고 요청할 때, 로봇은 우리가 말하는 것이 아니라 우리가 의미하는 바를 수행할 것입니다. 이상적으로 AI는 우리 모두를 더 나은 사람으로 만들고, 관계를 개선하며, 우리 자신이 최고의 버전이 되도록 도와줄 것입니다. 실제로는 어떻게 될까요? 아마도 그 중 60% 정도일 것입니다. 그래도 여전히 좋을 것입니다.

ContextualAI의 Douwe는 기술이 좋은 일을 할 수 있는 잠재력이 많다고 믿습니다. 2030년은 다른 곳이 될 것이기 때문에 그는 그때까지 AI가 모든 "지루하고 평범한 일"을 수행하여 우리가 더 창의적이고 우리가 즐기는 일을 할 수 있기를 바라고 있습니다.

[포함 된 콘텐츠]