Hoe Enterprise SaaS-bedrijven AI kopen (of niet)

Heruitgegeven door Plato

volgers: 0

Tijdens Saastr Annual organiseerden we een Enterprise-panel van AI-leiders om hun ervaringen en kennis te delen en anderen te helpen begrijpen hoe grote bedrijven over AI denken en deze inzetten. Zeker – de opkomst van ChatGPT is mainstream geworden voor consumenten en kleinere bedrijven, maar hoe zit het met de grote jongens? Hoewel de eerste generatie generatieve AI geweldig is, is deze nog niet helemaal klaar om bedrijfsproblemen op te lossen. Waar staan we nu in de adoptiecyclus voor de Enterprise-wereld?

In deze sessie brachten we samen:

Douwe Kiela, CEO van ContextualAI
Benjamin Mann, mede-oprichter van Anthropic
Arvind Jain, CEO van Glean
en Sandhya Hedge, algemeen partner bij Unusual VC,

Om ons te helpen uitzoeken hoe we GenAI-software kunnen verkopen aan enkele van de grootste organisaties ter wereld.

[Ingesloten inhoud]

Waar zijn bedrijven het meest enthousiast over om AI in te zetten?

Omdat onze panelleden allemaal met Enterprise-bedrijven hebben gewerkt (zoals Amazon, Google, Salesforce, enz.), hebben ze allemaal een niveau van opwinding gezien dat ze nog nooit eerder hebben gezien als het gaat om AI. Bedrijven zijn op zoek naar twee grote thema’s.

Ze willen AI gebruiken om de producten die ze aan hun klanten verkopen te verbeteren.
Ze willen AI gebruiken om hun bedrijf en de manier waarop zij en hun werknemers werken te transformeren.

Enkele van de grootste gebruiksscenario's voor AI in de onderneming betreffen klantenondersteuning, verkoop en marketing, en engineering, dat wil zeggen het helpen van ontwikkelaars bij het testen van code en het oplossen van problemen. Bovendien waren deze AI-experts onder de indruk van de manier waarop de grootste bedrijven ter wereld, niet alleen softwarebedrijven, maar zelfs meer consumentgerichte ondernemingen zoals banken en detailhandelaren, vooruitgang boeken met AI.

Benjamin Mann, mede-oprichter van Anthropic, voegde toe: “Een grote bank waarmee we spraken, kwam bijvoorbeeld naar ons toe en zei: 'We hebben met iedereen in ons bedrijf gesproken en we hebben 500 verschillende gebruiksscenario's waarop we grote taalmodellen willen toepassen.' Dat is echt ongelooflijk. En ze weten niet eens waar ze moeten beginnen. Dus werken we met ons samen om te zeggen wat ze vandaag kunnen doen? En verder: hoe kunnen ze van AI een expert maken in wat hun product is, zodat hun klanten niet al hun documentatie hoeven te lezen, maar in plaats daarvan gewoon met een AI kunnen praten alsof het een oplossingsarchitect is of een voorwaarts geïmplementeerde oplossing? engineeren en het product onmiddellijk kunnen gebruiken.”

Iedereen weet dat AI de manier waarop we werken al heeft veranderd. Tegelijkertijd zie je bij veel ondernemingen dat veel mensen enthousiast zijn over die verandering, maar nog niet zeker weten hoe deze er precies uit ziet. En dat is wat iedereen probeert te ontdekken: waar de technologie er het meest toe zal doen, waar deze klaar is en waar deze binnenkort klaar zal zijn.

Enterprise Use Case-buckets voor AI

Als je nu naar het landschap van gebruiksscenario’s kijkt, Douwe Kiela, CEO van ContextualAI, legde dat daar uit zijn in wezen drie grote emmers:

Info-ontdekking en informatiesynthese: hoe krijg ik diepere inzichten en niet alleen maar data?
Hiërarchische samenvatting: hoe kan ik er iets van maken waar ik actie op kan ondernemen?
Ondersteuning van chatbots

95% van alle gebruiksscenario's vallen meestal in een van deze emmers, en binnen die emmers proberen bedrijven erachter te komen wat ze willen doen.

Douwe voegde hieraan toe: “Voor ons is de beste use case er een waarin je kunt definiëren hoe succes eruit ziet. En we zien eigenlijk verrassend weinig van dat soort gebruiksscenario's. Het is meer 'Oh, deze technologie is geweldig. Ik wil het proberen op mijn chatbot.' Als we mensen vragen: hoe definieer je succes? Hoe ga je meten of dit ding daadwerkelijk goed genoeg is voor een productie-implementatie? Heel vaak hebben ze geen goed antwoord. Dat is echt een van de dingen waar we eerst naar op zoek zijn. Begrijp je eigenlijk wel wat je wilt?”

Wat zijn de grootste belemmeringen voor adoptie in het bedrijfsleven?

Wat hebben onze panelleden specifiek in de Enterprise gezien, waardoor deals daadwerkelijk worden tegengehouden of verloren als het om AI gaat?

Beveiliging – ervoor zorgen dat hun bedrijfseigen gegevens het model verlaten en naar de open markten gaan
Veiligheid – het onderhouden of moeten instellen van constante monitoring van de gegevens
Intern databeheer – het raakt kwijt als u consolideert in één AI-tool of -model
Hallucinatie – modellen die dingen verzinnen
Attributieproblemen – het kunnen herleiden tot de trainingsgegevens
Compliance-problemen: vergeet dingen of kan dingen niet gemakkelijk bijwerken
FOMO – Wat als dit model over twee weken niet zo goed is als dat van iemand anders?

“De meest gevoelige klanten willen dingen als FedRAMP-certificering en dingen die meerdere jaren en veel moeite kosten om te implementeren”, voegde Benjamin Mann, medeoprichter van Anthropic, eraan toe. Hoewel ze dit hebben kunnen omzeilen door samen te werken met het Bedrock-programma van Amazon, zal dit niet voor iedereen werken.

En tot slot is een andere barrière voor de adoptie van Enterprise de extra bandbreedte die nodig is om deze met succes te implementeren.

Benjamin voegde hieraan toe: “Ik denk dat veel mensen deze nieuwe AI-technologie beschouwen als iets dat vanaf de eerste dag gewoon binnenkomt en leuk is om te werken. Maar eigenlijk, het blijkt nog steeds software te zijn. En met software moet u het werk doen van gebruikersonderzoek en iteratie met al uw verschillende teams. In ons geval is Notion een geweldig voorbeeld waarbij we heel nauw hebben samengewerkt met hun CTO en iedereen, tot en met hun ingenieurs in de frontlinie, om Anthropics AI diep te integreren in de notie productervaring, en we denken dat het buitengewoon goed is. Maar dat was het wel, er was veel toewijding voor nodig om dat mogelijk te maken.”

Wie zijn de early adopters van AI in ondernemingen?

De early adopters tot nu toe in de Enterprise zijn misschien geen verrassing, doorgaans zeer technologisch vooruitstrevende bedrijven, maar ook grote banken en detailhandelaren. Andere early adopters kunnen softwarebedrijven zijn die nu groot zijn en met de hierboven genoemde barrières worden geconfronteerd. CIO's hebben vaak de leiding omdat zij de eisen van het hele bedrijf vertegenwoordigen. Verkopers, marketing, HR en engineering willen allemaal de technologie, dus de CIO is het middelpunt geworden om een product binnen te brengen.

Douwe Kiela, CEO van ContextualAI vatte het het beste samen door te zeggen; “Ik denk dat je de neiging hebt om zeer technologisch vooruitstrevende bedrijven te hebben die eigenlijk gewoon klaar zijn om te gaan, maar heel vaak denken ze dat ze het in eigen huis kunnen doen. En dus denk ik dat dit geloof de komende jaren waarschijnlijk zal verdwijnen als mensen beseffen dat dit iets moeilijker is dan ze aanvankelijk dachten. Maar afgezien daarvan denk ik dat een van de interessante dingen die we zien is dat er echt een mandaat is van de CEO. Waar we iets moeten doen, is dat voor mij spannend omdat het een zakelijke kans is.”

Wat zijn de belangrijkste investeringen die ervoor zorgen dat een toekomstig 50-bedrijf dit kan doen?

Naleving is belangrijk. Beveiliging is belangrijk. En omdat AI zoveel data verwerkt, is vertrouwen in het begin van fundamenteel belang.

Arvind Jain, CEO van Glean, legde uit: “Het eerste is gewoon werken aan alle beveiligingsaspecten en compliance. Dus het behalen van uw SOC-2-certificering, HIPAA-compliance, AVG en FedRAMP. Dat is één stroom van bedrijfsvereisten, dat wil zeggen dat je al deze compliance-kwesties nodig hebt. Bovendien zullen er qua product, afhankelijk van wat je product is, veel eisen worden gesteld die Enterprises aan je gaan stellen.”

Bedrijven zullen niet zomaar al hun data op één dag delen, dus ze kunnen de AI in hun bestaande dataomgeving integreren of raamwerken daarop gebruiken. Amazon en Google kunnen helpen de noodzaak van uitgebreide aanbestedingen en aanvullende beveiligingsaudits te elimineren. De toekomst van deze grote taalmodellen zal het oplossen van de barrières van taalhallucinatie en data-attributie zijn, betrouwbaar zijn en de stem van uw merk begrijpen en waar uw bedrijf voor staat.

Biedt fine-tuning een concurrentievoordeel?

Omdat de media-aandacht voor AI tegenwoordig zo groot is, komen veel mensen met veel verwachtingen naar ContextualAI, Anthropic en Glean.

Velen begrijpen niet wat ze willen met het afstemmen. Ze horen er gewoon van en denken dat het een manier is om een concurrentievoordeel te behalen. Er komen echter betere vormen van technologie uit Douwe Kiela, CEO van ContextualAI legde het het beste uit: “We zien dit veel, eigenlijk waar klanten gewoon naartoe gaan, we willen ons model verfijnen. Kun je ons hiermee helpen? En dat is dus wat wij ze vertellen Er is waarschijnlijk tegen je gelogen. Je hoeft je model niet te verfijnen.”

Douwe voegde eraan toe: “Je zou het echt niet nodig moeten hebben. Je kunt dat probleem waarschijnlijk gewoon oplossen door augmented generatie op te halen, of door een heel lang contextvenster te hebben. Het enige geval waarin je het nodig kunt hebben, is als je wilt dat het een gebruiksscenario ondersteunt waarin je veel gegevens hebt die niemand anders heeft, en het is echt specifiek voor dat gebruiksscenario.”

Een ronde van voorspellingen over AI voor 2023

Sandhya sloot de sessie af met de vraag: “Wat is iets wilds en iets realistischs waarvan je hoopt dat het in 2030 waar zal zijn?”

Voor Arvind bij Glean had hij de praktische hoop dat we allemaal een echt slimme, deskundige persoonlijke assistent zouden hebben die in 2030 het grootste deel van ons werk voor ons zou doen. Tegenwoordig is die luxe beperkt tot leidinggevenden in ondernemingen. In de toekomst zal dat voor ons allemaal gelden.

Voor Ben bij Anthropic betekent de mooie toekomst dat taalmodellen ons beter begrijpen dan wij onszelf. Als we hem vragen om dingen voor ons te doen, doet hij wat we bedoelen en niet wat we zeggen. Idealiter zal AI ons allemaal betere mensen maken, onze relaties verbeteren en ons helpen de beste versie van onszelf te worden. Wat zal het eigenlijk zijn? Misschien 60% daarvan, wat nog steeds geweldig zou zijn.

Voor Douwe van ContextualAI gelooft hij dat technologie veel potentieel heeft om goed te doen. In 2030 zal het anders zijn, dus hij hoopt dat AI tegen die tijd alle ‘saaie, alledaagse dingen’ zal doen, zodat we creatiever kunnen zijn en de dingen kunnen doen die we leuk vinden.

[Ingesloten inhoud]