Jak firmy świadczące usługi SaaS dla przedsiębiorstw kupują sztuczną inteligencję (lub nie)

Opublikowane ponownie przez Plato

Obserwuje: 0

Podczas Saastr Annual gościliśmy panel Enterprise składający się z liderów AI, którzy dzielili się swoim doświadczeniem i wiedzą, aby pomóc innym zrozumieć, w jaki sposób duże firmy myślą o sztucznej inteligencji i ją wykorzystują. Jasne – rozwój ChatGPT stał się głównym nurtem dla konsumentów i mniejszych firm, ale co z dużymi graczami? Chociaż pierwsza generacja generatywnej sztucznej inteligencji jest świetna, nie jest całkiem gotowa do rozwiązywania problemów przedsiębiorstw. Na jakim etapie cyklu adaptacji w świecie przedsiębiorstw jesteśmy teraz?

Na tej sesji zebraliśmy:

Douwe Kiela, dyrektor generalny ContextualAI
Benjamin Mann, współzałożyciel Anthropic
Arvind Jain, dyrektor generalny Gleana
oraz Sandhya Hedge, komplementariusz w Unusual VC,

Aby pomóc nam wymyślić, jak sprzedać oprogramowanie GenAI niektórym z największych organizacji na świecie.

[Osadzone treści]

Do czego przedsiębiorstwa najbardziej ekscytują się wykorzystaniem sztucznej inteligencji?

Ponieważ wszyscy nasi paneliści współpracowali z firmami z sektora przedsiębiorstw (tj. Amazon, Google, Salesforce itp.), wszyscy oni zaobserwowali poziom ekscytacji, jakiego nigdy wcześniej nie widzieli, jeśli chodzi o sztuczną inteligencję. Przedsiębiorstwa szukają dwóch dużych tematów.

Chcą wykorzystywać sztuczną inteligencję do ulepszania produktów, które sprzedają swoim klientom.
Chcą wykorzystać sztuczną inteligencję do transformacji swojej firmy oraz sposobu, w jaki pracują oni i ich pracownicy.

Niektóre z największych zastosowań sztucznej inteligencji w przedsiębiorstwach obejmują obsługę klienta, sprzedaż i marketing oraz inżynierię — tj. pomaganie programistom w testowaniu kodu i rozwiązywaniu problemów. Co więcej, eksperci ds. sztucznej inteligencji byli pod wrażeniem tego, jak największe firmy na świecie – nie tylko producenci oprogramowania, ale jeszcze większa liczba przedsiębiorstw wielkości przedsiębiorstw, takich jak banki i sprzedawcy detaliczni – rozwijają wdrażanie sztucznej inteligencji.

Benjamin Mann, współzałożyciel Anthropic, dodał: „Na przykład jeden z dużych banków, z którym rozmawialiśmy, przyszedł do nas i powiedział: „Rozmawialiśmy ze wszystkimi w naszej firmie i mamy 500 różnych przypadków użycia, do których chcemy zastosować duże modele językowe”. To naprawdę niesamowite. I nawet nie wiedzą od czego zacząć. Zatem nawiąż współpracę z nami, aby dowiedzieć się, co mogą dzisiaj zrobić? A poza tym, w jaki sposób mogą uczynić sztuczną inteligencję ekspertem w zakresie tego, czym jest ich produkt, tak aby ich klienci nie musieli czytać całej dokumentacji, a zamiast tego po prostu rozmawiać z sztuczną inteligencją, tak jakby była architektem rozwiązania lub wdrożona do przodu inżyniera i móc natychmiast korzystać z produktu.”

Wszyscy wiedzą, że sztuczna inteligencja już zmieniła sposób, w jaki pracujemy. Jednocześnie w wielu przedsiębiorstwach widać, że wiele osób jest podekscytowanych tą zmianą, ale nie jest jeszcze pewnych, jak dokładnie ona wygląda. I to właśnie wszyscy próbują odkryć — gdzie technologia będzie miała największe znaczenie, gdzie jest gotowa i gdzie będzie gotowa wkrótce.

Zestawy przypadków użycia dla przedsiębiorstw dla sztucznej inteligencji

Jeśli spojrzysz teraz na krajobraz przypadków użycia, Wyjaśnił to tam Douwe Kiela, dyrektor generalny ContextualAI to zasadniczo trzy duże wiadra:

Odkrywanie i synteza informacji — jak uzyskać głębszy wgląd, a nie tylko dane?
Podsumowanie hierarchiczne — jak przekształcić je w coś, na czym będę mógł działać?
Wspieraj chatboty

95% wszystkich przypadków użycia zwykle mieści się w jednym z tych segmentów i w ramach tych segmentów firmy próbują dowiedzieć się, co chcą zrobić.

Douwe dodał: „Dla nas najlepszy przypadek użycia to taki, w którym można zdefiniować, jak wygląda sukces. I tak naprawdę widzimy zaskakująco niewiele tego rodzaju przypadków użycia. To raczej: „Och, ta technologia jest świetna”. Chcę to wypróbować na moim chatbocie.' Kiedy pytamy ludzi, jak definiujesz sukces? Jak zamierzasz zmierzyć, czy to coś jest rzeczywiście wystarczająco dobre do wdrożenia produkcyjnego? Bardzo często nie mają dobrej odpowiedzi. To naprawdę jedna z rzeczy, których szukamy w pierwszej kolejności. Czy naprawdę rozumiesz, czego chcesz?”

Jakie są największe bariery w adopcji w przedsiębiorstwie?

W szczególności w przedsiębiorstwie: co nasi paneliści widzieli, wstrzymując lub tracąc transakcje w zakresie sztucznej inteligencji?

Bezpieczeństwo – posiadanie zastrzeżonych danych opuszcza model i wychodzi na otwarte rynki
Bezpieczeństwo – utrzymanie lub konieczność ustanowienia stałego monitorowania danych
Wewnętrzne zarządzanie danymi – utrata ich w wyniku konsolidacji w jedno narzędzie lub model AI
Halucynacje — modele zmyślające
Problemy z atrybucją – możliwość prześledzenia tego w danych szkoleniowych
Problemy ze zgodnością — zapomina o wszystkim lub nie może łatwo zaktualizować rzeczy
FOMO – A co jeśli ten model za 2 tygodnie nie będzie tak dobry jak inny?

„Najbardziej wrażliwi klienci chcą takich rzeczy, jak certyfikat FedRAMP oraz rzeczy, których wdrożenie zajmuje wiele lat i mnóstwo wysiłku” – dodał Benjamin Mann, współzałożyciel Anthropic. Chociaż udało im się obejść ten problem dzięki współpracy z programem Bedrock firmy Amazon, nie będzie to działać dla wszystkich.

I wreszcie kolejną barierą na drodze do wdrożenia rozwiązania w przedsiębiorstwach jest dodatkowa przepustowość wymagana do jego pomyślnego wdrożenia.

Benjamin dodał: „Myślę, że wiele osób myśli o tej nowej technologii sztucznej inteligencji jako o czymś, co po prostu się pojawi i polubi pracę od pierwszego dnia. Ale tak na prawdę, okazuje się, że to nadal oprogramowanie. W przypadku oprogramowania musisz przeprowadzić badania użytkowników i przeprowadzać iteracje ze wszystkimi różnymi zespołami. W naszym przypadku Notion to świetny przykład, w którym bardzo blisko współpracowaliśmy z dyrektorem technicznym firmy i wszystkimi innymi osobami, aż do inżynierów na pierwszej linii frontu, aby głęboko zintegrować sztuczną inteligencję Anthropics z doświadczeniem produktu koncepcyjnego, i uważamy, że jest to niezwykle dobre. Ale tak było, potrzeba było dużo poświęcenia, aby tak się stało.

Kim są pierwsi zwolennicy sztucznej inteligencji w przedsiębiorstwach?

Pierwsi użytkownicy w przedsiębiorstwie, co może nie być zaskoczeniem, to zazwyczaj firmy bardzo zaawansowane technologicznie, ale także duże banki i sprzedawcy detaliczni. Innymi pionierami mogą być przedsiębiorstwa zajmujące się oprogramowaniem, które są obecnie duże i borykają się z barierami wymienionymi powyżej. CIO często przewodzą, ponieważ reprezentują żądania całej firmy. Sprzedawcy, marketing, HR i inżynierowie chcą technologii, dlatego CIO stał się centralnym punktem wprowadzania produktu.

Douwe Kiela, dyrektor generalny ContextualAI najlepiej podsumował to stwierdzeniem; „Myślę, że zazwyczaj istnieją firmy bardzo zaawansowane technologicznie, które są po prostu gotowe do działania, ale bardzo często myślą, że mogą to zrobić we własnym zakresie. Dlatego myślę, że ta wiara prawdopodobnie zniknie w ciągu najbliższych kilku lat, kiedy ludzie zdadzą sobie sprawę, że to wszystko jest trochę trudniejsze, niż początkowo sądzili. Ale poza tym myślę, że jedną z interesujących rzeczy, które widzimy, jest to, że tak naprawdę istnieje mandat od dyrektora generalnego w dół. Tam, gdzie musimy coś zrobić, jest to dla mnie ekscytujące, ponieważ daje szansę biznesową”.

Jakie są najważniejsze inwestycje, które gwarantują, że firma z listy 50 przyszłości będzie mogła podjąć?

Zgodność ma znaczenie. Bezpieczeństwo ma znaczenie. A na początku, ponieważ sztuczna inteligencja przetwarza tak dużo danych, zaufanie ma fundamentalne znaczenie.

Arvind Jain, dyrektor generalny Glean, wyjaśnił: „Pierwszą rzeczą jest po prostu praca nad wszystkimi aspektami bezpieczeństwa i zgodnością. Uzyskaj więc certyfikat SOC-2, zgodność z HIPAA, RODO i FedRAMP. To jeden ze strumieni wymagań korporacyjnych, czyli po prostu potrzeba wszystkich tych kwestii związanych ze zgodnością. Co więcej, jeśli chodzi o produkt, w zależności od tego, jaki jest twój produkt, będzie wiele wymagań, które przedsiębiorstwa będą wobec ciebie stawiane.

Przedsiębiorstwa nie będą udostępniać wszystkich swoich danych już pierwszego dnia – mogą więc albo wbudować sztuczną inteligencję w istniejące środowisko danych, albo użyć frameworków na Amazon i Google mogą pomóc wyeliminować potrzebę przeprowadzania szeroko zakrojonych zakupów i dodatkowych audytów bezpieczeństwa. Przyszłością tych dużych modeli językowych będzie przezwyciężenie barier związanych z halucynacjami językowymi i przypisywaniem danych, zapewnienie wiarygodności oraz zrozumienie głosu Twojej marki i tego, czym zajmuje się Twoja firma.

Czy dostrajanie zapewnia przewagę konkurencyjną?

Ponieważ obecnie w mediach jest tak dużo doniesień na temat sztucznej inteligencji, wiele osób przychodzi do ContextualAI, Anthropic i Glean z dużymi oczekiwaniami.

Wielu nie rozumie, czego chcą od dostrojenia. Po prostu o tym słyszą i myślą, że to sposób na uzyskanie przewagi konkurencyjnej. Istnieją jednak lepsze formy technologii i pojawiają się Douwe Kiela, dyrektor generalny ContextualAI ujął to najlepiej: „Często to widzimy tam, gdzie po prostu udają się klienci. Chcemy udoskonalić nasz model. Czy możesz nam w tym pomóc? I tak im mówimy prawdopodobnie zostałeś okłamany. Nie musisz dostrajać swojego modelu.”

Douwe dodał: „Naprawdę nie powinieneś tego potrzebować. Prawdopodobnie możesz po prostu rozwiązać ten problem poprzez generowanie rozszerzone pobierania lub posiadanie bardzo długiego okna kontekstowego. Jedynym przypadkiem, w którym możesz go potrzebować, jest sytuacja, w której chcesz, aby obsługiwała przypadek użycia, w którym masz dużo danych, których nie ma nikt inny, i jest to naprawdę specyficzne dla tego przypadku użycia.

Zestawienie prognoz dotyczących sztucznej inteligencji na rok 2023

Sandhya zakończyła sesję pytaniem: „Co jest czymś szalonym i realistycznym, co – masz nadzieję – stanie się prawdą w 2030 r.?”

Arvind z Glean żywił praktyczną nadzieję, że wszyscy będziemy mieli naprawdę inteligentnego, kompetentnego osobistego asystenta, który do 2030 r. wykona za nas większość naszej pracy. Obecnie ten luksus jest dostępny tylko dla kadry kierowniczej w przedsiębiorstwach. W przyszłości będzie to dotyczyło nas wszystkich.

Dla Bena z Anthropic świetlana przyszłość wiąże się z modelami językowymi, które rozumieją nas lepiej niż my sami. Kiedy poprosimy go, aby coś dla nas zrobił, zrobi to, co mamy na myśli, a nie to, co mówimy. Idealnie byłoby, gdyby sztuczna inteligencja uczyniła nas wszystkich lepszymi ludźmi, poprawiła nasze relacje i pomogła nam być najlepszą wersją siebie. Co to właściwie będzie? Może 60% z tego, co i tak byłoby świetne.

Douwe z ContextualAI wierzy, że technologia ma duży potencjał czynienia dobra. Rok 2030 będzie inny, więc ma nadzieję, że do tego czasu sztuczna inteligencja będzie robić wszystkie „nudne, przyziemne rzeczy”, abyśmy mogli być bardziej kreatywni i robić to, co lubimy.

[Osadzone treści]