Dlaczego organizacje przechodzą z OpenAI na dopracowane modele Open Source – DATAVERSITY

W szybko rozwijającym się środowisku generatywnej sztucznej inteligencji OpenAI zrewolucjonizowało sposób, w jaki programiści budują prototypy, tworzą wersje demonstracyjne i osiągają niezwykłe wyniki dzięki duże modele językowe (LLM). Kiedy jednak nadchodzi czas wdrożenia LLM do produkcji, organizacje coraz częściej odchodzą od komercyjnych rozwiązań LLM, takich jak OpenAI, na rzecz dopracowanych modeli open source. Co napędza tę zmianę i dlaczego programiści ją wykorzystują?

Podstawowe motywacje są proste: 1. wydajność i 2. unikanie uzależnienia od dostawcy przy jednoczesnej ochronie własności intelektualnej związanej zarówno z danymi, jak i modelami. Modele typu open source, takie jak Llama2 i Mistral, teraz dorównują, a w niektórych przypadkach nawet przewyższają komercyjne modele LLM pod względem wydajności, a jednocześnie mogą pochwalić się znacznie mniejszym rozmiarem. Przejście na modele open source nie tylko zapewnia znaczne oszczędności, ale także zapewnia programistom większą kontrolę i nadzór nad ich modelami.

Ochrona własności intelektualnej i unikanie uzależnienia od dostawcy

Dla większości organizacji komercyjne LLM są czarną skrzynką, ponieważ nie zapewniają dostępu do kodu źródłowego modelu ani możliwości eksportowania artefaktów modelu. Poleganie wyłącznie na modelach czarnych skrzynek dostępnych za pośrednictwem interfejsu API nie jest już idealnym rozwiązaniem w zastosowaniach o znaczeniu krytycznym i komercyjnych. Organizacje muszą ustalić własność modelu i odróżnić swój produkt od konkurencji, zachowując jednocześnie własność intelektualną dotyczącą sztucznej inteligencji i danych. Według niedawnej ankiety przeprowadzonej przez moją firmę trzy czwarte respondentów nie czułoby się komfortowo, korzystając z komercyjnego LLM w produkcji. Respondenci ci jako główne obawy wymienili własność, prywatność i koszty.

Zapewnienie zgodności i prywatności pozostaje sprawą najwyższej wagi, a programiści stoją przed wyzwaniem sprawdzenia, czy dane użytkowników końcowych są chronione przed złośliwymi podmiotami po przekazaniu ich do systemu czarnej skrzynki. Co więcej, poleganie na platformach innych firm budzi obawy dotyczące opóźnień i utrzymywania umów o poziomie usług na poziomie produkcyjnym dla aplikacji komercyjnych (SLA). Wreszcie, liderzy biznesowi coraz częściej postrzegają sztuczną inteligencję jako rdzeń swojej własności intelektualnej i coraz częściej postrzegają niestandardowe modele z zastrzeżonymi danymi jako kluczowy element wyróżniający ich na tle konkurencji. Mówiąc prościej, przedsiębiorstwom nie podoba się już pomysł powierzenia własności intelektualnej osobie trzeciej i bycia jedynie cienką warstwą na cudzym API.

Modele specjalistyczne: wydajność i efektywność kosztowa

Modele open source, niegdyś uważane za niewystarczające pod względem wydajności, przeszły niezwykłą transformację poprzez dostrojenie i obecnie wyłaniają się jako potężni rywale. Dopracowane modele open source spełniają obecnie, jeśli nie przewyższają, modele komercyjne” poziom wydajności, zachowując jednocześnie znacznie mniejszą powierzchnię. 

Stanowi to ogromną szansę, ponieważ produkcja masowych komercyjnych LLM spowodowała trudności dla wielu organizacji ze względu na wielkość LLM i powiązane koszty. Wykorzystując precyzyjnie dostrojone modele, programiści mogą osiągnąć doskonałe wyniki, pracując z modelami, które są o dwa do trzech rzędów wielkości mniejsze niż ich komercyjne odpowiedniki, a zatem znacznie tańsze i szybsze. 

Rozważmy przypadek organizacji korzystającej z LLM do przetwarzania setek tysięcy wiadomości od pracowników pierwszej linii. Organizacja mogłaby obniżyć swoje koszty, stosując precyzyjnie dostrojony model zamiast LLM na dużą skalę. Możliwość osiągnięcia niezwykłych wyników za ułamek kosztów sprawia, że ​​dostrajanie jest atrakcyjną opcją dla organizacji pragnących zoptymalizować swoje wdrożenia sztucznej inteligencji.

Wnioski

Przejście z OpenAI na modele open source stanowi kolejny etap dla firm, które chcą zachować własność swoich informacji i modeli prywatnośći unikaj uzależnienia od dostawcy. Modele open source w miarę ewolucji stanowią atrakcyjną alternatywę dla programistów, którzy pragną wprowadzić sztuczną inteligencję w środowiskach produkcyjnych. W dobie niestandardowej sztucznej inteligencji wyspecjalizowane modele nie tylko zapewniają optymalną wydajność, ale także zapewniają znaczną redukcję kosztów, wskazując świetlaną przyszłość.

Pozostają jednak wyzwania związane z uproszczeniem procesu dostrajania i zarządzaniem nim, utworzeniem solidnej infrastruktury produkcyjnej oraz zapewnieniem jakości, niezawodności, bezpieczeństwa i etyki aplikacji AI. Aby sprostać tym wyzwaniom, innowacyjne platformy oferują deklaratywne rozwiązania, które pomagają organizacjom w tworzeniu niestandardowych aplikacji AI. Zapewniając łatwe w obsłudze możliwości dostrajania i infrastrukturę gotową do produkcji, platformy te umożliwiają organizacjom uwolnienie ogromnego potencjału modeli open source przy jednoczesnym zachowaniu najwyższej kontroli i osiągnięciu optymalnej wydajności.

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
• PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
• PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
• Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
• Źródło: https://www.dataversity.net/why-organizations-are-transitioning-from-openai-to-fine-tuned-open-source-models/