Hvorfor organisationer skifter fra OpenAI til finjusterede open source-modeller - DATAVERSITY

Hvorfor organisationer overgår fra OpenAI til finjusterede open source-modeller – DATAVERSITY

Tidsstempel: 24. januar 2024 kl. 3
Kildeknude: 3081727

I det hurtigt udviklende generative AI-landskab har OpenAI revolutioneret den måde, udviklere bygger prototyper på, skaber demoer og opnår bemærkelsesværdige resultater med store sprogmodeller (LLM'er). Men når det er tid til at sætte LLM'er i produktion, bevæger organisationer sig i stigende grad væk fra kommercielle LLM'er som OpenAI til fordel for finjusterede open source-modeller. Hvad driver dette skift, og hvorfor tager udviklere det til sig?

De primære motiver er enkle: 1. effektivitet og 2. undgåelse af leverandørlås, samtidig med at intellektuel ejendomsret, der er forbundet med både data og modeller, beskyttes. Open source-modeller som Llama2 og Mistral matcher nu og overgår i nogle tilfælde endda kommercielle LLM'er i ydeevne, mens de også kan prale af en væsentlig mindre størrelse. Skiftet til open source-modeller sikrer ikke kun betydelige omkostningsbesparelser, men det giver også udviklere større kontrol og overblik over deres modeller.

Beskyttelse af intellektuel ejendomsret og undgå leverandørlåsning

For de fleste organisationer er kommercielle LLM'er en sort boks, da de ikke giver adgang til modellens kildekode eller muligheden for at eksportere modelartefakter. At stole udelukkende på black box-modeller, der er tilgængelige via en API, er ikke længere ideel til missionskritiske og kommercielle applikationer. Organisationer skal sikre sig modelejerskab og differentiere deres produkt fra konkurrenter, samtidig med at de bevarer deres AI og data intellektuelle ejendomsrettigheder. Ifølge en nylig undersøgelse foretaget af mit firma ville tre fjerdedele af respondenterne ikke være trygge ved at bruge en kommerciel LLM i produktionen. Disse respondenter nævnte ejerskab, privatliv og omkostninger som deres primære bekymringer.

At sikre overholdelse og privatliv forbliver altafgørende, og udviklere står over for udfordringen med at verificere, at slutbrugerdata er beskyttet mod ondsindede enheder, når de sendes ind i et sort boks-system. Ydermere giver afhængighed af tredjepartsplatforme anledning til bekymringer om ventetid og opretholdelse af serviceniveauaftaler i produktionskvalitet til kommercielle applikationer (SLA'er). Endelig ser virksomhedsledere i stigende grad AI som kernen i deres IP, og de ser i stigende grad tilpassede modeller med proprietære data som en vigtig differentiator, der vil adskille dem fra konkurrenterne. Enkelt sagt er virksomheder ikke længere tilfredse med ideen om at overlade intellektuel ejendom til en tredjepart og blot være et tyndt lag oven på en andens API.

Specialiserede modeller: Ydelse og omkostningseffektivitet

Engang anset for manglende ydeevne, har open source-modeller oplevet en bemærkelsesværdig transformation gennem finjustering, og de dukker nu op som stærke konkurrenter. Finjusterede open source-modeller opfylder nu, hvis ikke overstiger, kommercielle modeller præstationsniveau, og samtidig bevare et væsentligt mindre fodaftryk. 

Resultater fra vores seneste eksperimenter: Finjusterede, mindre opgavespecifikke LLM'er udkonkurrerer alternativer fra kommercielle leverandører.

Dette repræsenterer en enorm mulighed, da produktionen af ​​massive kommercielle LLM'er har forårsaget vanskeligheder for adskillige organisationer på grund af LLM'ernes størrelse og tilhørende omkostninger. Ved at udnytte finjusterede modeller kan udviklere opnå fremragende resultater, mens de har at gøre med modeller, der er to til tre størrelsesordener mindre end deres kommercielle modstykker og derfor væsentligt billigere og hurtigere. 

Overvej tilfældet med en organisation, der bruger en LLM til at behandle hundredtusindvis af beskeder fra frontlinjemedarbejdere. Organisationen kunne reducere deres omkostninger ved at bruge en finjusteret model frem for en storstilet LLM. Evnen til at opnå bemærkelsesværdige resultater til en brøkdel af prisen gør finjustering til en attraktiv mulighed for organisationer, der søger at optimere deres AI-implementeringer.

Konklusion

Overgangen fra OpenAI til open source-modeller repræsenterer den næste fase for virksomheder, der søger at bevare ejerskabet til deres information og modeller, sikre Beskyttelse af personlige oplysninger, og undgå leverandørlåsning. Open source-modeller, som de fortsætter med at udvikle sig, tilbyder et attraktivt alternativ for udviklere, der ønsker at introducere AI i produktionsmiljøer. I en tid med tilpasset AI leverer specialiserede modeller ikke kun optimal ydeevne, men driver også betydelige omkostningsreduktioner, hvilket peger mod en lys fremtid.

Der er dog stadig udfordringer i form af forenkling og styring af finjusteringsprocessen, etablering af robust produktionsinfrastruktur og sikring af kvaliteten, pålideligheden, sikkerheden og etikken af ​​AI-applikationer. For at løse disse udfordringer tilbyder innovative platforme deklarative løsninger, der hjælper organisationer med at bygge tilpassede AI-applikationer. Ved at give brugervenlige finjusteringsfunktioner og produktionsklar infrastruktur, giver disse platforme organisationer mulighed for at frigøre det enorme potentiale i open source-modeller, mens de bevarer den største kontrol og opnår optimal ydeevne.

Tidsstempel:

Mere fra DATAVERSITET