Hvorfor organisasjoner går over fra OpenAI til finjusterte åpen kildekode-modeller - DATAVERSITY

Hvorfor organisasjoner går over fra OpenAI til finjusterte åpen kildekode-modeller – DATAVERSITY

Tidsstempel: 24. januar 2024 3:25
Kilde node: 3081727

I det raskt utviklende generative AI-landskapet har OpenAI revolusjonert måten utviklere bygger prototyper på, lager demoer og oppnår bemerkelsesverdige resultater med store språkmodeller (LLM-er). Men når det er på tide å sette LLM-er i produksjon, beveger organisasjoner seg i økende grad bort fra kommersielle LLM-er som OpenAI til fordel for finjusterte åpen kildekode-modeller. Hva driver dette skiftet, og hvorfor omfavner utviklere det?

De primære motivasjonene er enkle: 1. effektivitet, og 2. unngå leverandørlåsing samtidig som åndsverk knyttet til både data og modeller beskyttes. Åpen kildekode-modeller som Llama2 og Mistral matcher nå og overgår i noen tilfeller til og med kommersielle LLM-er i ytelse, samtidig som de kan skryte av en betydelig mindre størrelse. Skiftet mot åpen kildekode-modeller sikrer ikke bare betydelige kostnadsbesparelser, men det gir også utviklere større kontroll og overblikk over modellene deres.

Beskyttelse av intellektuell eiendom og unngå leverandørlåsing

For de fleste organisasjoner er kommersielle LLM-er en svart boks, siden de ikke klarer å gi tilgang til modellkildekoden eller muligheten til å eksportere modellartefakter. Å stole utelukkende på svarte boks-modeller som er tilgjengelige via et API er ikke lenger ideelt for virksomhetskritiske og kommersielle applikasjoner. Organisasjoner må forvisse seg om modelleierskap og skille produktet fra konkurrentene, samtidig som de beholder sin AI og data intellektuelle eiendom. I følge en fersk undersøkelse fra firmaet mitt, ville tre fjerdedeler av respondentene ikke være komfortable med å bruke en kommersiell LLM i produksjon. Disse respondentene nevnte eierskap, personvern og kostnader som sine primære bekymringer.

Å sikre samsvar og personvern forblir avgjørende, og utviklere står overfor utfordringen med å bekrefte at sluttbrukerdata er beskyttet mot ondsinnede enheter når de sendes inn i et svart boks-system. Dessuten skaper avhengighet av tredjepartsplattformer bekymringer om ventetid og opprettholdelse av produksjonsgradsavtaler for kommersielle applikasjoner (SLA). Endelig ser bedriftsledere i økende grad på AI som kjernen i deres IP, og de ser i økende grad tilpassede modeller med proprietære data som en nøkkeldifferensiator som vil skille dem fra konkurrentene. Enkelt sagt, bedrifter er ikke lenger fornøyd med ideen om å overlate intellektuell eiendom til en tredjepart og bare være et tynt lag på toppen av andres API.

Spesialiserte modeller: Ytelse og kostnadseffektivitet

En gang ansett som manglende ytelse, har åpen kildekode-modeller opplevd en bemerkelsesverdig transformasjon gjennom finjustering, og de fremstår nå som kraftige utfordrere. Finjusterte åpen kildekode-modeller møter nå, om ikke overstiger, kommersielle modeller ytelsesnivå, samtidig som de beholder et betydelig mindre fotavtrykk. 

Resultater fra våre nylige eksperimenter: Finjusterte, mindre oppgavespesifikke LLM-er utkonkurrerer alternativer fra kommersielle leverandører.

Dette representerer en enorm mulighet, siden produksjon av massive kommersielle LLM-er har forårsaket vanskeligheter for en rekke organisasjoner på grunn av LLM-enes størrelse og tilhørende kostnader. Ved å utnytte finjusterte modeller kan utviklere oppnå utmerkede resultater mens de håndterer modeller som er to til tre størrelsesordener mindre enn deres kommersielle motparter, og derfor betydelig billigere og raskere. 

Tenk på tilfellet med en organisasjon som bruker en LLM til å behandle hundretusenvis av meldinger fra frontlinjearbeidere. Organisasjonen kan redusere kostnadene sine ved å bruke en finjustert modell i stedet for en storskala LLM. Evnen til å oppnå bemerkelsesverdige resultater til en brøkdel av prisen gjør finjustering til et attraktivt alternativ for organisasjoner som ønsker å optimalisere AI-implementeringene sine.

konklusjonen

Overgangen fra OpenAI til åpen kildekode-modeller representerer neste fase for selskaper som ønsker å beholde eierskapet til informasjonen og modellene deres, sikre privatliv, og unngå leverandørlåsing. Åpen kildekode-modeller, ettersom de fortsetter å utvikle seg, tilbyr et attraktivt alternativ for utviklere som ønsker å introdusere AI i produksjonsmiljøer. I en tid med tilpasset AI leverer spesialiserte modeller ikke bare optimal ytelse, men fører også til betydelige kostnadsreduksjoner, noe som peker mot en lys fremtid.

Det gjenstår imidlertid utfordringer når det gjelder å forenkle og administrere finjusteringsprosessen, etablere robust produksjonsinfrastruktur og sikre kvaliteten, påliteligheten, sikkerheten og etikken til AI-applikasjoner. For å møte disse utfordringene tilbyr innovative plattformer deklarative løsninger som hjelper organisasjoner med å bygge tilpassede AI-applikasjoner. Ved å tilby brukervennlige finjusteringsfunksjoner og produksjonsklar infrastruktur, gir disse plattformene organisasjoner mulighet til å frigjøre det enorme potensialet til åpen kildekode-modeller samtidig som de opprettholder den ytterste kontrollen og oppnår optimal ytelse.

Tidstempel:

Mer fra DATAVERSITET