Varför organisationer övergår från OpenAI till finjusterade modeller med öppen källkod - DATAVERSITY

Varför organisationer övergår från OpenAI till finjusterade modeller med öppen källkod – DATAVERSITY

Tidsstämpel: 24 januari 2024 3:25
Källnod: 3081727

I det snabbt utvecklande generativa AI-landskapet har OpenAI revolutionerat hur utvecklare bygger prototyper, skapar demos och uppnår anmärkningsvärda resultat med stora språkmodeller (LLMs). Men när det är dags att sätta LLM i produktion, går organisationer allt mer bort från kommersiella LLM som OpenAI till förmån för finjusterade modeller med öppen källkod. Vad är det som driver denna förändring, och varför anammar utvecklarna det?

De primära motiven är enkla: 1. effektivitet och 2. undvika inlåsning av leverantörer samtidigt som man skyddar immateriella rättigheter förknippade med både data och modeller. Modeller med öppen källkod som Llama2 och Mistral matchar nu och överträffar i vissa fall till och med kommersiella LLM:er i prestanda, samtidigt som de har en betydligt mindre storlek. Övergången till modeller med öppen källkod säkerställer inte bara betydande kostnadsbesparingar, utan det ger också utvecklare större kontroll och överblick över sina modeller.

Skydda immateriella rättigheter och undvika inlåsning av leverantörer

För de flesta organisationer är kommersiella LLM:er en svart låda, eftersom de inte ger tillgång till modellens källkod eller möjligheten att exportera modellartefakter. Att enbart förlita sig på black box-modeller som är tillgängliga via ett API är inte längre idealiskt för verksamhetskritiska och kommersiella applikationer. Organisationer måste förvissa sig om modellägande och differentiera sin produkt från konkurrenter, samtidigt som de behåller sin AI och sina immateriella rättigheter. Enligt en nyligen genomförd undersökning av mitt företag skulle tre fjärdedelar av de tillfrågade inte vara bekväma med att använda en kommersiell LLM i produktionen. Dessa respondenter nämnde ägande, integritet och kostnader som sina primära bekymmer.

Att säkerställa efterlevnad och integritet förblir ytterst viktigt, och utvecklare ställs inför utmaningen att verifiera att slutanvändardata skyddas från skadliga enheter när de skickas in i ett black box-system. Dessutom väcker beroendet av tredjepartsplattformar oro för latens och upprätthållande av produktionsnivåavtal för kommersiella applikationer (SLA). Slutligen ser företagsledare i allt högre grad AI som kärnan i deras IP, och de ser i allt högre grad anpassade modeller med proprietär data som en viktig differentiator som kommer att skilja dem från konkurrenterna. Enkelt uttryckt är företag inte längre nöjda med idén att anförtro immateriella rättigheter till en tredje part och bara vara ett tunt lager ovanpå någon annans API.

Specialiserade modeller: prestanda och kostnadseffektivitet

En gång ansågs sakna prestanda, har modeller med öppen källkod upplevt en anmärkningsvärd transformation genom finjustering, och de framstår nu som kraftfulla utmanare. Finjusterade modeller med öppen källkod möter nu, om inte överträffar, kommersiella modellers prestationsnivå, samtidigt som de behåller ett betydligt mindre fotavtryck. 

Resultat från våra senaste experiment: Finjusterade, mindre uppgiftsspecifika LLM:er överträffar alternativen från kommersiella leverantörer.

Detta representerar en enorm möjlighet, eftersom produktion av massiva kommersiella LLM har orsakat svårigheter för många organisationer på grund av LLMs storlek och tillhörande kostnader. Genom att utnyttja finjusterade modeller kan utvecklare uppnå utmärkta resultat samtidigt som de hanterar modeller som är två till tre storleksordningar mindre än sina kommersiella motsvarigheter, och därför betydligt billigare och snabbare. 

Tänk på fallet med en organisation som använder en LLM för att behandla hundratusentals meddelanden från frontlinjeanställda. Organisationen skulle kunna minska sina kostnader genom att använda en finjusterad modell snarare än en storskalig LLM. Möjligheten att uppnå anmärkningsvärda resultat till en bråkdel av kostnaden gör finjustering till ett attraktivt alternativ för organisationer som vill optimera sina AI-implementeringar.

Slutsats

Övergången från OpenAI till modeller med öppen källkod representerar nästa fas för företag som vill behålla ägandet av sin information och modeller, säkerställa privatpolicy, och undvik leverantörslåsning. Modeller med öppen källkod, när de fortsätter att utvecklas, erbjuder ett attraktivt alternativ för utvecklare som strävar efter att introducera AI i produktionsmiljöer. I eran av anpassad AI levererar specialiserade modeller inte bara optimal prestanda utan driver också avsevärda kostnadsminskningar, vilket pekar mot en ljus framtid.

Utmaningar kvarstår dock när det gäller att förenkla och hantera finjusteringsprocessen, etablera robust produktionsinfrastruktur och säkerställa kvaliteten, tillförlitligheten, säkerheten och etiken för AI-tillämpningar. För att möta dessa utmaningar erbjuder innovativa plattformar deklarativa lösningar som hjälper organisationer att bygga anpassade AI-applikationer. Genom att tillhandahålla lättanvända finjusteringsmöjligheter och produktionsklar infrastruktur ger dessa plattformar organisationer möjlighet att låsa upp den enorma potentialen hos modeller med öppen källkod samtidigt som de bibehåller den yttersta kontrollen och uppnår optimal prestanda.

Tidsstämpel:

Mer från DATAVERSITET