Waarom organisaties overstappen van OpenAI naar verfijnde open source-modellen - DATAVERSITY

Waarom organisaties overstappen van OpenAI naar verfijnde open source-modellen – DATAVERSITY

Tijdstempel: 24 januari 2024 3:25 uur
Bronknooppunt: 3081727

In het snel evoluerende generatieve AI-landschap heeft OpenAI een revolutie teweeggebracht in de manier waarop ontwikkelaars prototypes bouwen, demo's maken en opmerkelijke resultaten bereiken met grote taalmodellen (LLM's). Wanneer het echter tijd is om LLM's in productie te nemen, stappen organisaties steeds meer af van commerciële LLM's zoals OpenAI ten gunste van verfijnde open-sourcemodellen. Wat drijft deze verschuiving en waarom omarmen ontwikkelaars deze?

De belangrijkste motivaties zijn eenvoudig: 1. efficiëntie, en 2. het vermijden van een lock-in aan een leverancier en tegelijkertijd het intellectuele eigendom dat verband houdt met zowel de gegevens als de modellen, beschermen. Open-sourcemodellen zoals Llama2 en Mistral komen nu qua prestaties overeen met en overtreffen in sommige gevallen zelfs commerciële LLM's, terwijl ze ook een aanzienlijk kleiner formaat hebben. De verschuiving naar open-sourcemodellen zorgt niet alleen voor substantiële kostenbesparingen, maar geeft ontwikkelaars ook meer controle en overzicht over hun modellen.

Bescherming van intellectueel eigendom en het vermijden van leverancierslock-in

Voor de meeste organisaties zijn commerciële LLM's een black box, omdat ze geen toegang bieden tot de broncode van het model of de mogelijkheid bieden om modelartefacten te exporteren. Alleen vertrouwen op black box-modellen die toegankelijk zijn via een API is niet langer ideaal voor bedrijfskritische en commerciële toepassingen. Organisaties moeten het modeleigendom vaststellen en hun product onderscheiden van de concurrentie, terwijl ze hun intellectuele eigendom op het gebied van AI en data behouden. Volgens een recent onderzoek van mijn bedrijf zou driekwart van de respondenten zich niet op zijn gemak voelen bij het gebruik van een commerciële LLM in de productie. Deze respondenten noemden eigendom, privacy en kosten als hun voornaamste zorgen.

Het waarborgen van compliance en privacy blijft van het grootste belang, en ontwikkelaars worden geconfronteerd met de uitdaging om te verifiëren dat eindgebruikersgegevens worden beschermd tegen kwaadwillende entiteiten wanneer ze in een black box-systeem worden doorgegeven. Bovendien leidt de afhankelijkheid van platforms van derden tot zorgen over de latentie en het onderhouden van serviceniveauovereenkomsten op productieniveau voor commerciële toepassingen (SLA's). Ten slotte zien bedrijfsleiders AI steeds meer als de kern van hun intellectuele eigendom, en zien ze steeds meer op maat gemaakte modellen met bedrijfseigen gegevens als een belangrijke onderscheidende factor die hen zal onderscheiden van de concurrentie. Simpel gezegd: bedrijven zijn niet langer blij met het idee om intellectueel eigendom aan een derde partij toe te vertrouwen en slechts een dun laagje bovenop de API van iemand anders te zijn.

Gespecialiseerde modellen: prestaties en kostenefficiëntie

Open-sourcemodellen, die ooit werden gezien als gebrekkig qua prestaties, hebben een opmerkelijke transformatie doorgemaakt door middel van verfijning, en komen nu naar voren als krachtige kanshebbers. Verfijnde open source-modellen voldoen nu aan commerciële modellen, zo niet zelfs meer.' prestatieniveau, terwijl een aanzienlijk kleinere voetafdruk behouden blijft. 

Resultaten van onze recente experimenten: Verfijnde, kleinere taakspecifieke LLM's presteren beter dan alternatieven van commerciële leveranciers.

Dit vertegenwoordigt een enorme kans, aangezien de productie van grootschalige commerciële LLM's voor veel organisaties problemen heeft veroorzaakt vanwege de omvang van de LLM's en de daarmee samenhangende kosten. Door gebruik te maken van verfijnde modellen kunnen ontwikkelaars uitstekende resultaten behalen terwijl ze te maken hebben met modellen die twee tot drie ordes van grootte kleiner zijn dan hun commerciële tegenhangers, en daarom aanzienlijk goedkoper en sneller. 

Neem het geval van een organisatie die een LLM gebruikt om honderdduizenden berichten van eerstelijnswerkers te verwerken. De organisatie zou de kosten kunnen verlagen door gebruik te maken van een verfijnd model in plaats van een grootschalige LLM. Het vermogen om opmerkelijke resultaten te bereiken tegen een fractie van de kosten maakt het afstemmen een aantrekkelijke optie voor organisaties die hun AI-implementaties willen optimaliseren.

Conclusie

De transitie van OpenAI naar open-sourcemodellen vertegenwoordigt de volgende fase voor bedrijven die het eigendom van hun informatie en modellen willen behouden privacyen vermijd leverancierslock-in. Open-sourcemodellen bieden, naarmate ze zich blijven ontwikkelen, een aantrekkelijk alternatief voor ontwikkelaars die ernaar streven AI in productieomgevingen te introduceren. In het tijdperk van op maat gemaakte AI leveren gespecialiseerde modellen niet alleen optimale prestaties, maar zorgen ze ook voor aanzienlijke kostenbesparingen, wat wijst op een mooie toekomst.

Er blijven echter uitdagingen bestaan ​​op het gebied van het vereenvoudigen en beheren van het verfijningsproces, het opzetten van een robuuste productie-infrastructuur en het waarborgen van de kwaliteit, betrouwbaarheid, veiligheid en ethiek van AI-toepassingen. Om deze uitdagingen aan te pakken, bieden innovatieve platforms declaratieve oplossingen die organisaties helpen bij het bouwen van op maat gemaakte AI-applicaties. Door gebruiksvriendelijke afstemmingsmogelijkheden en productieklare infrastructuur te bieden, stellen deze platforms organisaties in staat het enorme potentieel van open-sourcemodellen te ontsluiten, terwijl ze de grootst mogelijke controle behouden en optimale prestaties bereiken.

Tijdstempel:

Meer van DATAVERSITEIT