Wie co-piloten de co-piloten? Waarom AI cloudondersteuning nodig heeft

Wie co-piloten de co-piloten? Waarom AI cloudondersteuning nodig heeft

Tijdstempel: 24 mei 2023 10:11 uur
Bronknooppunt: 2675068

Wie co-piloten de co-piloten? Waarom AI cloudondersteuning nodig heeft
In de afgelopen twaalf maanden hebben we een groot aantal nieuwe AI-organisaties zien ontstaan, waarbij gebruik werd gemaakt van de nieuwste ontwikkelingen op het gebied van fundamentele modellen, technologie en vraag. Hoewel AI vaak wordt gezien als een ‘co-piloot’ in plaats van als een ‘automatische piloot’, zijn er nog steeds veel opmerkelijke prestaties die het kan bereiken in vergelijking met klassiek computergebruik. We hebben onlangs startups gezien die nauwkeurige tekst-naar-gebarentaal, meertalige transcriptie en automatische generatie van spraakvideo's met realistische avatars kunnen bieden, om er maar een paar te noemen.

Maar net als alle startups en scale-ups worden deze nieuwe organisaties met veel uitdagingen geconfronteerd; sommige zijn specifiek voor de AI-industrie, andere zijn gemeenschappelijk voor alle groeimerken. Maar met het juiste niveau van steun kunnen oprichters floreren en de industrie – en de mensheid – vooruit helpen.

Wie co-piloten de co-piloten? Waarom AI cloudondersteuning nodig heeft

Hoge rekenkracht voor het trainen van AI-modellen

Een van de belangrijkste uitdagingen waarmee AI-organisaties worden geconfronteerd, is die van training. Het trainen van AI-modellen vereist een aanzienlijke hoeveelheid rekenkracht, wat een uitdaging kan zijn voor deep tech-bedrijven die de neiging hebben om op basis van opex in plaats van capex te opereren. Deep learning-algoritmen, zoals neurale netwerken, vereisen een groot aantal iteraties en aanpassingen om optimale resultaten te bereiken. Dit kan tijdrovend en kostbaar zijn zonder toegang tot krachtige computerbronnen. Bovendien moeten deze gegevens ergens worden opgeslagen, en dit kan te duur zijn om te kopen en duur om te onderhouden.

Flexibiliteit bij de toewijzing van middelen en kostenbeheer

De benodigde middelen voor het trainen en inzetten van AI-modellen kunnen sterk variëren, afhankelijk van de complexiteit van het model en de omvang van de dataset. Zoals bij de meeste startups kan de richting van het bedrijf vrijwel van de ene op de andere dag veranderen, wat een uitdaging kan zijn voor zowel mensen als de technologische infrastructuur. Bijgevolg zijn de meeste AI-startups standaard cloud-native om te helpen bij de overstap naar nieuwe hardware wanneer zaken in een andere richting beginnen te bewegen.

Achterwaartse compatibiliteitsproblemen

AI-frameworks zoals TensorFlow en PyTorch worden voortdurend bijgewerkt en verbeterd, maar een aantal van deze framework-iteraties zijn niet achterwaarts compatibel met eerdere versies. Dit legt een aanzienlijke druk op organisaties om op de hoogte te blijven van het nieuwste raamwerk, anders riskeren ze functionaliteitsproblemen of zelfs downtime. Hoewel gebruikers vaak verwachten dat startups kinderziektes hebben, kunnen grote hoeveelheden downtime het vertrouwen dramatisch ondermijnen.

Hoe hebben bestaande, succesvolle AI-startups, met deze problemen in het achterhoofd, hun uitdagingen overwonnen?

Wie co-piloten de co-piloten? Waarom AI cloudondersteuning nodig heeft

AI in de praktijk: OVHcloud ondersteunt de essentiële functies van Customs Bridge

Customs Bridge is een ‘deep tech’ startup die gebruik maakt van kunstmatige intelligentie-algoritmen om een ​​automatische productclassificatie-engine te creëren, gericht op Europese importeurs. De missie van het bedrijf is het creëren van de meest betrouwbare productclassificatie-engine die mogelijk is om de juiste douanecode toe te wijzen aan een product waarvan de beschrijving niet volledig is geformaliseerd.

Customs Bridge werd echter geconfronteerd met aanzienlijke uitdagingen bij het trainen van hun AI-modellen. Ze hadden een beperkte infrastructuur op locatie, vereisten voor grootschalige gegevensverwerking en de behoefte aan ultramoderne AI-frameworks. Hun bestaande infrastructuur was niet voldoende om hun AI-modellen effectief te trainen en in te zetten, en ze ondervonden moeilijkheden bij het verkrijgen van toegang tot en het verwerken van grote hoeveelheden gegevens die nodig waren om hun modellen te trainen.

Om deze uitdagingen het hoofd te bieden, wendde Customs Bridge zich tot OVHcloud's AI & Machine Learning-oplossingen. Het team implementeerde de modeltrainingsoplossing van OVHcloud, AI Training, en gebruikte OVHcloud-instanties om modellen in productie te implementeren en de datastroompijplijn te ondersteunen. Hierdoor kon Customs Bridge grote hoeveelheden gegevens verwerken, de AI-modellen verbeteren en de algehele productiviteit en efficiëntie verbeteren.

Customs Bridge kon de middelen van OVHcloud inzetten voor dataverbetering en geavanceerde AI-modeltraining. Ze vertrouwden op ongeveer 2.5 TB aan data om hun eerste Transformers-modellen te trainen, en het trainen van Transformers op 250,000 lijnen kostte slechts ongeveer 30 minuten computertijd, dankzij de NVIDIA V100 GPU's van OVHcloud. Dit was zowel snel als goedkoop, en het stelde Customs Bridge in staat zijn datavolumes te schalen zonder de infrastructuur te beperken. De cloudgebaseerde aanpak gaf het bedrijf veel vrijheid om te experimenteren totdat ze het volume vonden dat nodig was om de gewenste precisie te bereiken.

Naast verbeterde flexibiliteit en schaalbaarheid voor AI-modeltraining profiteerde Customs Bridge ook van kosteneffectieve en efficiënte toewijzing van middelen, vereenvoudigde implementatie en inzet van AI-frameworks, en het vermogen om innovatie en experimenten mogelijk te maken voor optimale resultaten. Door gebruik te maken van de AI- en Machine Learning-oplossingen van OVHcloud kon Customs Bridge de uitdagingen overwinnen en een innovatieve en effectieve productclassificatie-engine bouwen.

Deep tech naar een hoger niveau tillen met gespecialiseerde cloudservices

Een van de eerste stappen voor een groeiende AI-startup is het begrijpen van zijn ecosysteem – en niet alleen in termen van het begrijpen van de concurrentie. Er zijn veel organisaties die incubators, accelerators en ondersteuningsprogramma's aanbieden die rechtstreeks kunnen helpen met mentoring en managementondersteuning, of, in het geval van het bovenstaande voorbeeld, ondersteuning van de technologische infrastructuur.

Clouddiensten bieden flexibele toewijzing van middelen en kostenbeheer, waardoor deep-techbedrijven hun middelen kunnen aanpassen wanneer de behoeften veranderen. Dit aanpassingsvermogen garandeert dat bedrijven alleen betalen voor de middelen die ze nodig hebben, waardoor ze hun middelen efficiënter kunnen toewijzen en kunnen opereren op basis van opex in plaats van capex.

Uitbreidbare opslagoplossingen vormen ook een belangrijk onderdeel van het cloudservicesmodel. Met deze oplossingen kunnen deep tech-bedrijven grote hoeveelheden data verwerken en opslaan, waardoor ze hun AI-modellen kunnen trainen. Deze oplossingen zijn gemaakt om eenvoudig te schalen, waardoor AI-bedrijven hun datavolumes kunnen vergroten zonder enige onderbreking van de dienstverlening – in tegenstelling tot fysieke opslag, waar de installatie en het beheer van nieuwe schijven een aantal kopzorgen kan veroorzaken.

De industrie vooruit helpen

Deeptech AI-bedrijven ervaren veel van dezelfde problemen als startups in andere sectoren, maar ook enkele unieke uitdagingen. De enorme datasets die nodig zijn om AI-modellen te trainen gaan bijvoorbeeld gepaard met een overeenkomstige behoefte aan krachtige reken- en opslagcapaciteiten, die vaak buiten bereik zijn voor jonge organisaties die op basisfinanciering draaien.

Dit is de reden waarom veel AI-bedrijven standaard cloud-native zijn. Met de cloud kunnen organisaties als deze gemakkelijker opschalen zonder vooraf te betalen voor de infrastructuur, om nog maar te zwijgen van het profiteren van beheerde oplossingen die de noodzaak van dagelijks beheer wegnemen bij oprichters en hun teams. Startups moeten echter opletten bij het opzetten van hun clouddienstenovereenkomst en ervoor zorgen dat zowel stijgende als verborgen kosten worden vermeden; de verkeerde opzet of de verkeerde provider – bijvoorbeeld te veel in-/uitgaanskosten in rekening brengen – kan resulteren in een technologische last. Maar met de juiste partner, de juiste oplossing en een echt collaboratieve aanpak kunnen startups de administratieve details vergeten en zich in plaats daarvan concentreren op hun hoofdmissie: het creëren van een nieuwe wereld van AI.



Tijdstempel:

Meer van Dataconomie