Hvem styrer co-pilotene? Hvorfor AI trenger skystøtte

Publisert av Platon

Følgere: 0

I løpet av de siste tolv månedene har vi sett et stort antall nye AI-organisasjoner utvikle seg, som drar fordel av de siste fremskrittene innen grunnleggende modeller, teknologi og etterspørsel. Selv om AI ofte blir sett på som en "co-pilot" i stedet for en "autopilot", er det fortsatt mange bemerkelsesverdige bragder den kan oppnå, sammenlignet med klassisk databehandling. Vi har nylig sett startups som kan tilby nøyaktig tekst-til-tegnspråk, flerspråklig transkripsjon og automatisk talevideogenerering med realistiske avatarer, for å nevne noen.

Imidlertid, som alle startups og oppskalere, står disse nye organisasjonene overfor mange utfordringer; noen er spesifikke for AI-industrien, og andre er felles for alle vekstmerker. Men med riktig støttenivå kan gründere blomstre og bidra til å drive industrien – og menneskeheten – fremover.

Hvem styrer andrepilotene? Hvorfor AI trenger skystøtte

Høy beregningskraft for trening av AI-modeller

En av hovedutfordringene som AI-organisasjoner står overfor, er trening. Trening av AI-modeller krever en betydelig mengde beregningskraft, noe som kan være utfordrende for dypteknologiske selskaper som har en tendens til å operere på opex, i stedet for capex-basis. Dyplæringsalgoritmer, som nevrale nettverk, krever et stort antall iterasjoner og justeringer for å oppnå optimale resultater. Dette kan være tidkrevende og kostbart uten tilgang til dataressurser med høy ytelse. Videre må disse dataene lagres et sted, og dette kan være kostbart uoverkommelig å kjøpe direkte og dyrt å vedlikeholde.

Fleksibilitet i ressursallokering og kostnadsstyring

Ressurskravene for opplæring og distribusjon av AI-modeller kan variere mye avhengig av kompleksiteten til modellen og størrelsen på datasettet. Som de fleste startups kan retningen til selskapet endres nesten over natten, og kan være utfordrende for både mennesker og teknologisk infrastruktur. Følgelig er de fleste AI-oppstarter som standard skybaserte for å hjelpe til med å pivotere til ny maskinvare når ting begynner å bevege seg i en annen retning.

Problemer med bakoverkompatibilitet

AI-rammeverk som TensorFlow og PyTorch oppdateres og forbedres kontinuerlig, men en rekke av disse rammeverksiterasjonene har ikke vært bakoverkompatible med tidligere versjoner. Dette legger et betydelig press på organisasjoner for å holde seg oppdatert med det nyeste rammeverket, eller de risikerer funksjonalitetsproblemer eller til og med nedetid. Selv om brukere ofte forventer at startups har problemer med tannproblemer, kan store mengder nedetid redusere tilliten dramatisk.

Med disse problemene i tankene, hvordan har eksisterende, vellykkede AI-startups overvunnet utfordringene sine?

Hvem styrer andrepilotene? Hvorfor AI trenger skystøtte

AI i praksis: OVHcloud styrker Customs Bridges nødvendigheter

Customs Bridge er en "deep tech"-oppstart som bruker kunstig intelligens-algoritmer for å lage en automatisk produktklassifiseringsmotor, rettet mot europeiske importører. Selskapets oppgave er å lage den mest pålitelige produktklassifiseringsmotoren som er mulig for å tildele riktig tollkode til et produkt hvis beskrivelse ikke er fullstendig formalisert.

Imidlertid sto Customs Bridge overfor betydelige utfordringer med å trene AI-modellene sine. De hadde begrenset lokal infrastruktur, store databehandlingskrav og behovet for toppmoderne AI-rammeverk. Deres eksisterende infrastruktur var ikke tilstrekkelig til å trene og distribuere AI-modellene deres effektivt, og de møtte vanskeligheter med å få tilgang til og behandle store datamengder som kreves for å trene modellene deres.

For å overvinne disse utfordringene henvendte Customs Bridge seg til OVHclouds løsninger for AI og maskinlæring. Teamet implementerte OVHclouds modelltreningsløsning, AI Training, og brukte OVHcloud-forekomster for å distribuere modeller i produksjon og støtte datakraftrørledningen. Dette tillot Customs Bridge å behandle store mengder data, forbedre AI-modellene og forbedre dens generelle produktivitet og effektivitet.

Customs Bridge var i stand til å utnytte OVHclouds ressurser for dataforbedring og avansert AI-modellopplæring. De stolte på rundt 2.5 TB med data for å trene opp sine første Transformers-modeller, og trening av Transformers på 250,000 30 linjer tok bare rundt 100 minutter med databehandlingstid, takket være NVIDIA VXNUMX GPUene levert av OVHcloud. Dette var både raskt og rimelig, og det tillot Customs Bridge å skalere datavolumene sine uten å begrense infrastrukturen. Den skybaserte tilnærmingen ga selskapet mye frihet til å eksperimentere til de fant volumet som trengs for å oppnå den presisjonen de ønsket.

I tillegg til forbedret fleksibilitet og skalerbarhet for AI-modellopplæring, dro Customs Bridge også fordel av kostnadseffektiv og effektiv ressursallokering, forenklet implementering og distribusjon av AI-rammeverk, og muligheten til å muliggjøre innovasjon og eksperimentering for optimale resultater. Ved å utnytte OVHclouds AI & Machine Learning-løsninger, var Customs Bridge i stand til å overvinne sine utfordringer og bygge en innovativ og effektiv produktklassifiseringsmotor.

Oppløftende dypteknologi med spesialiserte skytjenester

Et av de første trinnene for en voksende AI-oppstart er å forstå økosystemet sitt – og ikke bare når det gjelder å forstå konkurrentene. Det er mange organisasjoner som tilbyr inkubatorer, akseleratorer og støtteordninger som enten kan hjelpe direkte med veiledning og ledelsesassistanse, eller i tilfellet med eksempelet ovenfor, teknologisk infrastrukturstøtte.

Skytjenester tilbyr fleksibel ressursallokering og kostnadsstyring, slik at dypteknologiske firmaer kan endre ressursene sine når behovene endres. Denne tilpasningsevnen garanterer at bedrifter kun betaler for ressursene de trenger, noe som gjør at de kan allokere ressursene sine mer effektivt, og operere på en opex- i stedet for capex-basis.

Utvidbare lagringsløsninger er også en viktig del av skytjenestemodellen. Med disse løsningene kan dypteknologiske selskaper behandle og lagre store mengder data, slik at de kan trene AI-modellene sine. Disse løsningene er laget for å skalere enkelt, og sikrer at AI-firmaer kan øke datavolumene sine uten avbrudd i tjenesten – i motsetning til fysisk lagring, hvor installasjon og administrasjon av nye stasjoner kan forårsake en rekke hodepine.

Driver bransjen fremover

Deep tech AI-firmaer opplever mange av de samme problemene som startups på tvers av andre bransjer, men også noen unike utfordringer. De enorme datasettene som kreves for å trene AI-modeller, kommer for eksempel med et tilsvarende behov for databehandlings- og lagringskapasiteter med høy effekt, som ofte er utenfor rekkevidde for unge organisasjoner som kjører på startfinansiering.

Dette er grunnen til at mange AI-selskaper er skybaserte som standard. Cloud lar organisasjoner som disse skalere lettere uten å betale på forhånd for infrastruktur, for ikke å snakke om å dra nytte av administrerte løsninger som fjerner behovet for daglig ledelse fra grunnleggere og deres team. Startups må imidlertid være oppmerksomme når de setter opp sin skytjenesteavtale og passe på å unngå både spiraldannelse og skjulte kostnader; feil oppsett eller feil leverandør – for eksempel overbelastning for inn-/utgangskostnader – kan føre til en teknologibyrde. Men med den riktige partneren, den riktige løsningen og en virkelig samarbeidende tilnærming, kan startups glemme de administrative detaljene og i stedet fokusere på hovedoppdraget sitt: å skape en ny verden av AI.