Vem styr andrapiloterna? Varför AI behöver molnstöd

Vem styr andrapiloterna? Varför AI behöver molnstöd

Tidsstämpel: 24 maj 2023 10:11
Källnod: 2675068

Vem styr andrapiloterna? Varför AI behöver molnstöd
Under de senaste tolv månaderna har vi sett ett stort antal nya AI-organisationer utvecklas, som drar fördel av de senaste framstegen inom grundläggande modeller, teknologi och efterfrågan. Även om AI ofta ses som en "bipilot" snarare än en "autopilot", finns det fortfarande många anmärkningsvärda prestationer som den kan åstadkomma, jämfört med klassisk datoranvändning. Vi har nyligen sett startups som kan erbjuda korrekt text-till-teckenspråk, flerspråkig transkription och automatisk talvideogenerering med realistiska avatarer, för att bara nämna några.

Men som alla nystartade företag och uppskalningsföretag står dessa nya organisationer inför många utmaningar; vissa är specifika för AI-branschen och andra är gemensamma för alla växande varumärken. Men med rätt stödnivå kan grundare blomstra och hjälpa till att driva branschen – och mänskligheten – framåt.

Vem styr andrapiloterna? Varför AI behöver molnstöd

Hög beräkningskraft för träning av AI-modeller

En av de största utmaningarna som AI-organisationer står inför är utbildningen. Att träna AI-modeller kräver en betydande mängd beräkningskraft, vilket kan vara utmanande för deep tech-företag som tenderar att arbeta på opex- snarare än capex-basis. Algoritmer för djupinlärning, såsom neurala nätverk, kräver ett stort antal iterationer och justeringar för att uppnå optimala resultat. Detta kan vara tidskrävande och kostsamt utan tillgång till högpresterande datorresurser. Dessutom måste denna data lagras någonstans, och detta kan vara kostsamt att köpa direkt och dyrt att underhålla.

Flexibilitet i resursallokering och kostnadshantering

Resurskraven för utbildning och implementering av AI-modeller kan variera mycket beroende på modellens komplexitet och storleken på datamängden. Som de flesta startups kan företagets inriktning förändras nästan över en natt, och kan vara utmanande för både människor och teknisk infrastruktur. Följaktligen är de flesta AI-starter som standard molnbaserade för att hjälpa till att svänga till ny hårdvara när saker börjar röra sig i en annan riktning.

Problem med bakåtkompatibilitet

AI-ramverk som TensorFlow och PyTorch uppdateras och förbättras kontinuerligt, men ett antal av dessa ramverksiterationer har inte varit bakåtkompatibla med tidigare versioner. Detta sätter stor press på organisationer att hålla sig uppdaterade med det senaste ramverket, eller så riskerar de funktionsproblem eller till och med driftstopp. Även om användare ofta förväntar sig att startups ska ha barnsjukdomar, kan stora mängder driftstopp drastiskt urholka förtroendet.

Med dessa frågor i åtanke, hur har befintliga, framgångsrika AI-startups övervunnit sina utmaningar?

Vem styr andrapiloterna? Varför AI behöver molnstöd

AI i praktiken: OVHcloud ger Customs Bridges väsentligheter

Customs Bridge är en "deep tech" startup som använder artificiell intelligens algoritmer för att skapa en automatisk produktklassificeringsmotor, riktad till europeiska importörer. Företagets uppdrag är att skapa en så pålitlig produktklassificeringsmotor som möjligt för att tilldela rätt tullkod till en produkt vars beskrivning inte är helt formaliserad.

Men Customs Bridge stod inför betydande utmaningar när det gäller att träna sina AI-modeller. De hade begränsad lokal infrastruktur, storskaliga databehandlingskrav och behovet av toppmoderna AI-ramverk. Deras befintliga infrastruktur var inte tillräcklig för att träna och distribuera sina AI-modeller effektivt, och de hade svårigheter att komma åt och bearbeta stora mängder data som krävdes för att träna sina modeller.

För att övervinna dessa utmaningar vände sig Customs Bridge till OVHclouds lösningar för AI och maskininlärning. Teamet implementerade OVHclouds modellträningslösning, AI Training, och använde OVHcloud-instanser för att distribuera modeller i produktion och stödja datakraftspipelinen. Detta gjorde det möjligt för Customs Bridge att bearbeta stora mängder data, förbättra sina AI-modeller och förbättra dess totala produktivitet och effektivitet.

Customs Bridge kunde utnyttja OVHclouds resurser för dataförbättring och avancerad AI-modellutbildning. De förlitade sig på cirka 2.5 TB data för att träna sina första Transformers-modeller, och träning av Transformers på 250,000 30 linjer tog bara cirka 100 minuters beräkningstid, tack vare NVIDIA VXNUMX GPU:erna från OVHcloud. Detta var både snabbt och billigt, och det gjorde det möjligt för Customs Bridge att skala sina datavolymer utan att begränsa dess infrastruktur. Det molnbaserade tillvägagångssättet gav företaget stor frihet att experimentera tills de hittade den volym som behövdes för att uppnå den precision de ville ha.

Förutom förbättrad flexibilitet och skalbarhet för AI-modellutbildning, gynnades Customs Bridge även av kostnadseffektiv och effektiv resursallokering, förenklad implementering och utplacering av AI-ramverk och möjligheten att möjliggöra innovation och experimenterande för optimala resultat. Genom att utnyttja OVHclouds AI- och maskininlärningslösningar kunde Customs Bridge övervinna sina utmaningar och bygga en innovativ och effektiv produktklassificeringsmotor.

Lyftande djupteknologi med specialiserade molntjänster

Ett av de första stegen för en växande AI-startup är att förstå dess ekosystem – och inte bara när det gäller att förstå konkurrenterna. Det finns många organisationer som erbjuder inkubatorer, acceleratorer och stödsystem som antingen kan hjälpa direkt med mentorskap och ledningshjälp, eller i fallet med exemplet ovan, stöd för teknisk infrastruktur.

Molntjänster erbjuder flexibel resursallokering och kostnadshantering, vilket gör att djupteknikföretag kan modifiera sina resurser när behoven förändras. Denna anpassningsförmåga garanterar att företag endast betalar för de resurser de behöver, vilket gör det möjligt för dem att fördela sina resurser mer effektivt och att arbeta på en opex- snarare än capex-basis.

Expanderbara lagringslösningar är också en viktig del av molntjänstmodellen. Med dessa lösningar kan företag inom djupteknologi bearbeta och lagra stora mängder data, vilket gör att de kan träna sina AI-modeller. Dessa lösningar är skapade för att lätt skala, vilket säkerställer att AI-företag kan öka sina datavolymer utan avbrott i servicen – till skillnad från fysisk lagring, där installation och hantering av nya enheter kan orsaka ett antal huvudvärk.

Driv branschen framåt

Deep tech AI-företag upplever många av samma problem som nystartade företag i andra branscher, men också några unika utmaningar. De enorma datamängder som krävs för att träna AI-modeller, till exempel, kommer med ett motsvarande behov av beräknings- och lagringskapacitet med hög effekt, som ofta är utom räckhåll för unga organisationer som driver med startfinansiering.

Det är därför många AI-företag som standard är molnbaserade. Molnet gör det möjligt för organisationer som dessa att skala lättare utan att betala i förskott för infrastruktur, för att inte tala om att dra nytta av hanterade lösningar som tar bort behovet av daglig ledning från grundare och deras team. Nystartade företag måste dock vara uppmärksamma när de sätter upp sitt molntjänstavtal och se till att undvika både spiralbildning och dolda kostnader; fel konfiguration eller fel leverantör – överdebitering för till exempel in-/utgående kostnader – kan resultera i en teknikbörda. Men med rätt partner, rätt lösning och ett verkligt samarbetssätt kan startups glömma de administrativa detaljerna och istället fokusera på sitt huvuduppdrag: att skapa en ny värld av AI.



Tidsstämpel:

Mer från Datakonomi