Qui copilote les copilotes ? Pourquoi l'IA a besoin d'un support cloud

Qui copilote les copilotes ? Pourquoi l'IA a besoin d'un support cloud

Nœud source: 2675068

Qui copilote les copilotes ? Pourquoi l'IA a besoin d'un support cloud
Au cours des douze derniers mois, nous avons vu un grand nombre de nouvelles organisations d'IA se développer, tirant parti des dernières avancées en matière de modèles fondamentaux, de technologie et de demande. Bien que l'IA soit souvent considérée comme un « copilote » plutôt qu'un « pilote automatique », elle peut encore accomplir de nombreux exploits remarquables par rapport à l'informatique classique. Nous avons récemment vu des startups capables de proposer un langage texte-sign précis, une transcription multilingue et une génération automatique de vidéos vocales avec des avatars réalistes, pour n'en citer que quelques-uns.

Cependant, comme toutes les startups et scale-ups, ces nouvelles organisations font face à de nombreux défis ; certains sont spécifiques à l'industrie de l'IA, et d'autres sont communs à toutes les marques en croissance. Mais avec le bon niveau de soutien, les fondateurs peuvent s'épanouir, aidant à faire avancer l'industrie - et l'humanité - vers l'avant.

Qui copilote les copilotes ? Pourquoi l'IA a besoin d'un support cloud

Haute puissance de calcul pour la formation de modèles d'IA

L'un des principaux défis auxquels sont confrontées les organisations d'IA est celui de la formation. La formation de modèles d'IA nécessite une quantité importante de puissance de calcul, ce qui peut être difficile pour les entreprises de technologie profonde qui ont tendance à fonctionner sur une base d'opex plutôt que de capex. Les algorithmes d'apprentissage en profondeur, tels que les réseaux de neurones, nécessitent un grand nombre d'itérations et d'ajustements pour obtenir des résultats optimaux. Cela peut être long et coûteux sans accès à des ressources informatiques hautes performances. De plus, ces données doivent être stockées quelque part, ce qui peut être prohibitif à l'achat et coûteux à entretenir.

Flexibilité dans l'allocation des ressources et la gestion des coûts

Les besoins en ressources pour la formation et le déploiement de modèles d'IA peuvent varier considérablement en fonction de la complexité du modèle et de la taille de l'ensemble de données. Comme la plupart des startups, la direction de l'entreprise peut changer presque du jour au lendemain et peut être difficile pour les personnes et l'infrastructure technologique. Par conséquent, la plupart des startups d'IA sont natives du cloud par défaut pour aider à pivoter vers un nouveau matériel lorsque les choses commencent à évoluer dans une direction différente.

Problèmes de rétrocompatibilité

Les frameworks d'IA tels que TensorFlow et PyTorch sont continuellement mis à jour et améliorés, mais un certain nombre de ces itérations de framework n'ont pas été rétrocompatibles avec les versions précédentes. Cela exerce une pression importante sur les organisations pour qu'elles se tiennent à jour avec le dernier cadre, ou elles risquent des problèmes de fonctionnalité ou même des temps d'arrêt. Bien que les utilisateurs s'attendent souvent à ce que les startups aient des problèmes de démarrage, de grandes quantités de temps d'arrêt peuvent considérablement éroder la confiance.

Avec ces problèmes à l'esprit, comment les startups d'IA existantes et prospères ont-elles surmonté leurs défis ?

Qui copilote les copilotes ? Pourquoi l'IA a besoin d'un support cloud

L'IA en pratique : OVHcloud renforce l'essentiel de Customs Bridge

Customs Bridge est une startup « deep tech » qui utilise des algorithmes d'intelligence artificielle pour créer un moteur de classification automatique des produits, destiné aux importateurs européens. La mission de l'entreprise est de créer le moteur de classification de produits le plus fiable possible pour attribuer le bon code douanier à un produit dont la description n'est pas totalement formalisée.

Cependant, Customs Bridge a dû faire face à des défis importants dans la formation de ses modèles d'IA. Ils avaient une infrastructure sur site limitée, des exigences de traitement de données à grande échelle et le besoin de cadres d'IA à la pointe de la technologie. Leur infrastructure existante n'était pas suffisante pour former et déployer efficacement leurs modèles d'IA, et ils ont rencontré des difficultés pour accéder et traiter de grands volumes de données nécessaires pour former leurs modèles.

Pour surmonter ces défis, Customs Bridge s'est tourné vers Les solutions IA & Machine Learning d'OVHcloud. L'équipe a implémenté la solution de formation de modèles d'OVHcloud, AI Training, et a utilisé des instances OVHcloud pour déployer des modèles en production et prendre en charge le pipeline d'alimentation des données. Cela a permis à Customs Bridge de traiter de grandes quantités de données, d'améliorer ses modèles d'IA et d'améliorer sa productivité et son efficacité globales.

Customs Bridge a pu tirer parti des ressources d'OVHcloud pour l'amélioration des données et la formation avancée des modèles d'IA. Ils se sont appuyés sur environ 2.5 To de données pour former leurs premiers modèles de Transformers, et la formation de Transformers sur 250,000 30 lignes n'a pris qu'environ 100 minutes de temps de calcul, grâce aux GPU NVIDIA VXNUMX fournis par OVHcloud. C'était à la fois rapide et peu coûteux, et cela a permis à Customs Bridge de faire évoluer ses volumes de données sans limiter son infrastructure. L'approche basée sur le cloud a donné à l'entreprise une grande liberté d'expérimentation jusqu'à ce qu'elle trouve le volume nécessaire pour atteindre la précision souhaitée.

En plus d'une flexibilité et d'une évolutivité améliorées pour la formation au modèle d'IA, Customs Bridge a également bénéficié d'une allocation de ressources rentable et efficace, d'une mise en œuvre et d'un déploiement simplifiés des cadres d'IA, et de la capacité à permettre l'innovation et l'expérimentation pour des résultats optimaux. En s'appuyant sur les solutions d'IA et de Machine Learning d'OVHcloud, Customs Bridge a pu relever ses défis et construire un moteur de classification de produits innovant et efficace.

Élever la technologie profonde avec des services cloud spécialisés

L'une des premières étapes pour une startup d'IA en pleine croissance est de comprendre son écosystème - et pas seulement en termes de compréhension de la concurrence. Il existe de nombreuses organisations qui proposent des incubateurs, des accélérateurs et des programmes de soutien qui peuvent soit aider directement avec le mentorat et l'assistance à la gestion, soit, dans le cas de l'exemple ci-dessus, un soutien à l'infrastructure technologique.

Les services cloud offrent une allocation des ressources et une gestion des coûts flexibles, permettant aux entreprises de haute technologie de modifier leurs ressources lorsque les besoins changent. Cette adaptabilité garantit que les entreprises ne paient que pour les ressources dont elles ont besoin, ce qui leur permet d'allouer leurs ressources plus efficacement et de fonctionner sur une base d'opex plutôt que de capex.

Les solutions de stockage extensibles sont également une partie importante du modèle de services cloud. Grâce à ces solutions, les entreprises de technologie profonde peuvent traiter et stocker de grandes quantités de données, ce qui leur permet de former leurs modèles d'IA. Ces solutions sont conçues pour évoluer facilement, garantissant que les entreprises d'IA peuvent augmenter leurs volumes de données sans aucune interruption de service, contrairement au stockage physique, où l'installation et la gestion de nouveaux disques peuvent causer un certain nombre de maux de tête.

Faire avancer l'industrie

Les entreprises d'IA de haute technologie rencontrent bon nombre des mêmes problèmes que les startups d'autres secteurs, mais aussi des défis uniques. Les vastes ensembles de données nécessaires pour former des modèles d'IA, par exemple, s'accompagnent d'un besoin correspondant de capacités de calcul et de stockage à haute puissance, qui sont souvent hors de portée des jeunes organisations fonctionnant avec un financement de démarrage.

C'est pourquoi de nombreuses entreprises d'IA sont natives du cloud par défaut. Le cloud permet aux organisations comme celles-ci d'évoluer plus facilement sans payer d'avance pour l'infrastructure, sans parler de bénéficier de solutions gérées qui éliminent le besoin de gestion quotidienne des fondateurs et de leurs équipes. Cependant, les startups doivent faire attention lors de la mise en place de leur contrat de services cloud et veiller à éviter à la fois la spirale et les coûts cachés ; la mauvaise configuration ou le mauvais fournisseur - une surcharge pour les coûts d'entrée / de sortie, par exemple - peut entraîner une charge technologique. Mais avec le bon partenaire, la bonne solution et une véritable approche collaborative, les startups peuvent oublier les détails administratifs et se concentrer plutôt sur leur mission principale : créer un nouveau monde d'IA.



Horodatage:

Plus de Dataconomie