¿Quién copilota a los copilotos? Por qué la IA necesita soporte en la nube

¿Quién copilota a los copilotos? Por qué la IA necesita soporte en la nube

Marca de tiempo: 24 de mayo de 2023 10:11 a.m.
Nodo de origen: 2675068

¿Quién copilota a los copilotos? Por qué la IA necesita soporte en la nube
En los últimos doce meses, hemos visto desarrollarse una gran cantidad de nuevas organizaciones de IA, aprovechando los últimos avances en modelos fundamentales, tecnología y demanda. Aunque a menudo se considera que la IA actúa como un "copiloto" en lugar de un "piloto automático", todavía hay muchas hazañas notables que puede lograr, en comparación con la computación clásica. Recientemente hemos visto nuevas empresas que pueden ofrecer texto preciso a lenguaje de señas, transcripción en varios idiomas y generación automática de videos de voz con avatares realistas, por nombrar solo algunos.

Sin embargo, como todas las nuevas empresas y ampliaciones, estas nuevas organizaciones enfrentan muchos desafíos; algunos son específicos de la industria de la IA y otros son comunes a todas las marcas en crecimiento. Pero con el nivel adecuado de apoyo, los fundadores pueden prosperar, ayudando a impulsar la industria, y la humanidad, hacia adelante.

¿Quién copilota a los copilotos? Por qué la IA necesita soporte en la nube

Alta potencia computacional para entrenar modelos de IA

Uno de los principales retos a los que se enfrentan las organizaciones de IA es el de la formación. El entrenamiento de modelos de IA requiere una cantidad significativa de poder computacional, lo que puede ser un desafío para las empresas de tecnología profunda que tienden a operar sobre una base de opex, en lugar de capex. Los algoritmos de aprendizaje profundo, como las redes neuronales, requieren una gran cantidad de iteraciones y ajustes para lograr resultados óptimos. Esto puede llevar mucho tiempo y ser costoso sin acceso a recursos informáticos de alto rendimiento. Además, estos datos deben almacenarse en algún lugar, y esto puede tener un costo prohibitivo para comprar directamente y costoso de mantener.

Flexibilidad en la asignación de recursos y la gestión de costes

Los requisitos de recursos para entrenar e implementar modelos de IA pueden variar mucho según la complejidad del modelo y el tamaño del conjunto de datos. Como la mayoría de las nuevas empresas, la dirección de la empresa puede cambiar casi de la noche a la mañana y puede ser un desafío tanto para las personas como para la infraestructura tecnológica. En consecuencia, la mayoría de las empresas emergentes de IA son nativas de la nube de forma predeterminada para ayudar a pasar a un nuevo hardware cuando las cosas comienzan a moverse en una dirección diferente.

Problemas de compatibilidad con versiones anteriores

Los marcos de trabajo de IA, como TensorFlow y PyTorch, se actualizan y mejoran continuamente, pero varias de estas iteraciones del marco no han sido compatibles con versiones anteriores. Esto ejerce una presión significativa sobre las organizaciones para mantenerse al día con el marco más reciente, o corren el riesgo de tener problemas de funcionalidad o incluso tiempo de inactividad. Aunque los usuarios a menudo esperan que las nuevas empresas tengan problemas iniciales, una gran cantidad de tiempo de inactividad puede erosionar drásticamente la confianza.

Con estos problemas en mente, ¿cómo han superado sus desafíos las nuevas empresas exitosas de IA existentes?

¿Quién copilota a los copilotos? Por qué la IA necesita soporte en la nube

IA en la práctica: OVHcloud potencia los elementos esenciales de Customs Bridge

Customs Bridge es una startup de “tecnología profunda” que utiliza algoritmos de inteligencia artificial para crear un motor de clasificación automática de productos, dirigido a importadores europeos. La misión de la empresa es crear el motor de clasificación de productos más confiable posible para asignar el código aduanero correcto a un producto cuya descripción no está completamente formalizada.

Sin embargo, Customs Bridge enfrentó desafíos significativos en el entrenamiento de sus modelos de IA. Tenían una infraestructura local limitada, requisitos de procesamiento de datos a gran escala y la necesidad de marcos de IA de última generación. Su infraestructura existente no era suficiente para entrenar e implementar sus modelos de IA de manera efectiva, y enfrentaron dificultades para acceder y procesar grandes volúmenes de datos necesarios para entrenar sus modelos.

Para superar estos desafíos, Customs Bridge recurrió a Soluciones de IA y Machine Learning de OVHcloud. El equipo implementó la solución de entrenamiento de modelos de OVHcloud, AI Training, y utilizó instancias de OVHcloud para implementar modelos en producción y respaldar la canalización de potencia de datos. Esto permitió que Customs Bridge procesara grandes cantidades de datos, mejorara sus modelos de IA y mejorara su productividad y eficiencia generales.

Customs Bridge pudo aprovechar los recursos de OVHcloud para la mejora de datos y la formación avanzada en modelos de IA. Se basaron en alrededor de 2.5 TB de datos para entrenar sus primeros modelos de Transformers, y entrenar a los Transformers en 250,000 30 líneas solo tomó alrededor de 100 minutos de tiempo de computación, gracias a las GPU NVIDIA VXNUMX proporcionadas por OVHcloud. Esto fue rápido y de bajo costo, y permitió que Customs Bridge escalara sus volúmenes de datos sin limitar su infraestructura. El enfoque basado en la nube le dio a la empresa mucha libertad para experimentar hasta que encontraron el volumen necesario para lograr la precisión que querían.

Además de la flexibilidad y escalabilidad mejoradas para la capacitación del modelo de IA, Customs Bridge también se benefició de la asignación de recursos rentable y eficiente, la implementación y el despliegue simplificados de marcos de IA y la capacidad de permitir la innovación y la experimentación para obtener resultados óptimos. Al aprovechar las soluciones de inteligencia artificial y aprendizaje automático de OVHcloud, Customs Bridge pudo superar sus desafíos y crear un motor de clasificación de productos innovador y eficaz.

Elevando la tecnología profunda con servicios de nube especializados

Uno de los primeros pasos para una startup de IA en crecimiento es comprender su ecosistema, y ​​no solo en términos de comprensión de la competencia. Hay muchas organizaciones que ofrecen incubadoras, aceleradores y esquemas de apoyo que pueden ayudar directamente con tutoría y asistencia de gestión o, en el caso del ejemplo anterior, apoyo de infraestructura tecnológica.

Los servicios en la nube ofrecen asignación flexible de recursos y administración de costos, lo que permite a las empresas de tecnología profunda modificar sus recursos cuando cambian las necesidades. Esta adaptabilidad garantiza que las empresas paguen solo por los recursos que necesitan, lo que les permite asignar sus recursos de manera más eficiente y operar sobre una base de opex, en lugar de capex.

Las soluciones de almacenamiento expandible también son una parte importante del modelo de servicios en la nube. Con estas soluciones, las empresas de tecnología profunda pueden procesar y almacenar grandes cantidades de datos, lo que les permite entrenar sus modelos de IA. Estas soluciones se crean para escalar fácilmente, lo que garantiza que las empresas de IA puedan aumentar sus volúmenes de datos sin ninguna interrupción del servicio, a diferencia del almacenamiento físico, donde la instalación y administración de nuevas unidades puede causar una serie de dolores de cabeza.

Impulsando la industria hacia adelante

Las empresas de IA de tecnología profunda experimentan muchos de los mismos problemas que las nuevas empresas en otras industrias, pero también algunos desafíos únicos. Los vastos conjuntos de datos necesarios para entrenar modelos de IA, por ejemplo, vienen con la correspondiente necesidad de capacidades de computación y almacenamiento de alta potencia, que a menudo están fuera del alcance de las organizaciones jóvenes que funcionan con fondos iniciales.

Esta es la razón por la que muchas empresas de IA son nativas de la nube de forma predeterminada. La nube permite que organizaciones como estas escalen más fácilmente sin pagar por adelantado la infraestructura, sin mencionar que se benefician de las soluciones administradas que eliminan la necesidad de la administración diaria de los fundadores y sus equipos. Sin embargo, las nuevas empresas deben prestar atención al establecer su acuerdo de servicios en la nube y tener cuidado de evitar costos ocultos y en espiral; la configuración incorrecta o el proveedor incorrecto, por ejemplo, cobrar de más por los costos de entrada/salida, puede resultar en una carga tecnológica. Pero con el socio adecuado, la solución adecuada y un enfoque verdaderamente colaborativo, las nuevas empresas pueden olvidarse de los detalles administrativos y, en cambio, centrarse en su misión principal: crear un nuevo mundo de IA.



Sello de tiempo:

Mas de Dataconomía