Cómo las empresas empresariales de SaaS están comprando IA (o no)

Cómo las empresas empresariales de SaaS están comprando IA (o no)

Marca de tiempo: 17 de enero de 2024 9:02 a. M.
Nodo de origen: 3067314

En Saastr Annual, organizamos un panel empresarial de líderes de IA para compartir su experiencia y conocimientos para ayudar a otros a comprender cómo las grandes empresas piensan y aprovechan la IA. Claro, el auge de ChatGPT se ha generalizado entre los consumidores y las empresas más pequeñas, pero ¿qué pasa con los grandes? Si bien la primera generación de IA generativa es excelente, aún no está lista para resolver los problemas empresariales. Entonces, ¿dónde nos encontramos ahora en el ciclo de adopción para el mundo empresarial? 

En esta sesión reunimos:

  • Douwe Kiela, director ejecutivo de ContextualAI
  • Benjamin Mann, cofundador de Anthropic
  • Arvind Jain, director ejecutivo de Glean
  • y Sandhya Hedge, socia general de Unusual VC, 

Para ayudarnos a descubrir cómo vender software GenAI a algunas de las organizaciones más grandes del mundo. 

[Contenido incrustado]

¿Para qué están más entusiasmadas las empresas con el uso de la IA? 

Como todos nuestros panelistas han trabajado con empresas empresariales (es decir, Amazon, Google, Salesforce, etc.), todos han visto un nivel de entusiasmo que nunca antes habían presenciado cuando se trata de IA. Las empresas buscan dos grandes temas. 

  1. Quieren utilizar la IA para mejorar los productos que venden a sus clientes. 
  2. Quieren utilizar la IA para transformar su negocio y la forma en que ellos y sus empleados trabajan. 

Algunos de los casos de uso más importantes de la IA en la empresa se encuentran en la atención al cliente, las ventas y el marketing y la ingeniería, es decir, ayudar a los desarrolladores a probar el código y solucionar problemas. Además de eso, estos expertos en IA quedaron impresionados con cómo las empresas más grandes del mundo, no solo empresas de software, sino incluso empresas de tamaño empresarial orientadas al consumidor, como bancos y minoristas, están avanzando con la IA.

Benjamin Mann, cofundador de Anthropic añadió: “Por ejemplo, un banco grande con el que estábamos hablando se acercó a nosotros y nos dijo: "Hemos hablado con todos en nuestra empresa y tenemos 500 casos de uso diferentes a los que queremos aplicar grandes modelos de lenguaje". Eso es realmente increíble. Y ni siquiera saben por dónde empezar. Entonces, ¿trabajar con nosotros para decir qué pueden hacer hoy? Y luego, más allá de eso, ¿cómo pueden hacer que la IA sea experta en cuál es su producto para que sus clientes no tengan que leer toda su documentación, sino simplemente hablar con una IA como si fuera un arquitecto de soluciones o una implementación avanzada? ingeniero y poder utilizar el producto inmediatamente”.

Todo el mundo sabe que la IA ya ha cambiado la forma en que trabajamos. Al mismo tiempo, se puede ver en muchas empresas que muchas personas están entusiasmadas con ese cambio, pero aún no están seguras de cómo será exactamente.  Y eso es lo que todo el mundo está tratando de descubrir: dónde será más importante la tecnología, dónde está lista y dónde estará lista pronto. 

Grupos de casos de uso empresarial para IA

Si observa el panorama de casos de uso en este momento, Douwe Kiela, director ejecutivo de ContextualAI, explicó que hay Son esencialmente tres grandes grupos: 

  1. Descubrimiento y síntesis de información: ¿cómo puedo obtener conocimientos más profundos y no solo datos? 
  2. Resumen jerárquico: ¿cómo lo convierto en algo sobre lo que pueda actuar?
  3. Chatbots de soporte 

El 95% de todos los casos de uso suelen caer en uno de estos grupos, y dentro de esos grupos, las empresas están tratando de descubrir qué quieren hacer. 

Douwe añadió: “Para nosotros, el mejor caso de uso es aquel en el que se puede definir cómo se ve el éxito. Y en realidad vemos sorprendentemente pocos de ese tipo de casos de uso. Es más bien 'Oh, esta tecnología es genial'. Quiero probarlo en mi chatbot.' Cuando preguntamos a la gente, ¿cómo define el éxito? ¿Cómo se va a medir si esto es realmente lo suficientemente bueno para una implementación de producción? Muchas veces no tienen una buena respuesta. Esa es realmente una de las cosas que estamos buscando primero. ¿Entiendes realmente lo que quieres?

¿Cuáles son las mayores barreras para la adopción en las empresas? 

Específicamente en el ámbito empresarial, ¿qué han visto nuestros panelistas que realmente retrasa o hace perder acuerdos en lo que respecta a la IA?

  1. Seguridad: hacer que sus datos propietarios abandonen el modelo y salgan a los mercados abiertos.
  2. Seguridad: mantener o tener que establecer un seguimiento constante de los datos.
  3. Gobernanza interna de datos: perderlos a medida que se consolidan en una única herramienta o modelo de IA
  4. Alucinaciones: modelos que inventan cosas
  5. Problemas de atribución: poder rastrearlos hasta los datos de entrenamiento
  6. Problemas de cumplimiento: olvida cosas o no puede actualizarlas fácilmente
  7. FOMO – ¿Qué pasa si este modelo no es tan bueno como el de otra persona en 2 semanas?

"Los clientes más sensibles quieren cosas como la certificación FedRAMP y cosas que requieren varios años y mucho esfuerzo para implementarse", añadió Benjamin Mann, cofundador de Anthropic. Si bien han podido solucionar este problema asociándose con el programa Bedrock de Amazon, esto no funcionará para todos. 

Y, por último, otra barrera para la adopción empresarial es el ancho de banda adicional necesario para implementarla con éxito. 

Benjamin agregó: “Creo que mucha gente piensa que esta nueva tecnología de inteligencia artificial es algo que simplemente llegará y le gustará funcionar desde el primer día. Pero en realidad, resulta que todavía es software. Y con el software, usted necesita hacer el trabajo de investigar a los usuarios e iterar con todos sus diferentes equipos. En nuestro caso, Notion es un gran ejemplo en el que trabajamos muy de cerca con su CTO y todos, hasta sus ingenieros en primera línea, para integrar profundamente Anthropics AI en la experiencia del producto Notion, y creemos que es extremadamente bueno. Pero así fue, se necesitó mucha dedicación para que eso sucediera”.

¿Quiénes son los primeros en adoptar la IA en las empresas?

Los primeros usuarios hasta ahora en el sector empresarial, tal vez no sea una sorpresa, suelen ser empresas muy avanzadas en tecnología, pero también grandes bancos y minoristas. Otros de los primeros usuarios podrían ser empresas de software que ahora son grandes y se enfrentan a las barreras enumeradas anteriormente. Los CIO a menudo lideran la carga porque representan las demandas de toda la empresa.  Los vendedores, marketing, recursos humanos e ingeniería quieren la tecnología, por lo que el CIO se ha convertido en el punto focal para incorporar un producto. 

Douwe Kiela, director ejecutivo de ContextualAI Lo resumió mejor diciendo; “Creo que suele haber empresas muy avanzadas en tecnología que básicamente están listas para funcionar, pero muy a menudo piensan que pueden hacerlo internamente. Por eso creo que esa creencia probablemente desaparecerá en los próximos años cuando la gente se dé cuenta de que esto es un poco más difícil de lo que pensaban inicialmente. Pero aparte de eso, creo que una de las cosas interesantes que estamos viendo es que realmente existe un mandato del CEO hacia abajo. Tenemos que hacer algo y, para mí, eso es emocionante porque es una oportunidad de negocio”.

¿Cuáles son las inversiones más importantes que garantizan que una empresa del futuro 50 pueda adoptar? 

 El cumplimiento importa. La seguridad importa. Y al principio, dado que la IA maneja tantos datos, la confianza es fundamental. 

Arvind Jain, director ejecutivo de Glean, explicó: “Lo primero es trabajar en todos los aspectos de seguridad y cumplimiento. Entonces obtenga su certificación SOC-2, cumplimiento de HIPAA, GDPR y FedRAMP. Esa es una corriente de requisitos empresariales, que es simplemente necesitar todos estos asuntos de cumplimiento. Además de eso, en términos de producto, dependiendo de cuál sea su producto, las empresas le impondrán muchas exigencias”.

Las empresas no van a compartir todos sus datos el día uno, por lo que poder incorporar la IA en su entorno de datos existente o utilizar marcos en Amazon y Google pueden ayudar a eliminar la necesidad de realizar adquisiciones exhaustivas y auditorías de seguridad adicionales. El futuro de estos grandes modelos lingüísticos será resolver las barreras de la alucinación lingüística y la atribución de datos, ser confiable y comprender la voz de su marca y de qué se trata su empresa. 

¿El ajuste fino ofrece una ventaja competitiva? 

Dado que la cobertura mediática de la IA es tan intensa en estos días, muchas personas acuden a ContextualAI, Anthropic y Glean con muchas expectativas desde el principio.

Muchos no entienden lo que quieren obtener del ajuste. Simplemente se enteran y piensan que es una forma de obtener una ventaja competitiva. Sin embargo, están surgiendo mejores formas de tecnología y Douwe Kiela, director ejecutivo de ContextualAI, lo expresó mejor: “En realidad, vemos esto mucho cuando los clientes simplemente van, queremos ajustar nuestro modelo. ¿Pueden ayudarnos con esto? Y entonces lo que les decimos es Probablemente te hayan mentido. No es necesario que afines tu modelo”.

Douwe agregó: “Realmente no deberías necesitarlo. Probablemente pueda resolver ese problema mediante la recuperación de generación aumentada o teniendo una ventana de contexto muy larga. El único caso en el que puede necesitarlo es si desea que admita un caso de uso en el que tiene una gran cantidad de datos que nadie más tiene y es realmente específico para ese caso de uso”.

Una ronda de predicciones sobre la IA para 2023

Sandhya cerró la sesión preguntando: “¿Qué es algo salvaje y realista que esperas que sea cierto en 2030?” 

Arvind, de Glean, tenía la esperanza práctica de que todos tuviéramos un asistente personal verdaderamente inteligente y con conocimientos que hiciera la mayor parte de nuestro trabajo para 2030. Hoy en día, ese lujo se limita a los ejecutivos de las empresas. En el futuro, será para todos nosotros. 

Para Ben de Anthropic, el futuro brillante pasa por que los modelos lingüísticos nos comprendan mejor que nosotros mismos. Cuando le pedimos que haga cosas por nosotros, hará lo que queremos decir y no lo que decimos. Idealmente, la IA nos hará a todos mejores personas, mejorará nuestras relaciones y nos ayudará a ser la mejor versión de nosotros mismos. ¿Qué será realmente? Quizás el 60% de eso, lo que aún así sería genial. 

Para Douwe, de ContextualAI, cree que la tecnología tiene un gran potencial para hacer el bien. 2030 será un lugar diferente, por lo que espera que para entonces la IA haga todas las “cosas aburridas y mundanas” para que podamos ser más creativos y hacer las cosas que disfrutamos. 

[Contenido incrustado]

Artículos Relacionados

Sello de tiempo:

Mas de Saastr