Explorando los riesgos y las alternativas de ChatGPT: Allanando el camino hacia una IA confiable

Estás preparando un batido para que lo disfruten tus amigos. Ya mezclada con una variedad de frutas y yogur, tu amigo Ruchir llega con una manzana madura y te la da para completar tu refrescante obra maestra. Ahora que está completo, casi todavía puedes oler el toque de manzana mientras se sirve la bebida. Antes de su primer sorbo, Ruchir dice: "Cambié de opinión, necesito irme y me gustaría recuperar mi manzana". Usted responde: "Ah, discúlpeme, pero eso simplemente no es posible". Volveremos a esta historia en un minuto y explicaremos cómo se relaciona con ChatGPT y una IA confiable.

como el mundo de inteligencia artificial (IA) evoluciona, nuevas herramientas como OpenAI's ChatGPT ha llamado la atención por sus capacidades conversacionales. Sin embargo, también entiendo la importancia de evaluar los riesgos inherentes antes de embarcarnos en su adopción directa dentro de nuestras organizaciones. En esta discusión, exploro los riesgos y desafíos asociados con ChatGPT en un contexto empresarial, lo que requiere un enfoque cuidadoso para su implementación. Además, enfatizaré la importancia de adoptar IBM watsonx para asegurar IA confiable soluciones. Y ante la duda, te recomiendo utilizar el mismo sentido común que siempre has utilizado a la hora de emplear nuevos servicios de Internet.

Evolución de las herramientas de IA

ChatGPT aprovecha el inmenso poder de GPT-3 y GPT-4, perteneciente a un Nueva clase de modelos de lenguaje grandes “gigantescos” y muy populares utilizados en diversas aplicaciones de IA. Con ChatGPT, los usuarios pueden hacer preguntas, generar texto, redactar correos electrónicos, discutir código en diferentes lenguajes de programación, traducir lenguaje natural a código y más. Se destaca como un chatbot conversacional de alta calidad que tiene como objetivo brindar respuestas coherentes y conscientes del contexto.

ChatGPT es una excelente herramienta para explorar la escritura creativa, generar ideas e interactuar con la IA. Es de uso gratuito para todos, con una versión más avanzada disponible para Chat GPT Plus suscriptores. La capacidad del chatbot para recordar conversaciones anteriores aumenta su experiencia interactiva y atractiva.  

Si bien ChatGPT ha ganado mucha atención y popularidad, enfrenta la competencia de otros chatbots impulsados ​​por IA y procesamiento natural del lenguaje (PNL) sistemas. Google, por ejemplo, ha desarrollado Bardo, su chatbot de IA, que funciona con su propio motor de lenguaje llamado PALMA 2. De manera similar, Meta lanzó recientemente su impresionante Modelo LLaMA2. A medida que el campo de los chatbots de IA siga evolucionando, sin duda habrá una mayor competencia y la aparición de nuevos jugadores. Es esencial mantenerse actualizado sobre los avances en este espacio para explorar las mejores soluciones para las necesidades empresariales.

¿Por qué no utilizar ChatGPT directamente en la empresa?

uso directo de ChatGPT en una empresa presenta riesgos y desafíos. Estos incluyen seguridad y fuga de datos, preocupaciones sobre confidencialidad y responsabilidad, complejidades de propiedad intelectual, cumplimiento de licencias de código abierto, limitaciones al desarrollo de IA y privacidad incierta y cumplimiento de leyes internacionales. Aquí, exploro estos riesgos y comparto ejemplos que ilustran cómo estos riesgos podrían manifestarse en sus actividades empresariales cotidianas.

Comenzaré examinando soluciones alternativas que apuntan a mitigar los riesgos relacionados con el uso directo de ChatGPT, incluyendo IBM watsonx, que recomiendo para uso empresarial, porque aborda la propiedad de los datos y las preocupaciones de privacidad a través de una gestión y una gestión rigurosas. Concluiré esta conversación llevándote de nuevo a la historia de los batidos, lo prometo, pero cuando mencione "tus datos" a continuación, siéntete libre de sustituir la frase por "tu manzana".

Antes de explorar soluciones alternativas, es fundamental que las empresas sean conscientes de los riesgos y desafíos potenciales que conlleva el uso directo de ChatGPT. Como recordatorio de sentido común, la historia de Internet ha mostrado el surgimiento y evolución de nuevos servicios (por ejemplo, búsqueda de Google, plataformas de redes sociales, etc.), lo que subraya la importancia de la privacidad y la propiedad de los datos en la empresa. Teniendo esto en cuenta, aquí hay factores clave que se deben tener en cuenta:

Seguridad y fuga de datos

Si se ingresa información confidencial de terceros o interna de la empresa en ChatGPT, se convierte en parte del modelo de datos del chatbot y puede compartirse con otras personas que hagan preguntas relevantes. Esto podría provocar una fuga de datos y violar las políticas de seguridad de una organización.

Ejemplo: los planes para un nuevo producto en el que su equipo está ayudando a lanzar un cliente, incluidas las especificaciones confidenciales y las estrategias de marketing, no deben compartirse con ChatGPT para evitar el riesgo de fuga de datos y posibles violaciones de seguridad.

Confidencialidad y privacidad

De manera similar al punto anterior, compartir información confidencial de clientes o socios puede violar acuerdos contractuales y requisitos legales para proteger dicha información. Si la seguridad de ChatGPT se ve comprometida, se puede filtrar contenido confidencial, lo que podría afectar la reputación de la organización y exponerla a responsabilidades.

Ejemplo: supongamos que una organización de atención médica utiliza ChatGPT para ayudar a responder las consultas de los pacientes. Si se comparte información confidencial del paciente, como registros médicos o detalles personales de salud, con ChatGPT, podría violar obligaciones legales y derechos de privacidad del paciente protegidos por leyes como la Ley de Responsabilidad y Transferibilidad de Seguros Médicos (HIPAA, por sus siglas en inglés) (Ley de Responsabilidad y Portabilidad del Seguro Médico) en los Estados Unidos.

Preocupaciones de propiedad intelectual

La propiedad del código o texto generado por ChatGPT puede ser compleja. Los términos de servicio establecen que el resultado pertenece al proveedor del insumo, pero pueden surgir problemas cuando el resultado incluye datos legalmente protegidos provenientes de otros insumos. Preocupaciones de derechos de autor También puede surgir si ChatGPT se utiliza para generar material escrito basado en propiedad protegida por derechos de autor.

Ejemplo: generar material escrito con fines de marketing y el resultado incluye contenido protegido por derechos de autor de fuentes externas sin la debida atribución o permiso, podría potencialmente infringir los derechos de propiedad intelectual de los creadores del contenido original. Esto puede tener consecuencias legales y daños a la reputación de la empresa.

Cumplimiento de licencias de código abierto

Si ChatGPT utiliza bibliotecas de código abierto e incorpora ese código en productos, podría potencialmente violar las licencias de software de código abierto (OSS) (por ejemplo, LPG), generando complicaciones legales para la organización.

Ejemplo: si una empresa utiliza ChatGPT para generar código para un producto de software y el origen de los datos de capacitación utilizados para entrenar GPT no está claro, existe el riesgo de violar potencialmente los términos de las licencias de código abierto asociadas con ese código. Esto puede generar complicaciones legales, incluidas reclamaciones por infracción de licencia y posibles acciones legales por parte de la comunidad de código abierto.

Limitaciones al desarrollo de la IA

Los términos de servicio de ChatGPT especifican que no se puede utilizar en el desarrollo de otros sistemas de inteligencia artificial. El uso de ChatGPT de esta manera puede obstaculizar futuros planes de desarrollo de IA si la empresa opera en ese espacio.

Ejemplo: una empresa especializada en tecnología de reconocimiento de voz planea mejorar su sistema existente integrando las capacidades de procesamiento del lenguaje natural de ChatGPT. Sin embargo, los términos de servicio de ChatGPT establecen explícitamente que no se puede utilizar en el desarrollo de otros sistemas de inteligencia artificial.

Confiabilidad mejorada con IBM watsonx

Volviendo a nuestra historia del batido, el ChatGPT público utiliza sus datos de aviso para mejorar su red neuronal, como por ejemplo, cómo la manzana agrega sabor al batido. Una vez que sus datos ingresan a ChatGPT, como la manzana licuada, no tiene control ni conocimiento de cómo se utilizan. Por lo tanto, uno debe estar seguro de que tiene todos los derechos para incluir su manzana y que no contiene datos confidenciales, por así decirlo.

Para abordar estas inquietudes, IBM Watsonx ofrece datos y modelos seleccionados y transparentes, lo que brinda mayor control y confianza en la creación y el uso de su batido. En pocas palabras, si Ruchir pidiera que le devolvieran su manzana, Watsonx podría cumplir con su pedido. Ahí tienes…. analogía e historia completa.

IBM watsonx presenta tres características clave: watsonx.datos, watsonx.aiy watsonx.gobernanza — que colaboran para establecer una IA confiable de una manera que aún no está presente en los modelos OpenAI. Estas funciones seleccionan y etiquetan datos y modelos de IA, garantizando la transparencia en los detalles de origen y propiedad. También gobiernan los modelos y los datos, abordando las preocupaciones actuales de deriva y sesgo. Este enfoque riguroso mitiga eficazmente los problemas de privacidad y propiedad de los datos que se analizan en este artículo.

IBM se ha asociado con Abrazando la cara, una empresa de código abierto, para crear un ecosistema de modelos. Ambas empresas están aprovechando las funciones de Watsonx para seleccionar y respaldar modelos en función de su funcionalidad y confiabilidad.

Avanzando con la IA

El uso directo de chatbots de IA como ChatGPT dentro de una empresa presenta riesgos relacionados con la seguridad, la fuga de datos, la confidencialidad, la responsabilidad, la propiedad intelectual, el cumplimiento, las limitaciones en el desarrollo de la IA y la privacidad. Estos riesgos pueden tener consecuencias perjudiciales para las organizaciones, incluidos daños a la reputación y costosas complicaciones legales.

Para mitigar estos riesgos y establecer una IA confiable, IBM watsonx surge como una solución recomendada. Ofrece datos seleccionados y etiquetados y modelos de inteligencia artificial, lo que garantiza la transparencia en la propiedad y el origen. Aborda preocupaciones relacionadas con el sesgo y la deriva, proporcionando una capa adicional de confianza. IBM Watsonx logra un equilibrio entre la innovación y el uso responsable de la IA. Además, la colaboración entre IBM y Hugging Face fortalece el ecosistema de modelos.

Si bien watsonx ofrece mayor confianza y rigor, actualmente pocos modelos pueden igualar la amplia gama de usos generales que se observan con ChatGPT y la familia de modelos GPT. El campo de los modelos de IA continúa evolucionando y se pueden esperar mejoras continuas. Para garantizar resultados óptimos, es fundamental comprender cómo se califican y entrenan los modelos. Este conocimiento permite tomar decisiones informadas y permite a las organizaciones seleccionar los modelos que mejor se alinean con sus necesidades y estándares de calidad.

Al adoptar watsonx, las organizaciones pueden aprovechar el poder de la IA mientras mantienen el control sobre sus datos y garantizan el cumplimiento de los estándares éticos y legales. Pueden salvaguardar sus datos, proteger su propiedad intelectual y fomentar la confianza con las partes interesadas, al mismo tiempo que se benefician de modelos seleccionados y una mayor transparencia. A medida que las empresas navegan por el ámbito de la IA, es fundamental proceder con cautela, explorar soluciones y priorizar una IA confiable.

Sigue el arte de la IA. podcast para empresas

^{De vez en cuando, IBM invita a líderes de opinión de la industria a compartir sus opiniones y conocimientos sobre las tendencias tecnológicas actuales. Las opiniones contenidas en esta publicación de blog son propias y no reflejan necesariamente los puntos de vista o estrategias de IBM.}