Cinco áreas clave para que los gobiernos implementen responsablemente la IA generativa – Blog de IBM

En 2024, el proceso de digitalización en curso mejorará aún más la eficiencia de los programas gubernamentales y la eficacia de las políticas, como se detalla en un artículo anterior. detalles de la moneda. Dos elementos críticos que impulsan esta transformación digital son los datos y la inteligencia artificial (IA). La IA desempeña un papel fundamental a la hora de desbloquear el valor de los datos y obtener conocimientos más profundos sobre la amplia información que los gobiernos recopilan para servir a sus ciudadanos.  

Dado que se espera que la demanda de IA generativa crezca este año, se vuelve imperativo que el sector público adopte el uso responsable de esta tecnología. Sólo así podrán los gobiernos establecerse como administradores confiables. 

Las diferencias entre la IA generativa y la IA tradicional 

Para comprender los desafíos únicos que plantea la IA generativa en comparación con la IA tradicional, es útil comprender sus diferencias fundamentales. La IA tradicional se basa principalmente en algoritmos y extensos conjuntos de datos etiquetados para entrenar modelos mediante el aprendizaje automático. Estos modelos pueden proporcionar recomendaciones o identificar ciertos comportamientos reconociendo patrones y adhiriéndose a reglas predefinidas. Por ejemplo, la IA tradicional se utiliza para mejorar la eficacia del filtrado de correo electrónico no deseado, mejorar las recomendaciones de películas o productos para los consumidores y permitir que los asistentes virtuales ayuden a las personas a buscar información. 

La IA generativa está surgiendo como una solución valiosa para automatizar y mejorar las tareas administrativas y repetitivas de rutina. Esta tecnología se destaca en la aplicación de modelos básicos, que son grandes redes neuronales entrenadas con una gran cantidad de datos sin etiquetar y ajustadas para diversas tareas. Puede identificar, resumir, convertir, predecir y generar contenido de forma eficaz a partir de grandes conjuntos de datos. La implementación de esta tecnología en el sector público puede mejorar significativamente la eficiencia, permitiendo a las organizaciones completar sus tareas diarias con una fracción de los recursos. 

La IA generativa presenta una oportunidad sin precedentes para mejorar diversos aspectos de las operaciones gubernamentales y mejorar los servicios para los ciudadanos. Puede dotar a los trabajadores gubernamentales de herramientas más poderosas para responder preguntas y realizar investigaciones. Tareas como la redacción y gestión de contratos, que requieren mucho tiempo y son cruciales, podrían beneficiarse enormemente de la aplicación de la IA generativa. 

El año pasado, el Departamento de Estado de EE. UU. solicitó comentarios sobre los desafíos y las consideraciones de seguridad que conlleva la introducción de IA generativa y de procesamiento del lenguaje natural en su red. Una solicitud de información del Departamento de Estado en junio reveló su objetivo de mejorar la eficiencia y precisión de los trabajadores en tareas repetitivas relacionadas con la investigación de mercado y la planificación de adquisiciones para la redacción de contratos. La IA generativa entrenada con aprendizaje automático podría ayudar a redactar nuevos contratos basados ​​en esta investigación. 

Implementar la IA generativa de manera responsable 

Las notables capacidades generativas de esta tecnología emergente de IA plantean dudas sobre su uso responsable en el sector público. Por ejemplo, los administradores de contratos necesitan saber que la investigación original se convierte fielmente en un contrato legalmente vinculante para dos o más partes.  

Recientemente, el público encontró IA generativa principalmente a través de herramientas que utilizan texto, imágenes, videos y audio preexistentes para crear contenido personalizado a pedido. Sin embargo, el nivel de detalle sobre el entrenamiento de algunos de estos modelos podría ser insuficiente, especialmente para grandes empresas o industrias altamente reguladas que dependen de la confianza pública.  

Para desarrollar una IA responsable, los líderes gubernamentales deben preparar sus datos internos para aprovechar todo el potencial tanto de la IA como de la IA generativa. Establecer estándares responsables es una función gubernamental crucial, que requiere la integración de la responsabilidad desde el principio, y no como una ocurrencia tardía. Esto incluye mantener la supervisión humana para ayudar a garantizar la precisión del contenido generado por IA y evitar sesgos, entre otras consideraciones. 

Pilares clave para una IA responsable en el gobierno 

El desarrollo de la IA de IBM se centra en cinco pilares fundamentales para ayudar a garantizar una IA confiable. Los líderes gubernamentales deberían priorizar estos pilares al considerar el desarrollo, la capacitación y el despliegue responsable de la IA:  

• Justicia en un sistema de IA se refiere a su capacidad para tratar a individuos o grupos de manera equitativa, dependiendo del contexto en el que se utiliza el sistema de IA. Eso significa contrarrestar los prejuicios y prevenir la discriminación relacionada con características protegidas, como el género, la raza, la edad y la condición de veterano. 
• Privacidad se refiere a la capacidad de un sistema de inteligencia artificial para priorizar y salvaguardar la privacidad y los derechos de los datos de los consumidores mientras cumple con las regulaciones existentes relacionadas con la recopilación, el almacenamiento, el acceso y la divulgación de datos.  
• Explicabilidad Es importante porque un sistema de IA debe ser capaz de proporcionar una explicación interpretable por humanos para sus predicciones e ideas de una manera que no se esconda detrás de la jerga técnica.  
• Transparencia significa que un sistema de IA debe incluir y compartir información sobre cómo fue diseñado y desarrollado y los datos o fuentes de datos utilizados para alimentar el sistema. 
• Robustez es la capacidad de un sistema de IA para manejar eficazmente condiciones excepcionales, como anomalías en la entrada. Ayuda a garantizar resultados consistentes.  

IBM watsonx™, una plataforma integrada de inteligencia artificial, datos y gobernanza, encarna estos principios al ofrecer un enfoque transparente, eficiente y responsable para el desarrollo de la inteligencia artificial en diversos entornos. Más concretamente, el reciente lanzamiento de IBM® watsonx.governance™ ayuda a los equipos del sector público a automatizar y abordar estas áreas, permitiéndoles dirigir, gestionar y monitorear las actividades de IA de su organización. Esta herramienta facilita procesos claros para que las organizaciones puedan detectar y mitigar riesgos de manera proactiva y, al mismo tiempo, respaldar sus programas de cumplimiento de políticas internas de IA y estándares de la industria.  

A medida que el sector público continúa adoptando la IA y la automatización para resolver problemas y mejorar la eficiencia, es crucial mantener la confianza y la transparencia en cualquier solución de IA. Los equipos deben tener la capacidad de comprender y gestionar el ciclo de vida de la IA de forma eficaz. Adoptar de forma proactiva prácticas responsables de IA es una oportunidad para que todos mejoremos.  

Obtenga más información sobre cómo la IA puede transformar los servicios gubernamentales