Equilibrio de la IA: hacer el bien y evitar el daño – Blog de IBM

Cuando era niño, mi padre siempre decía: "haz el bien". Cuando era niño, pensaba que era una gramática vergonzosa y lo corregía, insistiendo en que debería ser "hacerlo bien". Incluso mis hijos se burlan de mí cuando escuchan su consejo de “hacer el bien” y admito que le dejé pasar en el frente gramatical.

En el caso de la inteligencia artificial (IA) responsable, las organizaciones deben priorizar la capacidad de evitar daños como enfoque central. Algunas organizaciones también pueden intentar utilizar la IA para “hacer el bien”. Sin embargo, a veces la IA requiere barreras claras antes de poder estar de acuerdo con lo "bueno".

Lea el documento "Presidio AI Framework" para aprender cómo abordar los riesgos generativos de la IA con barreras de seguridad a lo largo del ciclo de vida ampliado de la IA.

As IA generativa continúa generalizándose, las organizaciones están entusiasmadas con el potencial de transformar procesos, reducir costos y aumentar el valor comercial. Los líderes empresariales están ansiosos por rediseñar sus estrategias comerciales para servir mejor a los clientes, pacientes, empleados, socios o ciudadanos de manera más eficiente y mejorar la experiencia general. La IA generativa está abriendo puertas y creando nuevas oportunidades y riesgos para las organizaciones a nivel mundial, y el liderazgo de recursos humanos (RRHH) desempeña un papel clave en la gestión de estos desafíos.

Adaptarse a las implicaciones de una mayor adopción de la IA podría incluir el cumplimiento de requisitos regulatorios complejos, como NIST, el Ley de IA de la UE, NYC 144, EEOC EE. UU. y La Ley de IA de la Casa Blanca, que impactan directamente en las políticas organizativas y de recursos humanos, así como en los convenios sociales, de capacitación laboral y de negociación colectiva. La adopción de una IA responsable requiere una estrategia de múltiples partes interesadas, como lo afirman los principales recursos internacionales, incluido el NIST, OCDE, el Instituto de Inteligencia Artificial Responsable, el Alianza de datos y confianza y IEEE.

Ésta no es sólo una función de TI; RRHH juega un papel clave

Los líderes de recursos humanos ahora asesoran a las empresas sobre las habilidades necesarias para el trabajo actual, así como sobre las habilidades futuras, considerando la IA y otras tecnologías. Según el WEF, los empleadores estiman que el 44% de las habilidades de los trabajadores se verán afectadas en los próximos cinco años. Los profesionales de RRHH exploran cada vez más su potencial para mejorar la productividad aumentando el trabajo de los empleados y capacitándolos para centrarse en trabajos de nivel superior. A medida que se expanden las capacidades de la IA, surgen preocupaciones y preguntas éticas que todo líder empresarial debe considerar para que su uso de la IA no se realice a expensas de los trabajadores, socios o clientes.

Conozca los principios de confianza y transparencia recomendados por IBM para que las organizaciones integren responsablemente la IA en sus operaciones..

La educación de los trabajadores y la gestión del conocimiento ahora están estrechamente coordinadas como una estrategia de múltiples partes interesadas con los operadores de TI, legales, de cumplimiento y comerciales como un proceso continuo, en lugar de una casilla de verificación que se realiza una vez al año. Como tal, los líderes de RR.HH. deben participar de manera innata en el desarrollo de programas para crear políticas y aumentar la perspicacia de los empleados en materia de IA, identificando dónde aplicar las capacidades de IA, estableciendo una estrategia de gobernanza responsable de la IA y usando herramientas como la inteligencia artificial y la automatización para ayudar a garantizar la consideración y el respeto por los empleados mediante la adopción de una IA transparente y confiable. 

Desafíos y soluciones en la adopción de la ética de la IA dentro de las organizaciones

Aunque la adopción y los casos de uso de la IA continúan expandiéndose, es posible que las organizaciones no estén completamente preparadas para las numerosas consideraciones y consecuencias de adoptar capacidades de IA en sus procesos y sistemas. Si bien el 79 % de los ejecutivos encuestados enfatizan la importancia de la ética de la IA en su enfoque de IA en toda la empresa, menos del 25 % ha puesto en práctica principios comunes de la ética de la IA. según la investigación del IBM Institute for Business Value.

Esta discrepancia existe porque las políticas por sí solas no pueden eliminar la prevalencia y el uso creciente de herramientas digitales. El uso cada vez mayor de los trabajadores de dispositivos y aplicaciones inteligentes como ChatGPT u otros modelos públicos de caja negra, sin la aprobación adecuada, se ha convertido en un problema persistente y no incluye la gestión de cambios correcta para informar a los trabajadores sobre los riesgos asociados. 

Por ejemplo, los trabajadores pueden usar estas herramientas para escribir correos electrónicos a clientes utilizando datos confidenciales de los mismos o los gerentes pueden usarlas para escribir evaluaciones de desempeño que revelen datos personales de los empleados. 

Para ayudar a reducir estos riesgos, puede ser útil incorporar puntos focales o defensores responsables de la práctica de IA dentro de cada departamento, unidad de negocios y nivel funcional. Este ejemplo puede ser una oportunidad para que RR.HH. impulse y defienda los esfuerzos para frustrar posibles desafíos éticos y riesgos operativos.

En definitiva, crear una IA responsable Es imperativo establecer una estrategia con valores y principios comunes que estén alineados con los valores más amplios y la estrategia comercial de la empresa y que se comuniquen a todos los empleados. Esta estrategia debe defender a los empleados e identificar oportunidades para que las organizaciones adopten la IA y la innovación que impulsen los objetivos comerciales. También debería ayudar a los empleados con educación para ayudar a protegerse contra los efectos dañinos de la IA, abordar la desinformación y los prejuicios y promover la IA responsable, tanto internamente como dentro de la sociedad.

Las tres consideraciones principales para adoptar una IA responsable

Las tres consideraciones principales que los líderes empresariales y de recursos humanos deben tener en cuenta al desarrollar una estrategia de IA responsable son:

Haga que las personas sean centrales en su estrategia

Dicho de otra manera, priorice a su gente mientras traza su estrategia de tecnología avanzada. Esto significa identificar cómo funciona la IA con sus empleados, comunicarles específicamente a esos empleados cómo la IA puede ayudarlos a sobresalir en sus funciones y redefinir las formas de trabajar. Sin educación, los empleados podrían estar demasiado preocupados de que se implemente IA para reemplazarlos o eliminar la fuerza laboral. Comuníquese directamente con los empleados con honestidad sobre cómo se construyen estos modelos. Los líderes de recursos humanos deben abordar los posibles cambios laborales, así como las realidades de las nuevas categorías y empleos creados por la IA y otras tecnologías.

Habilitar una gobernanza que tenga en cuenta tanto las tecnologías adoptadas como la empresa.

La IA no es un monolito. Las organizaciones pueden implementarla de muchas maneras, por lo que deben definir claramente qué significa para ellas la IA responsable, cómo planean usarla y cómo se abstendrán de usarla. Principios como transparencia, confianza, equidad, equidad, solidez y el uso de equipos diversos, en consonancia con las directrices de la OCDE o RAII, deben considerarse y diseñarse dentro de cada caso de uso de IA, ya sea que implique IA generativa o no. Además, se deben realizar revisiones de rutina para la deriva del modelo y medidas de privacidad para cada modelo y métricas específicas de diversidad, equidad e inclusión para mitigar el sesgo.

Identificar y alinear las habilidades y herramientas adecuadas necesarias para el trabajo.

La realidad es que algunos empleados ya están experimentando con herramientas de IA generativa para ayudarlos a realizar tareas como responder preguntas, redactar correos electrónicos y realizar otras tareas rutinarias. Por lo tanto, las organizaciones deben actuar de inmediato para comunicar sus planes para utilizar estas herramientas, establecer expectativas para los empleados que las utilizan y ayudar a garantizar que el uso de estas herramientas se alinee con los valores y la ética de la organización. Además, las organizaciones deben ofrecer oportunidades de desarrollo de habilidades para ayudar a los empleados a mejorar sus conocimientos de IA y comprender posibles trayectorias profesionales.

Descargue el documento "Desbloquear el valor de la IA generativa" para obtener más orientación sobre cómo su organización puede adoptar la IA de manera responsable.

Practicar e integrar la IA responsable en su organización es esencial para una adopción exitosa. IBM ha hecho de la IA responsable un elemento central de su enfoque de IA con clientes y socios. En 2018, IBM estableció el Consejo de Ética de la IA como un organismo central e interdisciplinario para apoyar una cultura de IA ética, responsable y confiable. Está compuesto por altos líderes de varios departamentos, como investigación, unidades de negocios, recursos humanos, diversidad e inclusión, asuntos legales, gubernamentales y regulatorios, adquisiciones y comunicaciones. La junta dirige y hace cumplir las iniciativas y decisiones relacionadas con la IA. IBM se toma en serio los beneficios y desafíos de la IA e incorpora la responsabilidad en todo lo que hacemos.

Le permitiré a mi padre esta regla gramatical rota. La IA puede “hacer el bien” cuando se gestiona correctamente, con la participación de muchos humanos, barreras de seguridad, supervisión, gobernanza y un marco ético de IA. 

Vea el seminario web sobre cómo preparar su empresa para la adopción responsable de la IA

Explore cómo IBM ayuda a los clientes en su viaje de transformación del talento