Equilibrando IA: Faça o bem e evite o mal – Blog da IBM

Enquanto crescia, meu pai sempre dizia: “faça o bem”. Quando criança, eu achava que era uma gramática ridícula e eu o corrigia, insistindo que deveria ser “faça bem”. Até meus filhos me provocam quando ouvem seu conselho de “faça o bem” e admito que o deixei passar na parte gramatical.

No caso da inteligência artificial (IA) responsável, as organizações devem priorizar a capacidade de evitar danos como foco central. Algumas organizações também podem ter como objetivo usar a IA para “fazer o bem”. No entanto, às vezes a IA exige barreiras de proteção claras antes que se possa concordar com o “bom”.

Leia o artigo “Presidio AI Framework” para saber como lidar com os riscos generativos de IA com proteções ao longo do ciclo de vida expandido da IA

As IA generativa continua a se popularizar, as organizações estão entusiasmadas com o potencial de transformar processos, reduzir custos e aumentar o valor do negócio. Os líderes empresariais estão ansiosos para redesenhar as suas estratégias de negócios para melhor servir clientes, pacientes, funcionários, parceiros ou cidadãos de forma mais eficiente e melhorar a experiência geral. A IA generativa está a abrir portas e a criar novas oportunidades e riscos para organizações em todo o mundo, com a liderança de recursos humanos (RH) a desempenhar um papel fundamental na gestão destes desafios.

A adaptação às implicações do aumento da adoção da IA ​​poderia incluir o cumprimento de requisitos regulamentares complexos, tais como NIST, Lei de IA da UE, NYC 144, EUA EEOC e A Lei de IA da Casa Branca, que impactam diretamente as políticas organizacionais e de RH, bem como os acordos trabalhistas sociais, de qualificação profissional e de negociação coletiva. A adoção de uma IA responsável requer uma estratégia multissetorial, conforme afirmado pelos principais recursos internacionais, incluindo o NIST, OCDE, Instituto de Inteligência Artificial Responsável, Aliança de Dados e Confiança e IEEE.

Esta não é apenas uma função de TI; O RH desempenha um papel fundamental

Os líderes de RH agora aconselham as empresas sobre as competências necessárias para o trabalho atual, bem como sobre as competências futuras, considerando a IA e outras tecnologias. De acordo com o WEF, os empregadores estimam que 44% das competências dos trabalhadores serão prejudicadas nos próximos 5 anos. Os profissionais de RH estão explorando cada vez mais seu potencial para melhorar a produtividade, aumentando o trabalho dos funcionários e capacitando-os a se concentrarem em trabalhos de nível superior. À medida que as capacidades da IA ​​se expandem, surgem preocupações e questões éticas que todos os líderes empresariais devem considerar para que a sua utilização da IA ​​não seja feita à custa dos trabalhadores, parceiros ou clientes.

Aprenda os princípios de confiança e transparência recomendados pela IBM para que as organizações integrem IA de forma responsável em suas operações.

A educação dos trabalhadores e a gestão do conhecimento estão agora estreitamente coordenadas como uma estratégia multilateral com os operadores de TI, jurídicos, de conformidade e de negócios como um processo contínuo, em oposição a uma caixa de verificação anual. Como tal, os líderes de RH precisam de estar inatamente envolvidos no desenvolvimento de programas para criar políticas e aumentar a perspicácia dos funcionários em IA, identificando onde aplicar as capacidades de IA, estabelecendo uma estratégia responsável de governação de IA e usando ferramentas como IA e automação para ajudar a garantir a consideração e o respeito pelos funcionários por meio da adoção de IA confiável e transparente. 

Desafios e soluções na adoção da ética da IA ​​nas organizações

Embora a adoção e os casos de utilização da IA ​​continuem a expandir-se, as organizações podem não estar totalmente preparadas para as muitas considerações e consequências da adoção de capacidades de IA nos seus processos e sistemas. Embora 79% dos executivos inquiridos enfatizem a importância da ética da IA ​​na sua abordagem de IA em toda a empresa, menos de 25% operacionalizaram princípios comuns de ética da IA, de acordo com pesquisa do IBM Institute for Business Value.

Esta discrepância existe porque as políticas por si só não conseguem eliminar a prevalência e a utilização crescente de ferramentas digitais. A crescente utilização pelos trabalhadores de dispositivos inteligentes e aplicações como o ChatGPT ou outros modelos públicos de caixa negra, sem a devida aprovação, tornou-se um problema persistente e não inclui a gestão correta da mudança para informar os trabalhadores sobre os riscos associados. 

Por exemplo, os trabalhadores podem usar essas ferramentas para escrever e-mails para clientes usando dados confidenciais de clientes ou os gerentes podem usá-las para escrever avaliações de desempenho que divulguem dados pessoais dos funcionários. 

Para ajudar a reduzir estes riscos, pode ser útil incorporar pontos focais ou defensores de práticas responsáveis ​​de IA em cada departamento, unidade de negócios e nível funcional. Este exemplo pode ser uma oportunidade para o RH impulsionar e defender esforços para impedir potenciais desafios éticos e riscos operacionais.

Em última análise, criar um AI responsável É fundamental uma estratégia com valores e princípios comuns que estejam alinhados com os valores mais amplos da empresa e com a estratégia de negócios e comunicados a todos os funcionários. Esta estratégia precisa defender os funcionários e identificar oportunidades para as organizações adotarem a IA e a inovação que impulsionem os objetivos de negócios. Deve também ajudar os funcionários com educação para ajudar a proteger-se contra os efeitos nocivos da IA, abordar a desinformação e o preconceito e promover a IA responsável, tanto internamente como na sociedade.

As 3 principais considerações para adotar IA responsável

As três principais considerações que os líderes empresariais e de RH devem ter em mente ao desenvolver uma estratégia de IA responsável são:

Torne as pessoas centrais em sua estratégia

Dito de outra forma, priorize seu pessoal ao traçar sua estratégia de tecnologia avançada. Isso significa identificar como a IA funciona com seus funcionários, comunicar especificamente a esses funcionários como a IA pode ajudá-los a se destacarem em suas funções e redefinir as formas de trabalhar. Sem educação, os funcionários poderiam ficar excessivamente preocupados com a implantação da IA ​​para substituí-los ou para eliminar a força de trabalho. Comunique-se diretamente com os funcionários com honestidade sobre como esses modelos são construídos. Os líderes de RH devem abordar potenciais mudanças de emprego, bem como as realidades de novas categorias e empregos criados pela IA e outras tecnologias.

Permitir uma governança que leve em conta tanto as tecnologias adotadas quanto a empresa

A IA não é um monólito. As organizações podem implementá-la de muitas maneiras, por isso devem definir claramente o que a IA responsável significa para elas, como planeiam utilizá-la e como se absterão de a utilizar. Princípios como transparência, confiança, equidade, justiça, robustez e utilização de equipas diversas, em alinhamento com as diretrizes da OCDE ou RAII, devem ser considerados e concebidos em cada caso de utilização de IA, quer envolva IA generativa ou não. Além disso, devem ser realizadas revisões de rotina para desvios de modelo e medidas de privacidade para cada modelo e métricas específicas de diversidade, equidade e inclusão para mitigação de preconceitos.

Identifique e alinhe as habilidades e ferramentas certas necessárias para o trabalho

A realidade é que alguns funcionários já estão experimentando ferramentas generativas de IA para ajudá-los a realizar tarefas como responder perguntas, redigir e-mails e realizar outras tarefas rotineiras. Portanto, as organizações devem agir imediatamente para comunicar os seus planos de utilização destas ferramentas, definir expectativas para os funcionários que as utilizam e ajudar a garantir que a utilização destas ferramentas está alinhada com os valores e a ética da organização. Além disso, as organizações devem oferecer oportunidades de desenvolvimento de habilidades para ajudar os funcionários a aprimorar seus conhecimentos de IA e compreender possíveis planos de carreira.

Baixe o artigo “Desbloqueando valor da IA ​​generativa” para obter mais orientações sobre como sua organização pode adotar a IA de maneira responsável

Praticar e integrar IA responsável em sua organização é essencial para uma adoção bem-sucedida. A IBM tornou a IA responsável central para sua abordagem de IA com clientes e parceiros. Em 2018, a IBM estabeleceu o Conselho de Ética em IA como um órgão central e interdisciplinar para apoiar uma cultura de IA ética, responsável e confiável. É composto por líderes seniores de vários departamentos, como pesquisa, unidades de negócios, recursos humanos, diversidade e inclusão, assuntos jurídicos, governamentais e regulatórios, compras e comunicações. O conselho dirige e aplica iniciativas e decisões relacionadas à IA. A IBM leva a sério os benefícios e desafios da IA, incorporando responsabilidade em tudo o que fazemos.

Vou permitir ao meu pai esta regra gramatical quebrada. A IA pode “fazer o bem” quando gerida corretamente, com o envolvimento de muitos seres humanos, barreiras de proteção, supervisão, governação e um quadro ético de IA. 

Assista ao webinar sobre como preparar sua empresa para a adoção responsável da IA

Explore como a IBM ajuda os clientes em sua jornada de transformação de talentos