Explorando os riscos e alternativas do ChatGPT: abrindo caminho para uma IA confiável

Você está fazendo um smoothie para seus amigos desfrutarem. Já misturado com frutas variadas e iogurte, seu amigo Ruchir chega com uma maçã madura e dá para você completar sua refrescante obra-prima. Agora completo, você quase ainda pode sentir o cheiro de maçã enquanto a bebida é servida. Antes do seu primeiro gole, Ruchir diz: “Mudei de ideia, preciso ir embora e gostaria da minha maçã de volta”. Você responde: “Ah, desculpe, mas isso simplesmente não é possível”. Voltaremos a esta história em um minuto e explicaremos como ela se relaciona com ChatGPT e IA confiável.

Como o mundo de inteligência artificial (IA) evolui, novas ferramentas como OpenAI's ChatGPT ganhou atenção por seus recursos de conversação. No entanto, também compreendo a importância de avaliar os riscos inerentes antes de embarcar na sua adoção direta nas nossas organizações. Nesta discussão, exploro os riscos e desafios associados ao ChatGPT em um contexto empresarial, necessitando de uma abordagem cuidadosa para sua implementação. Além disso, enfatizarei a importância da adoção da IBM watsonx por garantir IA confiável soluções. E em caso de dúvida, recomendo que você use o mesmo bom senso que sempre usou ao empregar novos serviços de Internet.

Evolução das ferramentas de IA

ChatGPT aproveita o imenso poder de GPT-3 e GPT-4, pertencente a um nova classe de modelos de linguagem grande “gigantescos” e amplamente populares usados ​​em várias aplicações de IA. Com o ChatGPT, os usuários podem fazer perguntas, gerar textos, redigir e-mails, discutir códigos em diferentes linguagens de programação, traduzir linguagem natural em código e muito mais. Destaca-se como um chatbot conversacional de alta qualidade que visa fornecer respostas coerentes e conscientes do contexto.

ChatGPT é uma excelente ferramenta para explorar a escrita criativa, gerar ideias e interagir com IA. É gratuito para todos usarem, com uma versão mais avançada disponível para Bate-papo GPT Plus assinantes. A capacidade do chatbot de lembrar conversas anteriores aumenta sua experiência interativa e envolvente.  

Embora o ChatGPT tenha ganhado atenção e popularidade significativas, ele enfrenta a concorrência de outros chatbots com tecnologia de IA e processamento de linguagem natural (PNL) sistemas. O Google, por exemplo, desenvolveu Bardo, seu chatbot de IA, que é alimentado por seu próprio mecanismo de linguagem chamado PaLM2. Da mesma forma, Meta lançou recentemente seu impressionante Modelo LLaMA2. À medida que o campo dos chatbots de IA continua a evoluir, certamente haverá um aumento da concorrência e o surgimento de novos jogadores. É essencial manter-se atualizado sobre os avanços neste espaço para explorar as melhores soluções para as necessidades empresariais.

Por que não usar o ChatGPT diretamente na empresa?

Uso direto de ChatGPT em uma empresa apresenta riscos e desafios. Estes incluem segurança e fuga de dados, preocupações com confidencialidade e responsabilidade, complexidades de propriedade intelectual, conformidade com licenças de código aberto, limitações no desenvolvimento de IA e privacidade incerta e conformidade com leis internacionais. Aqui, exploro esses riscos e compartilho exemplos que ilustram como esses riscos podem se manifestar nas atividades empresariais diárias.

Começarei examinando soluções alternativas que visam mitigar os riscos associados ao uso direto do ChatGPT, incluindo IBM Watsonx, que recomendo para uso empresarial, porque aborda questões de propriedade e privacidade de dados por meio de curadoria e governança rigorosas. Concluirei esta conversa trazendo você de volta à história do smoothie, eu prometo, mas quando mencionar “seus dados” abaixo, fique à vontade para substituir a frase por “sua maçã”.

Antes de explorar soluções alternativas, é crucial que as empresas estejam conscientes dos potenciais riscos e desafios que advêm da utilização direta do ChatGPT. Como lembrete de bom senso, a história da Internet mostrou o surgimento e a evolução de novos serviços (por exemplo, pesquisa Google, plataformas de redes sociais, etc.), o que sublinha a importância da privacidade e propriedade dos dados na empresa. Tendo isso em mente, aqui estão os principais fatores que devem ser levados em consideração:

Segurança e vazamento de dados

Se informações confidenciais de terceiros ou internas da empresa forem inseridas no ChatGPT, elas se tornarão parte do modelo de dados do chatbot e poderão ser compartilhadas com outras pessoas que façam perguntas relevantes. Isto pode levar ao vazamento de dados e violar as políticas de segurança de uma organização.

Exemplo: Os planos para um novo produto que sua equipe está ajudando um cliente a lançar, incluindo especificações confidenciais e estratégias de marketing, não devem ser compartilhados com o ChatGPT para evitar o risco de vazamento de dados e possíveis violações de segurança.

Confidencialidade e privacidade

Semelhante ao ponto acima, o compartilhamento de informações confidenciais de clientes ou parceiros pode violar acordos contratuais e requisitos legais para proteger tais informações. Se a segurança do ChatGPT for comprometida, conteúdo confidencial poderá ser vazado, impactando potencialmente a reputação da organização e expondo-a a responsabilidades.

Exemplo: suponha que uma organização de saúde use o ChatGPT para auxiliar na resposta às dúvidas dos pacientes. Se informações confidenciais do paciente, como registros médicos ou detalhes pessoais de saúde, forem compartilhadas com o ChatGPT, isso poderá violar obrigações legais e direitos de privacidade do paciente protegidos por leis como HIPAA (Lei de Portabilidade e Responsabilidade de Seguros de Saúde) nos Estados Unidos.

Preocupações com propriedade intelectual

A propriedade do código ou texto gerado pelo ChatGPT pode ser complexa. Os termos de serviço estabelecem que a saída pertence ao fornecedor da entrada, mas podem surgir problemas quando a saída inclui dados legalmente protegidos provenientes de outras entradas. Preocupações com direitos autorais também pode surgir se o ChatGPT for usado para gerar material escrito baseado em propriedade protegida por direitos autorais.

Exemplo: a geração de material escrito para fins de marketing e a produção inclui conteúdo protegido por direitos autorais de fontes externas sem a devida atribuição ou permissão, pode potencialmente infringir os direitos de propriedade intelectual dos criadores do conteúdo original. Isso pode resultar em consequências legais e danos à reputação da empresa.

Conformidade com licenças de código aberto

Se o ChatGPT utilizar bibliotecas de código aberto e incorporar esse código em produtos, isso poderá violar licenças de software de código aberto (OSS) (por exemplo, GLP), levando a complicações legais para a organização.

Exemplo: Se uma empresa utiliza ChatGPT para gerar código para um produto de software e a origem dos dados de treinamento usados ​​para treinar GPT não é clara, existe o risco de violar potencialmente os termos das licenças de código aberto associadas a esse código. Isto pode levar a complicações legais, incluindo reclamações de violação de licença e possíveis ações legais por parte da comunidade de código aberto.

Limitações no desenvolvimento de IA

Os termos de serviço do ChatGPT especificam que ele não pode ser usado no desenvolvimento de outros sistemas de IA. Usar o ChatGPT dessa forma pode prejudicar planos futuros de desenvolvimento de IA se a empresa operar nesse espaço.

Exemplo: Uma empresa especializada em tecnologia de reconhecimento de voz planeja aprimorar seu sistema existente integrando os recursos de processamento de linguagem natural do ChatGPT. No entanto, os termos de serviço do ChatGPT afirmam explicitamente que ele não pode ser usado no desenvolvimento de outros sistemas de IA.

Confiabilidade aprimorada com IBM watsonx

Em relação à nossa história do smoothie, o ChatGPT público utiliza seus dados imediatos para aprimorar sua rede neural, como a forma como a maçã adiciona sabor ao smoothie. Depois que seus dados entram no ChatGPT, como a maçã misturada, você não tem controle ou conhecimento de como eles estão sendo usados. Portanto, é preciso ter certeza de que eles têm todos os direitos para incluir sua maçã e que ela não contém dados confidenciais, por assim dizer.

Para resolver essas preocupações, o IBM watsonx oferece dados e modelos selecionados e transparentes, proporcionando maior controle e confiança na criação e no uso do seu smoothie. Simplificando, se Ruchir pedisse sua maçã de volta, watsonx poderia atender seu pedido. Ai está…. analogia e história completas.

IBM watsonx apresenta três recursos principais — watsonx.data, watsonx.ai e watsonx.governança - que colaboram para estabelecer IA confiável de uma forma que ainda não está presente nos modelos OpenAI. Esses recursos selecionam e rotulam dados e modelos de IA, garantindo transparência nos detalhes de origem e propriedade. Eles também regem os modelos e dados, abordando preocupações contínuas de desvios e preconceitos. Essa abordagem rigorosa mitiga efetivamente as preocupações com propriedade e privacidade dos dados discutidas neste artigo.

A IBM fez parceria com Abraçando o rosto, uma empresa de código aberto, para criar um ecossistema de modelos. Ambas as empresas estão aproveitando os recursos do watsonx para selecionar e endossar modelos com base em sua funcionalidade e confiabilidade.

Avançando com IA

O uso direto de chatbots de IA como o ChatGPT dentro de uma empresa apresenta riscos relacionados à segurança, vazamento de dados, confidencialidade, responsabilidade, propriedade intelectual, conformidade, limitações no desenvolvimento de IA e privacidade. Estes riscos podem ter consequências prejudiciais para as organizações, incluindo danos à reputação e complicações jurídicas dispendiosas.

Para mitigar esses riscos e estabelecer uma IA confiável, o IBM watsonx surge como uma solução recomendada. Oferece dados e modelos de IA selecionados e rotulados, garantindo transparência na propriedade e origem. Ele aborda preocupações relacionadas a preconceitos e desvios, proporcionando uma camada extra de confiança. O IBM watsonx encontra um equilíbrio entre inovação e uso responsável de IA. Além disso, a colaboração entre a IBM e a Hugging Face fortalece o ecossistema de modelos.

Embora o watsonx ofereça maior confiança e rigor, poucos modelos podem atualmente corresponder à ampla gama de uso de uso geral vista com ChatGPT e a família de modelos GPT. O campo dos modelos de IA continua a evoluir e podem ser esperadas melhorias contínuas. Para garantir resultados ideais, é crucial compreender como os modelos são avaliados e treinados. Este conhecimento permite tomar decisões informadas e permite que as organizações selecionem os modelos que melhor se alinham com as suas necessidades e padrões de qualidade.

Ao adotar o watsonx, as organizações podem abraçar o poder da IA, mantendo o controle sobre seus dados e garantindo a conformidade com os padrões éticos e legais. Eles podem salvaguardar os seus dados, proteger a sua propriedade intelectual e promover a confiança das partes interessadas, ao mesmo tempo que beneficiam de modelos selecionados e de maior transparência. À medida que as empresas navegam no domínio da IA, é crucial proceder com cautela, explorando soluções e priorizando uma IA confiável.

Siga o podcast Art of AI for Business

^{De tempos em tempos, a IBM convida líderes do setor para compartilhar suas opiniões e insights sobre as tendências tecnológicas atuais. As opiniões nesta postagem do blog são próprias e não refletem necessariamente as opiniões ou estratégias da IBM.}