Num movimento decisivo para combater a desinformação nas eleições, a OpenAI declarou um postura rigorosa contra o uso de suas ferramentas generativas de IA em campanhas eleitorais e táticas de supressão de eleitores.
Instantâneo de como estamos nos preparando para as eleições mundiais de 2024:
• Trabalhar para prevenir abusos, incluindo deepfakes enganosos
• Fornecer transparência sobre conteúdo gerado por IA
• Melhorar o acesso a informações oficiais de votaçãohttps://t.co/qsysYy5l0L- OpenAI (@ OpenAI) 15 de janeiro de 2024
Este anúncio constitui um passo essencial para garantir a integridade de inúmeras eleições importantes agendadas para 2024.
Veja também: OpenAI negocia licenciamento de conteúdo de notícias com CNN, Fox e Time
Combater o uso indevido com inovação e políticas
A OpenAI iniciou uma estratégia para proteger a sua tecnologia de ser explorada para manipular os resultados eleitorais. A empresa estabeleceu uma equipe especializada com foco em questões relacionadas às eleições, mesclando a experiência de vários departamentos, incluindo jurídico, engenharia e política. O objetivo principal desta equipa é identificar e mitigar o potencial abuso da IA nas eleições.
“Temos um esforço multifuncional dedicado ao trabalho eleitoral, reunindo a experiência de nossas equipes de sistemas de segurança, inteligência de ameaças, jurídica, engenharia e política.”
A ameaça da desinformação na política não é nova, mas o advento da tecnologia de IA apresenta desafios sem precedentes. Reconhecendo isto, a OpenAI está a tomar medidas proativas. A empresa planeja empregar uma combinação de técnicas, como red teaming, envolvimento do usuário e proteções de segurança. Especificamente, sua imagem ferramenta de geração, DALL-E, foi atualizado para evitar a criação de imagens representando pessoas reais, incluindo candidatos políticos.
“O DALL·E possui proteções para recusar solicitações que solicitem a geração de imagens de pessoas reais, inclusive de candidatos.”
A OpenAI revisa continuamente suas políticas de usuário para acompanhar o cenário em evolução da tecnologia de IA e seu potencial uso indevido. As suas políticas de segurança atualizadas restringem agora explicitamente o desenvolvimento de aplicações de IA para campanhas políticas e lobbying. Além disso, foram implementadas medidas para impedir a criação de chatbots que imitem pessoas ou organizações reais.
Aumentando a transparência e a responsabilidade
Um componente chave da estratégia da OpenAI é a introdução de um classificador de proveniência para a sua ferramenta DALL-E. Este recurso, atualmente em teste beta, pode detectar imagens geradas pelo DALL-E. A empresa pretende tornar esta ferramenta acessível a jornalistas, plataformas e investigadores para aumentar a transparência no conteúdo gerado por IA.
“Planejamos disponibilizá-lo em breve ao nosso primeiro grupo de testadores – incluindo jornalistas, plataformas e pesquisadores – para feedback.”
A OpenAI também está integrando reportagens de notícias em tempo real em ChatGPT. Esta integração visa fornecer aos utilizadores informações precisas e oportunas, aumentando a transparência em torno das fontes de informação fornecidas pela IA.
Num esforço conjunto com a Associação Nacional de Secretários de Estado dos EUA, a OpenAI está focada em evitar que a sua tecnologia desencoraje a participação eleitoral. O trabalho em equipe envolve direcionar os usuários do chatbot com tecnologia GPT para sites confiáveis de informações sobre votação, como CanIVote.org.
Rivais seguem o exemplo na corrida da IA
O anúncio da OpenAI abriu um precedente na indústria de IA, com rivais como Google LLC e Meta Platforms Inc. também implementando medidas para combater a disseminação de desinformação através de suas tecnologias. Este esforço colectivo dos líderes da indústria significa uma crescente consciência e responsabilidade relativamente ao potencial impacto da IA nos processos democráticos.
Mas isso é suficiente? Charles King, da Pund-IT Inc., levanta um ponto crítico, questionando se estas medidas são oportunas ou reativas. Ele argumenta que as preocupações com a desinformação gerada pela IA existem há anos, e o recente anúncio da OpenAI pode ser visto como muito pouco, muito tarde. Esta perspectiva provoca uma reflexão mais profunda sobre o papel e a responsabilidade dos desenvolvedores de IA no cenário político.
“Então, na melhor das hipóteses, este anúncio sugere que a OpenAI estava adormecida na mudança. Mas, na pior das hipóteses, assemelha-se a um ritual de lavagem das mãos que a OpenAI pode apontar quando a IA generativa atinge o ventilador durante as próximas eleições globais deste ano.”
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://metanews.com/openai-rules-out-use-in-elections-and-voter-suppression/
- :tem
- :é
- :não
- 10
- 11
- 15%
- 2024
- 7
- 8
- 9
- a
- Sobre
- abuso
- Acesso
- acessível
- preciso
- Adicionalmente
- advento
- contra
- AI
- visar
- visa
- tb
- an
- e
- Anúncio
- aplicações
- SOMOS
- Argumenta
- por aí
- AS
- perguntar
- Associação
- At
- disponível
- consciência
- BE
- sido
- ser
- MELHOR
- beta
- Trazendo
- mas a
- by
- campanha
- Campanhas
- CAN
- candidatos
- desafios
- Charles
- chatbot
- chatbots
- CNN
- Collective
- combater
- vem
- Empresa
- componente
- Preocupações
- conteúdo
- continuamente
- poderia
- criação
- crítico
- Atualmente
- dall's
- decisivo
- Rejeitar
- dedicado
- mais profunda
- democrático
- departamentos
- retratando
- descobrir
- desenvolvedores
- Desenvolvimento
- dirigindo
- durante
- esforço
- Eleição
- Eleições
- COMPROMETIMENTO
- Engenharia
- aumentar
- aprimorando
- suficiente
- assegurando
- essencial
- estabelecido
- evolução
- experiência
- explicitamente
- exploradas
- ventilador
- Característica
- retornos
- Primeiro nome
- focado
- focando
- seguir
- Escolha
- raposa
- da
- gerado
- geração
- generativo
- IA generativa
- Global
- Grupo
- Crescente
- Ter
- he
- acessos
- Como funciona o dobrador de carta de canal
- HTTPS
- identificar
- imagem
- geração de imagem
- imagens
- Impacto
- implementação
- melhorar
- in
- Inc.
- Incluindo
- indústria
- INFORMAÇÕES
- iniciado
- Inovação
- Integração
- integração
- integridade
- Inteligência
- para dentro
- Introdução
- envolve
- IT
- ESTÁ
- articulação
- Jornalistas
- Guarda
- Chave
- Rei
- paisagem
- Atrasado
- líderes
- Legal
- Licenciamento
- como
- pequeno
- lobby
- fazer
- medidas
- fusão
- Meta
- META PLATAFORMAS
- Desinformação
- enganosa
- mau uso
- Mitigar
- misturar
- mover
- Nacional
- Novo
- notícias
- agora
- numeroso
- of
- on
- OpenAI
- or
- organizações
- A Nossa
- Fora
- resultados
- Paz
- participação
- Pessoas
- perspectiva
- Lugar
- plano
- planos
- Plataformas
- platão
- Inteligência de Dados Platão
- PlatãoData
- ponto
- políticas
- Privacidade
- político
- candidatos políticos
- política
- potencial
- Precedente
- preparação
- presentes
- evitar
- impedindo
- primário
- Proactive
- processos
- proveniência
- fornecer
- fornecido
- fornecendo
- colocar
- raises
- Leia
- reais
- em tempo real
- recentemente
- reconhecendo
- Vermelho
- reflexão
- confiável
- Relatórios
- pedidos
- pesquisadores
- se assemelha
- responsabilidade
- restringir
- rivais
- Tipo
- regras
- s
- Segurança
- programado
- visto
- conjunto
- significa
- Em breve
- Fontes
- especializado
- especificamente
- propagação
- Estado
- Passo
- Estratégia
- tal
- Sugere
- terno
- supressão
- Interruptor
- sistemas
- tática
- tomar
- Profissionais
- equipes
- equipe focada nos resultados
- técnicas
- Tecnologias
- Tecnologia
- ensaio
- que
- A
- deles
- Este
- isto
- este ano
- ameaça
- inteligência de ameaças
- Através da
- oportuno
- para
- juntos
- também
- ferramenta
- ferramentas
- para
- para
- Transparência
- verdadeiro
- nos
- sem precedente
- os próximos
- Atualizada
- usar
- Utilizador
- usuários
- utilização
- vário
- voto
- Votação
- foi
- sites
- quando
- se
- de
- Atividades:
- trabalhar
- no mundo todo
- o pior
- ano
- anos
- ainda
- zefirnet