Depois que um advogado de Nova York admitiu na semana passada citar casos judiciais inexistentes que foram alucinados pelo software ChatGPT da OpenAI, um juiz do Texas instruiu os advogados em seu tribunal a certificarem que não usaram inteligência artificial para preparar seus documentos legais - ou que, se o fizerem, a saída foi verificada por um ser humano.
“Essas plataformas em seus estados atuais são propensas a alucinações e preconceitos”, diz o texto. note do Juiz Brantley Starr do Distrito Norte do Texas. “Sobre alucinações, eles inventam coisas – até citações e citações.
“Outra questão é a confiabilidade ou viés. Enquanto os advogados juram deixar de lado seus preconceitos, preconceitos e crenças pessoais para defender fielmente a lei e representar seus clientes, a inteligência artificial generativa é o produto da programação desenvolvida por humanos que não precisavam fazer tal juramento.
“Como tal, esses sistemas não são leais a nenhum cliente, ao estado de direito ou às leis e à Constituição dos Estados Unidos (ou, conforme abordado acima, à verdade). Livres de qualquer senso de dever, honra ou justiça, tais programas agem de acordo com o código do computador e não com a convicção, com base na programação e não no princípio. Qualquer parte que acredite que uma plataforma tem a precisão e confiabilidade necessárias para o briefing legal pode pedir licença e explicar o motivo.”
A nota do juiz continua explicando que seu tribunal retirará qualquer ação de um advogado que não apresentar a certificação exigida atestando que estes termos foram lidos e compreendidos.
O juiz Starr não estava disponível para comentar.
Não é um problema incomum
A nota foi publicada em Terça-feira, maio 30. Segue-se a condenação de um juiz de Nova York em 26 de maio Ordem para mostrar a causa [PDF] orientando os advogados de um autor que está processando a companhia aérea colombiana Avianca SA para explicar por que eles não devem ser sancionados por “citação de casos inexistentes”.
Os advogados do autor admitiram em depoimento que apresentaram “ao tribunal cópias de pareceres judiciais inexistentes” e fizeram “uso de reconhecimento de firma falso e fraudulento”.
Essencialmente, os advogados usaram o ChatGPT para procurar casos anteriores, o chat-bot inventou esses casos e os advogados os citaram em arquivamentos como se fossem reais. A equipe jurídica foi então acionada pela defesa, e admitiu o erro.
O juiz Kevin Castel, como você pode imaginar, não ficou impressionado. Ele dirigiu sua ira contra os advogados do queixoso em Mata v. (1:22-cv-01461), que se opôs a um esforço de defesa para rejeitar a reivindicação de danos pessoais citando Varghese v., Shaboon v. e Petersen v., entre outros processos judiciais imaginados por máquinas.
O registro pediu comentários do escritório de advocacia do queixoso, Levidow, Levidow and Oberman, e nossa ligação não foi retornada.
Temos escrito anteriormente sobre o ChatGPT inventar obituários para pessoas vivas, chegando a criar URLs para obituários de jornais inexistentes, então não é surpresa que o bot de geração de texto invente processos judiciais. A OpenAI adverte que seu sistema “pode ocasionalmente gerar informações incorretas”, o que parece leve, dada a prontidão do modelo para fornecer informações erradas com confiança.
Naquilo declaração [PDF], o advogado infrator disse que “lamenta muito ter utilizado inteligência artificial generativa para complementar a pesquisa jurídica realizada aqui e nunca o fará no futuro sem verificação absoluta de sua autenticidade”.
Embora o caso de Nova York pareça ser o primeiro erro de litígio baseado em IA a atrair a atenção do público, há reivindicações de outros citações falsas de casos ter ocorrido.
Stephen Wu, acionista do Silicon Valley Law Group e presidente do American Bar Association's Instituto Nacional de Inteligência Artificial e Robótica, Disse O registro que, embora não tenha conhecimento de casos de confabulação de IA além do caso de Nova York, ele espera que haja outros.
Regras são regras
Questionado se os advogados deveriam saber melhor ou se a novidade da IA generativa poderia de alguma forma mitigar a situação, Wu foi inequívoco.
“Não há desculpa no meu livro”, disse Wu. “Existem regras de conduta profissional e dizem que se você for delegar qualquer responsabilidade por um assunto legal, você tem o dever de supervisionar as pessoas a quem você está delegando o assunto.”
Wu disse que essas regras deveriam ser aplicadas a um paralegal ou assistente, mas deveriam se aplicar à IA generativa.
Não há desculpa no meu livro
“Eu li que, em uma era de inteligência artificial generativa, para dizer que se você está delegando algo à inteligência artificial, você precisa supervisionar essa inteligência artificial e verificar seus resultados para garantir que ela atenda ao padrão de competência exigido dos advogados. conhecer”, explicou.
Wu disse que há um papel para ferramentas de IA na lei, mas esse papel deve ser subordinado a uma pessoa. Ele disse que espera que a IA generativa se mostre mais útil para tarefas como geração de contratos, onde há mais espaço para redação e interpretação variadas. Nos processos judiciais, ele disse, “as apostas são um pouco mais altas porque você precisa colocar um ponto em cada 'i' e cruzar em cada 't'”.
Ele também acredita que a exigência de certificação do juiz do Texas poderia ser adotada de forma mais ampla.
“A ordem permanente do juiz sobre a certificação de não depender apenas da IA generativa pode se tornar uma regra local em tribunais específicos”, disse Wu.
“E parece-me que o comitê consultivo das Regras Federais e seus equivalentes estaduais podem querer mudar as regras de procedimento. Por exemplo, o conceito de ordem permanente do juiz do Texas de certificar o não uso de IA generativa ou, pelo menos, a verificação de fontes reais, poderia se encaixar na Regra Federal de Processo Civil 11 (b).”
A American Bar Association, em sua reunião de meio de ano em fevereiro, adotou uma resolução [PDF] apelando às organizações que desenvolvem, projetam e implantam sistemas de IA para garantir que as pessoas supervisionem esses modelos, que indivíduos e organizações sejam responsabilizados por danos causados por redes neurais e similares, e que os desenvolvedores desses sistemas os implementem de uma maneira isso é transparente e auditável, respeitando também a propriedade intelectual. Boa sorte.
Wu disse que a necessidade de abordar como as mudanças tecnológicas afetam a lei surgiu há cerca de uma década no Projeto de Ética 20/20 da ABA. “Entre outras coisas, falou sobre como o dever de competência dos advogados requer competência para entender a tecnologia e como isso se relaciona com a prática da lei e quando se usa a tecnologia para a prática da lei”, disse ele.
Wu espera uma discussão mais aprofundada sobre o papel da IA generativa na lei. “Eu antecipo que teremos que ter um pouco de trabalho do comitê sobre isso, para tentar talvez apresentar mudanças nas regras do modelo ABA”, disse ele. ®
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoAiStream. Inteligência de Dados Web3. Conhecimento Amplificado. Acesse aqui.
- Cunhando o Futuro com Adryenn Ashley. Acesse aqui.
- Compre e venda ações em empresas PRE-IPO com PREIPO®. Acesse aqui.
- Fonte: https://go.theregister.com/feed/www.theregister.com/2023/05/31/texas_ai_law_court/
- :tem
- :é
- :não
- :onde
- $UP
- 1
- 26
- a
- Sobre
- acima
- absoluto
- Segundo
- responsável
- precisão
- Aja
- endereço
- admitiu
- adotado
- consultivo
- afetar
- contra
- idade
- atrás
- AI
- Sistemas de IA
- companhia aérea
- Companhias Aéreas
- tb
- americano
- entre
- an
- e
- Outro
- antecipar
- qualquer
- Aplicar
- arquivo
- SOMOS
- artificial
- inteligência artificial
- AS
- Assistente
- Associação
- At
- por WhatsApp.
- advogado
- atrair
- autenticidade
- disponível
- Barra
- baseado
- BE
- Porque
- tornam-se
- sido
- acredita
- crente
- Melhor
- Pós
- viés
- vieses
- Pouco
- livro
- Bot
- Briefing
- amplamente
- mas a
- by
- chamada
- chamado
- chamada
- veio
- CAN
- casas
- casos
- FDA
- certificar
- Cadeira
- alterar
- Alterações
- ChatGPT
- verificar
- a verificação
- China
- China Airlines
- reivindicar
- cliente
- clientes
- CO
- código
- como
- comentar
- comitê
- computador
- conceito
- Conduzir
- com confiança
- Constituição
- contratos
- convicção
- cópias
- poderia
- Tribunal de
- casos de tribunal
- Documentos Judiciais
- Tribunais
- Atravessar
- Atual
- década
- Defesa
- demandas
- Implantação
- concepção
- desenvolvedores
- em desenvolvimento
- DID
- dirigindo
- discussão
- Fechar
- distrito
- do
- INSTITUCIONAIS
- feito
- DOT
- esforço
- ou
- garantir
- equivalentes
- erro
- Éter (ETH)
- ética
- Mesmo
- Cada
- espera
- Explicação
- explicado
- falha
- falso
- longe
- Fevereiro
- Federal
- Arquivamento
- limalha
- Empresa
- Primeiro nome
- caber
- segue
- Escolha
- fraudulento
- da
- mais distante
- futuro
- gerar
- gerando
- generativo
- IA generativa
- dado
- vai
- vai
- Bom estado, com sinais de uso
- grandemente
- Grupo
- tinha
- prejudica
- Ter
- ter
- he
- Herói
- superior
- sua
- segurar
- Como funciona o dobrador de carta de canal
- HTTPS
- humano
- Humanos
- i
- if
- fotografia
- executar
- Impressionado
- in
- indivíduos
- info
- INFORMAÇÕES
- instância
- intelectual
- propriedade intelectual
- Inteligência
- Pretendido
- interpretação
- Inventado
- Irão
- emitem
- IT
- ESTÁ
- jpg
- juiz
- judicial
- Justiça
- Saber
- Sobrenome
- Escritórios de
- escritório de advocacia
- Leis
- Advogados
- mínimo
- Deixar
- Legal
- equipe jurídica
- como
- Litígio
- pequeno
- vida
- local
- olhar
- sorte
- moldadas
- fazer
- FAZ
- Importância
- Posso..
- Conheça
- reunião
- atende
- Meio do ano
- poder
- Falha de ignição
- Mitigar
- modelo
- modelos
- mais
- mover
- my
- Nacional
- você merece...
- redes
- Neural
- redes neurais
- nunca
- Novo
- New York
- juiz de Nova York
- não
- novidade
- Juramento
- ocorreu
- of
- on
- OpenAI
- Opiniões
- contrário
- or
- ordem
- organização
- organizações
- Outros
- Outros
- A Nossa
- Fora
- saída
- vigiar
- festa
- Pessoas
- realizada
- pessoa
- pessoal
- plataforma
- Plataformas
- platão
- Inteligência de Dados Platão
- PlatãoData
- prática
- preconceitos
- Preparar
- anterior
- princípio
- Produto
- profissional
- Programação
- Programas
- propriedade
- Prove
- público
- publicado
- colocar
- citações
- em vez
- RE
- Leia
- Prontidão
- reais
- Lamenta
- confiabilidade
- contando
- representar
- requeridos
- requerimento
- exige
- necessário
- pesquisa
- respeitando
- responsabilidade
- Resultados
- robótica
- Tipo
- Quarto
- Regra
- regras
- s
- Dito
- Sancionado
- dizer
- parece
- sentido
- conjunto
- acionista
- rede de apoio social
- mostrar
- Silício
- Vale do Silício
- situação
- So
- Software
- unicamente
- algo
- um pouco
- Fontes
- Sul
- específico
- padrão
- Estado
- Unidos
- greve
- enviar
- apresentado
- tal
- completar
- surpresa
- .
- sistemas
- tarefas
- Profissionais
- tecnológica
- Tecnologia
- condições
- texas
- do que
- que
- A
- O Futuro
- a lei
- deles
- Eles
- então
- Lá.
- Este
- deles
- coisas
- aqueles
- para
- ferramentas
- transparente
- Verdade
- tentar
- Incomum
- compreensão
- Entendido
- Unido
- Estados Unidos
- Defender
- usar
- usava
- utilização
- utilizado
- Vale
- Ve
- Verificação
- verificado
- queremos
- Avisa
- foi
- Caminho..
- we
- semana
- foram
- quando
- se
- qual
- enquanto
- QUEM
- porque
- precisarão
- de
- dentro
- sem
- redação
- Atividades:
- Errado
- wu
- Iorque
- Você
- zefirnet