Inteligência Artificial: os desafios de ética e os perigos no setor jurídico

Desde quando surgiu, tanto o ChatGPT como as demais ferramentas de inteligência artificial (IA) causaram um grande alvoroço, isso tudo devido à grande facilidade que ela oferece no dia a dia. Hoje, a inteligência artificial continua a todo vapor e ainda é possível vê-la como pauta em diversos sites de notícias. Mas não podemos ignorar a preocupação ética que o uso da ferramenta traz para o setor jurídico e a confiabilidade dos dados.

No final deste conteúdo, você entenderá melhor sobre:

1. Os desafior éticos da Inteligência Artificial no setor jurídico
2. Os desafios da inteligência artificial com a confiabilidade de dados
3. O caso do advogado que pode ser punido por usar o ChatGPT em ação

Os desafios éticos da Inteligência Artificial no setor jurídico

Sabemos que o setor jurídico é uma área bem delicada, a qual o trabalho envolve lidar com informações confidenciais e resolução de casos que envolvem mais de um lado. Por isso, utilizar a inteligência artificial no trabalho do advogado implica em alguns desafios éticos.

Confira a seguir quais são.

Preconceito e imparcialidade

Os sistemas de IA podem herdar preconceitos dos dados em que são treinados, o que pode perpetuar ou ampliar preconceitos sociais existentes. Isso levanta preocupações sobre justiça e igualdade de tratamento, particularmente em áreas como a justiça criminal.

É crucial garantir que os modelos de IA sejam treinados em dados diversos e representativos e que as técnicas de mitigação de viés sejam implementadas para minimizar resultados injustos.

Transparência

Os algoritmos de IA geralmente operam como “caixas pretas”, dificultando a compreensão de como eles chegam às recomendações específicas.

No setor jurídico, a transparência e a capacidade de explicação são cruciais para a prestação de contas, o devido processo legal e a manutenção da confiança do público.

Esforços estão em andamento para desenvolver métodos para tornar os sistemas de IA mais transparentes e fornecer explicações para seus resultados.

Privacidade e Segurança de Dados

Como já mencionado anteriormente, o setor jurídico lida com informações sensíveis e confidenciais, por isso, o uso de IA levanta preocupações sobre a privacidade e segurança de dados.

Estratégias de proteção devem estar em vigor para proteger dados pessoais e confidenciais, tanto durante o treinamento quanto na implantação de sistemas de IA.

Além disso, os profissionais jurídicos precisam considerar as implicações legais e éticas do uso de ferramentas de IA que processam grandes quantidades de dados pessoais.

Responsabilidade profissional

Quando os sistemas de IA auxiliam profissionais jurídicos em tarefas como pesquisa jurídica ou revisão de documentos, surgem questões relacionadas à responsabilidade e responsabilidade profissional.

É essencial definir as funções e responsabilidades dos advogados na utilização de ferramentas de IA e determinar quem é responsável por erros ou mau funcionamento da tecnologia.

Geração de empregos

As tecnologias de IA são capazes de automatizar certas tarefas legais, levando potencialmente ao deslocamento de empregos para alguns profissionais jurídicos. Porém, em todas as revoluções tecnológicas, mais papéis foram criados do que extintos. Então o desafio passa a ser como aprender a trabalhar com as novas tecnologias.

Além disso, a IA deve ser projetada para aumentar a capacidade de trabalho dos humanos ao invés de substituí-lo por completo.

Os desafios da inteligência artificial com a confiabilidade dos dados

Embora a IA ofereça respostas completas em um curtíssimo espaço de tempo, quando falamos do setor jurídico é de suma importância analisar e checar a confiabilidade dos dados apresentados e que serão utilizados em um caso, por exemplo. Com isso, a ferramenta de IA também apresenta alguns desafios quando a questão é confiabilidade dos dados, como:

• Qualidade e integridade das informações
• Viés de dados e imparcialidade
• Disponibilidade e acessibilidade dos dados 
• Governança e gerenciamento de dados
• Dinâmica dos dados em evolução.

Vale lembrar que a maioria das ferramentas de inteligência artificial elaboram respostas com base em uma mistura de dados licenciados e disponíveis publicamente.

Dessa forma, não foram programadas diretamente em bancos de dados jurídicos específicos e não possuem acesso à informações jurídicas proprietárias, ou seja, nem sempre fornecem informações confiáveis e precisas.

Portanto, é necessário consultar um profissional jurídico qualificado ou uma fonte confiável para aconselhamento ou informações jurídicas específicas.

O caso do advogado que pode ser punido por usar o ChatGPT em ação

Um caso que vem sendo muito comentado nos noticiários, é sobre Steven Schwartz, um advogado norte-americano que representa o passageiro Roberto Mata em um processo judicial contra a companhia aérea colombiana, Avianca.

O passageiro alegou que ficou ferido após ser atingido no joelho por um carrinho utilizado no serviço de bordo pela companhia durante o vôo para Nova York. Após a companhia aérea ter solicitado o arquivamento do processo, o advogado se opôs apresentando um documento com diversas citações de casos relevantes que envolviam diversas companhias aéreas, dentre elas, a Avianca.

Porém, nenhum profissional jurídico envolvido no caso identificou tais casos e foi aí que Schwartz confessou ter utilizado o Chat GPT para reunir as citações. Isso aconteceu pois, a alucinação da IA inventou alguns processos que não existiam.

Você pode conferir a matéria apresentando a matéria completa clicando aqui.
Gostou do artigo? Confira também o conteúdo aqui no nosso blog sobre os impactos da inteligência artificial na advocacia.

compartilhar:

• 
• 
• 
•