O presidente do Conselho Nacional de Justiça (CNJ), ministro Luís Roberto Barroso, assinou uma portaria instituindo a criação de um grupo de trabalho sobre o uso de inteligência artificial no Poder Judiciário na segunda-feira, 4. O objetivo é realizar estudos e propor a regulamentação do uso de sistemas de inteligência artificial generativa para criar conteúdos com base em grandes modelos de linguagem no Judiciário.O grupo será coordenado pelo conselheiro do CNJ Luiz Fernando Bandeira de Mello Filho e composto por outros 14 membros, entre integrantes da entidade, juízes, promotores, professores universitários, especialistas em direito digital e proteção de dados, entre outros. A portaria também prevê o convite de autoridades e especialistas de instituições públicas e privadas para participarem dos estudos e das reuniões. O período de trabalho estabelecido é de um ano, podendo ser prorrogado.
No documento, o ministro faz considerações sobre o rápido avanço das tecnologias computacionais que usam IA para interagir com o usuário e propor soluções, geradas automaticamente a partir do processamento de grandes bases de dados - como o ChatGPT.
Barroso ainda demonstra preocupação com os possíveis riscos que esses recursos podem resultar para a soberania nacional, a segurança da informação e a privacidade e proteção de dados pessoais. O magistrado também aponta possíveis vieses discriminatórios e parcialidades que o uso das ferramentas generativas podem ter.
Por isso, a portaria considera a necessidade de regulamentar o uso desse tipo de ferramenta no Poder Judiciário a partir de valores éticos fundamentais, como a dignidade e a centralidade da pessoa humana, o respeito aos direitos humanos, a não discriminação, a transparência e a responsabilização.
A proposta de regulamentação a ser desenvolvida e apresentada pelo grupo deverá conter modelo de governança de todo o processo para o uso das ferramentas, bem como auditorias das ferramentas, estudos de mapeamento e gerenciamento de riscos e casos em que o uso foi permitido, regulado e proibido. Também haverá a revisão da Resolução 332/2020, norma que estabeleceu as primeiras diretrizes sobre o uso de IA no Judiciário.
Em 2020, o CNJ encomendou o estudo "O Futuro da IA no Judiciário Brasileiro", produzido pela Escola de Administração Pública Internacional da Universidade de Columbia e pelo ITS-RIO, sendo o mais abrangente sobre o uso de inteligência artificial no Judiciário brasileiro até então.
Pontos de atenção sobre uso de IA no Judiciário
Para Caio Vieira Machado, pesquisador da Harvard SEAS e diretor-executivo do Instituto Vero, a criação do grupo de trabalho é um passo importante, principalmente porque há pontos de atenção sobre o uso de IA no Judiciário.
"A IA é essencialmente uma conta matemática, principalmente a generativa, por isso ela não tem, necessariamente, relação com a realidade e pode produzir números e fatos. Já vimos essas ferramentas gerando jurisprudência, decisões malucas, artigos de lei que não existem", disse Machado.
Para ele, há a preocupação mesmo que ela seja usada só para resumir documentos de um processo. "Qual garantia temos que a IA não está criando fatos, ou mesmo que ela está selecionando os fatos que são mais relevantes? Para cada caso é um caso."
Entenda o que é IA generativa
A inteligência artificial generativa tem a capacidade de criar novos conteúdos, como texto, imagem, áudio e vídeo, a partir de conjuntos de dados pré-existentes. Ela usa grandes bases de dados, que podem realizar várias tarefas ao mesmo tempo e tarefas prontas para uso, incluindo resumo, perguntas e respostas, classificação, entre outras.
CNJ cria grupo de trabalho para estudar e regulamentar inteligência artificial no Judiciário
Tipografia
- Pequenina Pequena Media Grande Gigante
- Padrão Helvetica Segoe Georgia Times
- Modo de leitura