TJRO identifica tentativa de manipulação de sistemas de IA, aplica multa de R$ 10 mil e determina envio de caso à OAB

Uma decisão da Justiça de Rondônia rejeitou um pedido de tutela de urgência apresentado em uma ação de obrigação de fazer após identificar, na petição inicial, a utilização de um comando conhecido como Prompt Injection, técnica usada para tentar manipular sistemas de inteligência artificial. Além da negativa ao pedido, o autor foi multado em cerca de R$ 10 mil.

O caso é uma ação de obrigação de fazer contra a Sul América Serviços de Saúde para cobertura de cirurgias plásticas exigidas pelo autor após a realização de cirurgia bariátrica. A empresa requerida identificou o esquema e denunciou ao juiz. 

O processo foi analisado pelo juiz Danilo Augusto Paccini, da 2ª Vara Cível de Porto Velho. Antes mesmo de examinar o mérito da ação, o magistrado concluiu que o comando inserido no documento não produziu o efeito pretendido e negou a tutela de urgência solicitada.

Na mesma decisão, o Judiciário acolheu os pedidos formulados pela parte contrária para responsabilização por ato atentatório à dignidade da Justiça e litigância de má-fé. A multa foi fixada em 10% do valor atribuído à causa, com incidência de juros e correção monetária, em favor da parte requerida.

Segundo a decisão, a penalidade no percentual máximo foi aplicada em razão da gravidade da conduta, da sofisticação do método utilizado, da tentativa de influenciar indevidamente a análise judicial da tutela de urgência e do mérito da ação, além do risco institucional representado pela prática para a confiabilidade do processo eletrônico e para o uso legítimo de ferramentas tecnológicas de apoio à atividade jurisdicional.

O magistrado também determinou a expedição de ofício à Ordem dos Advogados do Brasil nas seccionais de São Paulo, Paraná e Rondônia, com cópias da petição inicial e da decisão judicial para ciência dos fatos e adoção das providências disciplinares consideradas cabíveis.

De acordo com a secretária de Tecnologia da Informação e Comunicação do Tribunal de Justiça de Rondônia, Ângela Carmem Szymczak, Rondônia foi o primeiro tribunal do país a emitir nota técnica sobre essa prática maliciosa e sobre a necessidade de criação de protocolos destinados à proteção dos sistemas e à responsabilização de quem utiliza esse tipo de expediente.

Como desdobramento do caso, também foi encaminhado ofício à Secretaria de Tecnologia da Informação do TJRO relatando a vulnerabilidade identificada, para que sejam adotadas medidas de aprimoramento da segurança cibernética dos sistemas judiciais.