📝 Transcrição do Episódio

(00:01 ) [Música] Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 394, gravado em 9 de junho de 2025. Eu sou Guilherme Goulart e, junto com o Vinícius Serafim, vamos trazer para vocês algumas notícias das últimas semanas. E aí, Vinícius, tudo bem? Olá, Guilherme, tudo bem? Olá aos nossos ouvintes e aos internautas.

(00:24 ) Dessa vez, acho que vai para o YouTube. Não vai dar problema no vídeo de novo. Vamos torcer para que sim. Vai para o YouTube ou vai dar problema? Vai para o YouTube. Tivemos um pequeno detalhe técnico e o último episódio não foi para o YouTube, mas ficou no feed. O áudio está lá.

(00:41 ) Só não tem o nosso vídeo. O áudio está. Este é o nosso momento, como vocês já sabem, de conversarmos sobre algumas notícias e acontecimentos que nos chamaram a atenção. Pegue o seu café e venha conosco. Hoje estou com um chazinho. Então, pegue o seu chá, sua bebida preferida, e venha com a gente. Você já sabe que consegue nos contatar pelo podcast@segurancalegal.com ou também no Mastodon, Instagram, Bluesky e YouTube.

(01:06 ) E também tem o nosso blog da Brownpipe, que você já conhece, onde consegue ficar atualizado e se inscrever em nossa mailing list sobre as notícias. Algumas delas, inclusive uma que trataremos hoje, está lá no blog. E antes de começarmos, Vinícius, temos duas mensagens de ouvintes. Gostaria de destacar que tive a oportunidade de participar do Primeiro Congresso Gaúcho de Responsabilidade Civil do IBERC e da Unisinos.

(01:34 ) Foi feito lá na Unisinos, a convite do meu querido amigo Cristiano Colombo, e parabenizar o Cristiano e os outros organizadores do IBERC também. Foram dois dias de muitas palestras. Falei sobre danos nos ambientes de IA, então pude compartilhar e conversar com o grupo sobre algumas coisas — algumas bem presentes, outras mais projetadas — de possíveis danos que podem ocorrer nesse ambiente.

(01:56 ) Diga, Vinícius. Não colocamos isso na pauta, mas dê alguns exemplos dos danos decorrentes do que você comentou lá. Dentre os mais conhecidos, estão os potenciais de discriminação, questões relacionadas ao uso de reconhecimento facial, mas também questões menos faladas. Por exemplo, o pessoal do OWASP tem um guia bem interessante sobre vulnerabilidades no ambiente de IA, e tirei de lá algumas possibilidades de data

(02:27 ) poisoning, por exemplo. Porque quando falamos de IA — e tenho dito isso sempre que falo para audiências mais diversas — IA não é só o ChatGPT. Temos no Hugging Face cerca de 1.700.000, sei lá, possíveis modelos. No Hugging Face, logo chegaremos a 2 milhões de modelos; 1.700.000 foi a última vez que vi. Então, você tem uma série de questões sobre treinamento desses modelos, sobre gestão de dados,

(02:58 ) sobre o uso de ferramentas de IA para prestação de contratos mesmo. Até conversava com o pessoal lá depois, imagina, alguém te contrata como advogado para dar um parecer e, dependendo do advogado, do professor, pode cobrar tranquilamente centenas de milhares de reais por um parecer específico. Então, acho que teremos que começar a discutir também até que ponto obrigações que devem ser realizadas somente por aquele devedor, por aquela pessoa

(03:30 ) específica, qual o grau de interferência ou de intensidade que a IA poderia ter. E aí, os danos possíveis seriam no ambiente contratual, ou seja, descumprimento contratual pelo próprio uso da IA; danos sobre você carregar certos dados que eventualmente não poderiam ser carregados nas IAs e esses dados poderem ser utilizados para atividades de treinamento e, eventualmente, aparecerem; danos de dados de clientes, dados pessoais, dados sensíveis. Foi mais ou menos nessa linha. Não estou lembrando de cabeça de

(04:02 ) todos aqui, Vinícius, mas foi mais ou menos nessa linha. Você foi citando e fui lembrando de alguns exemplos. Tivemos aquele caso no Brasil de um rapaz que estava em um jogo de futebol e foi erroneamente reconhecido pela IA como sendo um criminoso, um foragido. E aí ele saiu escoltado pela polícia.

(04:22 ) Foi uma exposição gigante do cara. Não sei que fim levou esse caso. Tivemos aquele caso, falando em prejuízo não só para a pessoa física, mas para uma pessoa jurídica também, daquela companhia aérea que comentamos inclusive no podcast há um tempão,

(04:40 ) na qual foi obrigada a restituir uma passagem aérea, etc., porque a IA inventou uma situação de reembolso que não existia. Eles tentaram se esquivar dizendo: “Não, mas foi a IA que fez”. A resposta foi: “Você colocou a IA para falar em seu nome, então você vai atender à demanda do seu cliente”. Teve essa também.

(05:04 ) Outra coisa que conversei com você na semana anterior é sobre um dano, que seria uma vulnerabilidade, mas o dano aqui ocorre com a exploração da vulnerabilidade, que é o “dano de excessiva agência”. Isso é trazido pelo OWASP: dano de excessiva agência da IA. Qual é a tendência? É mais uma tendência, mas tenho certeza de que vai acontecer. Hoje, as ferramentas de IA, sobretudo os LLMs, são muito reativas. Você pede para ela fazer algo, ela faz e pronto. Com a popularização dos agentes e as

(05:41 ) possibilidades de agentes fazendo coisas para você de forma autônoma, ou seja, qual é a diferença? É que o agente tem autonomia para atingir um determinado objetivo, um determinado propósito. O exemplo que gosto muito, e o Gemini já faz um pouco disso, mas ainda te pede autorização para fazer, é que ele acha e você pede para ele reorganizar sua agenda, ele faz uma reorganização, só que você precisa dizer: “Eu aceito que faça isso”. Usei bem pouco, mas assinei para ver como funcionava

(06:12 ) lá. Imagina um assistente pessoal que de fato organiza sua agenda, compra passagem para você, manda e-mail. Isso é plenamente possível e está em uma fronteira, me parece, muito próxima. Então, as possibilidades de erros nessa circunstância de você dar excessiva agência para a IA, acho que vai trazer uma nova fronteira de danos para essa área.

(06:39 ) No que diz respeito ao usuário final, ainda se apanha muito para entregar um agente decente e fácil de usar. A OpenAI tem alguma coisa, inclusive aquelas tarefas agendadas. Se não estou enganado, no Gemini eles implementaram a mesma coisa.

(06:59 ) Tem também tarefas agendadas lá para fazer tarefas repetitivas com agendamento, mas ainda em um nível muito bási