Quem é o responsável jurídico quando uma plataforma de IA – ChatGPT, Gemini, Claude, Grok ou Perplexity – alucina, ou seja, apresenta informações falsas como se fossem verdadeiras, e prejudica a reputação ou o negócio de uma empresa?
Imagine um potencial cliente perguntando a um chatbot se uma empresa já esteve envolvida em fraude, responde a processos trabalhistas ou sofreu condenações por práticas ilegais. Se a IA gerar uma resposta incorreta e influenciar uma decisão de compra, essa resposta destruirá a reputação da marca antes mesmo que a empresa conteste a informação.
Esse cenário inaugura um debate que deve ganhar força nos próximos anos: quem responde quando uma inteligência artificial prejudica a imagem de uma empresa? A resposta é: depende.
Contexto
Ao contrário das fake news tradicionais, que normalmente possuem um autor identificável, os modelos de IA geram respostas automaticamente a partir de grandes volumes de dados e de probabilidades estatísticas. Isso torna mais complexa a definição de responsabilidades quando uma informação falsa causa danos a uma organização.
Na avaliação de especialistas em direito digital que falaram em off com a 140 Online não existe uma resposta única. A responsabilidade dependerá do contexto em que a informação foi gerada, utilizada e divulgada.
Em alguns casos, o desenvolvedor da plataforma poderá ser responsabilizado, especialmente se ficar comprovado que não adotou medidas razoáveis para reduzir erros previsíveis ou deixou de corrigir informações falsas já identificadas.
Mas a responsabilidade também pode alcançar quem utiliza a ferramenta. Empresas, jornalistas, influenciadores ou profissionais de marketing que reproduzam informações geradas pela IA sem qualquer checagem poderão responder pelos prejuízos decorrentes da divulgação.
Há ainda uma terceira camada de responsabilidade: as organizações que incorporam modelos de IA em seus próprios canais de atendimento, mecanismos de busca internos ou assistentes virtuais. Dependendo do grau de controle exercido sobre a tecnologia, elas também poderão ser chamadas a responder por eventuais danos causados aos usuários ou a terceiros.
O que diz a legislação
No Brasil, ainda não existe uma legislação específica que defina quem responde pelas chamadas alucinações da inteligência artificial. Enquanto o Congresso discute o marco regulatório da IA, o poder judiciário analisa situações desse tipo com base no Código Civil, no Código de Defesa do Consumidor, no Marco Civil da Internet e, quando houver tratamento de dados pessoais, na Lei Geral de Proteção de Dados (LGPD)
A tendência é que a Justiça avalie cada caso individualmente, considerando fatores como a veracidade da informação, o dano efetivamente causado, a previsibilidade do erro, o grau de controle dos envolvidos sobre o sistema e a relação entre a resposta produzida pela IA e o prejuízo sofrido pela empresa.
Também não está descartada a responsabilização compartilhada, quando desenvolvedor, integrador da tecnologia e usuário que divulgou a informação falsa, tiverem contribuído para a ocorrência do dano.
Comunicação e jurídico juntos
As principais empresas de IA já reconhecem que seus modelos podem produzir respostas incorretas e recomendam que se verifique as informações antes de utilizá-las. Esses alertas, entretanto, não eliminam automaticamente sua eventual responsabilidade jurídica nem isentam empresas e profissionais do dever de validar informações antes de publicá-las.
Para as áreas de comunicação e marketing, a discussão vai além do campo jurídico. Ela reforça a necessidade de investir em governança da inteligência artificial, monitoramento contínuo da presença digital das marcas e produção de conteúdo confiável, capaz de alimentar o ecossistema informacional do qual as próprias IAs se abastecem.
E mais: as áreas de comunicação e marketing terão de trabalhar de maneira integrada ao jurídico das empresas, terão de ser rápidas para corrigir falhas nos sites, folhetos digitais, anúncios e qualquer tipo de informação rastreável e também pressionar blogs e sites que publicam informações erradas sobre a empresa a corrigirem as informações.
À medida que consumidores perguntam às inteligências artificiais aquilo que antes buscavam no Google, a imprensa, as redes sociais e os mecanismos de busca deixam de ditar sozinhos a reputação das empresas. As respostas dos algoritmos passam, também, a construir ou comprometer essa reputação.
A reputação e os algoritmos
Por isso, o desafio para profissionais de comunicação tornou-se ainda maior. Nos últimos anos, a gestão de reputação focou no relacionamento com jornalistas, influenciadores, mecanismos de busca e redes sociais. Agora, surge um novo interlocutor: os assistentes de inteligência artificial.
Isso amplia o papel das áreas de comunicação corporativa, que passam a monitorar não apenas o que a imprensa publica e nas redes sociais, mas também como os sistemas de IA retratam as marcas.
Esse movimento vem impulsionando novas estratégias de otimização para mecanismos generativos, conhecidas como Generative Engine Optimization (GEO).
Assim como o SEO transformou a forma de produzir conteúdo para buscadores, o GEO busca aumentar as chances de que modelos de IA encontrem fontes confiáveis, atualizadas e consistentes ao responder perguntas sobre empresas, produtos e serviços, como já falamos aqui.