O uso de chatbots com inteligência artificial, como o ChatGPT (OpenAI), Gemini (Google) e Grok (xAI, de Elon Musk), está mudando a forma como buscamos informação. Mas até que ponto as respostas dos chatbots são confiáveis?
Os chatbots são uma mão na roda ao oferecerem respostas em linguagem natural. Essas ferramentas estão substituindo progressivamente o uso tradicional de buscadores, especialmente entre usuários em busca de praticidade.
Os modelos generativos são treinados para produzir textos coerentes e persuasivos, mas isso não significa que suas respostas sejam necessariamente verdadeiras, atualizadas ou imparciais.
Recentemente, um problema no chatbot do AI do X, o “Grok”, levantou um alerta. As respostas traziam informações fabricadas e politicamente enviesadas, colocando em evidência o problema da verificação. Esta questão foi apontada pela Social Media Today.
A principal armadilha das IAs conversacionais é sua capacidade de “soar” correta, mesmo quando estão erradas.
O problema do Grok foi identificado pelo X e rapidamente corrigido embora tenha voltado novamente por um período.
Embora chatbots sejam ferramentas poderosas para facilitar o acesso a informações, seu uso deve vir acompanhado de senso crítico. Eles são ótimos para resumos, explicações iniciais ou organização de ideias, mas é essencial confirmar o conteúdo em fontes confiáveis, especialmente em contextos que envolvem ciência, saúde, política ou finanças.
A lição que fica é que os robôs (chatbots) não podem nunca ficar sem supervisão humana.