O ChatGPT é o maior divulgador de notícias falsas?

May 27, 2023

22 de agosto de 2023

ChatGPT conquistou o mundo em 2023. A menos que você esteja vivendo sob uma rocha, você já saberá o que ele é – um chatbot de inteligência artificial (IA) que pode responder perguntas ou completar qualquer tarefa que você definir (não incluindo manual, tarefas da vida real).

Por Lourens Sanders, engenheiro de vendas sênior da Commvault SEEMEA

Os benefícios são amplamente comentados: economia de tempo e recursos, redução de custos e criação de conteúdo inovador, para citar apenas alguns.

Potenciais armadilhas

No entanto, está se tornando um problema cada vez mais aparente que o ChatGPT nem sempre é 100% preciso. Se for questionado sobre algo que não sabe, o chatbot lhe dará uma resposta com segurança, mesmo que esteja errada e, não sabendo o contrário, a maioria dos consumidores provavelmente acreditará. Na verdade, o ChatGPT irá até argumentar contra os usuários que sugerirem que ele está errado e explicar por que a resposta dada está correta.

Isso ocorre porque o ChatGPT não é como um mecanismo de busca. Os motores de busca coletam informações de bancos de dados, classificam as descobertas mais populares e mostram ao usuário esses resultados para que ele encontre a resposta que procura.

O ChatGPT, da mesma forma, encontra as informações em seu banco de dados, mas em vez de retransmiti-las ao usuário exatamente como foram encontradas, ele cria a resposta fazendo uma série de suposições com base nos resultados. É aí que tudo pode dar errado e notícias falsas começam a ser geradas.

Mas não é apenas a criação de respostas pelo ChatGPT que acarreta o risco de geração de notícias falsas. Como um chatbot de IA, o ChatGPT não tem a capacidade de raciocinar, como os humanos. Ele não consegue identificar um artigo de opinião a partir de um artigo de notícias factual, então considera tudo pelo valor nominal. Com notícias falsas estimadas em 62% de todas as informações da Internet, a probabilidade de o ChatGPT encontrar informações falsas em sua fase de descoberta e retransmiti-las a você como uma resposta definitiva é alta.

Além disso, com sua base de usuários em rápido crescimento e recorde, é provável que os usuários façam perguntas semelhantes ao ChatGPT e obtenham respostas semelhantes, se não exatamente iguais. Como resultado, várias duplicatas de informações falsas podem acabar online. Tendo sido repetido e afirmado tantas vezes, será cimentado como um fato.

Um negócio arriscado

No entanto, o ChatGPT pode ser útil em vários departamentos de negócios – do marketing ao desenvolvimento de produtos. Ao criar a campanha de marketing mais recente ou ao desenvolver o produto mais recente, muitos funcionários recorrerão ao Google em busca de inspiração, talvez perguntando sobre os últimos problemas que o setor está enfrentando, para que possam dedicar seu trabalho à solução do problema. Com o ChatGPT acessível a todos, está rapidamente se tornando uma ferramenta útil na fase de geração de ideias de novos projetos.

No entanto, conforme destacado acima, há um enorme risco de o ChatGPT fornecer uma resposta incorreta a uma pergunta que as equipes constroem um produto ou campanha completo. Por exemplo, o ChatGPT poderia sugerir que um problema da indústria de cinco anos atrás era um dos atuais pontos problemáticos do setor.

Tomando isso como fato, uma equipe de marketing poderia construir toda uma campanha em torno dessa ideia, resultando em enormes danos à reputação, em que o negócio seria considerado fora de alcance e obsoleto. Pior ainda, se uma empresa construísse um produto completo em torno deste suposto ponto problemático, milhões de rands poderiam ser investidos numa solução que não é necessária aos seus clientes. Isto não só teria um enorme impacto na reputação, mas também resultaria numa perda financeira significativa.

Mantenha os humanos

Erros como os acima podem ser evitados se um pouco de conhecimento for aplicado junto com a tecnologia. Os humanos não devem ser retirados da equação ainda e qualquer informação que o ChatGPT lhe forneça deve ser verificada – e depois verificada novamente – por especialistas na área.

Quem sabe se um dia os nossos empregos serão completamente substituídos por robôs, mas, pelo menos por enquanto, a experiência humana ainda é essencial nos negócios. Pense no ChatGPT mais como um ‘colega de trabalho de IA’ que o ajuda em determinadas tarefas e apresenta ideias, mas, no final das contas, você ainda precisa fazer sua parte no trabalho.