Microsoft avisa que Bing com ChatGPT pode dar resposta convincente, mas errada

Os mecanismos de busca apontam onde está a resposta que você procura. Com o surgimento de inteligências artificiais que dão a resposta a você, essa dinâmica pode mudar. É o que podemos esperar da recente combinação do Bing com o ChatGPT? Talvez. A própria Microsoft alerta que os resultados dessa integração podem ser convincentes, mas errados.

O Bing e o navegador Edge usarão a tecnologia do ChatGPT para gerar respostas na mesma página da consulta. É como se você estivesse conversando com um robô que se comunica ou realiza tarefas por meio de textos. Se você já usou o ChatGPT, sabe como é a experiência.

Mas é preciso ter em mente que a tecnologia por trás do ChatGPT é um modelo de linguagem, aparentemente, uma variação do GPT 3.5. Esse sistema tem um objetivo primário: gerar texto que pode ser compreendido por nós, humanos.

Para tanto, os resultados entregues precisam ser coerentes. Por exemplo, “um pássaro está cantando na janela” é uma frase que se encaixa nesse contexto. Já “a impressora levou a árvore para passear”, não. Só que uma resposta pode ser coerente, mas não correta. É aí que surge o alerta.

O FAQ do Bing foi atualizado para refletir a nova fase. Ali, a Microsoft alerta:

O Bing tenta basear todas as suas respostas em fontes confiáveis, mas a IA pode cometer erros, e o conteúdo de terceiros na internet nem sempre é preciso ou confiável.

Fonte: Tecnoblog