IA adapta respostas ao usuário e pode reforçar suas crenças

O que você precisa saber

Um estudo da Unicamp avaliou 21 modelos de linguagem e descobriu que todos alteraram suas respostas ao receber informações sobre a orientação política do usuário. Segundo os pesquisadores, essa adaptação pode reforçar crenças e reduzir o contato com opiniões divergentes.

Financiada pela FAPESP e publicada na Scientific Reports, a pesquisa mostra que a influência não depende de recomendações de voto. Ela pode surgir na forma como a IA aborda temas controversos.

Os modelos foram testados sem informação sobre o usuário e com pessoas alinhadas à esquerda ou à direita.

Sem essa informação, 20 dos 21 sistemas ficaram à esquerda do ponto médio da escala. A exceção foi o Grok 4.1, que apresentou posição inicial à direita.

Quando a orientação política era informada, todos mudavam suas respostas. Para medir essa adaptação, a equipe criou o chameleon index.

As respostas não eram necessariamente falsas. O problema estava no enquadramento: fatos e opiniões contrários à visão do usuário poderiam ser omitidos.