Meta corrige IA após ferramenta sugerir perguntas invasivas sobre crianças

Que as redes sociais expõem muito sobre alguém, todo mundo já sabe. Mas a IA parece estar facilitando o processo: a Meta anunciou mudanças no assistente integrado às suas plataformas depois que uma mulher descobriu que a ferramenta cruzava informações para sugerir perguntas invasivas sobre sua filha.

Segundo Kalie Robins, a Meta AI perguntou “Quem é a criança?” em um vídeo que mostrava ela e a própria filha cantando dentro de um carro. A publicação foi compartilhada no Instagram e no Facebook. Ao clicar na sugestão, Robins afirma ter encontrado um “portfólio completo” de informações não apenas sobre a filha que aparecia no vídeo, mas também sobre sua outra filha, que não estava na cena.

De acordo com o Futurism, isso teria acontecido porque a IA cruzou informações publicadas por outros integrantes da família, incluindo dados que não haviam sido compartilhados pela própria Robins.

A porta-voz da Meta Dina El-Kassaby admitiu que a companhia “errou o alvo” e que a tecnologia “jamais deveria ter sugerido perguntas como essas a um indivíduo”. Segundo ela, a equipe já corrigiu o problema que permitia a geração de sugestões relacionadas a assuntos pessoais.

No entanto, vale notar que a correção é para as sugestões. Isso não significa, necessariamente, que a plataforma impedirá o chatbot de fornecer essas informações caso um usuário faça uma pergunta diretamente.

Em outro vídeo publicado no Instagram, Robins relata que, ao selecionar a sugestão, o assistente reuniu informações sobre cada uma das filhas a partir de publicações antigas no perfil e até posts feitos por parentes. “Ele começou a trazer informações […], os nomes, datas de aniversário e vídeos sobre elas”, além de fotos publicadas pela mãe, afirma.

Fonte: Tecnoblog