Falha na IA do Google permite invasão de casas inteligentes, mostra estudo

Pesquisadores da Universidade de Tel Aviv demonstraram uma vulnerabilidade inédita envolvendo o Gemini, assistente de inteligência artificial do Google.

Com a injeção indireta de prompt, que ocorre quando um LLM aceita entradas de fontes externas, como sites ou arquivos, foi possível manipular o sistema para acionar dispositivos de casas inteligentes conectados à conta do usuário — tudo isso a partir de eventos aparentemente inofensivos no Google Agenda.

Segundo os pesquisadores, o ataque é um dos primeiros casos em que uma IA generativa foi usada para interferir diretamente no mundo físico. A pesquisa foi apresentada na conferência de segurança Black Hat e levanta um alerta sobre os riscos da integração entre assistentes de IA e dispositivos pessoais — mesmo após a falha já ter sido comunicada ao Google.

Batizado de “Invitation Is All You Need” — uma referência ao clássico artigo do Google de 2017, que ajudou nos avanços da IA —, o estudo detalha como um simples convite de calendário pode se tornar uma armadilha.

No lugar de um evento legítimo, os pesquisadores inseriram comandos maliciosos no campo de descrição no calendário. Quando o usuário pedia ao Gemini para resumir sua agenda, o assistente lia as instruções e as executava, sem perceber que se tratava de um ataque.

A falha aproveita justamente a capacidade do Gemini de interagir com outros serviços do ecossistema Google, como o Google Assistente e dispositivos de automação residencial.

Fonte: Tecnoblog