Apple vai analisar fotos de iPhones e iCloud para combater abuso de menores

A Apple anunciou a implementação de um novo sistema que pretende ajudar a combater abuso de menores a partir da análise de fotos de iPhones armazenadas no iCloud. O recurso é um dos esforços que a empresa está apresentando com o foco em proteção para crianças, e usará algoritmos treinados para identificar Material de Abuso Infantil (o que a companhia chamou de “CSAM”, na sigla em inglês) — na prática, esse material consiste em conteúdo que revele atividades sexualmente explícitas envolvendo crianças.

A empresa alega que o processo é seguro e foi pensado de modo a preservar a privacidade dos usuários. Segundo a Apple, as garantias são de que ela não armazena nenhum tipo de conhecimento baseado em imagens que não correspondam ao banco de dados referente ao CSAM, fornecidas pelo Centro Nacional para Crianças Desaparecidas e Exploradas dos EUA.

Além disso, a companhia diz que “o risco de o sistema sinalizar incorretamente uma conta extremamente baixo”, mais especificamente, menos de 1 em 1 trilhão de contas por ano poderiam ser sinalizadas indevidamente. Ainda assim, a empresa irá contar com análise manual de todos os alertas que virarem relatórios para as autoridades, com o intuito de evitar erros de IA.

Os usuários não têm acesso ao banco de dados de CSAM e também não são avisados sobre conteúdo que foi sinalizado como CSAM pelo sistema da Apple.

Sistema da Apple pretende analisar fotos do iPhone salvas no iCloud (Imagem: Reprodução/Apple)

A explicação dada pela Apple diz, em termos práticos, que antes de uma imagem ser armazenada no iCloud, ela passa por um processo de correspondência no próprio dispositivo. A ação procura padrões e os compara a um conjunto ilegível de hashes de conteúdo CSAM conhecido — tudo isso coberto por criptografia. Imagens salvas apenas localmente não passam por esse processo.

Fonte: Tecnoblog