Após receber duras críticas sobre os novos recursos que examinariam fotos dos usuários em busca de material de abuso infantil (CSAM), a Apple voltou atrás e adiou o lançamento da ferramenta prevista para esse ano. A empresa disse que, a partir dos feedbacks dos clientes, optou por "reservar um tempo adicional" para "fazer melhorias antes de lançar".
"No mês passado, anunciamos planos para recursos destinados a ajudar a proteger as crianças de predadores que usam ferramentas de comunicação para recrutá-las e explorá-las, e limitar a disseminação de material de abuso sexual infantil", disse a Apple em um comunicado ao site The Verge.
"Com base no feedback de clientes, grupos de defesa, pesquisadores e outros, decidimos reservar um tempo adicional nos próximos meses para coletar informações e fazer melhorias antes de lançar esses recursos de segurança infantil extremamente importantes".
As mudanças propostas pela Apple contra abuso sexual infantil no início do mês passado incluíam uma ferramenta projetada para detectar imagens de abuso infantil conhecidos, escaneando as imagens dos usuários enviadas para o iCloud, relatando a moderadores que poderiam alertar o Centro Nacional para Crianças Desaparecidas e Exploradas.
Outra tecnologia de segurança anunciada pela empresa usa machine learning no dispositivo para identificar e desfocar imagens que indicam abuso sexual infantil em mensagens, alertando os pais dos menores. E, ainda, uma mudança em Search e Siri, que apontaria para recursos para prevenir CSAM, caso um usuário procurasse por informações relacionadas.
As ferramentas propostas, no entanto, foram criticadas por especialistas de privacidade e segurança, que argumentam que o sistema poderia ser usado para fins de vigilância, principalmente, por governos autoritários.
Em meados de agosto, no entanto, a empresa garantiu que não cederia à pressão de governos, bem como garantiu que possui um sistema de proteção para impedir que outros tipos de imagens sejam detectadas e escaneadas.
A Electronic Frontier Foundation disse em um comunicado, divulgado em 5 de agosto, que o novo sistema, embora bem intencionado, "quebraria as principais promessas da criptografia do próprio mensageiro e abriria a porta para abusos mais amplos".