Recentemente perguntamos à Meta se ela treina IA em fotos e vídeos que os usuários tiram nos óculos inteligentes Ray-Ban Meta. A empresa originalmente não tinha muito a dizer.
Desde então, Meta ofereceu ao TechCrunch um pouco mais de cor.
Resumindo, qualquer imagem que você compartilhar com o Meta AI pode ser usada para treinar sua IA.
“(Em) locais onde a IA multimodal está disponível (atualmente EUA e Canadá), imagens e vídeos compartilhados com Meta AI podem ser usados para melhorá-la de acordo com nossa Política de Privacidade”, disse o gerente de comunicações de política da Meta, Emil Vazquez, em um e-mail para TechCrunch.
Em uma declaração anterior enviada por e-mail, um porta-voz esclareceu que as fotos e vídeos capturados no Ray-Ban Meta são não usado pelo Meta para treinamento, desde que o usuário não os envie à IA. No entanto, quando você pede à Meta AI para analisá-las, essas fotos se enquadram em um conjunto de políticas completamente diferente.
Por outras palavras, a empresa está a utilizar o seu primeiro dispositivo de IA de consumo para criar um enorme stock de dados que poderia ser usado para criar gerações cada vez mais poderosas de modelos de IA. A única maneira de “cancelar” é simplesmente não usar os recursos de IA multimodal do Meta em primeiro lugar.
As implicações são preocupantes porque os usuários do Ray-Ban Meta podem não entender que estão fornecendo ao Meta toneladas de imagens – talvez mostrando o interior de suas casas, entes queridos ou arquivos pessoais – para treinar seus novos modelos de IA. Os porta-vozes da Meta me disseram que isso fica claro na interface de usuário do Ray-Ban Meta, mas os executivos da empresa inicialmente não sabiam ou não queriam compartilhar esses detalhes com o TechCrunch. Já sabíamos que a Meta treina seus modelos Llama AI em tudo o que os americanos postam publicamente no Instagram e no Facebook. Mas agora, a Meta expandiu esta definição de “dados disponíveis publicamente” para qualquer coisa que as pessoas vejam através dos seus óculos inteligentes e peçam ao seu chatbot de IA para analisar.
Isto é particularmente relevante agora. Na quarta-feira, Meta começou a lançar novos recursos de IA que tornam mais fácil para os usuários do Ray-Ban Meta invocar o Meta AI de maneira mais natural, o que significa que os usuários estarão mais propensos a enviar novos dados que também podem ser usados para treinamento. Além disso, a empresa anunciou um novo recurso de análise de vídeo ao vivo para Ray-Ban Meta durante sua conferência Connect 2024 na semana passada, que essencialmente envia um fluxo contínuo de imagens para os modelos de IA multimodais da Meta. Em um vídeo promocional, Meta disse que você poderia usar o recurso para dar uma olhada em seu armário, analisar tudo com IA e escolher uma roupa.
O que a empresa não divulga é que você também envia essas imagens para o Meta para treinamento do modelo.
Porta-vozes da Meta apontaram o TechCrunch para seu política de Privacidadeque afirma claramente: “suas interações com recursos de IA podem ser usadas para treinar modelos de IA”. Isso parece incluir imagens compartilhadas com Meta AI através dos óculos inteligentes Ray-Bans, mas Meta ainda não esclareceu.
Porta-vozes também apontaram o TechCrunch para Termos de serviço da Meta AIque afirma que, ao compartilhar imagens com Meta AI, “você concorda que Meta analisará essas imagens, incluindo características faciais, usando IA”.
Meta apenas pagou ao estado do Texas US$ 1,4 bilhão para resolver um processo judicial relacionado ao uso de software de reconhecimento facial pela empresa. Esse caso foi devido a um recurso do Facebook lançado em 2011 chamado “Sugestões de tags”. Em 2021, o Facebook optou explicitamente pelo recurso e excluiu bilhões de informações biométricas de pessoas que havia coletado. Notavelmente, vários recursos de imagem do Meta AI não estão sendo lançados no Texas.
Em outras partes das políticas de privacidade da Metaa empresa afirma que também armazena todas as transcrições de suas conversas de voz com Ray-Ban Meta, por padrão, para treinar futuros modelos de IA. Quanto às gravações de voz reais, existe uma maneira de cancelar. Ao fazer login pela primeira vez no aplicativo Ray-Ban Meta, os usuários podem escolher se as gravações de voz podem ser usadas para treinar os modelos de IA do Meta.
Está claro que Meta, Snap e outras empresas de tecnologia estão pressionando por óculos inteligentes como um novo formato de computação. Todos esses dispositivos possuem câmeras que as pessoas usam no rosto e, em sua maioria, são alimentados por IA. Isso retoma uma série de preocupações com a privacidade que ouvimos pela primeira vez na era do Google Glass. 404 Media informou que alguns estudantes universitários já hackeou os óculos Ray-Ban Meta para revelar o nome, endereço e número de telefone de qualquer pessoa que eles vejam.
