Em crise, Facebook diz que apagará reconhecimento facial de um bilhão de pessoas

Em meio à pior crise de sua história após as revelações da ex-funcionária Frances Haugen, o Facebook anunciou hoje que desativará seu poderoso sistema de reconhecimento facial. A empresa assegura que apagará cerca de um bilhão de perfis únicos de pessoas identificadas pelo algoritmo de inteligência artificial nos últimos dez anos. Diz que aguardará uma regulação mais clara antes de prosseguir com o uso da tecnologia, seja no Facebook, seja no Instagram.

A identificação de cada indivíduo por meio de reconhecimento facial é uma das principais aplicações de tecnologias de machine learning e inteligência artificial. É mais uma tecnologia potencialmente lesiva à privacidade das pessoas que foi desenvolvida e aplicada sem maior discussão no Ocidente - e não apenas pelo Facebook. O potencial político e econômico de dados biométricos é imenso, embora pouco conhecido.

Na China, aplicações de reconhecimento facial são usadas pelo regime para forçar conformidade social e perseguir minorias. No Ocidente, as aplicações tendem a ser, até agora, comerciais e de segurança policial. É o caso de empresas que treinam suas máquinas para uso de identificação em ambientes físicos (como aeroportos) e digitais (como aplicativos de bancos). Outro uso comum se dá em investigações policiais - mas há cidades que, temendo o abuso da tecnologia, baniram o uso governamental dela, como Boston e São Francisco.

Na União Europeia e nos Estados Unidos, o Facebook - agora renomeado Meta - enfrentou resistência de governos e processos ao usar a ferramenta de reconhecimento facial. Grandes empresas como Amazon, IBM e Microsoft também se afastaram desse mercado, em razão dos altos riscos legais e de reputação.

A decisão do Facebook provavelmente colocará pressão em rivais como Apple e Google, que usam inteligência artificial para identificar pessoas em seus serviços de fotos e vídeos. (Recentemente, a Apple sofreu críticas ao anunciar que escanearia fotos privadas de seus usuários em busca de imagens de pedofilia; a medida foi vista por reguladores e acadêmicos como um atalho para acessar indevidamente as informações pessoais de seus clientes. A empresa recuou após a má repercussão.)

O manuseio de biometria facial é uma questão mais difícil para a Apple, uma empresa que vende privacidade como um de seus valores. A Apple usa intensamente seu Face ID como mecanismo de autenticação - inclusive para pagamentos e acesso a aplicativos de terceiros. A empresa assegura que as informações coletadas do usuário são armazenadas de modo seguro e offline.

Mas especialistas em segurança temem que a disseminação desse tipo de autenticação aumente ainda mais os riscos de que atores estatais e adversários mais poderosos consigam obter ilegalmente esses dados. Temem também que a própria Apple venha a mudar a privacidade dessas informações e abuse delas.

Diz um engenheiro envolvido na criação de modelos matemáticos para biometria facial: "As pessoas não têm ideia do quão invasiva e poderosa podem ser essas ferramentas de identificação, o que inclui interpretação de sentimentos por meio do aprendizado de máquina ao longo dos anos. Quanto mais você usa o modelo, e por mais tempo, mais a máquina aprende sobre os significados de sua expressão facial".

Esse engenheiro sênior, que trabalha há cinco anos na empreitada, acredita que dificilmente as empresas deixarão de lucrar com uma ferramenta tão atraente para autoridades policiais e empresas de marketing. O movimento do Facebook, ele diz, deve ser temporário. "Eles têm o melhor e mais antigo banco de dados do mundo. Um bilhão de pessoas. Não se deixa dinheiro assim na mesa."

Embora o Facebook esteja numa severa crise de reputação, correndo cada vez mais riscos legais e regulatórios nos Estados Unidos e na Europa, a companhia segue lucrativa. Os desafios dela tendem a ser de médio e longo prazo.

Atualização às 18h15 de 2 de novembro de 2021: a matéria foi corrigida e ampliada para refletir o escopo da decisão do Facebook e esclarecer a capacidade técnica atual do Face ID da Apple.