A Meta Platforms Inc., sob pressão de pais e legisladores devido ao impacto da plataforma na saúde mental dos adolescentes, planeja utilizar inteligência artificial para identificar jovens usuários do Instagram que mentem sobre sua idade e automaticamente colocá-los em configurações de privacidade mais restritivas.
Com uma ferramenta de software proprietária denominada "classificador de adulto", a Meta irá categorizar os usuários em dois grupos etários — maiores ou menores de 18 anos — baseando-se nos dados da própria conta do usuário, conforme explicado por Allison Hartnett, diretora de gestão de produtos para juventude e impacto social da Meta. O software analisa o perfil do usuário, verifica sua lista de seguidores e o tipo de conteúdo com que interagem, além de escanear postagens de aniversário inesperadas feitas por amigos para estimar a idade do usuário.
Segundo Hartnett, pessoas suspeitas de serem menores de 18 anos serão automaticamente colocadas em contas para adolescentes, independentemente da idade que declaram em seu perfil. Em setembro, o Instagram introduziu essas novas contas para adolescentes, que vêm com configurações de privacidade mais rigorosas por padrão, como limitar quem pode enviar mensagens e o tipo de conteúdo que podem acessar. A empresa não divulgou a precisão do classificador de adultos.
Atualmente, a Meta já está movendo adolescentes para essas configurações mais restritivas com base na data de nascimento informada por eles, mas pretende usar o classificador de adultos no início do próximo ano para identificar aqueles que tentam contornar as novas regras. Todos os usuários com menos de 18 anos serão automaticamente direcionados para contas de adolescentes, mas aqueles entre 16 e 17 anos poderão alterar as configurações de privacidade mais restritivas por conta própria. No entanto, menores de 16 anos precisam do consentimento dos pais para desativar essas configurações.
Proteger adequadamente os usuários adolescentes de conteúdo nocivo tem sido um desafio para a Meta há anos. A iniciativa de contas para adolescentes foi aplaudida por aqueles que argumentam que a Meta não fazia o suficiente para manter os jovens usuários seguros online.
A gigante das redes sociais enfrenta uma ação judicial de dezenas de procuradores-gerais estaduais, alegando que a empresa conscientemente viciou crianças em mídias sociais e contribuiu para uma crise de saúde mental entre adolescentes. A Meta também foi alvo de pais que afirmam que seus adolescentes faleceram devido a drogas ou suicídio causados por conteúdo visualizado ou conversas feitas através dos produtos da Meta.
Em 2021, Frances Haugen, uma ex-funcionária do Facebook que se tornou delatora, divulgou milhares de páginas de documentos que revelaram, entre outras coisas, que as próprias pesquisas da empresa indicavam que o Instagram poderia ter um impacto negativo na saúde mental de meninas adolescentes.
Com as novas restrições em vigor, o desafio da Meta agora é fazer com que elas sejam cumpridas — uma tarefa nada fácil, considerando que adolescentes frequentemente encontram meios de acessar material com restrição de idade. Um estudo do regulador de telecomunicações do Reino Unido descobriu que um terço dos menores com contas em redes sociais declaram ser maiores de 18 anos.
Em muitos sites da internet, mentir sobre a idade é extremamente simples. Por exemplo, a plataforma de jogos Steam simplesmente pede que os usuários informem sua data de nascimento para visualizar ou baixar jogos classificados como maduros. Outros sites que vendem álcool, por exemplo, apenas pedem que os usuários cliquem em um botão para confirmar que têm mais de 21 anos.
A Meta tem como objetivo dificultar muito mais a mentira sobre a idade no Instagram. Por exemplo, a empresa sinalizará adolescentes que tentarem criar uma nova conta usando o mesmo endereço de e-mail, mas com uma data de nascimento diferente. A empresa também pode verificar o ID único do dispositivo do telefone para tentar identificar quem está por trás de um novo perfil.
Adolescentes que tentarem aumentar manualmente a idade listada em sua conta precisarão comprovar sua identidade enviando uma identificação formal, como uma carteira de motorista, ou enviando um vídeo-selfie para a Yoti, um serviço terceirizado que pode estimar a idade com base em características faciais. Depois da verificação, tanto as imagens quanto os vídeos são apagados pela Yoti e pela Meta.
Pessoas que foram erroneamente classificadas como adolescentes poderão, eventualmente, apelar para que a Meta remova o status de conta de adolescente, embora o processo ainda esteja em desenvolvimento. Até lá, enquanto a Meta trabalha para melhorar a precisão do seu classificador de adultos, aqueles erroneamente identificados como adolescentes podem desativar manualmente as configurações sem permissão parental.
A abordagem da Meta para a verificação de idade se baseia na vasta quantidade de informações que as pessoas compartilham sobre si mesmas no aplicativo, incluindo círculos sociais, hobbies e preferências de conteúdo. As contas para adolescentes do Instagram ainda estão sendo implementadas nos EUA e em vários outros países, mas, até agora, Hartnett diz que o problema de adolescentes mentindo sobre a idade tem sido menos significativo do que a empresa esperava.
Apesar dos esforços da Meta, Hartnett e outros executivos argumentam que o processo de verificação de idade mais respeitoso com a privacidade seria se as lojas de aplicativos verificassem a idade dos adolescentes antes mesmo que eles pudessem baixar certos aplicativos. Um porta-voz da Apple Inc. disse que tal abordagem violaria o princípio da minimização de dados, enquanto um porta-voz da Google, da Alphabet Inc., comentou que não há uma "solução única" para o problema.
No entanto, transferir o ônus da verificação de idade para a Google Play ou a App Store da Apple "assume que a loja de aplicativos tem a verdade absoluta", disse Michael Smith, professor de ciência da computação que ensina um curso sobre privacidade de dados na Universidade de Harvard, por e-mail. Isso não resolve o problema de se a pessoa foi honesta desde o início. "Os problemas da Meta com a verificação de idade estão simplesmente sendo transferidos para as lojas de aplicativos?"
Via - BB
Comentários