Uma geração crescendo sob vigilância: os perigos do reconhecimento facial nas escolas
Em conversa com minha filha adolescente na semana passada, apontei uma reportagem que sinalizava preocupações sobre o uso de tecnologias de reconhecimento facial em várias cantinas escolares em North Ayrshire, Escócia. Nove escolas da área lançaram recentemente essa prática como um meio de receber o pagamento dos almoços mais rapidamente e minimizar o risco de COVID, embora desde então tenham parado a implantação da tecnologia.
Quando perguntei à minha filha se ela teria alguma preocupação com o uso da tecnologia de reconhecimento facial em sua cantina escolar, ela casualmente respondeu: "Na verdade, não. Isso tornaria as coisas muito mais rápidas no checkout embora.
Suas palavras validam a preocupação de que as crianças estejam muito menos conscientes de seus direitos de dados em comparação com os adultos. E embora existam disposições especiais e salvaguardas para crianças sob uma série de legislações de proteção de dados,o uso de tecnologia de reconhecimento facial em crianças pode representar riscos únicos à privacidade.
As tecnologias de reconhecimento facial identificam e autenticam as identidades das pessoas detectando, capturando e combinando rostos com imagens de um banco de dados. As tecnologias são alimentadas por inteligência artificial (IA), especificamente a tecnologia conhecida como machine learning.
O aprendizado de máquina prevê resultados baseados em dados históricos, ou algoritmos, que foram alimentados no sistema. Assim, para reconhecimento facial, o aprendizado de máquina prevê a identidade associada a uma representação digital do rosto de uma pessoa, ou "impressão facial", com base em um banco de dados de imagens faciais. O software se adapta através dessa experiência, com o tempo aprendendo a gerar previsões com mais facilidade.
A tecnologia de reconhecimento facial agora é usada de várias maneiras, como para verificar a identidade dos funcionários, para desbloquear smartphones pessoais, para marcar pessoas em plataformas de mídia social como o Facebook, e até mesmo para fins de vigilância em alguns países.
A tecnologia de reconhecimento facial por si só não é o problema. Em vez disso, a questão é como ela é usada e, neste caso, o fato de a tecnologia ter agora se infiltrado nos corredores escolares e direcionado a uma demografia vulnerável: crianças.
Então, quais são os problemas de privacidade para as crianças?
Sua impressão facial são seus dados, por isso, para qualquer sistema de reconhecimento facial, é importante entender como os bancos de dados de imagem são colados e armazenados. Embora eu possa concordar relutantemente com o uso da tecnologia de reconhecimento facial para entrar em um local de shows, eu não ficaria feliz se minha impressão facial fosse retida para "outros propósitos comerciais da empresa" (uma frase que aparece bastante comumente na impressão fina da venda de ingressos sobre o uso de dados pessoais).
Se a tecnologia de reconhecimento facial for usada em ambientes escolares, precisaremos de informações claras sobre se e como as imagens dos alunos serão usadas além do propósito da fila do almoço. Por exemplo, eles vão ser compartilhados com terceiros, e para que propósito? Problemas podem surgir, por exemplo, se as impressões faciais estiverem ligadas a outros dados sobre a criança, como suas preferências de almoço. Terceiros poderiam teoricamente usar esses dados para fins de marketing.
Também precisaríamos de informações sobre como as imagens seriam protegidas. Se as impressões faciais dos alunos não forem adequadamente protegidas, ou o sistema não for robusto o suficiente para afastar hackers, isso cria riscos à segurança cibernética. Pode ser possível que hackers vinculem as impressões faciais das crianças a outros dados sobre elas e os rastreiem.
O risco aumentado de privacidade em torno do uso de tecnologias de reconhecimento facial nas escolas também diz respeito ao consentimento informado. Embora a lei de proteção de dados do Reino Unido especigue que crianças com 13 anos ou mais podem consentir com o processamento de seus dados pessoais, isso não significa que eles entendam completamente as implicações. Por exemplo, uma pesquisa descobriu que crianças entre oito e 15 anos tiveram dificuldade em entender os termos e condições do Instagram.
Crianças, pais e responsáveis devem ser fornecidos com nada menos do que informações completas, com um sofá em linguagem que as crianças possam facilmente entender. Qualquer assunto de dados, incluindo uma criança, tem o direito de saber exatamente como seus dados pessoais serão processados, compartilhados e armazenados, e pode especificar as condições sob as quais seu consentimento será aplicado. Qualquer coisa menos que prudência e transparência correrá o risco de comprometer a privacidade das crianças.
Normalizar a vigilância das crianças?
Essas são apenas algumas das questões que o uso de tecnologias de reconhecimento facial nas escolas levanta. A tecnologia de reconhecimento facial também traz outros riscos, como erros, que poderiam, por exemplo, levar os alunos a serem cobrados incorretamente. E como em qualquer sistema de IA, devemos nos preocupar se os algoritmos e conjuntos de dados estão livres de viés, e têm dados de treinamento limpos, completos e representativos.
É importante ressaltar que o uso de tecnologias de reconhecimento facial nas escolas também vai de alguma forma para normalizar a vigilância das crianças. É possível que o conhecimento que eles estão sendo rastreados dessa forma possa impactar o bem-estar de algumas crianças.
Não é de surpreender que o cão de guarda de dados do Reino Unido, o Escritório do Comissário da Informação, tenha intervindo para investigar o uso de tecnologias de reconhecimento facial em filas de merenda escolar. E à luz do inquérito, é agradável ver que o Conselho de North Ayrshire parou de implementar a prática.
Mas à medida que avançamos para a era digital, é possível que o uso de tecnologias de reconhecimento facial entre escolares seja retomado, e até mesmo seja retomado mais amplamente. Para isso, o uso do reconhecimento facial deve render substancialmente mais benefícios do que riscos, levando em conta as circunstâncias especiais de uso da tecnologia em crianças.
Pin Lean Lau, Professor de Biotegro, Brunel Law School | Centro de Inteligência Artificial: Inovações Sociais & Digitais, Brunel University London
Este artigo é republicado a partir de The Conversation sob uma licença Creative Commons. Leia o artigo original.
TRADUÇÃO: BDN
