Uma equipe de pesquisadores da McAfee conseguiu enganar um sistema de reconhecimento facial semelhante ao utilizado em aeroportos para verificação de passaportes e, por meio de técnicas de machine learning, fez com que o algoritmo identificasse uma pessoa dissemelhante da que era exibida – o que permitiria a alguém embarcar em um voo estando registrado ou não.
A técnica pode ser usada, por exemplo, para fraudar a checagem de passaportes em aeroportos. “Se ficarmos em frente à uma câmera que usa reconhecimento facial para identificar e interpretar quem eles estão olhando e confrontar com uma foto de passaporte, podemos forçar esse tipo de classificação errônea”, explica o responsável do estudo, Steve Povolny.
Para o ataque, foi...
utilizado um algoritmo de tradução espargido porquê CycleGAN, capaz de mudar o estilo de fotografias com efeitos especiais, a exemplo de “tornar” o registro de um porto uma pintura de Monet ou transformar uma imagem de uma serra no verão em um cenário de inverno. Mais de 1,5 milénio fotos de dois membros do time foram “misturadas” umas às outras e, depois de centenas de tentativas, chegou-se a uma falsificada que parecia uma a olho nu e outra ao reconhecimento facial.
E mais: Facebook lança dois programas de aceleração para concordar startups
O estudo apresenta um risco em potencial para sistemas de reconhecimento facial, porém com ressalvas. Para os testes, os pesquisadores não tiveram aproximação ao sistema real usado, por exemplo, pelos aeroportos para identificar passageiros, mas um algoritmo de código acessível de última geração. Outro ponto é que esse tipo de ataque requer muito tempo e recursos. O CycleGAN precisa de computadores e conhecimentos avançados para ser executado, por enquanto.
Defendendo a manutenção da presença humana nessas ocasiões, o pesquisador alerta: “A IA e o reconhecimento facial são ferramentas incrivelmente poderosas para ajudar no processo de identificação e autorização de pessoas; porém, quando você os pega e substitui cegamente um sistema existente que depende inteiramente de um ser humano sem ter qualquer tipo de verificação secundária, isso pode valer introduzir uma fraqueza maior do que antes”.
