Da Folhapress
SÃO PAULO – A IBM não vai mais oferecer sistemas de reconhecimento facial para uso geral, afirmou Arvind Krishna, presidente-executivo da companhia, em carta enviada ao Congresso americano na segunda-feira, 8.
Disponível no site da empresa, a carta diz que a IBM não vai tolerar “uso de qualquer tecnologia, incluindo reconhecimento facial de fornecedores, para vigilância em massa, perfilamento racial, violação de direitos humanos e liberdades, e qualquer outro fim que não se adeque a seus princípios e valores de confiança e transparência”.
Ao site The Verge, a companhia também revelou ter cessado o desenvolvimento e a pesquisa com a tecnologia.
O documento propõe medidas a uma reforma de justiça racial e defende um diálogo nacional sobre o uso de sistemas de reconhecimento facial por autoridades policiais.
A decisão da IBM de cancelar a oferta da tecnologia se insere no contexto das manifestações antirracistas que abalaram os Estados Unidos nos últimos dias, após a morte do ex-segurança negro George Floyd, assassinado por um policial branco que o asfixiou com o joelho.
Nos últimos anos, pesquisadores e organizações de direitos humanos têm denunciado as consequências discriminatórias do uso de sistemas de reconhecimento facial e de inteligência artificial por autoridades, empresas públicas e privadas.
Um estudo do governo americano já evidenciou que sistemas atuais de reconhecimento facial têm dificuldade para identificar negros e asiáticos, por exemplo.
Há dois anos, pesquisadores do NIST (Instituto Nacional de Padrões e Tecnologia) revelaram que os principais algoritmos usados em tecnologias de reconhecimento facial no mercado eram influenciados por raça, idade e etnia. Os sistemas da IBM também foram julgados dessa forma.
“Fornecedores e usuários de sistemas de IA têm responsabilidade compartilhada em garantir que os sistemas sejam testados em relação ao viés, particulamente quando usado para aplicação da lei, e que esse teste seja auditado e relatado”, diz a empresa na carta.
A IBM também defende que a polícia nacional adote o uso de tecnologias que ofereçam transparência e permitam a prestação de contas à sociedade, desde as câmeras que captam movimentos corporais até as técnicas avançadas de análise de dados.
A companhia diz que é a “hora de iniciar um diálogo nacional sobre se e como a tecnologia de reconhecimento facial deve ser empregada pelas agências policiais nacionais”. Grandes empresas de tecnologia, como Microsoft e Google, já demandaram que a inteligência artificial seja regulada.
