Polícia de Detroit: sistema de reconhecimento facial da cidade erra em 96% dos casos

Mesmo assim, instituição defende o uso da tecnologia, alegando a possibilidade de auxiliar investigadores; software mira exclusivamente pessoas de cor negra

Rafael Rigues, editado por Liliane Nakagawa 29/06/2020 16h06
Reconhecimento facial
A A A

Durante uma reunião pública nesta segunda-feira o chefe de polícia de Detroit, James Craig, admitiu que a tecnologia de reconhecimento facial usada pela polícia da cidade, desenvolvida por uma empresa chamada DataWorks Plus, "quase nunca" traz uma correspondência exata com a imagem de um suspeito, e "quase sempre" identifica incorretamente as pessoas.


"Se usássemos apenas o software para identificar suspeitos, não resolveríamos o caso em 95 a 97% das vezes", disse Craig. "Isso se confiássemos apenas no software, o que é contra nossa política atual. Se usássemos apenas a tecnologia, sozinha, para identificar alguém, eu diria que em 96% dos casos a identificação seria incorreta". O índice é pior se comparado ao da polícia de Londres, onde o software erra em 81% dos casos.

O uso da tecnologia de reconhecimento facial pela polícia de Detroit veio à tona após o caso de Robert Julian-Borchak Williams, um homem que foi preso após ser erroneamente "reconhecido" pelo software, ganhar notoriedade graças a um artigo no The New York Times. Ao interrogar Williams, os policiais rapidamente perceberam que ele não se parecia em nada com o suspeito fotografado no local do crime.

Como resultado da imprecisão, cidadãos que não tem nada a ver com o incidente são questionados e investigados pela polícia. Em Detroit, isso acontece quase que exclusivamente com a população negra.

Segundo relatórios da própria polícia, até a última segunda-feira (22), a tecnologia foi usada 70 vezes, e em 68 delas, a foto inserida no sistema foi de um negro. Em dois outros casos a etnia não foi identificada. Em 31 dos 70 casos, as fotos foram retiradas de redes sociais, e em 18 dos 70 casos, elas vieram de câmeras de segurança.

Reprodução

Sistemas de reconhecimento facial estão sendo amplamente usados por forças de segurança em todo o mundo. Foto: Reuters

Várias cidades nos EUA estão banindo o uso de software de reconhecimento facial pela polícia. Em 2019, Detroit decidiu regular, em vez de impedir, o uso da tecnologia. A polícia local foi proibida de "vigiar o público por qualquer câmera ou dispositivo de vídeo", além de não poder usar a tecnologia em vídeos ao vivo ou gravados. Seu uso é restrito, mas não proibido, em protestos, e apenas como parte de uma investigação criminal em andamento.

Todd Pastorini, gerente geral da DataWorks Plus, disse à Motherboard que sua empresa não mantém estatísticas sobre a precisão de seu software quando usado no "mundo real", e que não fornece instruções específicas sobre seu uso para os departamentos de polícia.

O executivo afirma que a tecnologia está sendo demonizada pela mídia, e compara seu uso ao de uma pá: "você pode usá-la para tirar terra do chão" ou "uma arma", diz ele. Segundo Pastorini, o problema é a qualidade das imagens usadas como ponto de partida para buscas no sistema.

O executivo compara seu software a um sistema automático de identificação de impressões digitais, que retorna dezenas ou centenas de possíveis correspondências. "Ele não traz apenas um candidato", disse ele, "traz centenas. O peso de cada probabilidade é calculado como em um sistema de impressões digitais, de acordo com as imagens de partida e o que está no banco de dados".

O Capitão Ariq Tosqui, da Polícia de Detroit, diz que gostaria de continuar a usar reconhecimento facial, pois a tecnologia pode auxiliar os investigadores, mesmo que não levem suspeitos à prisão. Mas admite que, nas 185 vezes em que ela foi usada nos últimos anos, "na maioria dos casos os detetives relataram que o software não foi útil".

Segurança Inteligência Artificial privacidade reconhecimento facial polícia segurança pública Vigilância
Você faz compras Online? Não deixe de conferir a nova extensão do Olhar Digital que garante o preço mais baixo e ainda oferece testadores automáticos de cupons. Clique aqui para instalar.

Recomendados pra você

Resource id #4 em db-02 -> SELECT cnt.pk_id_conteudo, cnt.fk_id_usuario, cnt.fk_id_tipo_conteudo, cnt.fk_id_conteudo_status, cnt.url_fixa, cnt.titulo, cnt.descricao, cnt.texto, cnt.data_criacao, cnt.data_publicacao, cnt.data_expiracao, cnt.pro_carreiras, cnt.pro_industria, cnt.pro_tendencias, cnt.uolmais_id, cnt.uolmais_ativo, cnt.dailymotion_id, cnt.amp_md5, cnt.amp_texto, ntc.pk_id_noticia, ntc.fonte, vid.pk_id_video, pdc.pk_id_podcast, pst.pk_id_post, dwn.pk_id_download, blg.pk_id_blog, cln.pk_id_colunista, cln.nome AS cln_nome, cln.lbl_url AS cln_label, vid.sugestao_editor, vid.caminho_video_normal, vid.caminho_video_wide, vid.caminho_video_wmv, vid.caminho_video_720p, vid.caminho_video_1080p, vid.caminho_youtube, vid.duracao_segundos, vid.link_relacionado, vid.autor, vid.cod_programa, vid.anexo_nome, vid.anexo_descricao, vid.anexo_tamanho, vid.streaming, img1.caminho_arquivo AS img1_url, img1.width AS img1_width, img1.height AS img1_height, img1.titulo AS img1_titulo, img1.descricao AS img1_descricao, img1.autor_copyright AS img1_autor, img1.data AS img1_data, img2.caminho_arquivo AS img2_url, img2.width AS img2_width, img2.height AS img2_height, img2.titulo AS img2_titulo, img2.descricao AS img2_descricao, img2.autor_copyright AS img2_autor, img2.data AS img2_data, img5.caminho_arquivo AS img5_url, img5.width AS img5_width, img5.height AS img5_height, img5.titulo AS img5_titulo, img5.descricao AS img5_descricao, img5.autor_copyright AS img5_autor, img5.data AS img5_data, img7.caminho_arquivo AS img7_url, img7.width AS img7_width, img7.height AS img7_height, img7.titulo AS img7_titulo, img7.descricao AS img7_descricao, img7.autor_copyright AS img7_autor, img7.data AS img7_data, img9.caminho_arquivo AS img9_url, img9.width AS img9_width, img9.height AS img9_height, img9.titulo AS img9_titulo, img9.descricao AS img9_descricao, img9.autor_copyright AS img9_autor, img9.data AS img9_data, img1.caminho_arquivo_4x3 AS img1_4x3_url, img1.caminho_arquivo_9x16 AS img1_9x16_url, img1.caminho_arquivo_16x9 AS img1_16x9_url, img2.caminho_arquivo_4x3 AS img2_4x3_url, img2.caminho_arquivo_9x16 AS img2_9x16_url, img2.caminho_arquivo_16x9 AS img2_16x9_url, img5.caminho_arquivo_4x3 AS img5_4x3_url, img5.caminho_arquivo_9x16 AS img5_9x16_url, img5.caminho_arquivo_16x9 AS img5_16x9_url, img7.caminho_arquivo_4x3 AS img7_4x3_url, img7.caminho_arquivo_9x16 AS img7_9x16_url, img7.caminho_arquivo_16x9 AS img7_16x9_url, img9.caminho_arquivo_4x3 AS img9_4x3_url, img9.caminho_arquivo_9x16 AS img9_9x16_url, img9.caminho_arquivo_16x9 AS img9_16x9_url FROM cms_tbl_conteudo AS cnt IGNORE INDEX (fk_id_conteudo_status,fk_id_tipo_conteudo,data_expiracao,pro_carreiras,pro_industria,pro_tendencias,uolmais_id,dailymotion_id) LEFT JOIN cms_tbl_noticias AS ntc ON ntc.fk_id_conteudo=cnt.pk_id_conteudo LEFT JOIN cms_tbl_videos AS vid ON vid.fk_id_conteudo=cnt.pk_id_conteudo LEFT JOIN cms_tbl_podcasts AS pdc ON pdc.fk_id_conteudo=cnt.pk_id_conteudo LEFT JOIN cms_tbl_posts AS pst ON pst.fk_id_conteudo=cnt.pk_id_conteudo LEFT JOIN cms_tbl_download AS dwn ON dwn.fk_id_conteudo=cnt.pk_id_conteudo LEFT JOIN cms_tbl_blogs_new AS blg ON blg.pk_id_blog=pst.fk_id_blog LEFT JOIN cms_tbl_colunistas AS cln ON cln.pk_id_colunista=blg.fk_id_colunista LEFT JOIN cms_tbl_imagens AS img1 ON img1.pk_id_imagem=ntc.fk_id_imagem LEFT JOIN cms_tbl_imagens AS img2 ON img2.pk_id_imagem=vid.fk_id_imagem LEFT JOIN cms_tbl_imagens AS img5 ON img5.pk_id_imagem=pst.fk_id_imagem LEFT JOIN cms_tbl_imagens AS img7 ON img7.pk_id_imagem=pdc.fk_id_imagem LEFT JOIN cms_tbl_imagens AS img9 ON img9.pk_id_imagem=dwn.fk_id_imagem WHERE cnt.pk_id_conteudo=102778 LIMIT 0, 1 em 0.002

Resource id #4 em db-02 -> SELECT t.pk_id_tag AS id, t.tag AS tag FROM cms_tbl_conteudo_r_tags AS rt INNER JOIN cms_tbl_tags AS t ON t.pk_id_tag=rt.fk_id_tag WHERE rt.fk_id_conteudo=102778 em 0.002

Resource id #4 em db-02 -> SELECT id, assunto, url FROM alog_cnt_assuntos ORDER BY id em 0.001

Resource id #4 em db-02 -> SELECT r.id_assunto AS aid, r.id_tag AS tid, t.tag AS tag FROM alog_cnt_assuntos_tags AS r INNER JOIN cms_tbl_tags AS t ON t.pk_id_tag=r.id_tag em 0.011

Resource id #32 em db-01 -> SELECT ua.pk_id_usuario AS id_autor, ue.pk_id_usuario AS id_editor, TRIM(CONCAT(ua.nome, " ", ua.sobrenome)) AS autor_nome, ua.email AS autor_email, TRIM(CONCAT(ue.nome, " ", ue.sobrenome)) AS editor_nome, ue.email AS editor_email FROM cms_tbl_historico_relatorio AS h INNER JOIN ( SELECT MAX(pk_id_historico_relatorio) AS hid, fk_id_conteudo AS id_conteudo FROM cms_tbl_historico_relatorio WHERE fk_id_conteudo=102778 AND fk_id_usuario<>0 ) AS t ON t.hid=h.pk_id_historico_relatorio INNER JOIN cms_tbl_conteudo AS c ON c.pk_id_conteudo=t.id_conteudo LEFT JOIN cms_tbl_usuarios AS ue ON ue.pk_id_usuario=h.fk_id_usuario LEFT JOIN cms_tbl_usuarios AS ua ON ua.pk_id_usuario=c.fk_id_usuario em 0.002

Resource id #35 em db-02 -> SELECT GET_LOCK("lock_dblst_71_1_10_T0_102778_1_",0) AS locked em 0.001

Resource id #35 em db-02 -> /*LISTA: LST_MATERIAS_PREV_NEXT*/ SELECT cnt.pk_id_conteudo, cnt.url_fixa, cnt.titulo, cnt.descricao, cnt.texto, cnt.data_publicacao, cnt.fk_id_tipo_conteudo, cnt.fk_id_conteudo_status, cnt.pro_carreiras, cnt.pro_industria, cnt.pro_tendencias, cnt.uolmais_id, cnt.dailymotion_id, p_n.pos AS pos_ap, img1.caminho_arquivo AS img1, img1.caminho_arquivo_4x3 AS img4x3_1, img1.caminho_arquivo_9x16 AS img9x16_1, img1.caminho_arquivo_16x9 AS img16x9_1, img1.titulo AS img1_tit, img1.descricao AS img1_des, img1.autor_copyright AS img1_aut, cnt.uolmais_id AS vid_uolmais_id, cnt.dailymotion_id AS vid_dmotion_id, cnt.uolmais_ativo AS vid_uolmais_ativo, vid.caminho_video_baixa AS vid_cam_normal, vid.caminho_video_720p AS vid_cam_720p, vid.caminho_youtube AS vid_cam_youtube, img2.caminho_arquivo AS img2, img2.caminho_arquivo_4x3 AS img4x3_2, img2.caminho_arquivo_9x16 AS img9x16_2, img2.caminho_arquivo_16x9 AS img16x9_2, img2.titulo AS img2_tit, img2.descricao AS img2_des, img2.autor_copyright AS img2_aut FROM cms_tbl_conteudo AS cnt IGNORE INDEX (fk_id_conteudo_status,fk_id_tipo_conteudo,data_expiracao,pro_carreiras,pro_industria,pro_tendencias,uolmais_id,dailymotion_id) INNER JOIN ( (SELECT pk_id_conteudo AS id, "ant" AS pos FROM cms_tbl_conteudo WHERE pk_id_conteudo<102778 AND fk_id_tipo_conteudo IN (1,2) AND data_publicacao <= UNIX_TIMESTAMP(NOW()) AND fk_id_conteudo_status IN (2,9) ORDER BY id DESC LIMIT 0,1) UNION (SELECT pk_id_conteudo AS id, "prx" AS pos FROM cms_tbl_conteudo WHERE pk_id_conteudo>102778 AND fk_id_tipo_conteudo IN (1,2) AND data_publicacao <= UNIX_TIMESTAMP(NOW()) AND fk_id_conteudo_status IN (2,9) ORDER BY id ASC LIMIT 0,1) ) AS p_n ON p_n.id=cnt.pk_id_conteudo LEFT JOIN cms_tbl_noticias AS ntc ON ntc.fk_id_conteudo=cnt.pk_id_conteudo LEFT JOIN cms_tbl_imagens AS img1 ON img1.pk_id_imagem=ntc.fk_id_imagem LEFT JOIN cms_tbl_videos AS vid ON vid.fk_id_conteudo=cnt.pk_id_conteudo LEFT JOIN cms_tbl_imagens AS img2 ON img2.pk_id_imagem=vid.fk_id_imagem WHERE cnt.data_publicacao<=UNIX_TIMESTAMP(NOW()) AND cnt.fk_id_conteudo_status=2 AND cnt.fk_id_tipo_conteudo IN (1,2) ORDER BY cnt.data_publicacao DESC, cnt.pk_id_conteudo DESC LIMIT 0,10 em 0.002

Resource id #35 em db-02 -> SELECT rt.fk_id_conteudo AS cid, rt.fk_id_tag AS tid, t.tag AS tag FROM cms_tbl_conteudo_r_tags AS rt INNER JOIN cms_tbl_tags AS t ON t.pk_id_tag=rt.fk_id_tag WHERE rt.fk_id_conteudo IN (102779,102777) em 0.001

Resource id #35 em db-02 -> SELECT c.pk_id_conteudo AS id_conteudo, ua.pk_id_usuario AS id_autor, ue.pk_id_usuario AS id_editor, TRIM(CONCAT(ua.nome, " ", ua.sobrenome)) AS autor_nome, ua.email AS autor_email, TRIM(CONCAT(ue.nome, " ", ue.sobrenome)) AS editor_nome, ue.email AS editor_email FROM cms_tbl_historico_relatorio AS h INNER JOIN ( SELECT MAX(pk_id_historico_relatorio) AS hid, fk_id_conteudo AS id_conteudo FROM cms_tbl_historico_relatorio WHERE fk_id_conteudo IN (102779,102777) AND fk_id_usuario<>0 GROUP BY fk_id_conteudo ) AS t ON t.hid=h.pk_id_historico_relatorio INNER JOIN cms_tbl_conteudo AS c ON c.pk_id_conteudo=t.id_conteudo LEFT JOIN cms_tbl_usuarios AS ue ON ue.pk_id_usuario=h.fk_id_usuario LEFT JOIN cms_tbl_usuarios AS ua ON ua.pk_id_usuario=c.fk_id_usuario em 0.001

Resource id #35 em db-02 -> SELECT RELEASE_LOCK("lock_dblst_71_1_10_T0_102778_1_") AS released em 0

Resource id #35 em db-02 -> SELECT GET_LOCK("lock_dblst_64_1_20_T0_102778__",0) AS locked em 0

Resource id #35 em db-02 -> /*LISTA: LST_MATERIAS_RELACIONADAS_CMS*/ SELECT cnt.pk_id_conteudo, cnt.url_fixa, cnt.titulo, cnt.descricao, cnt.texto, cnt.data_publicacao, cnt.fk_id_tipo_conteudo, cnt.fk_id_conteudo_status, cnt.pro_carreiras, cnt.pro_industria, cnt.pro_tendencias, cnt.uolmais_id, cnt.dailymotion_id, img1.caminho_arquivo AS img1, img1.caminho_arquivo_4x3 AS img4x3_1, img1.caminho_arquivo_9x16 AS img9x16_1, img1.caminho_arquivo_16x9 AS img16x9_1, img1.titulo AS img1_tit, img1.descricao AS img1_des, img1.autor_copyright AS img1_aut, cnt.uolmais_id AS vid_uolmais_id, cnt.dailymotion_id AS vid_dmotion_id, cnt.uolmais_ativo AS vid_uolmais_ativo, vid.caminho_video_baixa AS vid_cam_normal, vid.caminho_video_720p AS vid_cam_720p, vid.caminho_youtube AS vid_cam_youtube, img2.caminho_arquivo AS img2, img2.caminho_arquivo_4x3 AS img4x3_2, img2.caminho_arquivo_9x16 AS img9x16_2, img2.caminho_arquivo_16x9 AS img16x9_2, img2.titulo AS img2_tit, img2.descricao AS img2_des, img2.autor_copyright AS img2_aut FROM cms_tbl_conteudo AS cnt IGNORE INDEX (fk_id_conteudo_status,fk_id_tipo_conteudo,data_expiracao,pro_carreiras,pro_industria,pro_tendencias,uolmais_id,dailymotion_id) INNER JOIN ( SELECT crel.id_relacionado AS id_conteudo, 9000000000-crel.id AS orderpos FROM cms_tbl_conteudos_relacionados AS crel WHERE fk_id_conteudo=102778 AND tipo='c' AND id_relacionado>0 ) AS rel ON rel.id_conteudo=cnt.pk_id_conteudo LEFT JOIN cms_tbl_noticias AS ntc ON ntc.fk_id_conteudo=cnt.pk_id_conteudo LEFT JOIN cms_tbl_imagens AS img1 ON img1.pk_id_imagem=ntc.fk_id_imagem LEFT JOIN cms_tbl_videos AS vid ON vid.fk_id_conteudo=cnt.pk_id_conteudo LEFT JOIN cms_tbl_imagens AS img2 ON img2.pk_id_imagem=vid.fk_id_imagem WHERE cnt.data_publicacao<=UNIX_TIMESTAMP(NOW()) AND cnt.fk_id_conteudo_status=2 AND cnt.fk_id_tipo_conteudo IN (1,2) ORDER BY cnt.data_publicacao+rel.orderpos DESC, cnt.pk_id_conteudo DESC LIMIT 0,20 em 0.002

Resource id #35 em db-02 -> SELECT rt.fk_id_conteudo AS cid, rt.fk_id_tag AS tid, t.tag AS tag FROM cms_tbl_conteudo_r_tags AS rt INNER JOIN cms_tbl_tags AS t ON t.pk_id_tag=rt.fk_id_tag WHERE rt.fk_id_conteudo IN (102677,102632,101903) em 0.001

Resource id #35 em db-02 -> SELECT c.pk_id_conteudo AS id_conteudo, ua.pk_id_usuario AS id_autor, ue.pk_id_usuario AS id_editor, TRIM(CONCAT(ua.nome, " ", ua.sobrenome)) AS autor_nome, ua.email AS autor_email, TRIM(CONCAT(ue.nome, " ", ue.sobrenome)) AS editor_nome, ue.email AS editor_email FROM cms_tbl_historico_relatorio AS h INNER JOIN ( SELECT MAX(pk_id_historico_relatorio) AS hid, fk_id_conteudo AS id_conteudo FROM cms_tbl_historico_relatorio WHERE fk_id_conteudo IN (102677,102632,101903) AND fk_id_usuario<>0 GROUP BY fk_id_conteudo ) AS t ON t.hid=h.pk_id_historico_relatorio INNER JOIN cms_tbl_conteudo AS c ON c.pk_id_conteudo=t.id_conteudo LEFT JOIN cms_tbl_usuarios AS ue ON ue.pk_id_usuario=h.fk_id_usuario LEFT JOIN cms_tbl_usuarios AS ua ON ua.pk_id_usuario=c.fk_id_usuario em 0.001

Resource id #35 em db-02 -> SELECT RELEASE_LOCK("lock_dblst_64_1_20_T0_102778__") AS released em 0.001