O algoritmo policial disse que Lina estava em risco “médio”: então ela foi morta

Em janeiro, Lina foi à polícia.

Seu ex-parceiro a estava ameaçando em casa na cidade litorânea espanhola de Benalmádena. Naquele dia, ele teria levantado a mão como se quisesse atingi -la.

“Houve episódios violentos – ela estava com medo”, lembra o primo de Lina, Daniel.

Quando chegou à delegacia, foi entrevistada e seu caso registrado com Viogén, uma ferramenta digital que avalia a probabilidade de uma mulher ser atacada novamente pelo mesmo homem.

Viogén – um sistema baseado em algoritmo – faz 35 perguntas sobre o abuso e sua intensidade, o acesso do agressor às armas, sua saúde mental e se a mulher saiu ou está pensando em sair, o relacionamento.

Em seguida, registra a ameaça a ela como “insignificante”, “baixa”, “médio”, “alta” ou “extrema”.

A categoria é usada para tomar decisões sobre a alocação de recursos policiais para proteger a mulher.

Lina foi considerada como um risco “médio”.

Ela pediu uma ordem de restrição em um Tribunal de Violência de Gênero especializado em Málaga, para que seu ex-parceiro não pudesse entrar em contato com ela ou compartilhar seu espaço de vida. O pedido foi negado.

“Lina queria mudar as fechaduras de sua casa, para que ela pudesse viver pacificamente com seus filhos”, diz seu primo.

Três semanas depois, ela estava morta. Seu parceiro supostamente usou sua chave para entrar no apartamento dela e logo a casa estava pegando fogo.

Enquanto seus filhos, mãe e ex-parceira escaparam, Lina não. Seu filho de 11 anos foi amplamente relatado como dizendo à polícia que seu pai matou sua mãe.

O corpo sem vida de Lina foi recuperado do interior carbonizado de sua casa. Seu ex-parceiro, pai de seus três filhos mais novos, foi preso.

Agora, sua morte está levantando questões sobre Viogén e sua capacidade de manter as mulheres seguras na Espanha.

Viogén não previu com precisão a ameaça a Lina.

Como uma mulher designada em risco “médio”, o protocolo é que ela seria seguida novamente por um policial indicado em 30 dias.

Mas Lina estava morta antes disso. Se ela tivesse sido um risco “alto”, o acompanhamento da polícia teria acontecido dentro de uma semana. Isso poderia ter feito a diferença para Lina?

As ferramentas para avaliar a ameaça de violência doméstica repetidas são usadas na América do Norte e na Europa. No Reino Unido, algumas forças policiais usam DARA (avaliação de risco de abuso doméstico) – essencialmente uma lista de verificação. E Dash (Avaliação de Violência Baseada em Abuso Doméstica, Perseguição, Assédio e Honorão) pode ser empregado pela polícia ou outros, como assistentes sociais, para avaliar o risco de outro ataque.

Mas apenas na Espanha é um algoritmo tecido tão firmemente na prática policial. Viogén foi desenvolvido pela polícia e acadêmicos espanhóis. É usado em todos os lugares, além do país basco e da Catalunha (essas regiões têm sistemas separados, embora a cooperação policial seja em todo o país).

O chefe da família e a unidade feminina da Polícia Nacional em Málaga, Insabel Espejo, descreve Viogén como “super importante”.

“Isso nos ajuda a seguir com muita precisão de cada vítima”, diz ela.

Seus oficiais lidam com uma média de 10 relatos de violência de gênero por dia. E todos os meses, Viogén classifica nove ou 10 mulheres como estando em risco “extremo” de repetir a vitimização.

As implicações de recursos nesses casos são enormes: proteção policial de 24 horas para uma mulher até que as circunstâncias mudem e o risco diminua. As mulheres avaliadas como um risco “alto” também podem obter uma escolta de oficiais.

Um estudo de 2014 descobriu que os policiais aceitaram a avaliação de Viogén da probabilidade de abuso repetido 95% das vezes. Os críticos sugerem que a polícia está abdicando a tomada de decisões sobre a segurança das mulheres a um algoritmo.

O CH Insp Espejo diz que o cálculo de risco do algoritmo é geralmente adequado. Mas ela reconhece – embora o caso de Lina não estivesse sob seu comando – que algo deu errado com a avaliação de Lina.

“Não vou dizer que Viogén não falha – mas esse não foi o gatilho que levou ao assassinato dessa mulher. O único partido culpado é a pessoa que matou Lina. A segurança total simplesmente não existe”, diz ela.

Mas por risco “médio”, Lina nunca foi uma prioridade da polícia. E a avaliação de Viogén de Lina teve um impacto na decisão do tribunal de negar a ela uma ordem de restrição contra seu ex-parceiro?

As autoridades do tribunal não nos deram permissão para encontrar o juiz que negou a Lina uma liminar contra seu ex -parceiro – uma mulher atacada nas mídias sociais após a morte de Lina.

Em vez disso, outro dos juízes de violência de gênero de Málaga, Maria Del Carmen Gutiérrez, nos diz em termos gerais que essa ordem precisa de duas coisas: evidências de um crime e a ameaça de sério perigo para a vítima.

“Viogén é um elemento que eu uso para avaliar esse perigo, mas está longe de ser o único”, diz ela.

Às vezes, diz o juiz, ela faz ordens de restrição nos casos em que Viogén avaliou uma mulher como um risco “insignificante” ou “baixo”. Em outras ocasiões, ela pode concluir que não há perigo para uma mulher considerada em “meio” ou “alto” risco de vitimização repetida.

O Dr. Juan Jose Medina, criminologista da Universidade de Sevilha, diz que a Espanha tem uma “loteria do código postal” para as mulheres que solicitam ordens de restrição – algumas jurisdições têm muito mais probabilidade de conceder -lhes do que outras. Mas não sabemos sistematicamente como Viogén influencia os tribunais ou a polícia, porque os estudos não foram feitos.

“Como os policiais e outras partes interessadas estão usando essa ferramenta e como ela está informando a tomada de decisão? Não temos boas respostas”, diz ele.

O Ministério do Interior da Espanha nem sempre permitiu o acesso dos acadêmicos aos dados de Viogén. E não houve uma auditoria independente do algoritmo.

Gemma Galdon, fundadora da Eticas – uma organização que trabalha no impacto social e ético da tecnologia – diz que se você não auditar esses sistemas, não saberá se eles estão realmente oferecendo proteção policial às mulheres certas.

Exemplos de viés algorítmico em outros lugares estão bem documentados. Nos EUA, a análise de 2016 de uma ferramenta de reincidência descobriu que os réus negros eram mais propensos do que seus colegas brancos a serem julgados incorretamente a estarem em maior risco de repetir ofensas. Ao mesmo tempo, os réus brancos eram mais propensos do que os réus negros a serem prejudicados como baixo como baixo risco.

Em 2018, o Ministério do Interior da Espanha não deu luz verde a uma proposta de Eticas para realizar uma auditoria interna confidencial, pró-Bono. Então, em vez disso, Gemma Galdon e seus colegas decidiram a engenharia reversa Viogén e fazer uma auditoria externa.

Eles usaram entrevistas com mulheres sobreviventes de abuso doméstico e informações publicamente disponíveis – incluindo dados do judiciário sobre mulheres que, como Lina, foram mortas.

Eles descobriram que entre 2003 e 2021, 71 mulheres assassinadas por seus parceiros ou ex-parceiros haviam relatado abuso doméstico à polícia. Os registrados no sistema Viogén receberam níveis de risco de “insignificante” ou “meio”.

“O que gostaríamos de saber é que essas taxas de erro que não podem ser mitigadas de alguma forma? Ou poderíamos ter feito algo para melhorar como esses sistemas atribuem riscos e protegem melhor essas mulheres?” pergunta Gemma Galdon.

O chefe de pesquisa de violência de gênero no ministério do interior da Espanha, Juan José López-Ossorio, é desdenhoso da investigação de Eticas: não foi feito com dados de Viogén. “Se você não tem acesso aos dados, como pode interpretá -los?” ele diz.

E ele tem cuidado com uma auditoria externa, temendo que possa comprometer a segurança das mulheres cujos casos são registrados e os procedimentos de Viogén.

“O que sabemos é que, uma vez que uma mulher relata um homem e ela está sob proteção policial, a probabilidade de mais violência é substancialmente reduzida – não temos dúvidas sobre isso”, diz López -Ossorio.

Viogén evoluiu desde que foi introduzido na Espanha. O questionário foi refinado e a categoria “insignificante” de risco será abolida em breve. E até os críticos concordam que faz sentido ter um sistema padronizado respondendo à violência de gênero.

Em Benalmádena, a casa de Lina se tornou um santuário.

Flores, velas e fotos de santos foram deixadas no degrau. Um pequeno pôster preso na parede declarou: Benalmádena diz não à violência de gênero. A angariação de fundos da comunidade para os filhos de Lina.

Seu primo, Daniel, diz que todo mundo ainda está sofrendo com as notícias de sua morte.

“A família é destruída – especialmente a mãe de Lina”, diz ele.

“Ela tem 82 anos. Não acho que haja nada mais triste do que sua filha morta por um agressor de uma maneira que poderia ter sido evitada. As crianças ainda estão em choque – elas precisarão de muita ajuda psicológica”.