Uma das principais promessas da revolução da tecnologia digital do início do século XXI para governança e desenvolvimento é a possibilidade de um processo de tomada de decisões mais rápido, eficiente, seguro e neutro (Miller, 2018).
Tecnologias como big data e inteligência artificial tornariam possível coletar, cruzar e analisar um grande volume de dados quantitativos ou quantificados de maneira automatizada, por meio de algoritmos, de forma a gerar conclusões preditivas com grande acurácia e, com base nelas, automatizar processos decisórios.
Com o avanço tecnológico, tornou-se possível o desenvolvimento de algoritmos capazes de coleta imensa capacidade de coleta e análise de dados.de dados milhões de vezes maior e mais rápida do que qualquer humano.
A ideia de decisões tomadas com base em grandes volumes de dados quantitativos ou quantificados, processados automaticamente com base em critérios preestabelecidos, entusiasma e renova a crença na promessa da objetividade, em contraste à imprevisibilidade e falibilidade dos seres humanos.
No que se refere a capacidade preditiva dos algoritmos, a área de segurança talvez seja uma das que mais tem investido, na expectativa de substituir esforços humanos pela inteligência das máquinas.
Entre as principais vantagens dessa automatização estaria a objetividade, visto que as decisões de todos os casos seriam tomadas considerando sempre os mesmos tipos de dados e aplicando os mesmos critérios. Assim, seria possível, por exemplo, saber objetivamente a probabilidade de uma pessoa inadimplir um empréstimo ou reincidir na prática de crimes (O’Neil, 2016).
Como veremos, contudo, essa pretensa objetividade vem desconstruída pela contundente crítica de diversos autores, que têm se dedicado a demonstrar como esses processos frequentemente terminam por perpetuar ou até mesmo agravar diferentes formas de opressão e desigualdade (Eubanks, 2018; O’Neil, 2016; Pasquale, 2015).
Este trabalho analisa como a pretensão de objetividade dos algoritmos mascara relações de poder e sujeição, num processo de produção – e reprodução – de verdades e inimigos, especialmente no contexto de segurança e predição de criminalidade e terrorismo.
Em seguida, propõe uma reflexão sobre o potencial de contribuição da metodologia standpoint e sua objetividade forte (Harding, 2015) para cogitar uma articulação com processos decisórios algorítmicos que não apenas coibissem resultados nocivos, mas que, possivelmente, atuassem no enfrentamento de opressões.
A metodologia standpoint faz uma revisão crítica dos padrões de objetividade da pesquisa científica, e propõe uma ideia de objetividade forte, na qual se busca distanciamento do framework convencional que, ao contrário da suposta neutralidade que lhe é atribuída, é comprometido política e historicamente com valores e interesses que promovem opressões raciais, de gênero, econômicas, religiosas e sociais.
A proposta de aplicar a ideia de objetividade forte da metodologia standpoint às decisões algorítmicas é mobilizar politicamente o método algorítmico para evitar que sua aplicação se preste à perpetuação de opressões e desigualdades. Trata-se de explorar o potencial disruptivo dos métodos.
A proposta standpoint é multidisciplinar, e os insights advindos de trabalhos feministas são utilizados por diversos pesquisados para questionar presunções de suas respectivas disciplinas (Harding, 2015, p. 39). O que se poderia gerar da sua articulação com processos decisórios algorítmicos?
Um primeiro olhar crítico detecta a necessidade de maior diversidade na comunidade de profissionais de ciência da computação, uma área composta majoritariamente por homens brancos. Nos Estados Unidos, entre as pessoas formadas na área, 80% são homens (Center for Education Statistics apud Myers, 2018), no Brasil, esse número beira 90% (INEP, 2016). A porcentagem de pessoas brancas é de cerca de 60% nos dois países (ibid).
Além disso, a adoção da metodologia standpoint leva à adoção de novos pontos de partida, como, por exemplo, começar a pensar a questão da segurança a partir da perspectiva de populações que são desproporcionalmente visadas pelas forças policiais. Esse tipo de perspectiva nos permite derrubar, por exemplo, uma das presunções mais insidiosas com que se costuma trabalhar na área de dados e segurança – a ideia de que dados de prisões ou crimes registrados equivalem a dados sobre a ocorrência de crimes.
Ao evidenciar essa questão, a objetividade forte da metodologia standpoint não apenas evidencia as dinâmicas de poder e sujeição em movimento, mas joga luz sobre os dados que não existem. Ao fazê-lo, entre outras coisas, evita um ciclo de autoconfirmação que, além de ineficaz do ponto de vista de segurança (o objeto será sempre recriado, nunca aniquilado), aprofunda a opressão.
Por fim, a mobilização política dos métodos algorítmicos para lidar com questões de grupos oprimidos serve também para destacar as histórias e pressões sociais por trás do framework que se pretende objetivo e de validade universal. Ela permite transformar em sujeitos da produção de conhecimento aqueles que eram apenas objetificados por meio de códigos e, assim, abre espaço para a formulação de novas questões de pesquisa e propostas de análise.