No dia 11/11/21, às 18h, a pesquisadora Wendy Hui Kyong Chun participou de uma live organizada pelos grupos de pesquisa Digilabour, Cultpop, TCAv e LIC, da Unisinos, onde falou sobre o seu recém lançado livro “Discriminating Data: Correlation, Neighborhoods, and the New Politics of Recognition” (2021), que aborda a centralidade de questões de raça, gênero, classe e sexualidade para análises em torno de big data e redes, e que pode ser adquirido em: https://mitpress.mit.edu/books/discriminating-data.
Chun (2021, tradução nossa) afirma que, ainda em 2010, a Internet foi celebrada como uma “libertação tecnológica”, responsável por levantes democráticos no mundo todo, em específico no Oriente Médio. A Internet, no pensamento da época, ajudaria a resolver todos os problemas, desde racismo a política. Por mais bem-intencionados que fossem, esses impulsos eram equivocados, pois a promessa e a ameaça foram, são e sempre serão os dois lados da mesma moeda. Na busca de soluções tecnológicas para problemas políticos, eles presumem que a melhor maneira de combater o abuso e a opressão é ignorando a diferença e a discriminação. O principal problema é que, em nome da “ruptura criativa”, eles estão ampliando e automatizando — ao invés de reconhecer e reparar — os erros de um passado discriminatório. Para combater essa ameaça, Chun propõe cinco etapas:
“1. Expor e investigar como ignorar diferenças que amplificam a discriminação, tanto atual quanto historicamente;
2. Interrogar as suposições e axiomas padrão que formam a base para algoritmos e estruturas de dados;
3. Apreender o aprendizado de máquina passado, presente e futuro dos algoritmos, colocados em prática para determinar quando, por que e como suas previsões funcionam;
4. Usar os sistemas de inteligência artificial existentes para diagnosticar as desigualdades atuais e para tratar as previsões discriminatórias como evidências do passado discriminatório;
5. Extrair, de lutas e práticas de dessegregação e igualdade, para deslocar os padrões eugênicos e segregacionistas embutido nas estruturas de rede atuais e para conceber diferentes algoritmos e modos de verificação”.
Ao falar sobre como seu novo livro se diferencia de outros estudos que propõem uma visão crítica sobre questões de raça, gênero, etc., relacionados aos “data studies”, Chun deixou claro que, ao invés de simplesmente prestar atenção aos dados, procurou principalmente se voltar às estruturas algorítmicas e às maneiras como essas são construídas de forma a repetir padrões discriminatórios perpetuados historicamente pela sociedade e através de vertentes teóricas que estão enraizadas em conceitos como os de correlação e homofilia, por exemplo, e que são o cerne desses algoritmos. Assim, a pesquisadora afirma que estes se tornam discriminatórios não apenas porque usam dados desse tipo, mas porque a base conceitual sobre a qual são construídos está assim formalmente estabelecida. A ideia de que simplesmente adicionar ciências sociais aos algoritmos os tornaria mais éticos é então confrontada pelo fato de que já há um uso dessas teorias, uma vez que os algoritmos são formados em parte por um mau uso das ciências humanas que provoca o seu comportamento disruptivo, forçando a proposição de um presente e um futuro que procura repetir uma ideia seletiva de passado, onde a atitude discriminatória está bem alicerçada e defendida.
Para chegar a estes pontos, Wendy Chun ressalta a importância de construir estudos interdisciplinares, onde diferentes áreas acadêmicas agem em conjunto procurando atacar as questões que as demais áreas não conseguem atingir diante do problema proposto. Isso leva ao que pode ser considerada como uma abordagem tecnocultural diante dos estudos que se debruçam sobre dados e algoritmos, uma vez que as explicações para as diversas questões que surgem ao procurar entender os efeitos das mídias podem vir não apenas do conhecimento sobre a tecnologia em si ou dos estudos de mídia com foco em estudos culturais, mas principalmente do atravessamento dessas duas áreas. Para a autora, essa visão sobre uma tecnocultura é a oportunidade para desafiar as crenças que cada área carrega, permitindo atingir questões que nenhuma delas, separadamente, seria capaz de fazer.
Na live, com duração de cerca de uma hora, os ouvintes foram bastante participativos, e uma das questões debatidas foi sobre as técnicas que não são neutras, ou seja, sempre haverá preconceitos. Logo, como garantir que algoritmos não sejam discriminatórios, por exemplo, se nunca forem neutros? Para Chun, deveríamos usar esses programas, que estão operando de acordo com as formas como devem funcionar, como sondas históricas para compreender e diagnosticar a discriminação. Devemos tratar isso de maneira similar a um modelo de mudança climática global — que nos mostra o futuro mais provável, dado o passado alimentado, então não vamos aceitar esse futuro, mas sim mudá-lo. E é justamente isso que precisamos fazer com esses dados, ver como eles podem se abrir, porque a relação entre eles e o mundo é exatamente o ponto em que precisamos intervir.
Na conclusão do seu livro, Chun é enfática: “precisamos de uma desaprendizagem por máquina (…) essas etapas e projetos que delineei podem nos ajudar a habitar o mundo como vizinhos no sentido mais amplo da palavra, mas eles são apenas os primeiros degraus. Para enfrentar os desafios do século XXI à democracia, não precisamos de uma chamada às armas ou uma chamada para ‘novas’ tecnologias, mas uma resolução para viver, livremente, na diferença” (2021, tradução nossa).
Texto: Aline Corso e Augusto Ramos Bozzetti
Fonte: CHUN, Wendy Hui Kyong. Discriminating data: correlation, neighborhoods, and the new politics of recognition. Cambridge, Massachusetts : The MIT Press, 2021.
Deixe um comentário
Você precisa fazer o login para publicar um comentário.