Este artigo foi originalmente publicado pelo Reynolds Journalism Institute e reproduzido pela IJNet com permissão.
A Inteligência Artificial (IA) é feita por seres humanos, por isso não é surpreendente que ela reflita vieses humanos.
Em 2020, a Microsoft demitiu dezenas de trabalhadores da redação e os substituiu por IA. Infelizmente, a empresa não levou em conta problemas com o viés algorítmico e a frequente incapacidade dos algoritmos de distinguir pessoas negras. Pouco depois dos repórteres robôs da Microsoft estrearem, o algoritmo de filtragem de notícias publicou uma uma matéria no MSN sobre Jade Thirwell, do grupo Little Mix, e suas reflexões pessoais sobre o racismo... com a foto da pessoa errada. Em vez da foto de Thirwell, o algoritmo postou uma foto de sua colega de grupo, Leigh-Ann Pinnock.
A incapacidade da IA de reconhecer os rostos de pessoas negras é um tópico de grande preocupação. Em 2021, o documentário Coded Bias acompanhou Joy Buolamwini, uma cientista da computação do Media Lab do MIT depois de sua descoberta alarmante segundo a qual softwares de reconhecimento facial que usam IA não conseguiam detectar rostos com peles escuras ou reconhecer mulheres com precisão.
Por que os algoritmos são racistas?
Em seu livro Automated (Un)Intelligence ("(Des)Inteligência Automatizada", em tradução livre), a professora de jornalismo de dados Meridith Broussard explica que o termo aprendizado de máquina é de certo modo enganoso por si só. Quando cientistas da computação dizem que aplicações de IA "aprendem", eles não querem dizer aprender no sentido humano. A IA aprende por meio de dados de treino — grandes bases de dados que a ensinam seus padrões estatísticos no mundo. Basicamente, a IA aprende como resolver problemas de um jeito melhor e mais rápido porque ela consegue prever o que vai acontecer a partir dos dados que ela aprendeu. O resultado disso, no entanto, é que a máquina perde muitas nuances da inteligência e comunicação humana — por exemplo, a IA provavelmente não vai conseguir detectar sarcasmo ou figuras de linguagem.
Além disso, a IA é criada por humanos — e humanos têm preconceitos. Por isso, se uma base de dados reflete preconceitos humanos, a IA vai retornar um resultado preconceituoso. Por exemplo, quando a Amazon usou IA para filtrar currículos e candidatos a vagas de emprego, rapidamente descobriu-se que o algoritmo estava excluindo currículos de mulheres.
O algoritmo foi treinado com currículos de empregados bem-sucedidos e o Vale do Silício não é conhecido por sua diversidade de gênero. Desse modo, a aplicação começou a rejeitar currículos com linguagem no feminino, penalizando currículos que tinham a palavra "mulher" e que continham o nome de faculdades femininas. Como resultado, a Amazon teve que parar de usar a aplicação logo depois de estreá-la. Apesar de a ferramenta ter sido editada para que ficasse mais neutra, não havia como verificar se ela voltaria a ser discriminatória — por isso ela não foi mais usada.
Como usar IA tendo em conta seus vieses?
Embora seja importante considerar as desvantagens do viés algorítmico, não temos que descartar a IA por completo. O uso responsável da IA significa reconhecer que humanos transferem seus preconceitos para as máquinas e que ainda precisamos da intervenção humana em muitas situações. No caso da IA que publicou a foto errada de uma mulher negra, o erro poderia ter sido evitado se um editor humano simplesmente tivesse verificado a publicação.
Portanto, ter um entendimento do viés algorítmico é útil para as redações que pensam em adicionar aplicações de aprendizado de máquina a alguns aspectos do ciclo de notícias. É improvável que a IA seja capaz de substituir jornalistas humanos em algum ponto no futuro, o que condiz com as respostas de tomadores de decisão do jornalismo local que participaram de um estudo da Associated Press sobre o uso de IA por redações locais.
A seguir estão formas de levar em consideração o viés algorítmico ao usar IA na redação:
- Confirme a grafia de nomes em transcrições;
- Use um verificador de fatos humano;
- Certifique-se antes de publicar uma matéria que as fotos são das pessoas certas;
- Faça auditorias frequentes de aplicações de IA para identificar vieses.
A IA funciona melhor como uma ajudante do que como um agente independente. Embora o potencial de aplicações com algoritmos nas redações ainda seja uma área em desenvolvimento, podemos começar a criar um entendimento básico de como elas funcionam e de como nos comprometermos com um jornalismo de serviço melhor com apoio da tecnologia.
Foto por Resource Database™ via Unsplash.