No frenético compasso dos nossos tempos modernos, a tecnologia tornou-se mais do que uma ferramenta: é quase um membro da família. Quem nunca agradeceu ao seu smartphone por encontrar um restaurante ou resmungou com a assistente virtual por não entender uma simples instrução? No entanto, o brilho dos pixels esconde um lado obscuro. Sim, a tecnologia também pode ser um espelho da nossa velha conhecida: a discriminação.
Imagine um mundo onde as máquinas, essas maravilhas da engenharia humana, não apenas executam tarefas, mas também perpetuam preconceitos. Parece um roteiro de ficção-científica? Infelizmente, não é. Bem-vindos ao reino do racismo algorítmico, onde até mesmo os zeros e uns têm um viés.
Certo dia, estava eu navegando inocentemente pelas redes sociais quando deparei com uma notícia que me deixou boquiaberta: o Instagram, aquela plataforma onde todos parecem ter vidas perfeitas, havia detectado "armas" em um desenho de pessoas negras. Fiquei imaginando os códigos correndo apavorados, tentando decidir o que é ou não uma ameaça. E quem programou essa paranoia? Ah, nossos bons e velhos amigos humanos, é claro. Programadores, com seu café forte e tendências inconscientes, adicionando pitadas de seus próprios preconceitos na mistura digital.
Não é de surpreender que, quando a inteligência artificial entra em cena, ela traga consigo a bagagem dos seus criadores. Quem diria que os algoritmos, esses seres matemáticos supostamente imparciais, poderiam discriminar? Pois é, eles não só podem, como o fazem com uma eficiência assustadora. Desde a cobrança de taxas de juros mais altas para afro-americanos até a rejeição de currículos com nomes "diferentes", a lista de travessuras dos algoritmos é longa.
E o mais curioso é que tudo isso acontece silenciosamente, sem grandes alardes. As decisões são tomadas em frações de segundo, e ninguém para para questionar. Afinal, quem teria a ousadia de duvidar de uma máquina, essa entidade supostamente infalível?
Mas vamos dar um passo atrás e refletir. Se os algoritmos são treinados com dados do passado, e o passado está recheado de discriminações, o que poderíamos esperar? É como ensinar um papagaio a repetir insultos e depois ficar surpreso quando ele os repete em público. A culpa é do papagaio ou de quem o ensinou?
E agora, a grande questão: o que fazer? A primeira solução parece óbvia: vamos auditar os algoritmos! Sim, vamos colocar os mesmos humanos, com seus mesmos vieses, para revisar o trabalho das máquinas. O resultado? Mais do mesmo, talvez com um verniz de correção política.
É claro que há quem acredite que a transparência é a chave. Vamos abrir a caixa preta dos algoritmos e ver o que está dentro. Mas será que estamos prontos para encarar nossos próprios preconceitos espelhados em linhas de código? Será que queremos realmente saber como nossos dados são manipulados para perpetuar desigualdades?
No fim das contas, talvez a solução esteja em reprogramar não apenas os algoritmos, mas a nós mesmos. Promover uma educação que valorize a diversidade e a inclusão desde cedo, para que as futuras gerações de programadores – e suas criações – sejam mais justas e humanas.
Então, caros leitores, da próxima vez que um algoritmo decidir seu crédito ou recomendar um amigo, lembrem-se: por trás daquela decisão pode haver um preconceito antigo, disfarçado de inovação. E que, ironicamente, na era digital, até nossos velhos preconceitos podem ganhar uma nova vida – pixel por pixel.
Até a próxima, e não se esqueçam de tratar seus algoritmos com a mesma desconfiança que vocês tratam seus políticos: sempre com um pé atrás. Afinal, ambos têm uma tendência irritante de decepcionar.
Ciane Meneguzzi Pistorello é advogada, com pós-graduação em Direito Previdenciário, Direito do Trabalho e Direito Digital. Presta consultoria para empresas no ramo do direito do trabalho e direito digital. É coordenadora do Curso de Pós-Graduação Latu Sensu em MBA em Gestão de Previdência Privada – Fundos de Pensão, do Centro Universitário da Serra Gaúcha – FSG.
Da mesma autora, leia outro texto AQUI
