![\"bias](\"https:\/\/arthurwilliam.com.br\/blog\/wp-content\/uploads\/2023\/06\/bias-biases-vies-vieses-preconceito-inteligencia-artificial-generativa-ai-ia.png\")
<\/a>Adivinhe qual das imagens sint\u00e9ticas acima foi criada pela Intelig\u00eancia Artificial a partir do prompt gen\u00e9rico “M\u00e9dica com tablet na m\u00e3o e c\u00f3digos bin\u00e1rios a sua volta”? A imagem da direita teve que ser editada com a descri\u00e7\u00e3o espec\u00edfica “M\u00e9dica negra”.<\/p><\/div>\n
Al\u00e9m da desigualdade no acesso a recursos de Intelig\u00eancia Artificial<\/a>, a iniquidade de servi\u00e7os de “machine learning” pode acarretar em respostas equivocadas por parte das ferramentas de Intelig\u00eancia Artificial. Como as primeiras aplica\u00e7\u00f5es foram desenvolvidas com dados de popula\u00e7\u00f5es de pa\u00edses desenvolvidos, a m\u00e1quina pode reproduzir preconceitos com popula\u00e7\u00f5es distintas, processo chamado de Bias ou vi\u00e9s. A an\u00e1lise automatizada de exames de imagem agiliza a confec\u00e7\u00e3o de laudos e pode prever o aparecimento de doen\u00e7as, por\u00e9m, para ser efetiva e n\u00e3o resultar em erros, precisa levar em conta dados que muitas vezes n\u00e3o est\u00e3o presentes.<\/p>\n Neste sentido, se n\u00e3o houver pol\u00edticas p\u00fablicas para a inclus\u00e3o de popula\u00e7\u00f5es vulnerabilizadas em a\u00e7\u00f5es de “machine learning”, especificidades \u00e9tnicas podem ser desconsideradas pelos sistemas de IA, prejudicando a an\u00e1lise de dados de ind\u00edgenas brasileiros, por exemplo. Isto porque, se estiver apenas pautada pelo potencial econ\u00f4mico da coleta de dados, informa\u00e7\u00f5es de segmentos sociais historicamente exclu\u00eddos podem n\u00e3o ser levadas em conta pela IA. A partir de 2023, o DataSUS anunciou que vai obrigar o preenchimento de informa\u00e7\u00f5es como ra\u00e7a e cor<\/a>.<\/p>\n Outro ponto de aten\u00e7\u00e3o diz respeito \u00e0 considera\u00e7\u00e3o da vari\u00e1vel \u00e9tnica nos indicadores cl\u00ednicos como a oxigena\u00e7\u00e3o do sangue, por exemplo. Como o ox\u00edmetro tem sua medi\u00e7\u00e3o afetada pela cor de pele do paciente, um sistema de IA que desconsidere este fator pode ocorrer em grave equ\u00edvoco com potencial para at\u00e9 mesmo causar a morte de um paciente.<\/p>\n A Intelig\u00eancia Artificial Generativa tamb\u00e9m esbarra no tema do preconceito. Isto porque as LLMs utilizam grande modelos de linguagem que se alimentam de datasets compostos por conte\u00fados dispon\u00edveis na internet: textos e imagens que podem conter vi\u00e9s preconceituoso. A resposta de um chatbot como o ChatGPT \u00e9 um processamento de variadas fontes opacas. A aus\u00eancia de\u00a0\u201cexplicabilidade\u201d<\/a> das fontes das informa\u00e7\u00f5es dificulta a identifica\u00e7\u00e3o de vieses (biases).<\/p>\n Esta situa\u00e7\u00e3o \u00e9 de mais f\u00e1cil percep\u00e7\u00e3o nas aplica\u00e7\u00f5es de imagens como Midjourney, Bing Image Creator, Adobe Firefly e o DALL-E. Ao imputar um prompt solicitando a cria\u00e7\u00e3o de uma imagem de um m\u00e9dico ou de um empres\u00e1rio de sucesso, a probabilidade de o material gerado conter uma mulher negra \u00e9 muito menor, pois os sistemas foram treinados com material que reproduz este estere\u00f3tipo.<\/p>\n Em “machine learning”, a m\u00e1quina aprende a identificar padr\u00f5es e este aprendizado pode ser “supervisionado” ou “n\u00e3o supervisionado”. No aprendizado supervisionado, o treinamento da Intelig\u00eancia Artificial \u00e9 realizado a partir de material previamente rotulado. No caso da imagem da m\u00e9dica, um ser humano faria uma an\u00e1lise pr\u00e9via do que considera ser a representa\u00e7\u00e3o de m\u00e9dicos, an\u00e1lise subjetiva que pode ser influenciada por estere\u00f3tipos.<\/p>\n J\u00e1 no aprendizado “n\u00e3o supervisionado”, a m\u00e1quina tenta identificar padr\u00f5es com base nos dados imputados, ou seja, se foi treinado com a quase totalidade das imagens de profissionais de Sa\u00fade com a pele branca, consequentemente concluir\u00e1 um determinado “padr\u00e3o” de cor de pele para m\u00e9dicos.<\/p>\n O GPT passou por um processo de RLHF (Reinforcement Learning from Human Feedback, aprendizagem por refor\u00e7o por resposta humana), em que pessoas reais diziam se as cria\u00e7\u00f5es da IA estavam certas ou erradas, durante a fase de testes. Al\u00e9m disso, a Intelig\u00eancia Artificial reproduz ainda a vis\u00e3o de mundo de seus programadores, em geral, homens brancos residentes nos Estados Unidos.<\/p>\n O GPT-3 foi treinado a partir de cinco conjuntos de dados: Common Crawl, WebText2, Wikipedia, Books1 e Books2. Os tr\u00eas primeiros conjuntos de fontes s\u00e3o compostos por conte\u00fados variados da internet. J\u00e1 o GPT-4 j\u00e1 possui uma preocupa\u00e7\u00e3o maior com textos preconceituosos, por\u00e9m esta vers\u00e3o encontra-se apenas acess\u00edvel a usu\u00e1rios PLUS do ChatGPT ao custo de 20 d\u00f3lares mensais.<\/p>\n REFER\u00caNCIAS:<\/p>\n EVANGELISTA, A. P. Sistemas do SUS n\u00e3o t\u00eam dados suficientes de ra\u00e7a\/cor da pele de pacientes durante a pandemia. Dispon\u00edvel em: https:\/\/www.epsjv.fiocruz.br\/podcast\/sistemas-do-sus-nao-tem-dados-suficientes-de-racacor-da-pele-de-pacientes-durante-a-pandemia. Acesso em: 25 abr. 2023.<\/a><\/p>\n LIMA, J. DA C. Desafios para a ado\u00e7\u00e3o de Intelig\u00eancia Artificial pelo Sistema \u00danico de Sa\u00fade (SUS): \u00e9tica, transpar\u00eancia e interpretabilidade. Tese (Doutorado em Informa\u00e7\u00e3o e Comunica\u00e7\u00e3o em Sa\u00fade) – Instituto de Comunica\u00e7\u00e3o e Informa\u00e7\u00e3o Cient\u00edfica e Tecnol\u00f3gica em Sa\u00fade, Funda\u00e7\u00e3o Oswaldo Cruz, Rio de Janeiro, 2022.<\/a><\/p>\n