Para assegurar a confiabilidade das informa\u00e7\u00f5es fornecidas por aplica\u00e7\u00f5es de Intelig\u00eancia Artificial, \u00e9 fundamental conhecer o funcionamento dos algoritmos, contudo a maioria das ferramentas atua como caixas pretas (black boxes), tornando opacos e nada transparentes os crit\u00e9rios que levaram a m\u00e1quina a chegar em determinado resultado. Na \u00e1rea financeira, por exemplo, um sistema de IA deve ser desenvolvido de forma a permitir que as avalia\u00e7\u00f5es de cr\u00e9dito sejam transparentes e permitam rastreabilidade.<\/p>\n

O conceito da \u201cexplicabilidade\u201d ou \u201cinterpretabilidade\u201d diz respeito \u00e0 capacidade de compreender os detalhes por tr\u00e1s do funcionamento de determinado algoritmo, explicando seu processo decis\u00f3rio.<\/p>\n

Para o campo da sa\u00fade, apesar das enormes promessas de aplica\u00e7\u00f5es de Machine Learning, \u00e9 fundamental entender o que motivou uma determinada decis\u00e3o. N\u00e3o parece razo\u00e1vel que m\u00e9dicos e pacientes recebam sem questionar diagn\u00f3sticos que n\u00e3o podem ser explicados. Neste caso, a preocupa\u00e7\u00e3o e busca por solu\u00e7\u00f5es tecnol\u00f3gicas \u201cinterpret\u00e1veis\u201d s\u00e3o fundamentais n\u00e3o s\u00f3 para dar transpar\u00eancia para m\u00e9dicos e pacientes, mas para todas as partes interessadas, inclusive aos \u00f3rg\u00e3os reguladores (LIMA, 2022).<\/p><\/blockquote>\n

A Explainable Artificial Intelligence (XAI) est\u00e1, portanto, ligada \u00e0 responsabilidade algor\u00edtmica e \u00e0 transpar\u00eancia de processos de aprendizado de m\u00e1quina (NUNES; MORATO, 2021).<\/p>\n

Na vers\u00e3o 4 do GPT, a m\u00e1quina adquiriu a capacidade de citar as fontes utilizadas para a gera\u00e7\u00e3o da resposta, mas como est\u00e1 dispon\u00edvel apenas para os assinantes do plano Plus, a maioria dos usu\u00e1rios ainda enfrenta grande dificuldade em explicar as informa\u00e7\u00f5es geradas pela IA.<\/p>\n

Para o SUS, \u00e9 fundamental que os sistemas de intelig\u00eancia artificial funcionem dentro de uma mentalidade de software livre, com o compartilhamento n\u00e3o apenas de seus benef\u00edcios, mas tamb\u00e9m de abertura do \u201cc\u00f3digo\u201d, medida que propiciaria o aprimoramento das ferramentas, o controle social da IA na Sa\u00fade, al\u00e9m do desenvolvimento de aplica\u00e7\u00f5es espec\u00edficas derivadas.<\/p>\n

O ideal \u00e9 que pesquisa e ferramentas que utilizam dados p\u00fablicos possam compartilhar n\u00e3o apenas gr\u00e1ficos e textos de suas conclus\u00f5es, mas tamb\u00e9m o c\u00f3digo utilizado para tal, criando um ecossistema de partilha de benef\u00edcios entre atores privados e p\u00fablicos (semicommons), neste caso com startups e healthtechs de um lado e o SUS do outro.<\/p>\n

<\/a><\/p>\n

LIMA, J. DA C. Desafios para a ado\u00e7\u00e3o de Intelig\u00eancia Artificial pelo Sistema \u00danico de Sa\u00fade (SUS): \u00e9tica, transpar\u00eancia e interpretabilidade. Tese (Doutorado em Informa\u00e7\u00e3o e Comunica\u00e7\u00e3o em Sa\u00fade) – Instituto de Comunica\u00e7\u00e3o e Informa\u00e7\u00e3o Cient\u00edfica e Tecnol\u00f3gica em Sa\u00fade, Funda\u00e7\u00e3o Oswaldo Cruz, Rio de Janeiro, 2022.<\/a><\/p>\n

NUNES, D.; MORATO, O. A explicabilidade da intelig\u00eancia artificial e o devido processo tecnol\u00f3gico. Dispon\u00edvel em: https:\/\/www.conjur.com.br\/2021-jul-07\/opiniao-explicabilidade-ia-devido-processo-tecnologico. Acesso em: 25 abr. 2023.<\/a><\/p>\n

SANTOS, A. W. C.. Intelig\u00eancia Artificial Generativa, dados pessoais e Literacia Digital em Sa\u00fade: possibilidades, desigualdades e limites. Dispon\u00edvel em: https:\/\/arthurwilliam.com.br\/wp-content\/uploads\/2023\/05\/Inteligencia-Artificial-Generativa-dados-pessoais-e-Literacia-Digital-em-Saude-Arthur-William-Cardoso-Santos.pdf. Acesso em: 31 mai. 2023.<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Para assegurar a confiabilidade das informa\u00e7\u00f5es fornecidas por aplica\u00e7\u00f5es de Intelig\u00eancia Artificial, \u00e9 fundamental conhecer o funcionamento dos algoritmos, contudo a maioria das ferramentas atua como caixas pretas (black boxes), tornando opacos e nada transparentes os crit\u00e9rios que levaram a m\u00e1quina a chegar em determinado resultado. Na \u00e1rea financeira, por exemplo, um sistema de IA […]<\/p>\n","protected":false},"author":1,"featured_media":1290,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"off","_et_pb_old_content":"","_et_gb_content_width":"","footnotes":""},"categories":[122,132],"tags":[155,127,157,125,123,156],"_links":{"self":[{"href":"https:\/\/arthurwilliam.com.br\/blog\/wp-json\/wp\/v2\/posts\/1289"}],"collection":[{"href":"https:\/\/arthurwilliam.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/arthurwilliam.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/arthurwilliam.com.br\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/arthurwilliam.com.br\/blog\/wp-json\/wp\/v2\/comments?post=1289"}],"version-history":[{"count":1,"href":"https:\/\/arthurwilliam.com.br\/blog\/wp-json\/wp\/v2\/posts\/1289\/revisions"}],"predecessor-version":[{"id":1291,"href":"https:\/\/arthurwilliam.com.br\/blog\/wp-json\/wp\/v2\/posts\/1289\/revisions\/1291"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/arthurwilliam.com.br\/blog\/wp-json\/wp\/v2\/media\/1290"}],"wp:attachment":[{"href":"https:\/\/arthurwilliam.com.br\/blog\/wp-json\/wp\/v2\/media?parent=1289"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/arthurwilliam.com.br\/blog\/wp-json\/wp\/v2\/categories?post=1289"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/arthurwilliam.com.br\/blog\/wp-json\/wp\/v2\/tags?post=1289"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}