Explicabilidade da Inteligência Artificial

Explicabilidade da Inteligência Artificial

Para assegurar a confiabilidade das informações fornecidas por aplicações de Inteligência Artificial, é fundamental conhecer o funcionamento dos algoritmos, contudo a maioria das ferramentas atua como caixas pretas (black boxes), tornando opacos e nada transparentes os critérios que levaram a máquina a chegar em determinado resultado. Na área financeira, por exemplo, um sistema de IA deve ser desenvolvido de forma a permitir que as avaliações de crédito sejam transparentes e permitam rastreabilidade.

O conceito da “explicabilidade” ou “interpretabilidade” diz respeito à capacidade de compreender os detalhes por trás do funcionamento de determinado algoritmo, explicando seu processo decisório.

Para o campo da saúde, apesar das enormes promessas de aplicações de Machine Learning, é fundamental entender o que motivou uma determinada decisão. Não parece razoável que médicos e pacientes recebam sem questionar diagnósticos que não podem ser explicados. Neste caso, a preocupação e busca por soluções tecnológicas “interpretáveis” são fundamentais não só para dar transparência para médicos e pacientes, mas para todas as partes interessadas, inclusive aos órgãos reguladores (LIMA, 2022).

A Explainable Artificial Intelligence (XAI) está, portanto, ligada à responsabilidade algorítmica e à transparência de processos de aprendizado de máquina (NUNES; MORATO, 2021).

Na versão 4 do GPT, a máquina adquiriu a capacidade de citar as fontes utilizadas para a geração da resposta, mas como está disponível apenas para os assinantes do plano Plus, a maioria dos usuários ainda enfrenta grande dificuldade em explicar as informações geradas pela IA.

Para o SUS, é fundamental que os sistemas de inteligência artificial funcionem dentro de uma mentalidade de software livre, com o compartilhamento não apenas de seus benefícios, mas também de abertura do “código”, medida que propiciaria o aprimoramento das ferramentas, o controle social da IA na Saúde, além do desenvolvimento de aplicações específicas derivadas.

O ideal é que pesquisa e ferramentas que utilizam dados públicos possam compartilhar não apenas gráficos e textos de suas conclusões, mas também o código utilizado para tal, criando um ecossistema de partilha de benefícios entre atores privados e públicos (semicommons), neste caso com startups e healthtechs de um lado e o SUS do outro.

xai Explainable Artificial Intelligence ai explicabilidade ia

LIMA, J. DA C. Desafios para a adoção de Inteligência Artificial pelo Sistema Único de Saúde (SUS): ética, transparência e interpretabilidade. Tese (Doutorado em Informação e Comunicação em Saúde) – Instituto de Comunicação e Informação Científica e Tecnológica em Saúde, Fundação Oswaldo Cruz, Rio de Janeiro, 2022.

NUNES, D.; MORATO, O. A explicabilidade da inteligência artificial e o devido processo tecnológico. Disponível em: https://www.conjur.com.br/2021-jul-07/opiniao-explicabilidade-ia-devido-processo-tecnologico. Acesso em: 25 abr. 2023.

SANTOS, A. W. C.. Inteligência Artificial Generativa, dados pessoais e Literacia Digital em Saúde: possibilidades, desigualdades e limites. Disponível em: https://arthurwilliam.com.br/wp-content/uploads/2023/05/Inteligencia-Artificial-Generativa-dados-pessoais-e-Literacia-Digital-em-Saude-Arthur-William-Cardoso-Santos.pdf. Acesso em: 31 mai. 2023.

Privacidade e Governança dos Dados na Inteligência Artificial em Saúde

Privacidade e Governança dos Dados na Inteligência Artificial em Saúde

A coleta de dados é premissa para sistemas de inteligência artificial, contudo é preciso garantir os direitos do cidadão à privacidade e protegê-lo de usos não autorizados de suas informações pessoais.

Nos Estados Unidos, a rede de farmácias CVS está atuando fortemente no uso de dados de Saúde (DARIN, 2021). No Brasil, o Grupo DPSP (dono das drogarias Pacheco e São Paulo) opera no sentido de construir um marketplace médico pautado nos dados de clientes dentro da modalidade de OpenHealth.

O Google também voltou a investir na coleta de dados de saúde dos usuários Android (SOARES, 2021). Já a startup Drumwave trabalha na monetização de dados pessoais de usuários de serviços financeiros e de saúde.

Entretanto, sem a devida regulamentação, o uso destes dados pessoais pode causar medidas prejudiciais ao cidadão em processos como o tempo de carência e o reajuste de planos de saúde com base na probabilidade de uso do serviço (sinistros). Por isso, a Rede Nacional de Dados de Saúde (RNDS) possibilitaria a implementação do Open Health com controle social, um dos pilares do SUS.

Alinhado a isto, a Lei Geral de Proteção de Dados Pessoais (LGPD) impõe limites claros para os tipos de uso permitidos para os de Saúde. A Lei nº 13.709, de 14 de agosto de 2018 estabelece que:

II – dado pessoal sensível: dado pessoal sobre origem racial ou étnica, convicção religiosa, opinião política, filiação a sindicato ou a organização de caráter religioso, filosófico ou político, dado referente à saúde ou à vida sexual, dado genético ou biométrico, quando vinculado a uma pessoa natural;
[…]
Art. 7º O tratamento de dados pessoais somente poderá ser realizado nas seguintes hipóteses:
[…]
VIII – para a tutela da saúde, exclusivamente, em procedimento realizado por profissionais de saúde, serviços de saúde ou autoridade sanitária;
[…]
Art. 11. O tratamento de dados pessoais sensíveis somente poderá ocorrer nas seguintes hipóteses:
[…]
f) tutela da saúde, exclusivamente, em procedimento realizado por profissionais de saúde, serviços de saúde ou autoridade sanitária;
[…]
§ 4º É vedada a comunicação ou o uso compartilhado entre controladores de dados pessoais sensíveis referentes à saúde com objetivo de obter vantagem econômica, exceto nas hipóteses relativas a prestação de serviços de saúde, de assistência farmacêutica e de assistência à saúde, desde que observado o § 5º deste artigo, incluídos os serviços auxiliares de diagnose e terapia, em benefício dos interesses dos titulares de dados […]
§ 5º É vedado às operadoras de planos privados de assistência à saúde o tratamento de dados de saúde para a prática de seleção de riscos na contratação de qualquer modalidade, assim como na contratação e exclusão de beneficiários (BRASIL, 2018).

Na área da Saúde, os dados têm origem em fontes diversas: pessoais, clínicos, de procedimentos e de exames. De acordo com a Lei nº 13.787, de 27 de dezembro de 2018, os prontuários eletrônicos devem ser guardados por um prazo mínimo de 20 anos. O Marco Civil da Internet (Lei nº 12.965, de 23 de abril de 2014) também trata do tema do tema em seu artigo 11°:

Art. 11. Em qualquer operação de coleta, armazenamento, guarda e tratamento de registros, de dados pessoais ou de comunicações por provedores de conexão e de aplicações de internet em que pelo menos um desses atos ocorra em território nacional, deverão ser obrigatoriamente respeitados a legislação brasileira e os direitos à privacidade, à proteção dos dados pessoais e ao sigilo das comunicações privadas e dos registros (BRASIL, 2014).

A LGPD prevê a possibilidade de eliminação dos dados pessoais quando houver solicitação por parte de seu titular, contudo, devido à importância de seu uso em pesquisas, os dados de Saúde podem vir a ser considerados como um “bem público global”.

privacidade inteligencia artificial saude sus rnds openhealth plano-de-saude lgpd gdpr

O acesso a dados em Saúde pode prever uma possível epidemia. No caso da Saúde Coletiva, o monitoramento de informações sociais e clínicas tem o potencial de auxiliar na previsão do maior impacto de uma epidemia, atuando no aprimoramento das políticas públicas. Entretanto, o direito à Saúde e à privacidade devem caminhar juntos, sem um canibalizar o outro.

Por tal motivo, a segurança e a governança dos dados são fundamentais. Os sistemas público e privado devem ter regras claras de quais dados podem e devem ser coletados, onde serão armazenados, quem pode acessá-los e para que serão utilizados. A partir disso, o acesso aos dados deve ser controlado de acordo com perfis específicos. É preciso dar atenção a medidas de segurança como criptografia para evitar vazamento dos dados como o ocorrido com o Hospital do Barreiro (Portugal):

O Hospital do Barreiro tem 296 médicos colocados, mas os sistemas internos permitiam que mais de 900 médicos continuassem com as contas de acesso a repositórios clínicos ativas. Contas de assistentes sociais, falhas no sistema de autenticação e a inexistência de regras de acesso também contribuíram para a aplicação de coimas ao abrigo do novo Regulamento Geral de Proteção de Dados (SÉNECA, 2018).

Caso similar ocorreu nos Países Baixos. O “Haga Hospital” foi multado em 460 mil euros por violar a GDPR (General Data Protection Regulation), lei europeia análoga à LGPD. O hospital possuía regras frágeis para o controle de acesso a dados de pacientes.

Além das informações clínicas, os dados genômicos também podem ser utilizados para prever a possibilidade de aparecimento de enfermidades. A “medicina preditiva” atua no diagnóstico de doenças hereditárias com base na análise de informações genéticas. A aposta da genômica clínica é promover tratamentos personalizados com o uso de medicamentos mais eficazes.

O acesso a dados do genoma humano ainda não é tão comum na medicina, contudo, com a crescente popularização de testes de ancestralidade, os próprios usuários geram dados genômicos pessoais que podem ser utilizados para outros fins até mesmo com autorização do titular a fim de supostamente tentar encontrar sua árvore genealógica.

Neste sentido, são os próprios usuários que autorizam o compartilhamento de suas informações pessoais de Saúde. O mesmo acontece com aplicativos ligados à qualidade de vida como Strava, Google Health, Garmin Connect, entre outros. Por meio de uma dinâmica, “gamificada”, os usuários destas ferramentas são engajados no compartilhamento cada vez maior de suas atividades cotidianas (esportes, sono e jornada de trabalho).

Por outro lado, mesmo com vedação legal, é preciso estar atento à tentativa de precificar planos de saúde suplementar a partir da probabilidade de uso futuro dos serviços médicos com base em informações pessoais. Conforme visto anteriormente, a Internet das Coisas Médicas (IoMT) possibilitará o monitoramento da Saúde em tempo real por meio de dispositivos conectados, tais quais os vestíveis (wearable devices). Pela lógica, uma pessoa desconfiaria se o plano de saúde tentasse acessar as informações dos wearable devices. Porém, situação similar ocorreu com a parceria entre farmácias e planos de saúde suplementar, que oferecem benefícios aos clientes em troca dos dados pessoais.

O acesso desregulado a dados como estes poderia ainda criar um cenário de interferência na contração de funcionários, pois os recrutadores saberiam antecipadamente se uma pessoa está grávida ou se sofre de algum transtorno mental como depressão, bipolaridade ou pânico. Esta possibilidade é acentuada em populares sistemas de recrutamento online que utilizam inteligência artificial para a análise dos dados dos candidatos, como o Gupy que dispõe da IA Gaia.

Em 2023, a Sulamérica criou um sistema que chamou de “cashback” em parceria com o aplicativo de exercícios físicos Gympass. O usuário que comprovar ter feito atividades físicas (pelo menos duas vezes por semana durante seis meses) recebe, pela operadora, o reembolso do valor gasto com o aplicativo Gympass.

Em princípio, a “promoção” atuaria dentro da tentativa de mudança de cultura médica, migrando do “sickcare” para o “healthcare”, todavia possui potencial para acesso a dados pessoais de bem estar, deixando vulneráveis os usuários de planos de saúde suplementar na medida em que suas informações pessoais podem ser levadas em conta no momento de reajuste, definição da carência ou da negativa de determinada cobertura.

privacidade inteligencia artificial saude sus rnds openhealth plano-de-saude lgpd gdpr

REFERÊNCIAS:

BRASIL. Lei n º 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Diário Oficial da União, Brasília, DF, 2014. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em: 25 abr. 2023.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União, Brasília, DF, 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 25 abr. 2023.

BRASIL. Lei nº 13.787, de 27 de dezembro de 2018. Dispõe sobre a digitalização e a utilização de sistemas informatizados para a guarda, o armazenamento e o manuseio de prontuário de paciente. Diário Oficial da União, Brasília, DF, 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13787.htm. Acesso em: 25 abr. 2023.

DARIN, B. CVS Health Paves Path to Better Care With Data, AI – WSJ. Disponível em: https://deloitte.wsj.com/articles/cvs-health-paves-path-to-better-care-with-data-ai-01615406532. Acesso em: 25 abr. 2023.

SANTOS, A. W. C.. Inteligência Artificial Generativa, dados pessoais e Literacia Digital em Saúde: possibilidades, desigualdades e limites. Disponível em: https://arthurwilliam.com.br/wp-content/uploads/2023/05/Inteligencia-Artificial-Generativa-dados-pessoais-e-Literacia-Digital-em-Saude-Arthur-William-Cardoso-Santos.pdf. Acesso em: 31 mai. 2023.

SÉNECA, H. Visão | CNPD: Hospital do Barreiro multado em 400 mil euros por permitir acessos indevidos a processos clínicos. Disponível em: https://visao.sapo.pt/exameinformatica/noticias-ei/mercados/2018-10-19-cnpd-hospital-do-barreiro-multado-em-400-mil-euros-por-permitir-acessos-indevidos-a-processos-clinicos/. Acesso em: 23 abr. 2023.

SOARES, L. Google volta a tentar coletar dados de saúde dos usuários. Olhar Digital, 12 abr. 2021. Disponível em: https://olhardigital.com.br/2021/04/12/medicina-e-saude/google-volta-a-tentar-coletar-dados-de-saude-dos-usuarios/. Acesso em: 25 abr. 2023.

Robô foi incluído no inquérito policial que investigou as “Jornadas de Junho de 2013”

Robô foi incluído no inquérito policial que investigou as “Jornadas de Junho de 2013”

inquerito policia civil operacao firewall jornadas junho 2013 midia ninja

Robô foi incluído no inquérito policial que investigou as “Jornadas de Junho de 2013” (manifestações entre Junho de 2013 e Julho de 2014)

Em minha pesquisa de mestrado, criei um robô que fazia o “web scraping” das publicações sobre as manifestações entre 2013 e 2014 com o objetivo de analisar os dados de forma similiar a outros trabalhos científicos no período. Mesmo o site explicando o projeto, surpresa minha foi ver o robô confundido com um grupo de pessoas reais pelo relatório da Operação Firewall que investigou as manifestações entre junho de 2013 até a final da Copa do Mundo de 2014.

Aquela confusão, há 10 anos atrás, deixou claro o potencial de desinformação que uma mídia sintética poderia gerar na sociedade, situação agravada hoje em dia com o desenvolvimento da inteligência artificial generativa. O robô que criei não era tão sofisticado quanto os softwares na linguagem R que os professores Fabio Malini (Labic-UFES) e Raquel Recuero (UCPel) utilizavam para produzir seus grafos nas pesquisas de ciência de dados sobre os protestos de 2013/2014. No meu caso, os plug-ins do WordPress faziam a raspagem dos dados das redes sociais e copiavam as informações para um site, que era indexado pelo Google, diferentemente das redes sociais fechadas como o Facebook. Além disso, o robô traduzia automaticamente todos os textos para três línguas (inglês, espanhol e francês) via API do Google Tradutor e divulgava os links de forma automatizada pelo Twitter. Quando saiu o relatório da investigação policial, acabei desativando o robô “Rebaixada” que havia sido desenvolvido durante oficinas na própria universidade. O relato completo desta história está descrito na minha dissertação de mestrado pela UERJ – Universidade do Estado do Rio de Janeiro.

REFERÊNCIAS:

SANTOS, A. W. C.. Pesquisa de mestrado no inquérito da Polícia. Disponível em: https://arthurwilliam.com.br/blog/pesquisa-de-mestrado-no-inquerito-da-policia/. Acesso em: 1 ago. 2014.

SANTOS, Arthur William Cardoso. Rebaixada: hub da multidão inteligente durante os megaeventos. 2015. 108 f. Dissertação (Mestrado em Educação, Cultura e Comunicação) – Faculdade de Educação da Baixada Fluminense, Universidade do Estado do Rio de Janeiro, Duque de Caxias, 2015. Acesso em: 7 out. 2015.

LINKS:

Rebaixada.org (Web Archive – Wayback Machine)

Rebaixada.com.br (Web Archive – Wayback Machine)

Twitter do Robô Rebaixada em Português

Twitter do Robô Rebaixada em Inglês

Twitter do Robô Rebaixada em Espanhol

Twitter do Robô Rebaixada em Francês

Viés (Bias), o preconceito da Inteligência Artificial em Saúde

Viés (Bias), o preconceito da Inteligência Artificial em Saúde

bias biases vies vieses racismo preconceito inteligencia artificial generativa ai ia

Adivinhe qual das imagens sintéticas acima foi criada pela Inteligência Artificial a partir do prompt genérico “Médica com tablet na mão e códigos binários a sua volta”? A imagem da direita teve que ser editada com a descrição específica “Médica negra”.

Além da desigualdade no acesso a recursos de Inteligência Artificial, a iniquidade de serviços de “machine learning” pode acarretar em respostas equivocadas por parte das ferramentas de Inteligência Artificial. Como as primeiras aplicações foram desenvolvidas com dados de populações de países desenvolvidos, a máquina pode reproduzir preconceitos com populações distintas, processo chamado de Bias ou viés. A análise automatizada de exames de imagem agiliza a confecção de laudos e pode prever o aparecimento de doenças, porém, para ser efetiva e não resultar em erros, precisa levar em conta dados que muitas vezes não estão presentes.

Neste sentido, se não houver políticas públicas para a inclusão de populações vulnerabilizadas em ações de “machine learning”, especificidades étnicas podem ser desconsideradas pelos sistemas de IA, prejudicando a análise de dados de indígenas brasileiros, por exemplo. Isto porque, se estiver apenas pautada pelo potencial econômico da coleta de dados, informações de segmentos sociais historicamente excluídos podem não ser levadas em conta pela IA. A partir de 2023, o DataSUS anunciou que vai obrigar o preenchimento de informações como raça e cor.

Outro ponto de atenção diz respeito à consideração da variável étnica nos indicadores clínicos como a oxigenação do sangue, por exemplo. Como o oxímetro tem sua medição afetada pela cor de pele do paciente, um sistema de IA que desconsidere este fator pode ocorrer em grave equívoco com potencial para até mesmo causar a morte de um paciente.

A Inteligência Artificial Generativa também esbarra no tema do preconceito. Isto porque as LLMs utilizam grande modelos de linguagem que se alimentam de datasets compostos por conteúdos disponíveis na internet: textos e imagens que podem conter viés preconceituoso. A resposta de um chatbot como o ChatGPT é um processamento de variadas fontes opacas. A ausência de “explicabilidade” das fontes das informações dificulta a identificação de vieses (biases).

Esta situação é de mais fácil percepção nas aplicações de imagens como Midjourney, Bing Image Creator, Adobe Firefly e o DALL-E. Ao imputar um prompt solicitando a criação de uma imagem de um médico ou de um empresário de sucesso, a probabilidade de o material gerado conter uma mulher negra é muito menor, pois os sistemas foram treinados com material que reproduz este estereótipo.

Em “machine learning”, a máquina aprende a identificar padrões e este aprendizado pode ser “supervisionado” ou “não supervisionado”. No aprendizado supervisionado, o treinamento da Inteligência Artificial é realizado a partir de material previamente rotulado. No caso da imagem da médica, um ser humano faria uma análise prévia do que considera ser a representação de médicos, análise subjetiva que pode ser influenciada por estereótipos.

Já no aprendizado “não supervisionado”, a máquina tenta identificar padrões com base nos dados imputados, ou seja, se foi treinado com a quase totalidade das imagens de profissionais de Saúde com a pele branca, consequentemente concluirá um determinado “padrão” de cor de pele para médicos.

O GPT passou por um processo de RLHF (Reinforcement Learning from Human Feedback, aprendizagem por reforço por resposta humana), em que pessoas reais diziam se as criações da IA estavam certas ou erradas, durante a fase de testes. Além disso, a Inteligência Artificial reproduz ainda a visão de mundo de seus programadores, em geral, homens brancos residentes nos Estados Unidos.

O GPT-3 foi treinado a partir de cinco conjuntos de dados: Common Crawl, WebText2, Wikipedia, Books1 e Books2. Os três primeiros conjuntos de fontes são compostos por conteúdos variados da internet. Já o GPT-4 já possui uma preocupação maior com textos preconceituosos, porém esta versão encontra-se apenas acessível a usuários PLUS do ChatGPT ao custo de 20 dólares mensais.

REFERÊNCIAS:

EVANGELISTA, A. P. Sistemas do SUS não têm dados suficientes de raça/cor da pele de pacientes durante a pandemia. Disponível em: https://www.epsjv.fiocruz.br/podcast/sistemas-do-sus-nao-tem-dados-suficientes-de-racacor-da-pele-de-pacientes-durante-a-pandemia. Acesso em: 25 abr. 2023.

LIMA, J. DA C. Desafios para a adoção de Inteligência Artificial pelo Sistema Único de Saúde (SUS): ética, transparência e interpretabilidade. Tese (Doutorado em Informação e Comunicação em Saúde) – Instituto de Comunicação e Informação Científica e Tecnológica em Saúde, Fundação Oswaldo Cruz, Rio de Janeiro, 2022.

NUNES, D.; MORATO, O. A explicabilidade da inteligência artificial e o devido processo tecnológico. Disponível em: https://www.conjur.com.br/2021-jul-07/opiniao-explicabilidade-ia-devido-processo-tecnologico. Acesso em: 25 abr. 2023.

SANTOS, A. W. C.. Inteligência Artificial Generativa, dados pessoais e Literacia Digital em Saúde: possibilidades, desigualdades e limites. Disponível em: https://arthurwilliam.com.br/wp-content/uploads/2023/05/Inteligencia-Artificial-Generativa-dados-pessoais-e-Literacia-Digital-em-Saude-Arthur-William-Cardoso-Santos.pdf. Acesso em: 31 mai. 2023.

Inteligência Artificial e Desigualdades em Saúde

Inteligência Artificial e Desigualdades em Saúde

Antes restrita a profissionais de Tecnologia da Informação (TI) e programadores, hoje a Inteligência Artificial passa por um processo de universalização, contudo ainda não há equidade no acesso a estas ferramentas.

Lançados inicialmente de forma gratuita, alguns aplicativos de IA já estão se tornando um Software as a Service (SaaS) cobrado dentro do modelo Freemium (algumas funcionalidades gratuitas e outras pagas), gerando desigualdades em seu uso.

O ChatGPT, por exemplo, permite o acesso gratuito à versão 3.5, enquanto os assinantes do plano Plus têm direito ao uso da versão 4.0. Além da frequente indisponibilidade da versão gratuita, seus usuários contam com um sistema que não consegue entender imagens, que não cita as fontes de pesquisa e que processa cerca de oito vezes menos palavras em comparação com a versão GPT-4.

Outro diferencial da versão Plus do ChatGPT é que ela tem acesso a informações atualizadas de seu dataset, diferentemente da opção gratuita cuja base de dados só vai até setembro de 2021.

Já a ferramenta de IA Generativa de imagens “Midjourney” encerrou os acessos gratuitos alegando sobrecarga do sistema após a viralização de imagens sintéticas do Papa Francisco e do ex-presidente dos EUA, Donald Trump, criadas a partir do aplicativo. Nesta esteira, o serviço de IA Generativa “Copilot” estará disponível no serviço oneroso “Microsoft 365”.

Mais uma desigualdade reside na criação de ferramentas de IA apenas para usuários de dispositivos da Apple, como IPhone e iPad. O aplicativo Kaiber, por exemplo, só foi disponibilizado inicialmente para usuários do sistema iOS, o que representa em 2023 uma ampla minoria de pessoas em todo o mundo.

Já o “Bard”, sistema de inteligência artificial do Google, foi lançado primeiramente apenas para residentes nos Estados Unidos e no Reino Unido. Numa segunda onda, abriu a ferramenta para 180 nações, mas excluiu da lista Brasil, Canadá e países da União Europeia, justamente as regiões que estão em processo de implementação de leis que regulamentam o uso da internet, impondo limites e responsabilidade às Big Techs.

Há ferramentas que possibilitam o uso de computadores pessoais para a geração de imagens, como o “Stable diffusion”, porém é necessário o uso uma GPU (unidade de processamento gráfico) potente, dispositivo de elevado custo. Já os sistemas de análises de dados com IA e as ferramentas de machine learning exigem grande capacidade computacional para serem treinados e terem as informações processadas, configurando mais uma desigualdade neste campo.

Outra barreira de implementação está no acesso à internet no Brasil. Apesar de estar difundida para a maioria da população, levantamento (IDEC, 2021) mostra que a adoção de planos com Zero-Rating pelas classes C, D e E cria um descompasso entre as possibilidades de acesso à internet de acordo com o poder aquisitivo do cidadão.

Mesmo proibido pelo Marco Civil da Internet (Lei nº 12.965/2014) e pelo Decreto 8771/2016, as operadoras continuam oferecendo planos com franquias pequenas de pacote de dados mas com acesso ilimitado a determinados aplicativos como Whatsapp e Facebook. Tal situação de restrição do acesso à informação é apontada como uma das causas para a desinformação durante a pandemia da Covid-19, fenômeno chamado de Infodemia (D’AGOSTINI, 2021).

Em janeiro de 2023, a partir de pedido do movimento social Coalizão de Direitos da Rede (CDR), o Governo Federal solicitou que o CADE analisasse os impactos do zero-rating.

desigualdade saude sus inteligencia artificial medica negra hospital publico particular

Mais um ponto de destaque diz respeito às licenças de uso dos softwares e sistemas envolvidos na Saúde Digital. O Prontuário Eletrônico do Cidadão (PEC), por exemplo, é baseado no software público e-SUS AB. A mesma diretriz deve acompanhar o desenvolvimento de ferramentas de IA para o SUS, garantindo sua universalização.

Por outro lado, no que tange à infraestrutura, o DataSUS está hospedado em servidor privado (AWS – Amazon Web Services). Esta opção reduz a independência da gestão dos dados e pode colocar em risco a política pública se houver descontinuidade do serviço com impossibilidade de migração para outra infraestrutura. Tal percepção é aumentada pelo fato de a empresa contratada possuir um projeto de Data Lake para a Saúde (Amazon HealthLake), que conta com o protocolo FHIR (Fast Healthcare Interoperability Resources), escolhido pela Organização Mundial da Saúde (OMS) para sistemas de Open Health. O Amazon HealthLake já está sendo utilizado pelo Hospital Sírio-Libanês em aplicações de ciência de dados na saúde privada.

A título de comparação, o Ministério da Educação (MEC) não conseguiu acesso ao acervo de conteúdos produzidos durante a execução de contrato de gestão com a Associação de Comunicação Educativa Roquette Pinto (ACERP) para funcionamento da TV Escola e da TV INES, situação que teve como consequência a descontinuidade dos projetos anteriores e a criação posterior de duas novas emissoras em parceria com a Empresa Brasil de Comunicação (EBC): Canal Educação e Canal Libras.

A própria lei de criação do SUS (Lei 8080 de 1990) em seu artigo 47 já prevê a criação de um “sistema nacional de informações em saúde, integrado em todo o território nacional, abrangendo questões epidemiológicas e de prestação de serviços”.

Quanto à inovação em Saúde, o setor privado tem apostado na incubação de startups, como é o caso da Eretz.bio do Hospital Albert Einstein e da Alma do Hospital Sírio-Libanês. Todavia, os empreendimentos do tipo são comumente adquiridos por grandes corporações ou morrem sem conseguir amadurecer o produto ou serviço. Por isso, para o SUS, o mais efetivo seria o investimento em políticas estruturantes com o desenvolvimento de laboratórios de inovação em centros de pesquisa públicos.

Diferentemente dos princípios e diretrizes do SUS, a inovação no setor privado tem como base um processo organizado em seis etapas por Peter Diamandis, sendo que somente o último seria o da “democratização” (DIAMANDIS, 2016). Deste modo, a inovação caminharia mais para uma medicina de precisão focada apenas no atendimento de um pequeno segmento da sociedade.

Desigualdade adicional diz respeito à quantidade de dados disponíveis sobre cada paciente. O fenômeno da Internet das Coisas Médicas (internet of medical things – IoMT) consiste na presença de diversos dispositivos que geram dados de saúde sobre as pessoas para além do ambiente hospitalar e do consultório médico. Estes dispositivos compartilham dados em tempo real que podem antecipar o diagnóstico de situações como um infarto, o que aumentaria a possibilidade de recuperação do enfermo. Dispositivos vestíveis (wearable devices) já estão presentes no cotidiano de uma parcela da sociedade, contudo ainda são inacessíveis à maioria da população relógios inteligentes (smart watches), sensores de pele (skin sensors), medidor de pressão conectado, além de sensores de movimento para a prática esportiva, batimentos cardíacos (HRM) e monitoramento do sono.

A extração dos dados da IoMT possibilita um atendimento personalizado, aprofundado e ágil aos pacientes, causando grande diferença se comparado ao atendimento generalista, superficial e demorado de quem não tiver acesso a tais dispositivos, principalmente na atenção primária. Por outro lado, a geração de grande volume de dados pessoais traz à tona questões de privacidade e controle social dos dados.

No caso de regiões remotas, como aldeias indígenas e comunidades rurais e ribeirinhas com reduzida assistência de Saúde, políticas públicas de IoMT poderiam suplementar programas como o “Mais Médicos” (PMM), por exemplo, permitindo ao médico que as informações de Saúde sejam processadas de forma remota, auxiliando o trabalho do profissional de saúde localmente. Programas neste sentido seriam gestados por ações conjuntas dos ministérios da Saúde e das Comunicações.

O Programa de Apoio ao Desenvolvimento Institucional do Sistema Único de Saúde (Proadi-SUS) já possui um projeto-piloto neste sentido em cidades ribeirinhas do Amazonas e do Pará (projeto TeleAMEs), onde um médico generalista da atenção básica faz a intermediação para o teleatendimento por especialistas localizados em outras cidades brasileiras (LIRA, 2022). Projeto também de referência no SUS, o programa de TelessaúdeRS promove ações de teleducação, telediagnóstico e teleconsultoria na atenção primária no Rio Grande do Sul.

Sobre a jornada do paciente, sem a efetiva implementação do Open Health no Brasil, apenas as empresas verticalizadas conseguiriam utilizar os dados clínicos coletados, formando uma espécie de oligopólio no setor de saúde privada. A Rede D’or, por exemplo, adquiriu recentemente o seguro Sulamérica, a rede de maternidades Perinatal e o laboratório Richet.

Uma defasagem no sentido da conectividade e de uso de dados em situações de emergência poderá ser encontrada nas ambulâncias com conexão 5G. Já em funcionamento a partir de parceria entre a TIM, a Delloitte e o Hospital Sírio-Libanês, este “veículo inteligente” promove uma melhor troca de informações entre a equipe do hospital e da ambulância, diminuindo os riscos de equívocos de comunicação na transição do paciente (handoff e handover).

Dentro dos hospitais, a conectividade dos dispositivos viabiliza uma supervisão remota em tempo real reduzindo a probabilidade de erros médicos. O Hospital Israelita Albert Einstein (HIAE) possui um centro de controle operacional que supervisiona toda a jornada do paciente e aciona equipes locais caso algum dos indicadores esteja em desconformidade, como o caso de a equipe de enfermagem não administrar determinada medicação dentro do tempo previsto.

Em processo análogo à Divisão Internacional do Trabalho (DIT), outra perspectiva de análise sobre a desigualdade reside no papel de países desenvolvidos e subdesenvolvidos no processo de produção e processamento de dados em nível mundial. No “colonialismo de dados”, os países subdesenvolvidos forneceriam a matéria prima (dados) para o desenvolvimento de tecnologias pelos países desenvolvidos.

Em 2021, o Núcleo de Estudos sobre Bioética e Diplomacia em Saúde (Nethis) da Fiocruz Brasília criou o Observatório de Desenvolvimento e Desigualdades em Saúde e Inteligência Artificial (Odisseia) com o objetivo de fomentar a elevação do acesso do SUS à Transformação Digital em Saúde em conjunto com a IA.

REFERÊNCIAS:

D’AGOSTINI, J. Zero-rating, desinformação e precariedade do acesso à Internet no Brasil. LAPIN, 2 ago. 2021. Disponível em: https://lapin.org.br/2021/08/02/zero-rating-e-desinformacao-a-relacao-entre-a-precariedade-do-acesso-a-internet-no-brasil-e-a-disseminacao-de-conteudos-enganosos/. Acesso em: 25 abr. 2023

DIAMANDIS, P. H. The 6 D’s. Disponível em: https://www.diamandis.com/blog/the-6ds. Acesso em: 25 abr. 2023.

IDEC. Modelo de internet restrito prejudica acesso a direitos básicos, diz pesquisa. Disponível em: https://idec.org.br/noticia/modelo-de-internet-restrito-prejudica-acesso-direitos-basicos-diz-pesquisa. Acesso em: 25 abr. 2023.

SANTOS, A. W. C.. Inteligência Artificial Generativa, dados pessoais e Literacia Digital em Saúde: possibilidades, desigualdades e limites. Disponível em: https://arthurwilliam.com.br/wp-content/uploads/2023/05/Inteligencia-Artificial-Generativa-dados-pessoais-e-Literacia-Digital-em-Saude-Arthur-William-Cardoso-Santos.pdf. Acesso em: 31 mai. 2023.

SILVEIRA, S. A. DA; SOUZA, J.; CASSINO, J. F. (orgs.). Colonialismo de dados: como opera a trincheira algorítmica na guerra neoliberal. São Paulo: Autonomia Literária, 2021.

Open Health, RNDS e dados de Saúde no SUS

Open Health, RNDS e dados de Saúde no SUS

Primeiramente, vamos explicar alguns dos principais conceitos de que trataremos. Inteligência Artificial (IA) é um conjunto de técnicas que pretendem simular o funcionamento da inteligência humana. O NLP (“Processamento de Linguagem Natural” na tradução livre) é um ramo da IA que trata da interação entre máquinas e seres humanos através de linguagem natural. Já a Inteligência Artificial Generativa é uma técnica de IA que possibilita a criação de textos, fotos, vídeos e música com base em modelos de dados treinados. Esses modelos, por sua vez, são compostos pelo processamento de uma grande quantidade de parâmetros, o que chamamos de LLM (“Large Language Models” ou “Grandes Modelos de Linguagem” na tradução livre).

A Inteligência Artificial na Saúde está inserida no rol de possibilidades das ITIS (Informação e Tecnologia da Informação em Saúde) e possibilita a criação de uma cultura de pensamento analítico em que profissionais e gestores de Saúde tomam decisões embasadas em evidências e não na intuição, processo conhecido como “Data Driven” (“orientado a dados” na tradução livre).

A IA atua basicamente em três eixos na Saúde: políticas públicas, otimização de recursos e melhoria do atendimento.

No primeiro eixo, a análise de dados de sistemas como o DataSUS e do IBGE auxilia na construção e na implementação de programas e ações de Saúde Coletiva pelo Estado. As informações mais utilizadas para este fim estão reunidas no Censo, na Pesquisa Nacional de Saúde (PNS), no Sistema de Informação sobre Mortalidade e Declaração de Óbitos Fetais (SIM-DOFET), no Sistema de Informações sobre Nascidos Vivos (SINASC), no Cadastro Nacional de Estabelecimentos de Saúde (CNES), no Sistema de Informações Hospitalares do SUS (SIHSUS) e no Sistema de Informação sobre Mortalidade (SIM).

O segundo eixo permite uma melhor gestão de equipes médicas e da infraestrutura hospitalar. Já no terceiro, serão mais utilizadas as ferramentas de IA Generativa, LLM e NLP.

A cultura de dados, difundida entre os profissionais da Saúde, possibilita que as decisões tomadas sejam baseadas em evidências e não apenas pautadas na experiência profissional e acadêmica. Ser “Data Driven” é, portanto, promover um processo organizacional baseado em dados a partir da coleta e análise de informações.

Com a grande quantidade de dados a serem analisados (Big Data), a IA lança mão de recursos de machine learning (aprendizado de máquina) para produzir suas próprias regras, numa escala muito maior do que um ser humano poderia programar. Na área da Saúde, técnicas de machine learning permitem a predição de doenças antes de os primeiros sintomas aparecerem, como o caso de câncer em estágio inicial. A máquina aprende a identificar padrões a partir do treinamento alimentado com casos anteriores.

A medicina preditiva usa complexos algoritmos para tentar prever condições futuras de saúde baseada em informações genéticas e no histórico familiar. O uso de dados pessoais também possibilita um atendimento preciso e personalizado com base em exames atuais e do passado. Contudo, coexistem aí questões sobre a privacidade do paciente e o uso dos dados pessoais para outros fins.

Ferramentas de análise automatizada de imagens radiológicas formam um dos principais serviços de Inteligência Artificial autorizadas pela FDA (Food and Drug Administration, agência federal de Saúde dos Estados Unidos), indo além do auxílio ao médico, mas também já indicando um possível diagnóstico de forma não supervisionada. Em 2018, a FDA autorizou o uso de um aplicativo que detecta retinopatia de forma autônoma, o IDx-DR. No contexto da pandemia do Coronavírus, a Anvisa liberou a venda em farmácias de testes rápidos para o autodiagnóstico da Covid-19.

A perspectiva é que a IA na Saúde não seja um serviço autônomo, mas que possa auxiliar os profissionais na automatização de rotinas, assim como fornecer subsídios para o raciocínio. No caso dos gestores, proporciona maior embasamento para a tomada de decisão, otimizando recursos. Exemplos são: melhor organização de escalas de profissionais e uso de equipamentos e insumos, além da construção de prontuários de forma automatizada e de previsões financeiras, promovendo consequentemente uma redução de custos operacionais.

medica negra sus openhealth tablet inteligenciaartificial

Dados de Saúde e Open Health

Um dos empecilhos para o uso de dados em Saúde é o fato de estarem em bases distintas, espalhados em sistemas de agências reguladoras, Ministério da Saúde, Ministério do Trabalho e sistemas privados como farmácias, laboratórios e hospitais.
Para o eixo das Políticas Públicas, a Fiocruz fornece acesso às informações do DataSUS (ligado ao Ministério da Saúde) através da Plataforma de Ciência de Dados aplicada à Saúde (PCDaS), projeto do Instituto de Comunicação e Informação Científica e Tecnológica em Saúde (ICICT/Fiocruz). Tais dados propiciam diversas soluções para a melhoria da saúde da população por meio de análises de informações de variadas fontes. Outra iniciativa que atua no mesmo sentido é Centro de Integração de Dados e Conhecimentos para Saúde (Cidacs) da Fiocruz Bahia, projeto de referência responsável por realizar pesquisas que utilizam a Big Data com o objetivo de aprimorar a compreensão das relações entre a Saúde populacional e as políticas ambientais e sociais.

Estas ações são importantes ainda pois atuam na limpeza e no enriquecimento dos dados brutos, garantindo a qualidade e a confiabilidade das informações coletadas, o que chamamos de “veracidade” em Big Data. Além disso, é possível contar com dados não estruturados de fontes como redes sociais.

No eixo de “Melhoria do atendimento”, a IA pode substituir a consulta a livros como as diretrizes clínicas de um Guideline Médico (ANS & AMB, 2012). No contexto de uma emergência, a consulta a tabelas de um Guideline por médicos não especialistas seria facilitada pela indicação de exames a partir dos indicadores fornecidos ao sistema de IA.

Junto com as informações baseadas em evidências de um Guideline, o processamento pela IA de dados pessoais do paciente admite a prescrição de tratamentos personalizados de acordo com cada pessoa, elevando a taxa de efetividade. Alguns hospitais brasileiros já utilizam a ferramenta Memed para a prescrição digital de medicamentos, contudo, a adoção de ferramentas do tipo pelo Sistema Único de Saúde (SUS) requer outras características como licenciamento de software livre. Exemplo é o sistema AGHUse, software livre sob licença GPL para gestão de hospitais universitários desenvolvido partir de parceria entre o Hospital das Clínicas de Porto Alegre (HCPA), o Ministério da Educação (MEC) e a Empresa Brasileira de Serviços Hospitalares (Ebserh). Os aplicativos de marcação de consultas online estão difundidos no sistema privado, mas podemos destacar o “Agenda Fácil” da Secretaria Municipal de Saúde de São Paulo além da experiência do AGHUse implementada também em hospitais das forças armadas (Aeronáutica, Marinha e Exército).

Mas atenção: as máquinas não substituirão os seres humanos. Como uma solução baseada em machine learning sempre estará sujeita a equívocos, é responsabilidade dos profissionais de Saúde entender o patamar de confiabilidade dos sistemas e dosar o nível de influência que os resultados automatizados terão nas decisões médicas. Além disso, como especialistas no ofício da medicina, esta categoria deve atuar em conjunto com os técnicos para aprimorar o algoritmo a partir de técnicas como RLHF (Reinforcement Learning from Human Feedback, aprendizagem por reforço por resposta humana) e “supervised learning” (aprendizado supervisionado).

No momento, a Inteligência Artificial encontra-se em estágio inicial de desenvolvimento. Suas aplicações ainda povoam o ramo da IA Específica (ANI – Artificial Narrow Intelligence), sendo destinada a resolução de problemas limitados. A segunda etapa seria a Inteligência Artificial Geral (AGI – Artificial General Intelligence), cuja principal característica é contar com comportamentos humanos como sentimentos e emoções. A terceira etapa seria a superação da inteligência humana pelas máquinas, fenômeno chamado de superinteligência (ASI – Artificial Super Intelligence).

Paralelamente, a criação de humanóides, congregando IA Generativa e robótica, já está sendo experimentada na Ásia como o robô chinês Xiaoyi, além dos “carebots” (robôs cuidadores) no Japão, devido ao envelhecimento da população e à escassez de cuidadores humanos neste país. No Brasil, o Hospital Albert Einstein faz uso de robôs de telepresença dentro da dinâmica da telemedicina, permitindo que médicos possam acompanhar seus pacientes a distância.

Mesmo que apenas funcionando no ambiente virtual, os chatbots costumam usar nomes de pessoas para dar mais credibilidade à comunicação entre humanos e máquinas. Exemplos são: Bia (Bradesco), Lu (Magazine Luiza), Alexa (Amazon), Siri (Apple), Cris (Crefisa), CB (Casas Bahia), Nat (Natura), Vivi (Vivo), Tina (Hospital Albert Einstein). Na área da Saúde, o Robô Laura atua na atenção primária. Criada inicialmente para a detecção antecipada da sepse via inteligência artificial, a Laura Care ganhou uma versão que funciona como uma assistente virtual que acompanha toda a jornada do paciente, desde a triagem inicial via WhatsApp até o monitoramento do paciente 14 dias depois do último atendimento.

Uma das barreiras à implantação da cultura de dados na área da Saúde é a digitalização das informações dos pacientes. Segundo dados de 2021, a adoção de Prontuário Eletrônico do Paciente (PEP) já ocorreu em 89% dos estabelecimentos de Saúde, contudo a maioria (84%) refere-se apenas a informações cadastrais do paciente, sendo que este percentual sofre redução quando relacionados a outras informações clínicas: Diagnóstico, problemas ou condições de saúde do paciente (73%), Alergias do paciente (66%), Resultados de exames laboratoriais do paciente (65%), Lista de medicamentos prescritos ao paciente (62%), Vacinas administradas ao paciente (47%) e Imagens de exames radiológicos do paciente (30%).

Nota-se no estudo acima (CETIC, 2021) que o percentual mais baixo está justamente nas imagens radiológicas, área em que a primeira onda de IA na Saúde teve grande presença. Na área pública, este percentual seria de apenas 26%.

Outro entrave é a padronização de dados estruturados e que possibilitem a interoperabilidade entre diversos sistemas, permitindo que o paciente tenha garantidas a transição e a continuidade no cuidado entre os diversos níveis da hierarquização do SUS, além do uso do sistema de saúde suplementar, formando uma EHR (sigla em inglês para Electronic Health Record).

Criada pela Portaria nº 1.434, de 28 de maio de 2020 e alinhada à política de Transformação Digital na Saúde, a Rede Nacional de Dados em Saúde (RNDS) tem o objetivo de sistematizar as informações dos pacientes dos sistemas público e privado. A RNDS utiliza o padrão FHIR (Fast Healthcare Interoperability Resources), a terminologia LOINC e a arquitetura descentralizada Blockchain por apresentar melhor potencial de segurança, acesso, escalabilidade e desempenho.

A RNDS é uma das principais políticas estruturantes para a implementação do conceito de Open Health no Brasil, na medida em que viabilizaria a integração de dados de serviços públicos e privados, dentro de um sistema com controle social. Informações do SUS e de empresas comerciais (Einstein, Rede Dor, Dasa, Fleury, entre outros) seriam compartilhados aprimorando a experiência do paciente e evitando perda de tempo na realização de exames repetidos.

A experiência de intercâmbio de informações de usuários já acontece no Brasil com o chamado Open Banking, assegurando a portabilidade de dados entre diversos prestadores de serviços bancários. A modalidade é regulada pelo Estado através do Banco Central.

O mercado também possui iniciativas de integração de sistemas sem a mediação estatal, como é o caso do Open Delivery. Contudo, neste caso, na contramão do cenário de elevação na competitividade do setor, algumas empresas de entregas fecharam suas operações recentemente no Brasil, como Uber Eats e 99Foods.

Até 2023, a principal experiência exitosa da RNDS foi o projeto ConecteSUS no contexto da pandemia do Novo Coronavírus. Este sistema reúne registros de vacinação, exames de Covid-19, atendimentos, internações e medicamentos. O “ConecteSUS Cidadão” é uma evolução do “Meu digiSUS”, aplicativo que apresentava ao cidadão um conjunto de informações reunidas de sistemas como o Portal do Cidadão, o Cadastro Nacional de Usuário do Sistema Único de Saúde (CADSUS) e o Cadastro Nacional de Estabelecimento de Saúde (CNES). Com o app, era possível agendar procedimentos e exames inseridos no sistema da Atenção Básica e-SUS AB e no Sistema de Regulação (SISREG).

Lançado em agosto de 2020, a obrigatoriedade da emissão do comprovante de vacinação tornou o aplicativo ConecteSUS popular. Até dezembro de 2022, a ferramenta já tinha sido baixada mais de 36 milhões de vezes. Já em julho de 2021, foi criada uma versão focada nos profissionais de Saúde, o “ConecteSUS Profissional”. Este sistema permitia o acesso ao histórico médico do cidadão, condicionado à autorização do mesmo. Nos EUA, o Health Information Exchange (HIE) também exige consentimento do paciente para o intercâmbio de informações.

Essas ações estão alinhadas à Política Nacional de Informática e Informações em Saúde (PNIIS, 2021), à Estratégia da e-Saúde (CIT 2017), ao Plano de Ação, Monitoramento e Avaliação de Saúde Digital para o Brasil (PAM&A 2019) e à Estratégia de Saúde Digital para o Brasil 2020-2028 (ESD28) e à Estratégia e-Saúde para o Brasil.

A adoção de ferramentas de Inteligência Artificial na Saúde pode encontrar um empecilho na cultura do médico como protagonista exclusivo da Saúde. A presença da IA pode, em alguns episódios, contestar uma avaliação ou tomada de decisão por parte do médico. A perspectiva positiva é que a transformação digital propicie uma atuação do médico mais como tutor, aumentando o compartilhamento de responsabilidades por meio da coparticipação do próprio paciente, na medida em que este último estará cada vez mais empoderado de sua situação clínica graças ao conhecimento de suas informações médicas.

Neste caminho, a jornada do paciente deve ser redesenhada com processos baseados nas necessidades do usuário (ou experiência do usuário – UX) e não nas necessidade do médico ou do hospital. Por fim, a IA não tem a pretensão de substituir os profissionais da saúde, mas, ao automatizar rotinas, o trabalho tende a ser cada vez mais dedicado a atividades de interação com o paciente e menos no preenchimento de relatórios.

REFERÊNCIAS:

ANS & AMB. Diretrizes Clínicas na Saúde Suplementar 2012: Associação Médica Brasileira e Agência Nacional de Saúde Suplementar. Disponível em: https://bvsms.saude.gov.br/bvs/publicacoes/diretrizes_clinicas_2012.pdf. Acesso em: 25 abr. 2023.

BRASIL. Portaria nº 1.434, de 28 de maio de 2020. Altera o Anexo XLII da Portaria de Consolidação GM/MS nº 2, de 28 de setembro de 2017, para dispor sobre a Política Nacional de Informação e Informática em Saúde (PNIIS). Diário Oficial da União, Brasília, DF, 2021. Disponível em: https://www.in.gov.br/en/web/dou/-/portaria-gm/ms-n-1.768-de-30-de-julho-de-2021-335472332. Acesso em: 25 abr. 2023.

CETIC. TIC Saúde 2021. Disponível em: https://cetic.br/pt/tics/saude/2021/estabelecimentos/B2/. Acesso em: 25 abr. 2023.

SANTOS, A. W. C.. Inteligência Artificial Generativa, dados pessoais e Literacia Digital em Saúde: possibilidades, desigualdades e limites. Disponível em: https://arthurwilliam.com.br/wp-content/uploads/2023/05/Inteligencia-Artificial-Generativa-dados-pessoais-e-Literacia-Digital-em-Saude-Arthur-William-Cardoso-Santos.pdf. Acesso em: 31 mai. 2023.

Página 2 de 3123