Antes restrita a profissionais de Tecnologia da Informação (TI) e programadores, hoje a Inteligência Artificial passa por um processo de universalização, contudo ainda não há equidade no acesso a estas ferramentas.
Lançados inicialmente de forma gratuita, alguns aplicativos de IA já estão se tornando um Software as a Service (SaaS) cobrado dentro do modelo Freemium (algumas funcionalidades gratuitas e outras pagas), gerando desigualdades em seu uso.
O ChatGPT, por exemplo, permite o acesso gratuito à versão 3.5, enquanto os assinantes do plano Plus têm direito ao uso da versão 4.0. Além da frequente indisponibilidade da versão gratuita, seus usuários contam com um sistema que não consegue entender imagens, que não cita as fontes de pesquisa e que processa cerca de oito vezes menos palavras em comparação com a versão GPT-4.
Outro diferencial da versão Plus do ChatGPT é que ela tem acesso a informações atualizadas de seu dataset, diferentemente da opção gratuita cuja base de dados só vai até setembro de 2021.
Já a ferramenta de IA Generativa de imagens “Midjourney” encerrou os acessos gratuitos alegando sobrecarga do sistema após a viralização de imagens sintéticas do Papa Francisco e do ex-presidente dos EUA, Donald Trump, criadas a partir do aplicativo. Nesta esteira, o serviço de IA Generativa “Copilot” estará disponível no serviço oneroso “Microsoft 365”.
Mais uma desigualdade reside na criação de ferramentas de IA apenas para usuários de dispositivos da Apple, como IPhone e iPad. O aplicativo Kaiber, por exemplo, só foi disponibilizado inicialmente para usuários do sistema iOS, o que representa em 2023 uma ampla minoria de pessoas em todo o mundo.
Já o “Bard”, sistema de inteligência artificial do Google, foi lançado primeiramente apenas para residentes nos Estados Unidos e no Reino Unido. Numa segunda onda, abriu a ferramenta para 180 nações, mas excluiu da lista Brasil, Canadá e países da União Europeia, justamente as regiões que estão em processo de implementação de leis que regulamentam o uso da internet, impondo limites e responsabilidade às Big Techs.
Há ferramentas que possibilitam o uso de computadores pessoais para a geração de imagens, como o “Stable diffusion”, porém é necessário o uso uma GPU (unidade de processamento gráfico) potente, dispositivo de elevado custo. Já os sistemas de análises de dados com IA e as ferramentas de machine learning exigem grande capacidade computacional para serem treinados e terem as informações processadas, configurando mais uma desigualdade neste campo.
Outra barreira de implementação está no acesso à internet no Brasil. Apesar de estar difundida para a maioria da população, levantamento (IDEC, 2021) mostra que a adoção de planos com Zero-Rating pelas classes C, D e E cria um descompasso entre as possibilidades de acesso à internet de acordo com o poder aquisitivo do cidadão.
Mesmo proibido pelo Marco Civil da Internet (Lei nº 12.965/2014) e pelo Decreto 8771/2016, as operadoras continuam oferecendo planos com franquias pequenas de pacote de dados mas com acesso ilimitado a determinados aplicativos como Whatsapp e Facebook. Tal situação de restrição do acesso à informação é apontada como uma das causas para a desinformação durante a pandemia da Covid-19, fenômeno chamado de Infodemia (D’AGOSTINI, 2021).
Em janeiro de 2023, a partir de pedido do movimento social Coalizão de Direitos da Rede (CDR), o Governo Federal solicitou que o CADE analisasse os impactos do zero-rating.
Mais um ponto de destaque diz respeito às licenças de uso dos softwares e sistemas envolvidos na Saúde Digital. O Prontuário Eletrônico do Cidadão (PEC), por exemplo, é baseado no software público e-SUS AB. A mesma diretriz deve acompanhar o desenvolvimento de ferramentas de IA para o SUS, garantindo sua universalização.
Por outro lado, no que tange à infraestrutura, o DataSUS está hospedado em servidor privado (AWS – Amazon Web Services). Esta opção reduz a independência da gestão dos dados e pode colocar em risco a política pública se houver descontinuidade do serviço com impossibilidade de migração para outra infraestrutura. Tal percepção é aumentada pelo fato de a empresa contratada possuir um projeto de Data Lake para a Saúde (Amazon HealthLake), que conta com o protocolo FHIR (Fast Healthcare Interoperability Resources), escolhido pela Organização Mundial da Saúde (OMS) para sistemas de Open Health. O Amazon HealthLake já está sendo utilizado pelo Hospital Sírio-Libanês em aplicações de ciência de dados na saúde privada.
A título de comparação, o Ministério da Educação (MEC) não conseguiu acesso ao acervo de conteúdos produzidos durante a execução de contrato de gestão com a Associação de Comunicação Educativa Roquette Pinto (ACERP) para funcionamento da TV Escola e da TV INES, situação que teve como consequência a descontinuidade dos projetos anteriores e a criação posterior de duas novas emissoras em parceria com a Empresa Brasil de Comunicação (EBC): Canal Educação e Canal Libras.
A própria lei de criação do SUS (Lei 8080 de 1990) em seu artigo 47 já prevê a criação de um “sistema nacional de informações em saúde, integrado em todo o território nacional, abrangendo questões epidemiológicas e de prestação de serviços”.
Quanto à inovação em Saúde, o setor privado tem apostado na incubação de startups, como é o caso da Eretz.bio do Hospital Albert Einstein e da Alma do Hospital Sírio-Libanês. Todavia, os empreendimentos do tipo são comumente adquiridos por grandes corporações ou morrem sem conseguir amadurecer o produto ou serviço. Por isso, para o SUS, o mais efetivo seria o investimento em políticas estruturantes com o desenvolvimento de laboratórios de inovação em centros de pesquisa públicos.
Diferentemente dos princípios e diretrizes do SUS, a inovação no setor privado tem como base um processo organizado em seis etapas por Peter Diamandis, sendo que somente o último seria o da “democratização” (DIAMANDIS, 2016). Deste modo, a inovação caminharia mais para uma medicina de precisão focada apenas no atendimento de um pequeno segmento da sociedade.
Desigualdade adicional diz respeito à quantidade de dados disponíveis sobre cada paciente. O fenômeno da Internet das Coisas Médicas (internet of medical things – IoMT) consiste na presença de diversos dispositivos que geram dados de saúde sobre as pessoas para além do ambiente hospitalar e do consultório médico. Estes dispositivos compartilham dados em tempo real que podem antecipar o diagnóstico de situações como um infarto, o que aumentaria a possibilidade de recuperação do enfermo. Dispositivos vestíveis (wearable devices) já estão presentes no cotidiano de uma parcela da sociedade, contudo ainda são inacessíveis à maioria da população relógios inteligentes (smart watches), sensores de pele (skin sensors), medidor de pressão conectado, além de sensores de movimento para a prática esportiva, batimentos cardíacos (HRM) e monitoramento do sono.
A extração dos dados da IoMT possibilita um atendimento personalizado, aprofundado e ágil aos pacientes, causando grande diferença se comparado ao atendimento generalista, superficial e demorado de quem não tiver acesso a tais dispositivos, principalmente na atenção primária. Por outro lado, a geração de grande volume de dados pessoais traz à tona questões de privacidade e controle social dos dados.
No caso de regiões remotas, como aldeias indígenas e comunidades rurais e ribeirinhas com reduzida assistência de Saúde, políticas públicas de IoMT poderiam suplementar programas como o “Mais Médicos” (PMM), por exemplo, permitindo ao médico que as informações de Saúde sejam processadas de forma remota, auxiliando o trabalho do profissional de saúde localmente. Programas neste sentido seriam gestados por ações conjuntas dos ministérios da Saúde e das Comunicações.
O Programa de Apoio ao Desenvolvimento Institucional do Sistema Único de Saúde (Proadi-SUS) já possui um projeto-piloto neste sentido em cidades ribeirinhas do Amazonas e do Pará (projeto TeleAMEs), onde um médico generalista da atenção básica faz a intermediação para o teleatendimento por especialistas localizados em outras cidades brasileiras (LIRA, 2022). Projeto também de referência no SUS, o programa de TelessaúdeRS promove ações de teleducação, telediagnóstico e teleconsultoria na atenção primária no Rio Grande do Sul.
Sobre a jornada do paciente, sem a efetiva implementação do Open Health no Brasil, apenas as empresas verticalizadas conseguiriam utilizar os dados clínicos coletados, formando uma espécie de oligopólio no setor de saúde privada. A Rede D’or, por exemplo, adquiriu recentemente o seguro Sulamérica, a rede de maternidades Perinatal e o laboratório Richet.
Uma defasagem no sentido da conectividade e de uso de dados em situações de emergência poderá ser encontrada nas ambulâncias com conexão 5G. Já em funcionamento a partir de parceria entre a TIM, a Delloitte e o Hospital Sírio-Libanês, este “veículo inteligente” promove uma melhor troca de informações entre a equipe do hospital e da ambulância, diminuindo os riscos de equívocos de comunicação na transição do paciente (handoff e handover).
Dentro dos hospitais, a conectividade dos dispositivos viabiliza uma supervisão remota em tempo real reduzindo a probabilidade de erros médicos. O Hospital Israelita Albert Einstein (HIAE) possui um centro de controle operacional que supervisiona toda a jornada do paciente e aciona equipes locais caso algum dos indicadores esteja em desconformidade, como o caso de a equipe de enfermagem não administrar determinada medicação dentro do tempo previsto.
Em processo análogo à Divisão Internacional do Trabalho (DIT), outra perspectiva de análise sobre a desigualdade reside no papel de países desenvolvidos e subdesenvolvidos no processo de produção e processamento de dados em nível mundial. No “colonialismo de dados”, os países subdesenvolvidos forneceriam a matéria prima (dados) para o desenvolvimento de tecnologias pelos países desenvolvidos.
Em 2021, o Núcleo de Estudos sobre Bioética e Diplomacia em Saúde (Nethis) da Fiocruz Brasília criou o Observatório de Desenvolvimento e Desigualdades em Saúde e Inteligência Artificial (Odisseia) com o objetivo de fomentar a elevação do acesso do SUS à Transformação Digital em Saúde em conjunto com a IA.
Primeiramente, vamos explicar alguns dos principais conceitos de que trataremos. Inteligência Artificial (IA) é um conjunto de técnicas que pretendem simular o funcionamento da inteligência humana. O NLP (“Processamento de Linguagem Natural” na tradução livre) é um ramo da IA que trata da interação entre máquinas e seres humanos através de linguagem natural. Já a Inteligência Artificial Generativa é uma técnica de IA que possibilita a criação de textos, fotos, vídeos e música com base em modelos de dados treinados. Esses modelos, por sua vez, são compostos pelo processamento de uma grande quantidade de parâmetros, o que chamamos de LLM (“Large Language Models” ou “Grandes Modelos de Linguagem” na tradução livre).
A Inteligência Artificial na Saúde está inserida no rol de possibilidades das ITIS (Informação e Tecnologia da Informação em Saúde) e possibilita a criação de uma cultura de pensamento analítico em que profissionais e gestores de Saúde tomam decisões embasadas em evidências e não na intuição, processo conhecido como “Data Driven” (“orientado a dados” na tradução livre).
A IA atua basicamente em três eixos na Saúde: políticas públicas, otimização de recursos e melhoria do atendimento.
No primeiro eixo, a análise de dados de sistemas como o DataSUS e do IBGE auxilia na construção e na implementação de programas e ações de Saúde Coletiva pelo Estado. As informações mais utilizadas para este fim estão reunidas no Censo, na Pesquisa Nacional de Saúde (PNS), no Sistema de Informação sobre Mortalidade e Declaração de Óbitos Fetais (SIM-DOFET), no Sistema de Informações sobre Nascidos Vivos (SINASC), no Cadastro Nacional de Estabelecimentos de Saúde (CNES), no Sistema de Informações Hospitalares do SUS (SIHSUS) e no Sistema de Informação sobre Mortalidade (SIM).
O segundo eixo permite uma melhor gestão de equipes médicas e da infraestrutura hospitalar. Já no terceiro, serão mais utilizadas as ferramentas de IA Generativa, LLM e NLP.
A cultura de dados, difundida entre os profissionais da Saúde, possibilita que as decisões tomadas sejam baseadas em evidências e não apenas pautadas na experiência profissional e acadêmica. Ser “Data Driven” é, portanto, promover um processo organizacional baseado em dados a partir da coleta e análise de informações.
Com a grande quantidade de dados a serem analisados (Big Data), a IA lança mão de recursos de machine learning (aprendizado de máquina) para produzir suas próprias regras, numa escala muito maior do que um ser humano poderia programar. Na área da Saúde, técnicas de machine learning permitem a predição de doenças antes de os primeiros sintomas aparecerem, como o caso de câncer em estágio inicial. A máquina aprende a identificar padrões a partir do treinamento alimentado com casos anteriores.
A medicina preditiva usa complexos algoritmos para tentar prever condições futuras de saúde baseada em informações genéticas e no histórico familiar. O uso de dados pessoais também possibilita um atendimento preciso e personalizado com base em exames atuais e do passado. Contudo, coexistem aí questões sobre a privacidade do paciente e o uso dos dados pessoais para outros fins.
Ferramentas de análise automatizada de imagens radiológicas formam um dos principais serviços de Inteligência Artificial autorizadas pela FDA (Food and Drug Administration, agência federal de Saúde dos Estados Unidos), indo além do auxílio ao médico, mas também já indicando um possível diagnóstico de forma não supervisionada. Em 2018, a FDA autorizou o uso de um aplicativo que detecta retinopatia de forma autônoma, o IDx-DR. No contexto da pandemia do Coronavírus, a Anvisa liberou a venda em farmácias de testes rápidos para o autodiagnóstico da Covid-19.
A perspectiva é que a IA na Saúde não seja um serviço autônomo, mas que possa auxiliar os profissionais na automatização de rotinas, assim como fornecer subsídios para o raciocínio. No caso dos gestores, proporciona maior embasamento para a tomada de decisão, otimizando recursos. Exemplos são: melhor organização de escalas de profissionais e uso de equipamentos e insumos, além da construção de prontuários de forma automatizada e de previsões financeiras, promovendo consequentemente uma redução de custos operacionais.
Dados de Saúde e Open Health
Um dos empecilhos para o uso de dados em Saúde é o fato de estarem em bases distintas, espalhados em sistemas de agências reguladoras, Ministério da Saúde, Ministério do Trabalho e sistemas privados como farmácias, laboratórios e hospitais.
Para o eixo das Políticas Públicas, a Fiocruz fornece acesso às informações do DataSUS (ligado ao Ministério da Saúde) através da Plataforma de Ciência de Dados aplicada à Saúde (PCDaS), projeto do Instituto de Comunicação e Informação Científica e Tecnológica em Saúde (ICICT/Fiocruz). Tais dados propiciam diversas soluções para a melhoria da saúde da população por meio de análises de informações de variadas fontes. Outra iniciativa que atua no mesmo sentido é Centro de Integração de Dados e Conhecimentos para Saúde (Cidacs) da Fiocruz Bahia, projeto de referência responsável por realizar pesquisas que utilizam a Big Data com o objetivo de aprimorar a compreensão das relações entre a Saúde populacional e as políticas ambientais e sociais.
Estas ações são importantes ainda pois atuam na limpeza e no enriquecimento dos dados brutos, garantindo a qualidade e a confiabilidade das informações coletadas, o que chamamos de “veracidade” em Big Data. Além disso, é possível contar com dados não estruturados de fontes como redes sociais.
No eixo de “Melhoria do atendimento”, a IA pode substituir a consulta a livros como as diretrizes clínicas de um Guideline Médico (ANS & AMB, 2012). No contexto de uma emergência, a consulta a tabelas de um Guideline por médicos não especialistas seria facilitada pela indicação de exames a partir dos indicadores fornecidos ao sistema de IA.
Junto com as informações baseadas em evidências de um Guideline, o processamento pela IA de dados pessoais do paciente admite a prescrição de tratamentos personalizados de acordo com cada pessoa, elevando a taxa de efetividade. Alguns hospitais brasileiros já utilizam a ferramenta Memed para a prescrição digital de medicamentos, contudo, a adoção de ferramentas do tipo pelo Sistema Único de Saúde (SUS) requer outras características como licenciamento de software livre. Exemplo é o sistema AGHUse, software livre sob licença GPL para gestão de hospitais universitários desenvolvido partir de parceria entre o Hospital das Clínicas de Porto Alegre (HCPA), o Ministério da Educação (MEC) e a Empresa Brasileira de Serviços Hospitalares (Ebserh). Os aplicativos de marcação de consultas online estão difundidos no sistema privado, mas podemos destacar o “Agenda Fácil” da Secretaria Municipal de Saúde de São Paulo além da experiência do AGHUse implementada também em hospitais das forças armadas (Aeronáutica, Marinha e Exército).
Mas atenção: as máquinas não substituirão os seres humanos. Como uma solução baseada em machine learning sempre estará sujeita a equívocos, é responsabilidade dos profissionais de Saúde entender o patamar de confiabilidade dos sistemas e dosar o nível de influência que os resultados automatizados terão nas decisões médicas. Além disso, como especialistas no ofício da medicina, esta categoria deve atuar em conjunto com os técnicos para aprimorar o algoritmo a partir de técnicas como RLHF (Reinforcement Learning from Human Feedback, aprendizagem por reforço por resposta humana) e “supervised learning” (aprendizado supervisionado).
No momento, a Inteligência Artificial encontra-se em estágio inicial de desenvolvimento. Suas aplicações ainda povoam o ramo da IA Específica (ANI – Artificial Narrow Intelligence), sendo destinada a resolução de problemas limitados. A segunda etapa seria a Inteligência Artificial Geral (AGI – Artificial General Intelligence), cuja principal característica é contar com comportamentos humanos como sentimentos e emoções. A terceira etapa seria a superação da inteligência humana pelas máquinas, fenômeno chamado de superinteligência (ASI – Artificial Super Intelligence).
Paralelamente, a criação de humanóides, congregando IA Generativa e robótica, já está sendo experimentada na Ásia como o robô chinês Xiaoyi, além dos “carebots” (robôs cuidadores) no Japão, devido ao envelhecimento da população e à escassez de cuidadores humanos neste país. No Brasil, o Hospital Albert Einstein faz uso de robôs de telepresença dentro da dinâmica da telemedicina, permitindo que médicos possam acompanhar seus pacientes a distância.
Mesmo que apenas funcionando no ambiente virtual, os chatbots costumam usar nomes de pessoas para dar mais credibilidade à comunicação entre humanos e máquinas. Exemplos são: Bia (Bradesco), Lu (Magazine Luiza), Alexa (Amazon), Siri (Apple), Cris (Crefisa), CB (Casas Bahia), Nat (Natura), Vivi (Vivo), Tina (Hospital Albert Einstein). Na área da Saúde, o Robô Laura atua na atenção primária. Criada inicialmente para a detecção antecipada da sepse via inteligência artificial, a Laura Care ganhou uma versão que funciona como uma assistente virtual que acompanha toda a jornada do paciente, desde a triagem inicial via WhatsApp até o monitoramento do paciente 14 dias depois do último atendimento.
Uma das barreiras à implantação da cultura de dados na área da Saúde é a digitalização das informações dos pacientes. Segundo dados de 2021, a adoção de Prontuário Eletrônico do Paciente (PEP) já ocorreu em 89% dos estabelecimentos de Saúde, contudo a maioria (84%) refere-se apenas a informações cadastrais do paciente, sendo que este percentual sofre redução quando relacionados a outras informações clínicas: Diagnóstico, problemas ou condições de saúde do paciente (73%), Alergias do paciente (66%), Resultados de exames laboratoriais do paciente (65%), Lista de medicamentos prescritos ao paciente (62%), Vacinas administradas ao paciente (47%) e Imagens de exames radiológicos do paciente (30%).
Nota-se no estudo acima (CETIC, 2021) que o percentual mais baixo está justamente nas imagens radiológicas, área em que a primeira onda de IA na Saúde teve grande presença. Na área pública, este percentual seria de apenas 26%.
Outro entrave é a padronização de dados estruturados e que possibilitem a interoperabilidade entre diversos sistemas, permitindo que o paciente tenha garantidas a transição e a continuidade no cuidado entre os diversos níveis da hierarquização do SUS, além do uso do sistema de saúde suplementar, formando uma EHR (sigla em inglês para Electronic Health Record).
Criada pela Portaria nº 1.434, de 28 de maio de 2020 e alinhada à política de Transformação Digital na Saúde, a Rede Nacional de Dados em Saúde (RNDS) tem o objetivo de sistematizar as informações dos pacientes dos sistemas público e privado. A RNDS utiliza o padrão FHIR (Fast Healthcare Interoperability Resources), a terminologia LOINC e a arquitetura descentralizada Blockchain por apresentar melhor potencial de segurança, acesso, escalabilidade e desempenho.
A RNDS é uma das principais políticas estruturantes para a implementação do conceito de Open Health no Brasil, na medida em que viabilizaria a integração de dados de serviços públicos e privados, dentro de um sistema com controle social. Informações do SUS e de empresas comerciais (Einstein, Rede Dor, Dasa, Fleury, entre outros) seriam compartilhados aprimorando a experiência do paciente e evitando perda de tempo na realização de exames repetidos.
A experiência de intercâmbio de informações de usuários já acontece no Brasil com o chamado Open Banking, assegurando a portabilidade de dados entre diversos prestadores de serviços bancários. A modalidade é regulada pelo Estado através do Banco Central.
O mercado também possui iniciativas de integração de sistemas sem a mediação estatal, como é o caso do Open Delivery. Contudo, neste caso, na contramão do cenário de elevação na competitividade do setor, algumas empresas de entregas fecharam suas operações recentemente no Brasil, como Uber Eats e 99Foods.
Até 2023, a principal experiência exitosa da RNDS foi o projeto ConecteSUS no contexto da pandemia do Novo Coronavírus. Este sistema reúne registros de vacinação, exames de Covid-19, atendimentos, internações e medicamentos. O “ConecteSUS Cidadão” é uma evolução do “Meu digiSUS”, aplicativo que apresentava ao cidadão um conjunto de informações reunidas de sistemas como o Portal do Cidadão, o Cadastro Nacional de Usuário do Sistema Único de Saúde (CADSUS) e o Cadastro Nacional de Estabelecimento de Saúde (CNES). Com o app, era possível agendar procedimentos e exames inseridos no sistema da Atenção Básica e-SUS AB e no Sistema de Regulação (SISREG).
Lançado em agosto de 2020, a obrigatoriedade da emissão do comprovante de vacinação tornou o aplicativo ConecteSUS popular. Até dezembro de 2022, a ferramenta já tinha sido baixada mais de 36 milhões de vezes. Já em julho de 2021, foi criada uma versão focada nos profissionais de Saúde, o “ConecteSUS Profissional”. Este sistema permitia o acesso ao histórico médico do cidadão, condicionado à autorização do mesmo. Nos EUA, o Health Information Exchange (HIE) também exige consentimento do paciente para o intercâmbio de informações.
Essas ações estão alinhadas à Política Nacional de Informática e Informações em Saúde (PNIIS, 2021), à Estratégia da e-Saúde (CIT 2017), ao Plano de Ação, Monitoramento e Avaliação de Saúde Digital para o Brasil (PAM&A 2019) e à Estratégia de Saúde Digital para o Brasil 2020-2028 (ESD28) e à Estratégia e-Saúde para o Brasil.
A adoção de ferramentas de Inteligência Artificial na Saúde pode encontrar um empecilho na cultura do médico como protagonista exclusivo da Saúde. A presença da IA pode, em alguns episódios, contestar uma avaliação ou tomada de decisão por parte do médico. A perspectiva positiva é que a transformação digital propicie uma atuação do médico mais como tutor, aumentando o compartilhamento de responsabilidades por meio da coparticipação do próprio paciente, na medida em que este último estará cada vez mais empoderado de sua situação clínica graças ao conhecimento de suas informações médicas.
Neste caminho, a jornada do paciente deve ser redesenhada com processos baseados nas necessidades do usuário (ou experiência do usuário – UX) e não nas necessidade do médico ou do hospital. Por fim, a IA não tem a pretensão de substituir os profissionais da saúde, mas, ao automatizar rotinas, o trabalho tende a ser cada vez mais dedicado a atividades de interação com o paciente e menos no preenchimento de relatórios.
Há alguns anos, a Inteligência Artificial (IA) já é aplicada na área da Saúde desde o diagnóstico antecipado de doenças até a criação de novos medicamentos. Contudo, é relativamente recente a popularização da IA Generativa e seu uso na Saúde impõe uma série de questões.
Detecção de câncer com base na análise automatizada de imagens, desenvolvimento de biofármacos, melhor utilização dos recursos em um hospital (ocupação de salas de cirurgia e leitos), acompanhamento do paciente na atenção primária, além de embasamento para decisões de gestão e a criação de políticas públicas: todos estes são usos de IA já em operação na Saúde.
O processo de Saúde Digital vem caminhando ao longo dos anos, mas sofreu forte desenvolvimento no último período por conta da quarentena imposta pela pandemia de Covid-19. A área da Saúde já é conhecida por ser “late adopter” de novas tecnologias, pois precisa ter garantias de que sua adoção não vai trazer riscos à vida da população. Por isso, os algoritmos precisam ser validados pela Agência Nacional de Vigilância Sanitária (Anvisa) no Brasil. Inclusive, em 23 de março de 2022, a diretoria colegiada da Anvisa aprovou a resolução nº 657 (ANVISA, 2022) que regulamenta o uso de softwares como dispositivos médicos (Software as a Medical Device – SaMD).
Diversos países, em especial na Europa, já desenvolvem legislações no sentido de regulamentar a adoção da inteligência artificial. No Brasil, há três projetos de lei em tramitação no Congresso e um anteprojeto produzido por uma comissão de juristas. Esta última proposta foi apresentada oficialmente pelo presidente do Senado Federal, Rodrigo Pacheco, na forma do Projeto de Lei n° 2338/2023. O objetivo é tornar mais transparente o uso desta tecnologia, garantindo os direitos do cidadão, além de prevenir possível utilização de mídia sintética gerada por IA generativa em Fake News, cenário de desinformação preocupante na área da Saúde por conta da situação da Infodemia.
Outra questão jurídica diz respeito aos direitos autorais dos conteúdos (textos, fotos, vídeos e músicas) gerados por IA. Antes mesmo da regulação legal/infralegal, algumas plataformas já rascunham princípios de boas práticas na implementação de IA generativa ao dar mais transparência ao processo de criação de imagens e vídeos por IA, uma evolução em relação a ferramentas anteriores que usam material proprietário de terceiros sem autorização para gerar novos conteúdos. A alternativa seria apenas utilizar material expressamente autorizado, em domínio público e de seu banco de imagens próprio (WIGGERS, 2023). Os produtores de conteúdo poderiam escolher ainda se autorizam que suas obras sejam usadas para o treinamento de robôs e a ferramenta recompensaria quem o assim desejar, criando uma economia da IA.
A privacidade também é uma questão central no contexto da Inteligência Artificial, na medida em que os sistemas são treinados a partir de grande base de dados. Essa Big Data muitas vezes conta com dados sensíveis de pessoas sem autorização das mesmas.
Sobre a acurácia dos textos gerados por IA, é preciso compreender que os sistemas são alimentados por “machine learning”, ou seja, não são ferramentas prontas ou totalmente programadas por humanos, mas sim em processo de aprendizado autônomo, então, por hora não poderiam ser consideradas como fonte totalmente confiável.
Outro ponto importante é a opacidade dos sistemas de aprendizado de máquina. Os chamados “black boxes” impedem que o usuário consiga entender quais foram os critérios utilizados para gerar a resposta recebida. Tal processo de “explicabilidade” (LIMA, 2022) é fundamental para verificar as possibilidades de uso das ferramentas de IA em serviços como a Saúde.
O desenvolvimento de ferramentas de Inteligência Artificial requer acesso a grandes bancos de dados (dataset) e à elevada capacidade de processamento de dados, recursos que demandam um custoso investimento em infraestrutura computacional. Esta situação projeta um cenário de potencial desigualdade entre os sistemas público e privado.
No momento, o SUS está discutindo as possibilidades e os desafios para o uso de inteligência artificial na Saúde Pública. O Conselho Nacional de Saúde (CNS) está pautando a IA dentro do contexto de Saúde Digital e da Transformação Digital em Saúde. A Resolução n° 659, de 26 de julho de 2021, elenca a IA entre as disposições da Política Nacional de Informação e Informática em Saúde (PNIIS).
Em conjunto com a Fiocruz, o CNS está discutindo a implementação da IA e outras possibilidades das ITIS (Informação e Tecnologia da Informação em Saúde) à luz dos princípios e diretrizes do SUS.
Outro passo neste sentido veio do Ministério da Saúde ao criar a Secretaria de Informação e Saúde Digital (BRASIL, 2023) com os seguintes setores subordinados: Departamento de Informação para o Sistema Único de Saúde (Datasus); Departamento de Avaliação e Disseminação de Informações Estratégicas em Saúde; e Departamento de Saúde Digital e Inovação.
A ABRASCO (Associação Brasileira de Saúde Coletiva) também trouxe elementos para este momento por meio do Plano Diretor para o Desenvolvimento da Informação e Tecnologia de Informação em Saúde para o quinquênio 2020-2024 (3º PlaDITIS). O documento lista cinco dimensões para: Governança e gestão da informação e tecnologia de informação e comunicação em saúde (ITICS); Pesquisa, desenvolvimento e inovação na área temática ITICS; Ensino e formação permanente de equipe de Informação e TIC em saúde; Ética, privacidade e confidencialidade; Informação e TIC em saúde: democracia, controle social e justiça cognitiva.
Como referência mundial em Saúde Pública, o desenvolvimento de um sistema de Saúde Digital pelo SUS pode servir como modelo para a adoção por outros países. Situação análoga ocorreu com o Sistema Brasileiro de TV Digital (SBTVD) que serviu de base para países como Angola, Argentina, Peru, Chile, Uruguai, Costa Rica, Paraguai, Bolívia e Venezuela. No caso da TV Digital, o Brasil fez melhorias no sistema japonês ISDB-T, incorporando tecnologia desenvolvida por pesquisadores brasileiros como a interatividade Ginga, cujas linguagens NCL e Lua foram criadas pelo laboratório TeleMídia da PUC-Rio.
Antes da popularização da Inteligência Artificial Generativa, a IA já estava presente no cotidiano de grande parte dos brasileiros de forma pouco perceptível. Nos conteúdos, a IA atua fortemente nos sistemas de recomendação de vídeos e músicas em aplicativos como Netflix, Spotify e Youtube. Nota-se que, para a IA atuar, é necessário ter acesso a informações pessoais dos usuários como dados de pesquisa e acesso na internet.
Em aplicativos de navegação por GPS, como Waze e Google Maps, por exemplo, a Inteligência Artificial é responsável por responder à pergunta indireta feita ao sistema: Qual o trajeto mais rápido de um ponto no mapa para outro?
Nem todos os motoristas utilizam e se guiam pelas respostas da IA, que algumas vezes cometem equívocos. Entretanto, os profissionais que se recusam a usar a tecnologia como auxílio a seu ofício (uma espécie de “Copiloto”) são considerados desatualizados e tendem a ficar fora do mercado. O mesmo fenômeno ocorreu com a adoção dos computadores pessoais nas empresas.
Contudo, da mesma forma que o bom taxista ou motorista de UBER seria aquele que utiliza as informações do GPS, mas utiliza sua experiência profissional para identificar possíveis erros nas rotas sugeridas, os médicos poderão utilizar a Inteligência Artificial como ferramenta auxiliar e não como um oráculo infalível, detentor de toda a verdade e sabedoria.
Neste sentido, a tendência é que os profissionais e gestores de Saúde atuem em conjunto com cientistas de dados para a resolução de problemas de seu cotidiano. Estamos apenas no início deste processo e as projeções acima ajudam a estabelecer marcos jurídicos que possibilitem a adoção da IA preservando as garantias legais do cidadão em uma democracia.
A Inteligência Artificial Generativa é um fenômeno recente, mas que já causa impactos na vida em sociedade, por isso a urgência em sua regulação. O ChatGPT foi o aplicativo de mais rápida adoção na história. Demorou apenas 5 dias para atingir a marca de um milhão de usuários. A título de comparação, o Facebook levou 10 meses para chegar a este patamar.
Além do ChatGPT, outras aplicações de IA Generativa já estão sendo utilizadas: Bard Ai, Bing AI, 365 Copilot, DeepComposer, Dall-E, Midjourney, Firefly, Stable Difusion, Stability AI, Bing Image Creator, Canva IA, Duolingo AI, Runway, Synthesia, Kaiber, entre outros. Entender as possibilidades, os riscos e as limitações da tecnologia por trás destas ferramentas nos ajudará a projetar oportunidades e a regular seu uso na Saúde.
Cena 1: Adultos perguntam sobre assunto complexo para uma criança pequena e ela responde algo totalmente sem sentido.
Cena 2: Aluno não estuda a matéria e tenta chutar a resposta de uma prova discursiva, mas erra feio.
As duas cenas acima são corriqueiras e ajudam a ilustrar a razão pela qual ocorre a chamada “alucinação” do ChatGPT”. O GPT (Generative Pre-Trained Transformer) é um LLM (Large Language Model) que processa trilhões de parâmetros e utiliza como base de consulta uma infinidade de informações dos seguintes datasets (até setembro de 2021): Common Crawl, WebText2, Wikipedia, Books1 e Books2.
Apesar da gigantesca quantidade de parâmetros e de informações a serem processadas e consultadas, o ChatGPT não é um oráculo detentor de toda a sabedoria do universo. Na verdade, trata-se de um sistema de machine learning (aprendizado de máquina) que evoluiu algumas técnicas a partir da versão GPT-2, resultando no comportamento de dar respostas convincentes para absolutamente tudo o que é perguntado.
Zero-shot learning (ZSL), One-shot learning (OSL) e Few-shot learning (FSL) são configurações de aprendizado de máquina em que os aplicativos “generalizam” a resposta a partir de nenhuma referência (Zero-Shot), apenas uma referência (One-shot) ou poucas referências (Few-shot). O resultado parece mágico, pois a Inteligência Artificial Generativa cria um texto bem escrito e persuasivo, mas com informações totalmente equivocadas, como se estivesse “chutando uma resposta para tentar enganar a professora”, tal qual a cena 1.
A dinâmica acima é diferente de Chatbots tradicionais que pedem para o usuário refazer a pergunta quando não a entendem completamente (Alexa, Siri e Google Assistant) ou transferem a conversa para um atendente humano ao se deparar com uma questão cuja resposta não está em seu banco de dados. Com o ChatGPT é diferente e este é um ponto que requer atenção para os que tratam o robô como um “guru”, pois pode causar um considerável processo de desinformação, situação especialmente perigosa em áreas como Saúde e Educação.
Veja o que o ChatGTP 3.5 (a versão Plus utiliza o GPT-4) respondeu sobre o seguinte prompt: “Como o ChatGPT trabalha com Zero-shot, One-Shot e Few-shot?“
O ChatGPT é capaz de trabalhar com zero-shot, one-shot e few-shot learning para realizar tarefas específicas. Vou explicar como cada um desses métodos funciona:
1. Zero-shot learning: Nesse contexto, “zero-shot” significa que o modelo pode executar uma tarefa sem receber exemplos específicos de treinamento para essa tarefa. Em vez disso, ele é treinado em um conjunto diversificado de dados e aprende a generalizar para diferentes tarefas. Durante a inferência, você pode fornecer uma descrição textual da tarefa que deseja realizar, juntamente com algum contexto inicial, e o modelo tentará gerar uma resposta adequada com base no conhecimento geral que adquiriu. Por exemplo, você pode pedir ao modelo para traduzir uma frase do inglês para o francês, mesmo que ele nunca tenha sido explicitamente treinado para essa tarefa.
2. One-shot learning: Esse método permite que o modelo execute uma tarefa com apenas um exemplo de treinamento. Em vez de fornecer vários exemplos de treinamento para uma tarefa específica, você apresenta apenas um exemplo e solicita ao modelo que generalize com base nesse único exemplo. Por exemplo, você pode fornecer um exemplo de tradução do inglês para o francês e pedir ao modelo para traduzir frases semelhantes com base nesse único exemplo.
3. Few-shot learning: Esse método é semelhante ao one-shot learning, mas permite fornecer alguns exemplos de treinamento adicionais para ajudar o modelo a generalizar melhor para uma determinada tarefa. Em vez de apenas um exemplo, você pode fornecer alguns poucos exemplos relacionados à tarefa que deseja executar. Isso ajuda o modelo a capturar melhor a variabilidade e a compreender a tarefa com base nos exemplos fornecidos.
O ChatGPT, especificamente, foi treinado usando um método chamado “supervised fine-tuning”. Nesse processo, ele foi treinado em uma ampla variedade de tarefas de linguagem com exemplos específicos de treinamento para cada tarefa. Isso permite que o modelo generalize para diferentes tipos de perguntas e comandos. Embora o ChatGPT tenha conhecimento até setembro de 2021, ele pode usar esse conhecimento para ajudar a responder perguntas e fornecer informações úteis.
A capacidade do GPT para tarefas Zero-shot também permite que o LLM atue em tarefas diferentes das quais foi treinado, como cálculos e até programação. Isto porque o GPT apresenta a configuração de “Zero-shot task transfer”, em que o modelo é capaz de transferir o conhecimento aprendido em uma tarefa para realizar outra relacionada, mesmo que não tenha recebido exemplos ou treinamento direcionado para essa nova tarefa.
É bom lembrar que o GPT passou por um processo de Reinforcement Learning from Human Feedback (RLHF), ou seja, seu aprendizado de máquina sofreu intervenção humana a partir de feedbacks durante a fase de treinamento. Mesmo com todas as informações disponíveis, o GPT ainda é uma “black-box“, sendo que seu funcionamento é opaco, sem muita “explicabilidade”.
O fato é que as ferramentas de IA Generativa usam a configuração Zero-shot pois, avançar no treinamento de máquina, é muito caro e leva tempo. Nesta corrida desenfreada da Inteligência Artificial, as Big Techs lançam produtos ainda com falhas e não se atentam para o “Dever de cuidado”, processo pelo qual devem se responsabilizar pelas consequência dos possíveis danos causados, como a desinformação.
É por isso que alguns estudiosos reivindicam o “Princípio da Precaução”, muito utilizado na Bioética, em que uma atividade é restringida com o objetivo de prevenir possíveis danos ainda desconhecidos a partir de sua execução.
Em sua defesa, o ChatGPT 3.5 responde que:
No entanto, é importante notar que a transferência “zero shot” tem limitações. Nem todas as tarefas podem ser realizadas com sucesso por um modelo de linguagem sem treinamento específico. A transferência “zero shot” é mais eficaz quando as tarefas estão relacionadas e compartilham características semânticas ou estruturais. Além disso, o desempenho na transferência “zero shot” pode variar dependendo da complexidade da tarefa e da qualidade do treinamento prévio do modelo.
Outro ponto diz respeito à relação entre o tempo de processamento do algoritmo e a acurácia do modelo de Inteligência Artificial. Em geral, quanto mais rápido o processamento do algoritmo, pior a acurácia (mais erros a IA terá). Num chatbot, em que as respostas devem acontecer como numa conversa real, a IA não pode esperar 5 minutos ou 1 dia para processar as informações. Neste caso, o ditado “a pressa é inimiga da perfeição” faz todo o sentido e também ajuda a entender as alucinações do ChatGPT.
OBS: A imagem que ilustra este texto original foi criada com a ferramenta DALL-E, que também utiliza o GPT como sistema de Inteligência Artificial Generativa.
Quem me acompanha sabe que tenho um enorme carinho pela TVE. Sempre foi meu sonho trabalhar na TV Educativa, atual TV Brasil. Tive a oportunidade de atuar lá em quatro momentos distintos, cada um com suas questões, mas sempre repletos de vitórias mesmo diante das limitações internas e/ou externas.
Peguei a gestão da Beth Carmona no primeiro governo Lula, onde tive a alegria de gravar programas como Observatório da Imprensa, Atitude.com, Arte com Sérgio Britto, Comentário Geral, Revista Brasil, Super Tudo, Stadium, Esportvisão, Edição Nacional e Recorte Cultural.
Depois, entre o final do segundo governo Lula e o início da Dilma Rousseff, sob a gestão de Tereza Cruvinel e Nelson Breve, atuei na área de Multimídia, produzindo conteúdos para o site e as redes sociais de programas como Sem Censura, Samba na Gamba, Arte do Artista, Estúdio Móvel, Animania, além de cobrir eventos como Rio+20, Jogos Mundiais Militares, Série C do Campeonato Brasileiro e Copa SP de Futebol Junior (Copinha).
Mais tarde, já no governo Temer, tive a oportunidade de participar da criação de uma série de programas musicais, culturais, infantis e de séries documentais a partir da gestão de Laerte Rimoli. São diversas atrações, a maioria idealizadas pelos próprios funcionários por meio de um Pitching interno que promovi com a liderança da então diretora Cida Fontes e do superintendente Caique Novis.
Os anos se passaram e, no governo Bolsonaro, os diretores Nei Barbosa, Vancarlos Alves e Denilson Morales deram continuidade ao trabalho, consolidando a TV Brasil como a 5ª emissora mais assistida entre as mais de 90 existentes, à frente de TV Cultura e Rede TV.
Este último período foi o mais difícil pois, além da pandemia de Covid-19, tivemos que enfrentar a ameaça de fechamento da TV, a qual havia sido uma das promessas de campanha do então candidato à Presidência da República. Mesmo com todos os problemas, os programas resistiram e chegaram a 2023 para a reformulação a partir de uma nova gestão, agora sob a liderança de Hélio Doyle e Antônia Pellegrino.
…e um punhado de outros projetos de parceria e aquisição, fruto de muito trabalho coletivo, apesar de todas as dificuldades enfrentadas no período.
Gratidão a todos colegas com quem tive a felicidade de poder desenvolver estes projetos.
Sem CensuraParalimpíadas 2021Carnaval 2018Faróis do BrasilPremiação internaSão João de Caruaru 2019FLIP 2018PalhaçariaSão João de Caruaru 2018Especial CoronavírusSérie D do Campeonato BrasileiroEspecial CoronavírusCena InstrumentalAo Vivo entre AmigosCarnaval 2018Abraço NegroFLIP 2018Rio H2KParalimpíadas Tóquio 2020Abraço NegroRio H2KAtosParalimpíadas Tóquio 2020Faróis do BrasilBienal do LivroTopetão
