O processo de Sa\u00fade Digital vem caminhando ao longo dos anos, mas sofreu forte desenvolvimento no \u00faltimo per\u00edodo por conta da quarentena imposta pela pandemia de Covid-19. A \u00e1rea da Sa\u00fade j\u00e1 \u00e9 conhecida por ser \u201clate adopter\u201d de novas tecnologias, pois precisa ter garantias de que sua ado\u00e7\u00e3o n\u00e3o vai trazer riscos \u00e0 vida da popula\u00e7\u00e3o. Por isso, os algoritmos precisam ser validados pela Ag\u00eancia Nacional de Vigil\u00e2ncia Sanit\u00e1ria (Anvisa) no Brasil. Inclusive, em 23 de mar\u00e7o de 2022, a diretoria colegiada da Anvisa aprovou a resolu\u00e7\u00e3o n\u00ba 657 (ANVISA, 2022) que regulamenta o uso de softwares como dispositivos m\u00e9dicos (Software as a Medical Device – SaMD)<\/a>.<\/p>\n Em janeiro de 2023, a renomada revista Nature proibiu que o ChatGPT seja creditado como autor de artigos (NATURE, 2023)<\/a>. Caso a ferramenta seja utilizada, o contexto deve ser esclarecido pelos autores humanos. No mesmo m\u00eas, a revista Science publicou editorial com o t\u00edtulo \u201cChatGPT \u00e9 interessante, mas n\u00e3o um autor\u201d (THORP, 2023)<\/a>. Em mar\u00e7o do mesmo ano, a It\u00e1lia proibiu o ChatGPT no pa\u00eds at\u00e9 que a OpenAI, empresa desenvolvedora da ferramenta, explicasse quest\u00f5es de privacidade.<\/p>\n Diversos pa\u00edses, em especial na Europa, j\u00e1 desenvolvem legisla\u00e7\u00f5es no sentido de regulamentar a ado\u00e7\u00e3o da intelig\u00eancia artificial. No Brasil, h\u00e1 tr\u00eas projetos de lei em tramita\u00e7\u00e3o no Congresso e um anteprojeto produzido por uma comiss\u00e3o de juristas. Esta \u00faltima proposta foi apresentada oficialmente pelo presidente do Senado Federal, Rodrigo Pacheco, na forma do Projeto de Lei n\u00b0 2338\/2023<\/a>. O objetivo \u00e9 tornar mais transparente o uso desta tecnologia, garantindo os direitos do cidad\u00e3o, al\u00e9m de prevenir poss\u00edvel utiliza\u00e7\u00e3o de m\u00eddia sint\u00e9tica gerada por IA generativa em Fake News, cen\u00e1rio de desinforma\u00e7\u00e3o preocupante na \u00e1rea da Sa\u00fade por conta da situa\u00e7\u00e3o da Infodemia.<\/p>\n Outra quest\u00e3o jur\u00eddica diz respeito aos direitos autorais dos conte\u00fados (textos, fotos, v\u00eddeos e m\u00fasicas) gerados por IA. Antes mesmo da regula\u00e7\u00e3o legal\/infralegal, algumas plataformas j\u00e1 rascunham princ\u00edpios de boas pr\u00e1ticas na implementa\u00e7\u00e3o de IA generativa ao dar mais transpar\u00eancia ao processo de cria\u00e7\u00e3o de imagens e v\u00eddeos por IA, uma evolu\u00e7\u00e3o em rela\u00e7\u00e3o a ferramentas anteriores que usam material propriet\u00e1rio de terceiros sem autoriza\u00e7\u00e3o para gerar novos conte\u00fados. A alternativa seria apenas utilizar material expressamente autorizado, em dom\u00ednio p\u00fablico e de seu banco de imagens pr\u00f3prio (WIGGERS, 2023)<\/a>. Os produtores de conte\u00fado poderiam escolher ainda se autorizam que suas obras sejam usadas para o treinamento de rob\u00f4s e a ferramenta recompensaria quem o assim desejar, criando uma economia da IA.<\/p>\n A privacidade tamb\u00e9m \u00e9 uma quest\u00e3o central no contexto da Intelig\u00eancia Artificial, na medida em que os sistemas s\u00e3o treinados a partir de grande base de dados. Essa Big Data muitas vezes conta com dados sens\u00edveis de pessoas sem autoriza\u00e7\u00e3o das mesmas.<\/p>\n Sobre a acur\u00e1cia dos textos gerados por IA, \u00e9 preciso compreender que os sistemas s\u00e3o alimentados por \u201cmachine learning\u201d, ou seja, n\u00e3o s\u00e3o ferramentas prontas ou totalmente programadas por humanos, mas sim em processo de aprendizado aut\u00f4nomo, ent\u00e3o, por hora n\u00e3o poderiam ser consideradas como fonte totalmente confi\u00e1vel.<\/p>\n Outro ponto importante \u00e9 a opacidade dos sistemas de aprendizado de m\u00e1quina. Os chamados \u201cblack boxes\u201d impedem que o usu\u00e1rio consiga entender quais foram os crit\u00e9rios utilizados para gerar a resposta recebida. Tal processo de \u201cexplicabilidade\u201d (LIMA, 2022)<\/a> \u00e9 fundamental para verificar as possibilidades de uso das ferramentas de IA em servi\u00e7os como a Sa\u00fade.<\/p>\n O desenvolvimento de ferramentas de Intelig\u00eancia Artificial requer acesso a grandes bancos de dados (dataset) e \u00e0 elevada capacidade de processamento de dados, recursos que demandam um custoso investimento em infraestrutura computacional. Esta situa\u00e7\u00e3o projeta um cen\u00e1rio de potencial desigualdade entre os sistemas p\u00fablico e privado.<\/p>\n No momento, o SUS est\u00e1 discutindo as possibilidades e os desafios para o uso de intelig\u00eancia artificial na Sa\u00fade P\u00fablica. O Conselho Nacional de Sa\u00fade (CNS) est\u00e1 pautando a IA dentro do contexto de Sa\u00fade Digital e da Transforma\u00e7\u00e3o Digital em Sa\u00fade. A Resolu\u00e7\u00e3o n\u00b0 659, de 26 de julho de 2021, elenca a IA entre as disposi\u00e7\u00f5es da Pol\u00edtica Nacional de Informa\u00e7\u00e3o e Inform\u00e1tica em Sa\u00fade (PNIIS).<\/p>\n Em conjunto com a Fiocruz, o CNS est\u00e1 discutindo a implementa\u00e7\u00e3o da IA e outras possibilidades das ITIS (Informa\u00e7\u00e3o e Tecnologia da Informa\u00e7\u00e3o em Sa\u00fade) \u00e0 luz dos princ\u00edpios e diretrizes do SUS.<\/p>\n Outro passo neste sentido veio do Minist\u00e9rio da Sa\u00fade ao criar a Secretaria de Informa\u00e7\u00e3o e Sa\u00fade Digital (BRASIL, 2023)<\/a> com os seguintes setores subordinados: Departamento de Informa\u00e7\u00e3o para o Sistema \u00danico de Sa\u00fade (Datasus); Departamento de Avalia\u00e7\u00e3o e Dissemina\u00e7\u00e3o de Informa\u00e7\u00f5es Estrat\u00e9gicas em Sa\u00fade; e Departamento de Sa\u00fade Digital e Inova\u00e7\u00e3o.<\/p>\n A ABRASCO (Associa\u00e7\u00e3o Brasileira de Sa\u00fade Coletiva) tamb\u00e9m trouxe elementos para este momento por meio do Plano Diretor para o Desenvolvimento da Informa\u00e7\u00e3o e Tecnologia de Informa\u00e7\u00e3o em Sa\u00fade para o quinqu\u00eanio 2020-2024 (3\u00ba PlaDITIS)<\/a>. O documento lista cinco dimens\u00f5es para: Governan\u00e7a e gest\u00e3o da informa\u00e7\u00e3o e tecnologia de informa\u00e7\u00e3o e comunica\u00e7\u00e3o em sa\u00fade (ITICS); Pesquisa, desenvolvimento e inova\u00e7\u00e3o na \u00e1rea tem\u00e1tica ITICS; Ensino e forma\u00e7\u00e3o permanente de equipe de Informa\u00e7\u00e3o e TIC em sa\u00fade; \u00c9tica, privacidade e confidencialidade; Informa\u00e7\u00e3o e TIC em sa\u00fade: democracia, controle social e justi\u00e7a cognitiva.<\/p>\n Como refer\u00eancia mundial em Sa\u00fade P\u00fablica, o desenvolvimento de um sistema de Sa\u00fade Digital pelo SUS pode servir como modelo para a ado\u00e7\u00e3o por outros pa\u00edses. Situa\u00e7\u00e3o an\u00e1loga ocorreu com o Sistema Brasileiro de TV Digital (SBTVD) que serviu de base para pa\u00edses como Angola, Argentina, Peru, Chile, Uruguai, Costa Rica, Paraguai, Bol\u00edvia e Venezuela. No caso da TV Digital, o Brasil fez melhorias no sistema japon\u00eas ISDB-T, incorporando tecnologia desenvolvida por pesquisadores brasileiros como a interatividade Ginga, cujas linguagens NCL e Lua foram criadas pelo laborat\u00f3rio TeleM\u00eddia da PUC-Rio.<\/p>\n Antes da populariza\u00e7\u00e3o da Intelig\u00eancia Artificial Generativa, a IA j\u00e1 estava presente no cotidiano de grande parte dos brasileiros de forma pouco percept\u00edvel. Nos conte\u00fados, a IA atua fortemente nos sistemas de recomenda\u00e7\u00e3o de v\u00eddeos e m\u00fasicas em aplicativos como Netflix, Spotify e Youtube. Nota-se que, para a IA atuar, \u00e9 necess\u00e1rio ter acesso a informa\u00e7\u00f5es pessoais dos usu\u00e1rios como dados de pesquisa e acesso na internet.<\/p>\n Em aplicativos de navega\u00e7\u00e3o por GPS, como Waze e Google Maps, por exemplo, a Intelig\u00eancia Artificial \u00e9 respons\u00e1vel por responder \u00e0 pergunta indireta feita ao sistema: Qual o trajeto mais r\u00e1pido de um ponto no mapa para outro?<\/p>\n Nem todos os motoristas utilizam e se guiam pelas respostas da IA, que algumas vezes cometem equ\u00edvocos. Entretanto, os profissionais que se recusam a usar a tecnologia como aux\u00edlio a seu of\u00edcio (uma esp\u00e9cie de \u201cCopiloto\u201d) s\u00e3o considerados desatualizados e tendem a ficar fora do mercado. O mesmo fen\u00f4meno ocorreu com a ado\u00e7\u00e3o dos computadores pessoais nas empresas.<\/p>\n Contudo, da mesma forma que o bom taxista ou motorista de UBER seria aquele que utiliza as informa\u00e7\u00f5es do GPS, mas utiliza sua experi\u00eancia profissional para identificar poss\u00edveis erros nas rotas sugeridas, os m\u00e9dicos poder\u00e3o utilizar a Intelig\u00eancia Artificial como ferramenta auxiliar e n\u00e3o como um or\u00e1culo infal\u00edvel, detentor de toda a verdade e sabedoria.<\/p>\n Neste sentido, a tend\u00eancia \u00e9 que os profissionais e gestores de Sa\u00fade atuem em conjunto com cientistas de dados para a resolu\u00e7\u00e3o de problemas de seu cotidiano. Estamos apenas no in\u00edcio deste processo e as proje\u00e7\u00f5es acima ajudam a estabelecer marcos jur\u00eddicos que possibilitem a ado\u00e7\u00e3o da IA preservando as garantias legais do cidad\u00e3o em uma democracia.<\/p>\n A Intelig\u00eancia Artificial Generativa \u00e9 um fen\u00f4meno recente, mas que j\u00e1 causa impactos na vida em sociedade, por isso a urg\u00eancia em sua regula\u00e7\u00e3o. O ChatGPT foi o aplicativo de mais r\u00e1pida ado\u00e7\u00e3o na hist\u00f3ria. Demorou apenas 5 dias para atingir a marca de um milh\u00e3o de usu\u00e1rios. A t\u00edtulo de compara\u00e7\u00e3o, o Facebook levou 10 meses para chegar a este patamar.<\/p>\n Al\u00e9m do ChatGPT, outras aplica\u00e7\u00f5es de IA Generativa j\u00e1 est\u00e3o sendo utilizadas: Bard Ai, Bing AI, 365 Copilot, DeepComposer, Dall-E, Midjourney, Firefly, Stable Difusion, Stability AI, Bing Image Creator, Canva IA, Duolingo AI, Runway, Synthesia, Kaiber, entre outros. Entender as possibilidades, os riscos e as limita\u00e7\u00f5es da tecnologia por tr\u00e1s destas ferramentas nos ajudar\u00e1 a projetar oportunidades e a regular seu uso na Sa\u00fade.<\/p>\n REFER\u00caNCIAS:<\/strong><\/p>\n ANVISA. RESOLU\u00c7\u00c3O DE DIRETORIA COLEGIADA – RDC No 657, DE 24 DE MAR\u00c7O DE 2022 – RESOLU\u00c7\u00c3O DE DIRETORIA COLEGIADA – RDC No 657, DE 24 DE MAR\u00c7O DE 2022 – DOU – Imprensa Nacional. Dispon\u00edvel em: https:\/\/www.in.gov.br\/en\/web\/dou\/-\/resolucao-de-diretoria-colegiada-rdc-n-657-de-24-de-marco-de-2022-389603457. Acesso em: 25 abr. 2023.<\/a><\/p>\n BRASIL. Decreto n\u00ba 11.358, de 1\u00ba de janeiro de 2023. Altera o Decreto n\u00ba 11.358, de 1\u00ba de janeiro de 2023, que aprova a Estrutura Regimental e o Quadro Demonstrativo dos Cargos em Comiss\u00e3o e das Fun\u00e7\u00f5es de Confian\u00e7a do Minist\u00e9rio da Sa\u00fade. Di\u00e1rio Oficial da Uni\u00e3o, Bras\u00edlia, DF, 2023. Dispon\u00edvel em: http:\/\/www.planalto.gov.br\/ccivil_03\/_ato2023-2026\/2023\/decreto\/D11391.htm. Acesso em: 25 abr. 2023.<\/a><\/p>\n BRASIL. Senado Federal. Projeto de Lei n\u00ba 2.338, de 3 de maio de 2023. Disp\u00f5e sobre o uso da Intelig\u00eancia Artificial. Bras\u00edlia: Senado Federal, 2013. Dispon\u00edvel em: https:\/\/www25.senado.leg.br\/web\/atividade\/materias\/-\/materia\/157233. Acesso em: 9 mai. 2023.<\/span><\/a><\/p>\n FUTURE OF LIFE. Pause Giant AI Experiments: An Open Letter – Future of Life Institute. Dispon\u00edvel em: https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments\/. Acesso em: 23 abr. 2023.<\/a><\/p>\n GOLDIM, J. R. Princ\u00edpio da Precau\u00e7\u00e3o. Dispon\u00edvel em: https:\/\/www.ufrgs.br\/bioetica\/precau.htm. Acesso em: 25 abr. 2023.<\/a><\/p>\n LIMA, J. DA C. Desafios para a ado\u00e7\u00e3o de Intelig\u00eancia Artificial pelo Sistema \u00danico de Sa\u00fade (SUS): \u00e9tica, transpar\u00eancia e interpretabilidade. Tese (Doutorado em Informa\u00e7\u00e3o e Comunica\u00e7\u00e3o em Sa\u00fade) – Instituto de Comunica\u00e7\u00e3o e Informa\u00e7\u00e3o Cient\u00edfica e Tecnol\u00f3gica em Sa\u00fade, Funda\u00e7\u00e3o Oswaldo Cruz, Rio de Janeiro, 2022.<\/a><\/p>\n NATURE. Tools such as ChatGPT threaten transparent science; here are our ground rules for their use. Nature, v. 613, n. 7945, p. 612\u2013612, 24 jan. 2023.<\/a><\/p>\n NUNES, D.; MORATO, O. A explicabilidade da intelig\u00eancia artificial e o devido processo tecnol\u00f3gico. Dispon\u00edvel em: https:\/\/www.conjur.com.br\/2021-jul-07\/opiniao-explicabilidade-ia-devido-processo-tecnologico. Acesso em: 25 abr. 2023.<\/a><\/p>\n PIGATTO, F. RESOLU\u00c7\u00c3O No 659, DE 26 DE JULHO DE 2021. Dispon\u00edvel em: http:\/\/conselho.saude.gov.br\/resolucoes-cns\/1922-resolucao-n-659-de-26-de-julho-de-2021. Acesso em: 25 abr. 2023.<\/a><\/p>\n SANTOS, A. W. C.. Intelig\u00eancia Artificial Generativa, dados pessoais e Literacia Digital em Sa\u00fade: possibilidades, desigualdades e limites. Dispon\u00edvel em: https:\/\/arthurwilliam.com.br\/wp-content\/uploads\/2023\/05\/Inteligencia-Artificial-Generativa-dados-pessoais-e-Literacia-Digital-em-Saude-Arthur-William-Cardoso-Santos.pdf. Acesso em: 31 mai. 2023.<\/a><\/p>\n![\"artificial](\"https:\/\/arthurwilliam.com.br\/blog\/wp-content\/uploads\/2023\/06\/artificial-intelligence-healthcare-inteligencia-artificial-na-saude.png\")
<\/a><\/p>\n