Sistemas poderosos de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos ser\u00e3o positivos e seus riscos ser\u00e3o administr\u00e1veis. Essa confian\u00e7a deve ser bem justificada e aumentar com a magnitude dos efeitos potenciais de um sistema.
\n[…] os desenvolvedores de IA devem trabalhar com os formuladores de pol\u00edticas para acelerar drasticamente o desenvolvimento de sistemas robustos de governan\u00e7a de IA. Estes devem incluir, no m\u00ednimo: autoridades reguladoras novas e capazes dedicadas \u00e0 IA; supervis\u00e3o e rastreamento de sistemas de IA altamente capazes e grandes conjuntos de capacidade computacional; sistemas de proveni\u00eancia e marca d’\u00e1gua para ajudar a distinguir o real do sint\u00e9tico e rastrear vazamentos de modelos; um ecossistema robusto de auditoria e certifica\u00e7\u00e3o; responsabilidade por danos causados \u200b\u200bpela IA; financiamento p\u00fablico robusto para pesquisa t\u00e9cnica de seguran\u00e7a de IA; e institui\u00e7\u00f5es com bons recursos para lidar com as dram\u00e1ticas perturba\u00e7\u00f5es econ\u00f4micas e pol\u00edticas (especialmente para a democracia) que a IA causar\u00e1 (FUTURE OF LIVE, 2023, tradu\u00e7\u00e3o nossa).<\/p><\/blockquote>\n
Algumas das sugest\u00f5es j\u00e1 est\u00e3o em processo de incorpora\u00e7\u00e3o pelas ferramentas dentro do estabelecimento de boas pr\u00e1ticas para a IA Generativa, tais quais a cita\u00e7\u00e3o das fontes utilizadas e o treinamento de IA apenas utilizando como base material previamente autorizado.<\/p>\n
Estas a\u00e7\u00f5es por parte das pr\u00f3prias empresas dialogam com o \u201cDever de Cuidado\u201d, situa\u00e7\u00e3o em que as ferramentas se responsabilizam pelas consequ\u00eancias do mau uso das mesmas. Este pensamento fez com que gigantes como Google e Facebook n\u00e3o lan\u00e7assem como produto, at\u00e9 ent\u00e3o, as ferramentas de intelig\u00eancia artificial que desenvolviam em seus laborat\u00f3rios.<\/p>\n
A populariza\u00e7\u00e3o do ChatGPT, entretanto, causou uma corrida desenfreada pelo desenvolvimento de novas aplica\u00e7\u00f5es de IA, fato que coloca um ponto de aten\u00e7\u00e3o sobre as quest\u00f5es \u00e9ticas envolvidas, principalmente a partir da demiss\u00e3o em massa das equipes respons\u00e1veis por esta an\u00e1lise em alguns das principais Big Techs (CRIDDLE, 2023).<\/p>\n
A autoriza\u00e7\u00e3o de uso de aplica\u00e7\u00f5es de IA na \u00e1rea m\u00e9dica j\u00e1 foi normatizada no Brasil pela Anvisa, mas para o caso das IAs Generativas focadas para o p\u00fablico em geral, a certifica\u00e7\u00e3o de ferramentas que utilizam reposit\u00f3rios confi\u00e1veis seria fundamental a fim de evitar desinforma\u00e7\u00e3o. J\u00e1 existem selos como o HONcode e o \u201cSelo Sergio Arouca de Qualidade da Informa\u00e7\u00e3o em Sa\u00fade na Internet\u201d. Quanto aos reposit\u00f3rios, podemos citar o ARCA para artigos cient\u00edficos e o PCDaS para dados estruturados.<\/p>\n
Assim como os curadores da Wikip\u00e9dia ajudam a prevenir que a plataforma reproduza preconceitos, informa\u00e7\u00f5es equivocadas de colaboradores mal intencionados e propaganda disfar\u00e7ada de conte\u00fado informativo, \u00e9 preciso estabelecer mecanismo de aprendizagem por refor\u00e7o a partir de feedbacks (RLHF) por parte de estudiosos no tema.<\/p>\n
Para al\u00e9m da marca d\u2019\u00e1gua sugerida pelo instituto Future of Life, outra a\u00e7\u00e3o importante seria no sentido de obrigar as ferramentas a incluir um identificador nos metadados de fotos e v\u00eddeos gerados por IA, assim como j\u00e1 acontece nas c\u00e2meras fotogr\u00e1ficas que registram no arquivo informa\u00e7\u00f5es como modelo da c\u00e2mera, abertura de \u00edris, lente utilizada, entre outros dados. Em sentido similar, o rastreamento digital dos conte\u00fados gerados via IA poderia ser verificado por meio da Blockchain, em funcionamento similar \u00e0 gera\u00e7\u00e3o de NFTs. Se tal medida infringir os ditames da LGPD, a verifica\u00e7\u00e3o pode ser apenas booleana, retornando somente dois valores: 1 – Produzido por IA; 2 – N\u00e3o produzido por IA.. Este sistema de verifica\u00e7\u00e3o funcionaria como um plataforma de Fact checking, evitando assim a desinforma\u00e7\u00e3o a partir da dissemina\u00e7\u00e3o de m\u00eddia sint\u00e9tica ou deepfake.<\/p>\n
Tamb\u00e9m fundamental \u00e9 a transpar\u00eancia sobre o funcionamento da IA, condi\u00e7\u00e3o chamada de \u201cexplicabilidade\u201d ou \u201cinterpretabilidade\u201d. Adicionalmente, as respostas de IA deveriam exibir as m\u00e9tricas para avalia\u00e7\u00e3o de sua confiabilidade, como acur\u00e1cia e precis\u00e3o.<\/p>\n
Ainda na mesma linha, a ado\u00e7\u00e3o de padr\u00f5es abertos permitiria a interoperabilidade das informa\u00e7\u00f5es que devem ser entendidas como um bem p\u00fablico, sejam elas de Open Health ou Open Science.<\/p>\n
Por \u00faltimo, o papel da regula\u00e7\u00e3o legal\/infralegal, garantindo que os direitos fundamentais do cidad\u00e3o sejam assegurados como o Direito \u00e0 Sa\u00fade e o Direito \u00e0 Comunica\u00e7\u00e3o, t\u00e3o caros numa sociedade desigual como a brasileira.<\/p>\n
O Projeto de Lei 21\/2020 objetiva criar um Marco Legal da Intelig\u00eancia Artificial. O texto inicial previa a cria\u00e7\u00e3o de um \u201crelat\u00f3rio de impacto\u201d, al\u00e9m da responsabiliza\u00e7\u00e3o legal dos agentes de IA, sejam eles desenvolvedores como tamb\u00e9m as empresas que implementam as aplica\u00e7\u00f5es. Mesmo sendo aprovado pela C\u00e2mara dos Deputados em 2021, n\u00e3o seguiu adiante e j\u00e1 \u00e9 considerado obsoleto.<\/p>\n
Por este motivo, um grupo de juristas formou uma comiss\u00e3o para construir um anteprojeto em 2022 que fosse atemporal e n\u00e3o se tornasse obsoleto com a evolu\u00e7\u00e3o tecnol\u00f3gica. Al\u00e9m do PL 21\/2020, o anteprojeto visa substituir outros projetos de lei (PL 5.051\/2019 e PL 872\/2021) que tratam do mesmo tema. A proposta \u00e9 que, com a regulamenta\u00e7\u00e3o, as ferramentas possam \u201cobedecer a princ\u00edpios como liberdade de escolha, transpar\u00eancia, rastreabilidade de decis\u00f5es, responsabiliza\u00e7\u00e3o, repara\u00e7\u00e3o de danos, inclus\u00e3o e n\u00e3o-discrimina\u00e7\u00e3o\u201d (FRAGOSO, 2022), assegurando a explicabilidade e a privacidade de que tratamos ao longo deste artigo.<\/p>\n
Esta \u00faltima proposta foi apresentada oficialmente pelo presidente do Senado Federal, Rodrigo Pacheco, na forma do Projeto de Lei n\u00b0 2338\/2023.<\/p>\n
Ainda estamos no in\u00edcio da ado\u00e7\u00e3o da IA pela sociedade em geral e esperamos que os princ\u00edpios e diretrizes do SUS pautem o uso da Intelig\u00eancia Artificial na Sa\u00fade, promovendo universaliza\u00e7\u00e3o, equidade, integralidade, regionaliza\u00e7\u00e3o, hierarquiza\u00e7\u00e3o, descentraliza\u00e7\u00e3o e participa\u00e7\u00e3o social, al\u00e9m de associar sua implementa\u00e7\u00e3o no SUS ao desenvolvimento tecnol\u00f3gico pelo Complexo Econ\u00f4mico-Industrial da Sa\u00fade (CEIS) como um dos principais pilares da Quarta Revolu\u00e7\u00e3o Tecnol\u00f3gica.<\/p>\n
RERER\u00caNCIAS:<\/p>\n ANVISA. RESOLU\u00c7\u00c3O DE DIRETORIA COLEGIADA – RDC No 657, DE 24 DE MAR\u00c7O DE 2022 – RESOLU\u00c7\u00c3O DE DIRETORIA COLEGIADA – RDC No 657, DE 24 DE MAR\u00c7O DE 2022 – DOU – Imprensa Nacional. Dispon\u00edvel em: https:\/\/www.in.gov.br\/en\/web\/dou\/-\/resolucao-de-diretoria-colegiada-rdc-n-657-de-24-de-marco-de-2022-389603457. Acesso em: 25 abr. 2023.<\/a><\/p>\n BRASIL. Senado Federal. Projeto de Lei n\u00ba 2.338, de 3 de maio de 2023. Disp\u00f5e sobre o uso da Intelig\u00eancia Artificial. Bras\u00edlia: Senado Federal, 2013. Dispon\u00edvel em: https:\/\/www25.senado.leg.br\/web\/atividade\/materias\/-\/materia\/157233. Acesso em: 9 mai. 2023.<\/a><\/p>\n CRIDDLE, C.R. Big techs geram preocupa\u00e7\u00e3o ao demitir equipes que cuidavam de \u00e9tica em IA. Folha de S. Paulo, 29 mar. 2023. Dispon\u00edvel em: https:\/\/www1.folha.uol.com.br\/tec\/2023\/03\/big-techs-geram-preocupacao-ao-demitir-equipes-que-cuidavam-de-etica-em-ia.shtml. Acesso em: 25 abr. 2023.<\/a><\/p>\n Ep.129 – O que \u00e9 Chat GPT e qual seu uso na sa\u00fade?. [Locu\u00e7\u00e3o de:] Fernanda Velloni, Felipe Kitamura, Giancarlo Domingues. [S. l.]: DASA EDUCA, 23 fev. 2023. Podcast. Dispon\u00edvel em: https:\/\/www.youtube.com\/watch?v=CfWTbzK3V-s. Acesso em: 25 abr. 2023.<\/a><\/p>\n FRAGOSO, R. Comiss\u00e3o de juristas aprova anteprojeto do marco legal da intelig\u00eancia artificial. R\u00e1dio Senado, 1 dez. 2022. Dispon\u00edvel em: https:\/\/www12.senado.leg.br\/noticias\/audios\/2022\/12\/comissao-de-juristas-aprova-anteprojeto-do-marco-legal-da-inteligencia-artificial. Acesso em: 25 abr. 2023.<\/a><\/p>\n FUTURE OF LIFE. Pause Giant AI Experiments: An Open Letter – Future of Life Institute. Dispon\u00edvel em: https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments\/. Acesso em: 23 abr. 2023.<\/a><\/p>\n GADELHA, C. A. G.; TEMPOR\u00c3O, J. G. Desenvolvimento, inova\u00e7\u00e3o e sa\u00fade: a perspectiva te\u00f3rica e pol\u00edtica do Complexo Econ\u00f4mico-Industrial da Sa\u00fade. Ci\u00eancia & Sa\u00fade Coletiva, Rio de Janeiro, v. 23, n. 6, p.1891-1902, 2018. DOI: https:\/\/doi.org\/10.1590\/1413-81232018236.06482018.<\/a><\/p>\n GADELHA, C. A. G. O Complexo Econ\u00f4mico-Industrial da Sa\u00fade 4.0: por uma vis\u00e3o integrada do desenvolvimento econ\u00f4mico, social e ambiental. Cadernos do Desenvolvimento, Rio de Janeiro, v. 16, n. 28, p. 25-49, 2021. Dispon\u00edvel em: http:\/\/www.cadernosdodesenvolvimento.org.br\/ojs-2.4.8\/index.php\/cdes\/article\/view\/550. Acesso em: 25 abr. 2023.<\/a><\/p>\n GADELHA, C. A. G. (org.). Sa\u00fade \u00e9 Desenvolvimento: o Complexo Econ\u00f4mico-Industrial da Sa\u00fade como op\u00e7\u00e3o estrat\u00e9gica nacional. Rio de Janeiro: Fiocruz – CEE, 2022.<\/p>\n GOLDIM, J. R. Princ\u00edpio da Precau\u00e7\u00e3o. Dispon\u00edvel em: https:\/\/www.ufrgs.br\/bioetica\/precau.htm. Acesso em: 25 abr. 2023.<\/a><\/p>\n LIMA, J. DA C. Desafios para a ado\u00e7\u00e3o de Intelig\u00eancia Artificial pelo Sistema \u00danico de Sa\u00fade (SUS): \u00e9tica, transpar\u00eancia e interpretabilidade. Tese (Doutorado em Informa\u00e7\u00e3o e Comunica\u00e7\u00e3o em Sa\u00fade) – Instituto de Comunica\u00e7\u00e3o e Informa\u00e7\u00e3o Cient\u00edfica e Tecnol\u00f3gica em Sa\u00fade, Funda\u00e7\u00e3o Oswaldo Cruz, Rio de Janeiro, 2022.<\/p>\n![\"physician](\"https:\/\/arthurwilliam.com.br\/blog\/wp-content\/uploads\/2023\/06\/physician-robot-doctor-hospital-artificial-intelligence-ai-generative-health.png\")
<\/a><\/p>\n