Proveniência de dados e inteligência artificial em saúde
desafios e implicações éticas sob a ótica da ciência da informação
DOI:
https://doi.org/10.21728/logeion.2024v11e-7388Palavras-chave:
Proveniência de dados. Inteligência Artificial. Informação em saúde.Resumo
A proveniência de dados e a inteligência artificial são cruciais na saúde, garantindo a integridade e a transparência das informações. A proveniência possibilita a rastreabilidade dos dados em diagnósticos, promovendo confiança nas decisões clínicas, enquanto a inteligência artificial analisa grandes volumes de dados, facilitando a identificação de padrões e a personalização de tratamentos. É relevante abordar a proveniência de dados e a inteligência artificial no contexto da saúde, enfatizando seus desafios e implicações éticas, com o objetivo de fornecer orientações a pesquisadores e profissionais da área. Este estudo teve como objetivo apresentar os desafios e implicações éticas evidenciadas nas publicações científicas encontradas sobre a proveniência de dados e a inteligência artificial no contexto de saúde. Realizamos uma revisão integrativa utilizando como estratégia de busca os termos Data Provenance and Artificial Intelligence and Health. Após analisar os resultados obtidos e revisar os textos completos, identificamos e selecionamos 2 artigos internacionais relevantes para a temática em questão. Nossa pesquisa evidencia a escassez de estudos sobre a proveniência de dados e a inteligência artificial em saúde, especialmente no que tange aos desafios e implicações éticas relacionados a esses processos. Nesse contexto, este trabalho constitui uma contribuição relevante para o campo da Ciência da Informação. Para pesquisas futuras sobre a temática aqui em questão, é fundamental desenvolver frameworks e diretrizes que integrem considerações éticas e práticas de governança de dados, abordando a proteção da privacidade, a transparência dos algoritmos e a mitigação de viés, além de aprofundar a pesquisa em estudos interdisciplinares.
Downloads
Referências
AHMED, M.; DAR, A. R.; HELFERT, M.; KHAN, A.; KIM, J. Data provenance in healthcare: approaches, challenges, and future directions. Sensors (Basel), Basel, v. 23, n. 14, p. 6495, jul. 2023. DOI: http://doi.org/10.3390/s23146495. Disponível em: https://www.mdpi.com/1424-8220/23/14/6495. Acesso em: 10 ago. 2024.
BINNS, R. Fairness in machine learning: Lessons from political philosophy. In: Conference on fairness, accountability and transparency. PMLR, 2018. p. 149-159.Disponível em: https://proceedings.mlr.press/v81/binns18a/binns18a.pdf. Acesso em: 10 ago. 2024.
BRITO, J. F., SILVA, R. C. D., SANTOS, B. R. P., MELLO, M. R. G. D., & MARTÍNEZ-ÁVILA, D. Arquitetura da informação no contexto da informação em saúde: um olhar para o website da Covid-19 no Brasil. AtoZ: Novas Práticas em Informação e Conhecimento, v. 9, n. 2, p. 183-195, 2020. Disponível em: https://revistas.ufpr.br/atoz/article/view/75091. Acesso em: 20 set. 2024.
BUNEMAN, P.; KHANNA, S. E.; CHIEW, W. Why and where: a characterization of data provenance. In:VAN DEN BUSSCHE, J., VIANU, V. (ed.). Database theory: ICDT 2001. Lecture Notes in Computer Science, v. 1973. Berlin, Heidelberg: Springer, 2001. Disponível em: https://pdfs.semanTICcholar.org/b647/2ee11749 ef70713bfb0e322a9ec27523ed88.pdf. Acesso em: 02 out. 2024.
CHAR, D, S.; SHAH, N, H.; MAGNUS, D. Implementing machine learning in health care—addressing ethical challenges. New England Journal of Medicine, v. 378, n. 11, p. 981-983, 2018. DOI: https://10.1056/NEJMp1714229. Disponível em: https://www.nejm.org/doi/full/10.1056/NEJMp1714229. Acesso em: Acesso em: 14 ago.2024.
DAVIDSON, S. B.; FREIRE, J. Provenance and scientific workflows: challenges and opportunities. In: ACM SIGMOD INTERNATIONAL CONFERENCE ON MANAGEMENT OF DATA, p. 1345–1350, 2008. Proceedings [...]. Disponível em: https://vgc.poly.edu/~juliana/pub/freire-tutorial-sigmod2008.pdf. Acesso em: 02 set. 2024
DOURADO, D. A; AITH, F. M. A. A regulação da inteligência artificial na saúde no Brasil começa com a Lei Geral de Proteção de Dados Pessoais. Revista de Saúde Pública, v. 56, p. 80, 2022. DOI: https://doi.org/10.11606/s1518-8787.20220560044 61. Disponível em: https://www.scielo.br/j/rsp/a/k38jGvJdbQSYN 4MpzGZp fXw /?lang=pt. Acesso em: 11 out. 2024.
ESTEVA, A., KUPREL, B., NOVOA, R. A., KO, J., SWETTER, S. M., BLAU, H. M., & THRUN, S. Dermatologist-level classification of skin cancer with deep neural networks. Nature, v. 542, n. 7639, p. 115-118, 2017. DOI: http://dx.doi.org/10. 1038/ nature21056. Disponível em: https://go.gale.com/ps/i.do?id=GALE%7CA47971 0368&sid=googleScholar&v=2.1&it=r&linkaccess=fulltext&issn=00280836&p=AONE&sw=w. Acesso em: 22 out. 2024
FONG, H. F., ROTHMAN, E. F., GARNER, A., GHAZARIAN, S. R., MORLEY, D. S., SINGERMAN, A., & BAIR-MERRITT, M. H. Association between health literacy and parental self-efficacy among parents of newborn children. Journal of Pediatrics, v. 202, p. 265–271, nov. 2018. DOI: https://doi.org/10.1016/j.jpeds.2018.06.021. Acesso em: 09 out. 2024.
FREIRE, J., KOOP, D., SANTOS, E., & SILVA, C. T. Provenance for computational tasks: a survey. Journal Computing in Science and Engineering, v. 10, n. 3, p. 11–21, 2008. ISSN 15219615. Disponível em: http://citeseerx.ist.psu.edu/viewdoc/ download?doi=10.1.1.147.3801&rep=rep1&type=pdf. Acesso em: 24 out. 2024.
FREUND, G. P.; SEMBAY, M. J.; MACEDO, D. D. J. de. Proveniência de dados e segurança da informação: relações interdisciplinares no domínio da ciência da informação. Revista Ibero-Americana de Ciência da Informação, Brasília, v. 12, n. 3, p. 807–825, 14 set. 2019. Disponível em: https://periodicos.unb.br/index.php/RICI/ article/view/21203/23548. Acesso em: 20 out. 2024.
MILLER, D. D. The medical AI insurgency: what physicians must know about data to practice with intelligent machines. NPJ digital medicine, v. 2, n. 1, p. 62, 2019. Disponível em: https://www.nature.com/articles/s41746-019-0138-5. Acesso em: 17 out. 2024.
MORLEY, J; COWLS, J; TADDEO, M; FLORIDI, L. Ethical guidelines for COVID-19 tracing apps. Nature, v. 582, n. 7810, p. 29-31, 2020. DOI: http://dx.doi.org/10.1038/ d41586-020-01578-0. Disponível em: https://go.gale.com/ps/i.do?id=GALE%7CA 625089945&sid=googleScholar&v=2.1&it=r&linkaccess=fulltext&issn=00280836&p=AONE&sw=w. Acesso em: 22 out. 2024
NEVES, B. C.; BRAZ, M. I. Interlocução entre saúde e Ciência da Informação: proposta para o diagrama multidisciplinar da CI. Informação & Informação, v. 23, n. 3, p. 100-121, 2018. DOI: https://doi.org/10.5433/1981-8920.2018v23n3p100. Acesso em: 11 out. 2024.
OBERMEYER, Z; EMANUEL, E, J. Predicting the future—big data, machine learning, and clinical medicine. New England Journal of Medicine, v. 375, n. 13, p. 1216-1219, 2016. DOI: 10.1056/NEJMp16061. Disponível em: https://www.nejm. org/doi/full/10.1056/NEJMp1606181. Acesso em: 24 out. 2024.
ONG, J. C. L., CHANG, S. Y. H., WILLIAM, W., BUTTE, A. J., SHAH, N. H., CHEW, L. S. T., ... & TING, D. S. W. Ethical and regulatory challenges of large language models in medicine. The Lancet Digital Health, v. 6, n. 6, p. e428-e432, 2024.DOI: https://doi.org/10.1016/ S2589-7500(24)00061-X. Disponível em: https://www. thelancet.com/journals/landig/article/PIIS2589-7500(24)00061-X/fulltext. Acesso em: 02 out. 2024.
PARAMAN, P; ANAMALAH, S. Ethical artificial intelligence framework for a good AI society: principles, opportunities and perils. AI & SOCIETY, v. 38, n. 2, p. 595-611, 2023. https://doi.org/10.1007/s00146-022-01458-3. Disponível em: https://link. springer.com/article/10.1007/s00146-022-01458-3. Acesso em: 27 out. 2024.
POOLE, D, L.; MACKWORTH, A, K. Artificial Intelligence: foundations of computational agents. Cambridge University Press, 2010.
RUSSELL, S. J.; NORVIG, P. Artificial intelligence: a modern approach. Pearson, 2016.
SEMBAY, M. J.; MACEDO, D. D. J. de; DUTRA, M. L. A Method for collecting provenance data: a case study in a Brazilian hemotherapy center. In: Lecture Notes of the Institute for Computer Sciences, Social InformaTIC and Telecommunications Engineering. 1. ed. Springer International Publishing, 2020a. v. 1. p. 89-102. DOI 10.1007/978-3-030-50072-6_8.
SEMBAY, M. J; MACEDO, D. D. J. de; DUTRA, M. L. A proposed approach for provenance data gathering. Mobile Networks & Applications, p. 1–13, 2020b. DOI 10.1007/s11036-020-01648-7. Disponível em: https://link.springer.com/article/ 10.1007/s11036-020-01648-7. Acesso em: 10 out. 2024.
SEMBAY, M. J.; MACEDO, D. D. J. de; MARQUEZ FILHO, A. A. G. Proveniência de dados em Sistemas de Informação em Saúde. In: ENCONTRO NACIONAL DE PESQUISA E PÓS GRADUAÇÃO EM CIÊNCIA DA INFORMAÇÃO, 22., Porto Alegre. Anais [...]. Porto Alegre: ANCIB, 2022. p. 1-11. Disponível em: http://hdl. handle.net/20.500.11959/brapci/200577. Acesso em: 20 out. 2024.
SEMBAY, M. J et al. Provenance data management in health information systems: a systematic literature review. Journal Personalized Medicine, Basel, v. 13, n. 6, p. 991, jun. 2023. DOI: http://doi.org/10.3390/jpm13060991. Disponível em: https://www.mdpi.com/20754426/13/6/991. Acesso em: 10 set. 2024.
SEMBAY, M. J. PROV-Health: método para gerenciamento de dados de proveniência em sistemas de informação em saúde. 2023. 311p. Tese (Doutorado em Ciência da Informação) –Universidade Federal de Santa Catarina, Centro de Ciências da Educação, Programa de Pós-Graduação em Ciência daInformação, Florianópolis, 2023. Disponível em: https://repositorio.ufsc.br/handle/123456789/ 251582. Acesso em: 10 out. 2023.
SLUSSAREFF, M, os algoritmos não são apenas ferramentas; eles são usados para tomar decisões que podem afetar vidas, e isso traz consigo uma responsabilidade considerável. M. O’Neil, Cathy. 2016. Weapons of math destruction: how big data increases inequality and threatens democracy. Crown. CyberOrient 16(1):72–75, 2022. DOI: https://doi.org/10.1002/cyo2.26.
SOUZA, M. T; SILVA, M, D; CARVALHO, R. Revisão integrativa: o que é e como fazer. Einstein (São Paulo), v. 8, p. 102-106, 2010. DOI: https://doi.org/10. 1590/S1679-45082010RW1134. Disponível em: https://www.scielo.br/j/eins/a/ZQT BkVJZqcWrTT34cXLjtBx/?lang=pt&%3A~%3Atext=A. Acesso em: 20 out. 2024.
STRECKER, D. The theory of society: the theory of communicative action (1981): a classic of social theory. In: The Habermas Handbook. Columbia University Press, 2017. p. 360-382. DOI: https://doi.org/10.7312/brun16642-037
TOPOL, E. Deep medicine: how artificial intelligence can make healthcare human again. Hachette UK, 2019.
WHITTEMORE, R.; KNAFL, K. The integrative review: updated methodology. Journal of Advanced Nursing, Portland, v. 52, n. 5, p. 546-553, 2005. DOI:
http://doi.org/10.1111/j.1365-2648.2005.03621.x. Disponível em:
https://onlinelibrary.wiley.com/doi/abs/10.1111/j.1365-2648.2005.03621.x. Acesso em: 14 jun. 2024.
Publicado
Edição
Seção
Licença
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
A revista é publicada sob a licença Creative Commons - Atribuição - Uso Não Comercial - Partilha nos Mesmos Termos 4.0 Internacional.
O trabalho publicado é considerado colaboração e, portanto, o autor não receberá qualquer remuneração para tal, bem como nada lhe será cobrado em troca para a publicação.
Os textos são de responsabilidade de seus autores.
É permitida a reprodução total ou parcial dos textos da revista, desde que citada a fonte.
