Confronting disinformation through algorithms: an international overview in the scientific literature of possible responses to the problem

Authors

  • Thiago Magela Rodrigues Dias Programa de Pós-graduação em Modelagem Matemática e Computacional, Centro Federal de Educação Tecnológica de Minas Gerais, Belo Horizonte, MG, Brasil; Programa de Pós-graduação em Ciência da Informação, Universidade Federal de Santa Catarina, Florianópolis, SC, Brasil https://orcid.org/0000-0001-5057-9936
  • Jônatas Edison da Silva Programa de Pós-graduação em Ciência da Informação, Universidade Federal de Santa Catarina, Florianópolis, SC, Brasil https://orcid.org/0000-0001-5892-6736

DOI:

https://doi.org/10.18617/liinc.v18i2.6057

Keywords:

Information Science, Information, Algorithms, Disinformation, Fake information

Abstract

Disinformation, false information, post-truth phenomenon, scientific denialism, use of the term fake news, and algorithm enhancement are some characteristics of contemporary society. A contextualization is presented in the theoretical foundation about misinformation and algorithms, which are two themes that guide the study. Given this critical information scenario, it becomes necessary to propose and research measures to combat misinformation, mainly because false information can influence users' decision making. The overall objective of the research is to analyze the different approaches to the use of algorithms and technology as a solution to misinformation that appear in scientific articles indexed in the Web of Science (WoS). The study is exploratory; literature search, with a quantitative and qualitative approach, using content analysis. It was adopted to retrieve documents between the years 1945 and 2019. The results indicate that there are 66 articles with solutions that use technology or algorithms to address the problem. The proposals that had the highest incidence were algorithms, Artificial Intelligence (AI), blockchain, and technological solutions. As for productivity, it was in 2017 that more articles containing solutions were observed, more than half of them in English and belonging to three WoS research areas, Computer Science, Engineering, and Information Science & Library Science. Information Science (IC) focuses on the study of the properties of information, therefore being an interdisciplinary science, addressing misinformation, proposing solutions is necessary for the advancement and progress of the area

Author Biographies

  • Thiago Magela Rodrigues Dias, Programa de Pós-graduação em Modelagem Matemática e Computacional, Centro Federal de Educação Tecnológica de Minas Gerais, Belo Horizonte, MG, Brasil; Programa de Pós-graduação em Ciência da Informação, Universidade Federal de Santa Catarina, Florianópolis, SC, Brasil

    Doutor em Modelagem Matemática e Computacional pelo CEFET-MG (2016) tendo trabalhado com Bibliometria, Extração de Dados Científicos e Análise de Redes de Colaboração Científica. Mestre em Modelagem Matemática e Computacional pelo CEFET-MG (2008), trabalhando com Arquitetura Orientada a Serviços e Web Mining com o tema: Uma Arquitetura Orientada a Serviços para emprego em Sistemas de Mineração de Dados na Web. Possui graduação em Ciência da Computação pelo Centro Universitário de Formiga - UNIFOR (2004), além de Especialização em Produção de Software - com Ênfase em Software Livre pela UFLA (2007) e Especialização em Melhoria do Processo de Software, UFLA (2007). Atua como Professor no Centro Federal de Educação Tecnológica de Minas Gerais (CEFET-MG) lecionando disciplinas na Graduação e Pós-graduação da instituição. Professor do Programa de Pós-graduação em Modelagem Matemática e Computacoinal do CEFET-MG e Professor Permanente do Programa de Pós-graduação em Ciência da Informação da Universidade Federal de Santa Catarina (UFSC). Também tem atuação como Colaborador em Projetos no Instituto Brasileiro de Informação em Ciência e Tecnologia (IBICT). Tem experiência na área de Ciência da Computação e Ciência da Informação, atuando principalmente nos seguintes temas: Bibliometria, Cientometria, Extração e Integração de Dados, Análise de Redes Sociais, Análise de Redes de Colaboração Científica, Acesso Aberto, Recuperação e Organização da Informação, Ciência de Dados, Data Mining, Text Mining e Web Mining. 

  • Jônatas Edison da Silva, Programa de Pós-graduação em Ciência da Informação, Universidade Federal de Santa Catarina, Florianópolis, SC, Brasil

    Doutorando (2022 - presente) e Mestre (2020 - 2022) em Ciência Informação, pelo Programa de Pós-Graduação em Ciência da Informação da Universidade Federal de Santa Catarina (PGCIN/UFSC). Bacharel em Arquivologia pela Universidade Federal de Santa Catarina (2016 - 2019). Atualmente, é Bolsista da Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES). Com experiências em instituições públicas e privadas, na organização de documentos, processos administrativos, elaboração de instrumentos de gestão documental. Experiência na área de Ciência da Informação, atuando principalmente nos seguintes temas: Informação; Desinformação; Pós-verdade; Arquivologia; e Competência em informação. Membro titular da representação discente do PGCIN/UFSC, gestão 2022 - 2023. Integrante da primeira Comissão de de Visibilidade, Marketing e Divulgação do PGCIN/UFSC, com o cargo de Coordenação de Criação & Design. 

References

ALLCOTT, Hunt; GENTZKOW, Matthew, 2016. Social media and fake news in the 2016 election. Journal of Economic Perspectives, Nashville, v. 31, n. 2, p.211-236, mar. 2017. [Acesso em 20 junho 2022]. Disponível em: https://www.aeaweb.org/articles?id=10.1257/jep.31.2.211.

ALTUNBEY OZBAY, F.; ALATAS, B, 2019. A Novel Approach for Detection of Fake News on social media Using Metaheuristic Optimization Algorithms. Elektronika ir Elektrotechnika, [S. l.], v. 25, n. 4, p. 62-67, 2019. [Acesso em 10 maio 2022]. Disponível em: https://eejournal.ktu.lt/index.php/elt/article/view/23972.

ARAÚJO, Carlos Alberto Ávila, 2021a. A pós-verdade como desafio central para a ciência da informação contemporânea. Em Questão, [s. l.], v. 27, n. 1, p. 13-29, 2021a. Faculdade de Biblioteconomia Comunicação. [Acesso em 20 junho 2022]. Disponível em: https://seer.ufrgs.br/EmQuestao/article/view/101666/59067.

ARAÚJO, Carlos Alberto Ávila, 2021b. Novos desafios epistemológicos para a ciência da informação. Palabra Clave (La Plata), [s. l.], v. 10, n. 2, p. 1-15, 2021b. Universidad Nacional de La Plata. [Acesso em 20 junho 2022]. Disponível em: https://www.palabraclave.fahce.unlp.edu.ar/article/view/PCe116.

BARDIN, Laurence, 2016. Análise de conteúdo. São Paulo: Edições 70, 2016.

BERGHEL, Hal, 2017. Lies, Damn Lies, and Fake News. Computer, [S.L.], v. 50, n. 2, p. 80-85, 2017. [Acesso em 10 julho 2022]. Disponível em: https://www.computer.org/csdl/magazine/co/2017/02/mco2017020080/13rRUzp02jw.

BRISOLA, Anna Cristina Caldeira de Andrada Sobral; DOYLE, Andréa, 2019. Critical Information Literacy as a Path to Resist “Fake news”: understanding disinformation as the root problem. Open Information Science, [s. l.], v. 3, n. 1, p. 274-286, 1 jan. 2019. Walter de Gruyter GmbH. [Acesso em 20 junho 2022]. Disponível em: https://www.degruyter.com/document/doi/10.1515/opis-2019-0019/html

BROGLY, Chris; RUBIN, Victoria L., 2018. Detecting Clickbait: here's how to do it. Canadian Journal of Information and Library Science, [s. l], p. 154-175, 2018. [Acesso em 10 junho 2022]. Disponível em: https://muse.jhu.edu/article/743050.

BRUNETTA, Cíntia; LEITÃO, Andre Studart; DIAS, Eduardo Rocha, 2022. Da pessoa e para a pessoa: a regulação jurídica dos algoritmos. Revista de Informação Legislativa: RIL, Brasília, DF, v. 59, n. 233, p. 163-178, jan./mar. 2022. [Acesso em 21 julho 2022]. Disponível em: https://www12.senado.leg.br/ril/edicoes/59/233/ril_v59_n233_p163

CAPURRO, Rafael. Epistemologia e Ciência da Informação., 2003 In: ENCONTRO NACIONAL DE PESQUISA EM CIÊNCIA DA INFORMAÇÃO, 5., 2003, Belo Horizonte. Anais.Belo Horizonte: Enancib, 2003. v. 1, p. 1 - 22. [Acesso em 21 julho 2022]. Disponível em: http://www.capurro.de/enancib_p.htm

CAPURRO, Rafael; HJORLAND, Birger, 2007. O conceito de informação. Perspectivas em Ciência da Informação, Belo Horizonte, v. 12, n. 1, p.1-60, 2007. [Acesso em 21 julho 2022]. Disponível em: http://www.scielo.br/scielo.php?script=sci_arttext&pid=S1413-99362007000100012.

CASTELLS, Manuel, 2013. A sociedade em rede. São Paulo: Paz e Terra, 2013. v. 23.

CYBENKO, Anne K.; CYBENKO, George, 2018. AI and Fake News, 2018. Ieee Intelligent Systems, [S.L.], v. 33, n. 5, p. 1-5, 2018. [Acesso em 10 julho 2022]. Disponível em: https://ieeexplore.ieee.org/document/8567972.

D’ANCONA, Matthew, 2018. Pós-verdade: a nova guerra contra os fatos em tempos de fake news. Barueri: Faro Editorial, 2018.

EATWELL, Roger; GOODWIN, Matthew, 2020. National Populism: the revolt against liberal democracy. Gretna: Pelican Publishing Company, 2020. 384 p.

EMPOLI, Giuliano da, 2020. Os engenheiros do caos. São Paulo: Vestígio, 2020

ENGLISH OXFORD LIVING DICTIONARIES, 2022. Post-truth. [Acesso em 21 maio 2022]. Disponível em: https://www.lexico.com/definition/post-truth.

FALLIS, Don, 2009. A Conceptual Analysis of Disinformation. In: ICONFERENCE, 4., 2009, Chapel Hill. Proceedings.... Illinois: Ideals, 2010. p. 1 - 8. [Acesso em 21 maio 2022]. Disponível em: https://www.ideals.illinois.edu/items/15210.

FERRARI, Fabricio.; CECHINEL, Cristian. Introdução a Algoritmos e Programação. Bagé: Universidade Federal do Pampa, Campus Bagé, 2008.

GARCÍA-RETUERTA, David; BARTOLOMÉ, Álvaro; CHAMOSO, Pablo; CORCHADO, Juan Manuel, 2019. Counter-Terrorism Video Analysis Using Hash-Based Algorithms. Algorithms, [S.L.], v. 12, n. 5, p. 110, 2019. [Acesso em 10 junho 2022]. Disponível em: https://www.mdpi.com/1999-4893/12/5/110.

GERRITS, André W.M, 2018. Disinformation in International Relations: how important is it? Security And Human Rights, [S.L.], v. 29, n. 1-4, p. 3-23, 2018. Brill. [Acesso em 10 maio 2022]. Disponível em: https://brill.com/view/journals/shrs/29/1-4/article-p3_3.xml?language=en

GRÁCIO, Maria Cláudia Cabrini; GARRUTTI, Érica Aparecida, 2005. Estatística aplicada à educação: uma análise de conteúdos programáticos de planos de ensino de livros didáticos. Revista de Matemática e Estatística, São Paulo, v. 23, n. 3, p.107-126, abr. 2005.

GRANEMANN, Gabriela Chiritte; MURIEL-TORRADO, Enrique, 2021. Diga “xis”: efeitos sociais dos algoritmos de reconhecimento facial. Encontro Nacional de Pesquisa e Pós-Graduação em Ciência da Informação, n. XXI ENANCIB, 2021. [Acesso em 21 maio 2022]. Disponível em: http://enancib2021rio.ibict.br/wp-content/uploads/2021/09/Enancib2021_Programa_Versao1.0_AtualizadaEm28set2021.pdf.

HARARI, Yuval Noah, 2021. 21 lições para o século 21. São Paulo: Companhia das Letras, 2018. 432 p.

HUCKLE, Steve; WHITE, Martin, 2017. Fake News: a technological approach to proving the origins of content, using blockchains. Big Data, [S.L.], v. 5, n. 4, p. 356-371, 2017. [Acesso em 10 junho 2022]. Disponível em: https://pubmed.ncbi.nlm.nih.gov/29235919/.

HUGHES, Heather C.; WAISMEL-MANOR, Israel, 2020. The Macedonian Fake News Industry and the 2016 US Election. Ps: Political Science & Politics, [S.L.], v. 54, n. 1, p. 19-23, 25 ago. 2020. Cambridge University Press (CUP). [Acesso em 21 junho 2022]. Disponível em: https://www.cambridge.org/core/journals/ps-political-science-and-politics/article/macedonian-fake-news-industry-and-the-2016-us-election/79F67A4F23148D230F120A3BD7E3384F

JWA, Heejung; OH, Dong Suk; PARK, Kinam; KANG, Jang; LIM, Hueiseok, 2019. ExBAKE: automatic fake news detection model based on bidirectional encoder representations from transformers (bert). Applied Sciences, [S.L.], v. 9, n. 19, p. 4062, 2019. [Acesso em 10 junho 2022]. Disponível em: https://www.mdpi.com/2076-3417/9/19/4062.

KAKUTANI, Michiko, 2018. A morte da verdade: notas sobre a mentira na era Trump. Rio de Janeiro: Intrínseca, 2018. 272 p.

KERTYSOVA, Katarina, 2018. Artificial Intelligence and Disinformation. Security And Human Rights, [S.L.], v. 29, n. 1-4, p. 55-81, 2018. [Acesso em 10 maio 2022]. Disponível em: https://brill.com/downloadpdf/journals/shrs/29/1-4/article-p55_55.xml.

MACHADO, Débora Franco, 2018. Mediações algorítmicas: o poder de modulação dos algoritmos do facebook. Parágrafo, [s. l], v. 6, n. 1, p. 43-55, 2018. [Acesso em 10 junho 2022]. Disponível em: https://revistaseletronicas.fiamfaam.br/index.php/recicofi/article/view/703/559.

MACHADO, Débora Franco, 2018. Mediações algorítmicas: o poder de modulação dos algoritmos do facebook. Parágrafo, [s. l], v. 6, n. 1, p. 43-55, 2018. [Acesso em 21 maio 2022]. Disponível em: https://revistaseletronicas.fiamfaam.br/index.php/recicofi/article/view/703/559.

METZNER-SZIGETH, Andreas, 2009. Convergência Digital, virtualidade real e desenvolvimento humano. OntologyStudies, [s. l], p. 245-261, 2009. . [Acesso em 21 maio 2022]. Disponível em: https://raco.cat/index.php/Ontology/article/view/173295/225650.

O'NEIL, Cathy, 2020. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Santo André: Rua do Sabão, 2020. 342 p.

POSETTI, Julie; MATTHEWS, Alice, 2018. A short guide to the history of ’fake news’ and disinformation. [s.i]: Icfj, 2018. . [Acesso em 21 maio 2022]. Disponível em: https://www.icfj.org/sites/default/files/2018-07/A%20Short%20Guide%20to%20History%20of%20Fake%20News%20and%20Disinformation_ICFJ%20Final.pdf.

QAYYUM, Adnan; QADIR, Junaid; JANJUA, Muhammad Umar; SHER, Falak, 2019. Using Blockchain to Rein in The New Post-Truth World and Check the Spread of Fake News. It Professional, [S.L.], p. 1-6, 2019. [Acesso em 10 junho 2022]. Disponível em: https://arxiv.org/abs/1903.11899.

QIN, Yumeng; DOMINIK, Wurzer; TANG, Cunchen, 2018. Predicting Future Rumours. Chinese Journal of Electronics, [S.L.], v. 27, n. 3, p. 514-520, maio 2018. [Acesso em 10 junho 2022]. Disponível em: https://ietresearch.onlinelibrary.wiley.com/doi/pdfdirect/10.1049/cje.2018.03.008.

REGATTIERI, Lorena Lucas; ANTOUN, Henrique, 2018. Algoritmização da vida e organização da informação: considerações sobre a tecnicidade no algoritmo a partir de gilbert simondon . Liinc em revista, v. 14, n. 2, 2018. [Acesso em 21 maio 2022]. Disponível em: https://revista.ibict.br/liinc/article/view/4304

REZENDE, Edmar R.S. de; RUPPERT, Guilherme C.S.; THEÓPHILO, Antônio; TOKUDA, Eric K.; CARVALHO, Tiago, 2018. Exposing computer generated images by using deep convolutional neural networks. Signal Processing: Image Communication, [S.L.], v. 66, p. 113-126, 2018. [Acesso em 10 junho 2022]. Disponível em: https://arxiv.org/abs/1711.10394.

RIGHETTO, Guilherme Goulart; MURIEL-TORRADO, Enrique; VITORINO, Elizete Vieira, 2021. “Imbecilization” in the disinformation society: what can information literacy do about it?. Investigación Bibliotecológica: archivonomía, bibliotecología e información, [s. l.], v. 35, n. 87, p. 33, 16 abr. 2021. Universidad Nacional Autonoma de Mexico. [Acesso em 21 maio 2022]. Disponível em: http://revib. unam.mx/ib/index.php/ib/article/view/58310/52164.

ROCHA, Dario Brito; LINS, Anthony José da Cunha Carneiro; SOUZA, Alice Cristiny Ferreira de; LIBÓRIO, Luiz Felipe de Oliveira; LEITÃO, André Henrique de Brito; SANTOS, Flávio Henrique Souza, 2018. VERIFIC.AI application: automated fact-checking in brazilian 2018 general elections. Brazilian Journalism Research, [S.L.], v. 15, n. 3, p. 514-539, 2019. [Acesso em 10 maio 2022]. Disponível em: https://bjr.sbpjor.org.br/bjr/article/view/1178.

ROZSA, Vitor; DUTRA, Moisés Lima; PINTO, Adilson Luiz; MURIEL-TORRADO, Enrique, 2017. O paradigma tecnológico da internet das coisas e sua relação com a ciência da informação. Informação & Sociedade: Estudos, v. 27, n. 3, 2017. [Acesso em 21 maio 2022]. Disponível: https://periodicos.ufpb.br/ojs2/index.php/ies/article/view/36975

SANG, Chunyan; LI, Tun; TIAN, Sirui; XIAO, Yunpeng; XU, Guangxia, 2019. SFTRD: a novel information propagation model in heterogeneous networks. Physica A: Statistical Mechanics and its Applications, [S.L.], v. 524, p. 475-490, 2019. [Acesso em 10 junho 2022]. Disponível em: https://www.sciencedirect.com/science/article/abs/pii/S0378437119305837.

SANTAELLA, Lucia, 2019. A pós-verdade é verdadeira ou falsa? Barueri: Estação das Letras e Cores, 2019.

SEVERINO, Antonio Joaquim, 2017. Metodologia do trabalho científico. 2 ed - São Paulo: Cortez, 2017.

SHAO, Chengcheng; HUI, Pik-Mai; WANG, Lei; JIANG, Xinwen; FLAMMINI, Alessandro; MENCZER, Filippo; CIAMPAGLIA, Giovanni Luca, 2018. Anatomy of an online misinformation network. Plos One, [S.L.], v. 13, n. 4, p. 1-23, 2018. [Acesso em 10 julho 2022]. Disponível em: https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0196087.

SHERA, J. H.; CLEVELAND, D. B, 1977. History, and foundations of Information Science. Annual Review of Information Science and Technology, v. 12, p.248-275, 1977.

SHU, Kai; MAHUDESWARAN, Deepak; LIU, Huan, 2018. FakeNewsTracker: a tool for fake news collection, detection, and visualization. Computational And Mathematical Organization Theory, [S.L.], v. 25, n. 1, p. 60-71, 2018. [Acesso em 10 julho 2022]. Disponível em: https://link.springer.com/article/10.1007/s10588-018-09280-3.

SULLIVAN, M. Connor, 2019. Why librarians can’t fight fake news. Journal Of Librarianship and Information Science, [S.L.], v. 51, n. 4, p. 1146-1156, 2019. [Acesso em 10 julho 2022]. Disponível em: https://journals.sagepub.com/doi/abs/10.1177/0961000618764258?journalCode=lisb.

TORKY, Mohamed; NABIL, Emad; SAID, Wael, 2019. Proof of Credibility: a blockchain approach for detecting and blocking fake news in social networks. International Journal of Advanced Computer Science and Applications, [S.L.], v. 10, n. 12, p. 321-327, 2019. [Acesso em 10 julho 2022]. Disponível: https://thesai.org/Downloads/Volume10No12/Paper_43Proof_of_Credibility_A_Blockchain_Approach.pdf

UNESCO, 2018. Journalism, ‘fake news’ & disinformation: handbook for journalism education and training, M odule 2. UNESCO, 2018. p. 44 56. [Acesso em 21 junho 2022]. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000265552.

VALENTINI, Daniele; LORUSSO, Anna Maria; STEPHAN, Achim, 2020. Onlife Extremism: dynamic integration of digital and physical spaces in radicalization. Frontiers In Psychology, [S.L.], v. 11, p. 347-359, 24 mar. 2020. Frontiers Media SA. [Acesso em 21 maio 2022]. Disponível em: https://pubmed.ncbi.nlm.nih.gov/32269543/

VISHWAKARMA, Dinesh Kumar; VARSHNEY, Deepika; YADAV, Ashima, 2019. Detection and veracity analysis of fake news via scrapping and authenticating the web search. Cognitive Systems Research, [S.L.], v. 58, p. 217-229, dez. 2019. [Acesso em 10 julho 2022]. Disponível em: https://www.sciencedirect.com/science/article/abs/pii/S1389041719301020.

VIVAR, Jesús Miguel Flores, 2019. Artificial intelligence and journalism: diluting the impact of disinformation and fake news through bots. Doxa Comunicación. Revista Interdisciplinar de Estudios de Comunicación y Ciencias Sociales, [S.L.], n. 29, p. 197-212, 2019. [Acesso em 10 julho 2022]. Disponível em: https://dialnet.unirioja.es/servlet/articulo?codigo=7175495.

WARDLE, Claire, 2017. Fake news. It’s complicated. 2017. [Acesso em 21 maio 2022]. Disponível em: https://firstdraftnews.org/articles/fake-news-complicated/.

WARDLE, Claire; DERAKHSHAN, Hossein, 2018. Thinking about ‘information disorder’: formats of misinformation, disinformation, and mal information. In: IRETON, C.; POSETTI, J. (Ed.). Journalism, ‘fake news’ & disinformation: handbook for journalism education and training, module 2. UNESCO, 2018. p. 44 56. [Acesso em 21 maio 2022]. Disponível: https://unesdoc.unesco.org/ark:/48223/pf0000265552.

ZHU, Xiaoqian; LIU, Fengming, 2017. Research on Behavior Model of Rumor Maker Based on System Dynamics. Complexity, [S.L.], v. 2017, p. 1-9, 2017. [Acesso em 10 julho 2022]. Disponível em: https://www.hindawi.com/journals/complexity/2017/5094218/.

ZUBIAGA, Arkaitz; AKER, Ahmet; BONTCHEVA, Kalina; LIAKATA, Maria; PROCTER, Rob, 2019. Detection and Resolution of Rumours in social media. Acm Computing Surveys, [S.L.], v. 51, n. 2, p. 1-36, 2019. [Acesso em 10 julho 2022]. Disponível em: https://dl.acm.org/doi/10.1145/3161603.

Downloads

Published

02/11/2022

Issue

Vol. 18 No. 2 (2022): The Role of Algorithms and Digital Platforms on Sociopolitical Contexts

Section

O papel dos algoritmos e das plataformas digitais em contextos sociopolíticos

License

Copyright (c) 2022 Thiago Magela Rodrigues Dias, Jônatas Edison da Silva

Creative Commons License

This work is licensed under a Creative Commons Attribution 4.0 International License.

How to Cite

Confronting disinformation through algorithms: an international overview in the scientific literature of possible responses to the problem. Liinc em Revista, [S. l.], v. 18, n. 2, p. e6057, 2022. DOI: 10.18617/liinc.v18i2.6057. Disponível em: https://revista.ibict.br/liinc/article/view/6057. Acesso em: 3 apr. 2025.