A Data science approach for handling misinformation in digital media

January 16, 2024

Diariamente, imensas quantidades de conteúdo textual são publicadas e divulgadas por diversos canais online, trazendo consigo também desinformação. Iniciativas de verificação de fatos em notícias e mídias sociais são inviáveis dada a atual escala e a diversidade de desinformação. Em vez de tentar rotular/filtrar informações enganosas, esta tese explora como capacitar os consumidores de notícias com ferramentas de assistência, projetadas para facilitar a avaliação da credibilidade de conteúdo textual. Isto é alcançado através do desenvolvimento de um pacote de recursos de avaliação de artigos, composto por um indicador multidimensional, um conjunto de métricas explicativas, um pacote para validação da fonte do artigo e um texto explicativo, contendo um resumo dos resultados do indicador e das métricas. O indicador multidimensional foi projetado como o resultado da classificação de um artigo online como hard news, opinião, soft news, sátira ou teoria da conspiração. Ao contrário da classificação binária, este indicador oferece uma avaliação mais abrangente de um artigo. As métricas explicativas que suportam os resultados da classificação incluem a subjetividade, sentimento, representatividade do título, sensacionalismo do título e cobertura lexical. O pacote de recursos de avaliação do artigo é estudado na perspetiva de um consumidor de notícias. Em particular, a análise é centrada na avaliação do indicador multidimensional e métricas explicativas para compreender: i) em que medida uma análise gerada por computador pode afetar a perceção dos consumidores de notícias sobre a credibilidade de um artigo e como essa influência se manifesta; ii) a eficácia da classificação automática em auxiliar os consumidores de notícias a estimar a credibilidade de artigos; e iii) as métricas explicativas mais relevantes para apoiar o consumo consciente de conteúdos noticiosos. Massive online textual content emerges every day through multiple channels, also bringing with it misinformation. Fact-checking initiatives on news and social media are unable to cope with the current scale and diversity of misinformation. Rather than attempting to label/filter misleading information, this thesis explores how to empower news consumers with assistive tools designed to facilitate the assessment of the credibility of textual content. This is achieved through the development of an article assessment resource bundle, composed by a multidimensional indicator, a set of explanatory metrics, a package for validating the article’s source, and an explainer, which generates a short text summarizing the results of the indicator and metrics. The multidimensional indicator is designed as the classification result of an input online article as hard news, opinion, soft news, satire, or conspiracy theory. Unlike a binary classification, this indicator provides a more comprehensive evaluation of an article. The explanatory metrics supporting the classification results are subjectivity, sentiment, headline representativeness, headline sensationalism, and lexical coverage. The article assessment resource bundle is analyzed from the perspective of a news consumer. In particular, the analysis is centered on the evaluation of the multidimensional indicator and explanatory metrics to understand: i) to what extent a computer-generated assessment may affect news consumers’ perceptions of the credibility of an article, and how this influence is manifested; ii) the effectiveness of automatic article classification in aiding news consumers to assess credibility; and iii) the most relevant explanatory metrics to support the conscious consumption of news content.

Authors in the community:

• 

  D

  Danielle Caled Vieira

  ist191486

Supervisors of this institution:

• 

  M

  Mário Jorge Costa Gaspar da Silva

  ist124073

101579772

Doutoramento em Engenharia Informática e de Computadores

electrical-engineering-electronic-engineering-information-engineering - Electrical engineering, electronic engineering, information engineering

Keywords

• Informação Falsa
• Desinformação
• Jornalismo Computacional
• Processamento de Linguagem Natural
• Indicadores de Credibilidade
• Misinformation
• Disinformation
• Computational Journalism
• Natural Language Processing
• Credibility Indicators

eng - English

Instituto Superior Técnico

Financing entity

Fundação para a Ciência e a Tecnologia

Identifier for the funding entity: http://dx.doi.org/10.13039/501100001871

Type of identifier of the funding entity: Crossref Funder