Algoritmos podem ser úteis para detectar notícias falsas, impedir sua propagação e combater a desinformação

Professor de Ciência da Computação, University of British Columbia

Laks VS Lakshmanan recebe financiamento do Conselho de Pesquisa em Ciências Naturais e Engenharia do Canadá.

A University of British Columbia fornece financiamento como parceira fundadora da The Conversation CA.

A University of British Columbia fornece financiamento como membro do The Conversation CA-FR.

Ver todos os parceiros

As notícias falsas são um problema complexo e podem abranger texto, imagens e vídeo.

Para artigos escritos em particular, existem várias maneiras de gerar notícias falsas. Um artigo de notícias falsas pode ser produzido pela edição seletiva de fatos, incluindo nomes de pessoas, datas ou estatísticas. Um artigo também pode ser totalmente fabricado com eventos ou pessoas inventadas.

Artigos de notícias falsas também podem ser gerados por máquina, pois os avanços na inteligência artificial tornam particularmente fácil gerar desinformação.

Perguntas como: "Houve fraude eleitoral durante as eleições de 2020 nos EUA?" ou "A mudança climática é uma farsa?" podem ser verificados analisando os dados disponíveis. Essas perguntas podem ser respondidas com verdadeiro ou falso, mas há potencial para desinformação em torno de perguntas como essas.

Desinformação e desinformação – ou notícias falsas – podem ter efeitos prejudiciais em um grande número de pessoas em um curto espaço de tempo. Embora a noção de notícias falsas já existisse bem antes dos avanços tecnológicos, as mídias sociais exacerbaram o problema.

Um estudo do Twitter de 2018 mostrou que notícias falsas eram mais comumente retweetadas por humanos do que bots, e 70% mais propensas a serem retweetadas do que histórias verdadeiras. O mesmo estudo descobriu que as histórias verdadeiras demoravam cerca de seis vezes mais para chegar a um grupo de 1.500 pessoas e, enquanto as histórias verdadeiras raramente chegavam a mais de 1.000 pessoas, as notícias falsas populares podiam se espalhar até 100.000.

A eleição presidencial dos EUA em 2020, as vacinas COVID-19 e as mudanças climáticas foram objeto de campanhas de desinformação com graves consequências. Estima-se que a desinformação sobre o COVID-19 custe entre US$ 50 e 300 milhões por dia. O custo da desinformação política pode ser desordem civil, violência ou mesmo erosão da confiança pública nas instituições democráticas.

A detecção de desinformação pode ser feita por uma combinação de algoritmos, modelos de aprendizado de máquina e humanos. Uma questão importante é quem é responsável por controlar, se não parar, a disseminação de desinformação uma vez detectada. Somente as empresas de mídia social estão realmente em posição de exercer controle sobre a disseminação de informações por meio de suas redes.

Um meio particularmente simples, mas eficaz, de gerar desinformação é editar seletivamente artigos de notícias. Por exemplo, considere "o diretor e dramaturgo ucraniano preso e acusado de 'justificar o terrorismo'". Isso foi conseguido substituindo-se "russo" por "ucraniano" na frase original de uma notícia real.

É necessária uma abordagem multifacetada para detectar desinformação on-line, a fim de controlar seu crescimento e disseminação.

As comunicações nas mídias sociais podem ser modeladas como redes, com os usuários formando pontos no modelo de rede e as comunicações formando links entre eles; um retuíte ou curtida de uma postagem reflete uma conexão entre dois pontos. Nesse modelo de rede, os propagadores de desinformação tendem a formar estruturas núcleo-periferia muito mais densamente conectadas do que os usuários que espalham a verdade.

Meu grupo de pesquisa desenvolveu algoritmos eficientes para detectar estruturas densas de redes de comunicação. Essas informações podem ser analisadas posteriormente para detectar instâncias de campanhas de desinformação.

Como esses algoritmos dependem apenas da estrutura de comunicação, a análise de conteúdo conduzida por algoritmos e humanos é necessária para confirmar casos de desinformação.

A detecção de artigos manipulados exige uma análise cuidadosa. Nossa pesquisa usou uma abordagem baseada em rede neural que combina informações textuais com uma base de conhecimento externa para detectar tal adulteração.