Integração de large language models e graph neural networks para otimizar classificação de texto e extração de conhecimento

A representação estruturada do conhecimento humano e o avanço dos Large Language Models (LLMs) têm impulsionado novas fronteiras na Inteligência Artificial. Neste contexto, os grafos de conhecimento (KGs) emergem como ferramentas essenciais para organizar informações complexas, permitindo sua integração com técnicas de aprendizado profundo. Este trabalho introduz o GenGraph, um framework com abordagem híbrida que combina o modelo generativo Gemini AI e o extrator de relações REBEL com Graph Convolutional Networks (GCNs) para otimizar a classificação textual. A metodologia utiliza o Gemini para refinamento textual e extração de conhecimento estruturado em triplas, comparando sua eficácia com o modelo REBEL na construção de grafos heterogêneos. Os experimentos realizados nos datasets BBC News, Reuters-21578, AG News e 20 Newsgroups demonstra ram a robustez da arquitetura proposta, com destaque para o desempenho no dataset 20 Newsgroups, que alcançou 96,91% de acurácia de validação, superando baselines como TextGCN e ChatGraph. A análise comparativa revelou que, enquanto o REBEL ofereceu maior estabilidade e eficiência na extração de triplas (87,65% de acurácia no AG News), a combinação de embeddings densos (BERT) e arestas semânticas provou-se determinante para a performance global, mitigando a necessidade de pré-refinamento textual em cenários de alta complexidade como o Reuters.

Resumo (inglês)

The structured representation of human knowledge and the advancement of Large Language Models (LLMs) have driven new frontiers in Artificial Intelligence. In this context, Knowledge Graphs (KGs) emerge as essential tools for organizing complex information, enabling their integration with deep learning techniques. This work introduces GenGraph, a hybrid framework that combines the generative model Gemini AI and the relation extractor REBEL with Graph Convolutional Networks (GCNs) to optimize text classification. The methodology utilizes Gemini for text refinement and structured knowledge extraction into triplets, comparing its effectiveness with the REBEL model in the construction of heterogeneous graphs. Experiments conducted on the BBC News, Reuters-21578, AG News, and 20 Newsgroups datasets demonstrated the robustness of the proposed architecture, highlighting the performance on the 20 Newsgroups dataset, which achieved 96.91% validation accuracy, surpassing baselines such as TextGCN and ChatGraph. Comparative analysis revealed that while REBEL offered greater stability and efficiency in triplet extraction (87.65% accuracy on AG News), the combination of dense embeddings (BERT) and semantic edges proved decisive for global performance, mitigating the need for text pre-refinement in high-complexity scenarios such as Reuters.

Palavras-chave

Inteligência artificial , Redes neurais (Computação) , Processamento humano da informação , Modelos de linguagem de grande escala , Gemini , Grafos de conhecimento , Artificial intelligence , Neural networks (Computer science) , Human information processing , Large language models , Knowledge graphs

Idioma

Português

Citação

MENEZES, Larissa Pessoa Sá. Integração de Large Language Models e Graph Neural Networks para Otimizar Classificação de Texto e Extração de Conhecimento. 2026. Dissertação (Mestrado em Ciência da Computação) - Instituto de Geociência e Ciências Exatas, Universidade Estadual Paulista (UNESP), Rio Claro, 2026.