Application of Explainable Artificial Intelligence (XAI) to detect anomalies in computer networks through the creation of images from data packets

Abstract

Com a crescente complexidade das ameaças cibernéticas, compreender como os modelos de inteligência artificial tomam decisões tornou-se um passo crucial para melhorar a confiança e a transparência. Este trabalho apresenta uma metodologia que transforma o tráfego de rede em imagens e utiliza Redes Neurais Convolucionais (CNNs) para classificar fluxos como benignos ou maliciosos. Além de alcançar alta precisão preditiva, o estudo integra a técnica de IA Explicável Grad-CAM para explicar visualmente o funcionamento interno do modelo. Essa abordagem permite que os analistas inspecionem quais partes da imagem foram mais influentes na decisão do modelo, facilitando a supervisão humana e a auditoria do sistema. Os resultados destacam o potencial da combinação de aprendizado profundo com ferramentas de interpretabilidade no campo da segurança cibernética.

With the increasing complexity of cyber threats, understanding how artificial intelligence models make decisions has become a crucial step in improving trust and transparency. This work presents a methodology that transforms network traffic into images and uses Convolutional Neural Networks (CNNs) to classify flows as benign or malicious. Beyond achieving high predictive accuracy, the study integrates the Explainable AI technique Grad-CAM to visually explain the internal workings of the model. This approach allows analysts to inspect which parts of the image were most influential in the model’s decision, facilitating human oversight and system auditing. The findings highlight the potential of combining deep learning with interpretability tools in the field of cybersecurity.