Inteligência artificial explicável com LIME e SHAP aplicada à rede neural convolucional - Amoroso, Fabrício Steinle [UNESP] (Universidade Estadual Paulista (Unesp), 2023)
Modelos de inteligência artificial estão presentes na vida cotidiana nos mais diversos contextos, como sistemas médicos para auxílio na detecção de doenças e motores de busca, estando, por vezes, presentes até de maneira transparente aos usuários como no caso de algoritmos de recomendação de produtos. Ao passo que a adoção de IA cresce, a complexidade dos sistemas de inteligência artificial também aumenta, tornando mais desafiadora a tarefa de compreender como foi obtido determinado resultado. Refere-se a estes modelos complexos como caixa-preta, devido à sua dificuldade de interpretação. Inteligência artificial explicável pode ser utilizada para compreender como os modelos complexos, como redes neurais convolucionais, que são amplamente aplicados, chegam a seus resultados. É proposto neste projeto de conclusão de curso, implementar técnicas de inteligência artificial explicável utilizando duas das ferramentas mais populares neste contexto: LIME e SHAP, ambas aplicadas a um modelo de rede neural convolucional utilizado para classificar imagens de exames médicos de escrita, pertencentes a um grupo de indivíduos saudáveis e outro grupo de pacientes de Parkinson. Através dos resultados obtidos foi possível obter explicações sobre o modelo descrito que podem ser interpretadas por seres humanos.

Artificial intelligence models are present in everyday life in the most diverse contexts, such as medical systems to aid in the detection of diseases and search engines, and are sometimes even transparently present to users, as in the case of product recommendation algorithms. As the adoption of AI grows, the complexity of artificial intelligence systems also increases, making the task of understanding how a given result was achieved more challenging. These complex models are referred to as ’black boxes’, due to their difficulty in interpretation. Explainable artificial intelligence can be used to understand how complex models, such as convolutional neural networks, which are widely applied, arrive at their results. It is proposed in this thesis, to implement explainable artificial intelligence techniques using two of the most popular tools in this context: LIME and SHAP, both applied to a convolutional neural network model used to classify images of medical handwriting exams, belonging to a group of healthy individuals and another group of Parkinson’s patients. Through the obtained results it was possible to obtain explanations about the described model that can be interpreted by human beings.
Explainable artificial intelligence using LIME and SHAP applied to convolutional neural network
Keywords: Inteligência artificial explicável; LIME; Parkinson; Rede neural convolucional; SHAP; Convolutional neural networks; Explainable artificial intelligence