Inteligência artificial explicável com LIME e SHAP aplicada à rede neural convolucional
Carregando...
Data
2023-01-19
Autores
Orientador
Pereira, Clayton Reginaldo
Coorientador
Pós-graduação
Curso de graduação
Ciência da Computação - FC
Título da Revista
ISSN da Revista
Título de Volume
Editor
Universidade Estadual Paulista (Unesp)
Tipo
Trabalho de conclusão de curso
Direito de acesso
Acesso aberto
Resumo
Resumo (português)
Modelos de inteligência artificial estão presentes na vida cotidiana nos mais diversos contextos,
como sistemas médicos para auxílio na detecção de doenças e motores de busca, estando,
por vezes, presentes até de maneira transparente aos usuários como no caso de algoritmos de
recomendação de produtos. Ao passo que a adoção de IA cresce, a complexidade dos sistemas
de inteligência artificial também aumenta, tornando mais desafiadora a tarefa de compreender
como foi obtido determinado resultado. Refere-se a estes modelos complexos como caixa-preta,
devido à sua dificuldade de interpretação. Inteligência artificial explicável pode ser utilizada
para compreender como os modelos complexos, como redes neurais convolucionais, que são
amplamente aplicados, chegam a seus resultados. É proposto neste projeto de conclusão de
curso, implementar técnicas de inteligência artificial explicável utilizando duas das ferramentas
mais populares neste contexto: LIME e SHAP, ambas aplicadas a um modelo de rede neural
convolucional utilizado para classificar imagens de exames médicos de escrita, pertencentes a um
grupo de indivíduos saudáveis e outro grupo de pacientes de Parkinson. Através dos resultados
obtidos foi possível obter explicações sobre o modelo descrito que podem ser interpretadas por
seres humanos.
Resumo (inglês)
Artificial intelligence models are present in everyday life in the most diverse contexts, such as
medical systems to aid in the detection of diseases and search engines, and are sometimes even
transparently present to users, as in the case of product recommendation algorithms. As the
adoption of AI grows, the complexity of artificial intelligence systems also increases, making
the task of understanding how a given result was achieved more challenging. These complex
models are referred to as ’black boxes’, due to their difficulty in interpretation. Explainable
artificial intelligence can be used to understand how complex models, such as convolutional
neural networks, which are widely applied, arrive at their results. It is proposed in this thesis,
to implement explainable artificial intelligence techniques using two of the most popular tools
in this context: LIME and SHAP, both applied to a convolutional neural network model used
to classify images of medical handwriting exams, belonging to a group of healthy individuals
and another group of Parkinson’s patients. Through the obtained results it was possible to
obtain explanations about the described model that can be interpreted by human beings.
Descrição
Idioma
Português