Análise da explicabilidade dos métodos de inteligência artificial eXplicável aplicados a segmentação de imagens de peixes pacu
Carregando...
Data
2024-03-07
Autores
Título da Revista
ISSN da Revista
Título de Volume
Editor
Universidade Estadual Paulista (Unesp)
Resumo
A concepção envolvendo o termo Inteligência Artificial (IA) traz grandes preocupações em relação a transparência das informações fornecidas como saída, exigindo cada vez mais explicações para que os usuários entendam sobre esse tipo de abordagem. Esse campo de pesquisa é chamado de Inteligência Artificial eXplicável (XAI) e pode ser definido como um conjunto de técnicas que une métodos de IA com abordagens explicativas eficazes para gerar saídas explicáveis, tornando os modelos mais compreensíveis para o ser humano. Apesar da XAI ser apresentada como uma das soluções para a falta de transparência dos modelos de IA do tipo caixa-preta, contestar as explicações geradas por esses métodos também se faz necessário, visto que a explicabilidade é considerada uma tarefa necessária para a melhora dos resultados. Somado a isso, diante dos vários métodos existentes, estratégias de melhoria das explicações tornaram-se contribuições significativas para a área. Com objetivo de analisar e proporcionar melhores resultados aos métodos de XAI aplicados a segmentação de imagens de peixes da espécie Pacu, foram utilizadas 100 imagens de entrada para o presente trabalho. Portanto, dois experimentos foram conduzidos com o intuito de encontrar o melhor método explicável, a partir de técnicas de perturbação de pixels, e também melhorá-los por meio da combinação lógica entre o melhor método e os demais. Foi a primeira vez que essa metodologia foi aplicada no contexto da Aquicultura. A partir dos resultados obtidos, o Mapa de Saliência obteve os melhores resultados ao demonstrar pixels que de fato foram considerados como os de maior relevância pela Mask R-CNN utilizada. Além disso, foi possível observar que a metodologia implementada proporcionou não só a melhora dos métodos explicáveis Grad-CAM, CNN Filters e Layer Grad-CAM, como também foi possível obter resultados melhores do que os alcançados por meio do Mapa de Saliência. Por fim, conclui-se que a principal contribuição deste trabalho está na possibilidade de melhorar a qualidade das explicações de um método explicável de forma simples, bem como a implementação de uma avaliação eficaz baseada em perturbação de pixels.
The concept surrounding the term Artificial Intelligence (AI) raises major concerns regarding the transparency of the information provided as output, requiring more and more explanations for users to understand this type of approach. This field of research is called eXplainable Artificial Intelligence (XAI) and can be defined as a set of techniques that combine AI methods with effective explanatory approaches to generate explainable outputs, making models more understandable to humans. Although XAI is presented as one of the solutions to the lack of transparency in black-box AI models, contesting the explanations generated by these methods is also necessary, since explainability is considered a necessary task to improve results. Furthermore, given the various existing methods, strategies for improving explanations have become significant contributions to the area. To analyze and provide better results for the XAI methods applied to the segmentation of images of fish of the Pacu species, 100 input images were used for the present work. Therefore, two experiments were conducted with the aim of finding the best explainable method, using pixel perturbation techniques, and also improving them through the logical combination between the best method and the others. It was the first time that this methodology was applied in the context of Aquaculture. From the results obtained, the Saliency Map obtained the best results by demonstrating pixels that were considered the most relevant by the Mask R-CNN used. Furthermore, it was possible to observe that the implemented methodology not only improved the explainable methods Grad-CAM, CNN Filters, and Layer Grad-CAM, but it was also possible to obtain better results than those achieved using the Saliency Map. Finally, it is concluded that the main contribution of this work is the possibility of improving the quality of explanations of a simply explainable method, as well as the implementation of an effective evaluation based on pixel perturbation
The concept surrounding the term Artificial Intelligence (AI) raises major concerns regarding the transparency of the information provided as output, requiring more and more explanations for users to understand this type of approach. This field of research is called eXplainable Artificial Intelligence (XAI) and can be defined as a set of techniques that combine AI methods with effective explanatory approaches to generate explainable outputs, making models more understandable to humans. Although XAI is presented as one of the solutions to the lack of transparency in black-box AI models, contesting the explanations generated by these methods is also necessary, since explainability is considered a necessary task to improve results. Furthermore, given the various existing methods, strategies for improving explanations have become significant contributions to the area. To analyze and provide better results for the XAI methods applied to the segmentation of images of fish of the Pacu species, 100 input images were used for the present work. Therefore, two experiments were conducted with the aim of finding the best explainable method, using pixel perturbation techniques, and also improving them through the logical combination between the best method and the others. It was the first time that this methodology was applied in the context of Aquaculture. From the results obtained, the Saliency Map obtained the best results by demonstrating pixels that were considered the most relevant by the Mask R-CNN used. Furthermore, it was possible to observe that the implemented methodology not only improved the explainable methods Grad-CAM, CNN Filters, and Layer Grad-CAM, but it was also possible to obtain better results than those achieved using the Saliency Map. Finally, it is concluded that the main contribution of this work is the possibility of improving the quality of explanations of a simply explainable method, as well as the implementation of an effective evaluation based on pixel perturbation
Descrição
Palavras-chave
Inteligência artificial, Inteligência artificial explicável, Avaliação, Perturbação de pixels
Como citar
FEITOSA, Juliana da Costa. Análise da explicabilidade dos métodos de inteligência artificial eXplicáveis aplicados a segmentação de imagens de peixes pacu. Orientador: José Remo Ferreira Brega. 2024. 92 f. Tese (Doutorado em Ciência da Computação) - Faculdade de Ciências, Universidade Estadual Paulista "Júlio de Mesquita Filho", Bauru, 2024