Análise da explicabilidade dos métodos de inteligência artificial eXplicável aplicados a segmentação de imagens de peixes pacu

Página do item simplificado
dc.contributor.advisorBrega, José Remo Ferreira [UNESP]
dc.contributor.authorFeitosa, Juliana da Costa
dc.date.accessioned2024-04-17T10:26:13Z
dc.date.available2024-04-17T10:26:13Z
dc.date.issued2024-03-07
dc.description.abstractA concepção envolvendo o termo Inteligência Artificial (IA) traz grandes preocupações em relação a transparência das informações fornecidas como saída, exigindo cada vez mais explicações para que os usuários entendam sobre esse tipo de abordagem. Esse campo de pesquisa é chamado de Inteligência Artificial eXplicável (XAI) e pode ser definido como um conjunto de técnicas que une métodos de IA com abordagens explicativas eficazes para gerar saídas explicáveis, tornando os modelos mais compreensíveis para o ser humano. Apesar da XAI ser apresentada como uma das soluções para a falta de transparência dos modelos de IA do tipo caixa-preta, contestar as explicações geradas por esses métodos também se faz necessário, visto que a explicabilidade é considerada uma tarefa necessária para a melhora dos resultados. Somado a isso, diante dos vários métodos existentes, estratégias de melhoria das explicações tornaram-se contribuições significativas para a área. Com objetivo de analisar e proporcionar melhores resultados aos métodos de XAI aplicados a segmentação de imagens de peixes da espécie Pacu, foram utilizadas 100 imagens de entrada para o presente trabalho. Portanto, dois experimentos foram conduzidos com o intuito de encontrar o melhor método explicável, a partir de técnicas de perturbação de pixels, e também melhorá-los por meio da combinação lógica entre o melhor método e os demais. Foi a primeira vez que essa metodologia foi aplicada no contexto da Aquicultura. A partir dos resultados obtidos, o Mapa de Saliência obteve os melhores resultados ao demonstrar pixels que de fato foram considerados como os de maior relevância pela Mask R-CNN utilizada. Além disso, foi possível observar que a metodologia implementada proporcionou não só a melhora dos métodos explicáveis Grad-CAM, CNN Filters e Layer Grad-CAM, como também foi possível obter resultados melhores do que os alcançados por meio do Mapa de Saliência. Por fim, conclui-se que a principal contribuição deste trabalho está na possibilidade de melhorar a qualidade das explicações de um método explicável de forma simples, bem como a implementação de uma avaliação eficaz baseada em perturbação de pixels.pt
dc.description.abstractThe concept surrounding the term Artificial Intelligence (AI) raises major concerns regarding the transparency of the information provided as output, requiring more and more explanations for users to understand this type of approach. This field of research is called eXplainable Artificial Intelligence (XAI) and can be defined as a set of techniques that combine AI methods with effective explanatory approaches to generate explainable outputs, making models more understandable to humans. Although XAI is presented as one of the solutions to the lack of transparency in black-box AI models, contesting the explanations generated by these methods is also necessary, since explainability is considered a necessary task to improve results. Furthermore, given the various existing methods, strategies for improving explanations have become significant contributions to the area. To analyze and provide better results for the XAI methods applied to the segmentation of images of fish of the Pacu species, 100 input images were used for the present work. Therefore, two experiments were conducted with the aim of finding the best explainable method, using pixel perturbation techniques, and also improving them through the logical combination between the best method and the others. It was the first time that this methodology was applied in the context of Aquaculture. From the results obtained, the Saliency Map obtained the best results by demonstrating pixels that were considered the most relevant by the Mask R-CNN used. Furthermore, it was possible to observe that the implemented methodology not only improved the explainable methods Grad-CAM, CNN Filters, and Layer Grad-CAM, but it was also possible to obtain better results than those achieved using the Saliency Map. Finally, it is concluded that the main contribution of this work is the possibility of improving the quality of explanations of a simply explainable method, as well as the implementation of an effective evaluation based on pixel perturbationen
dc.description.sponsorshipCoordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES)
dc.description.sponsorshipId001
dc.identifier.citationFEITOSA, Juliana da Costa. Análise da explicabilidade dos métodos de inteligência artificial eXplicáveis aplicados a segmentação de imagens de peixes pacu. Orientador: José Remo Ferreira Brega. 2024. 92 f. Tese (Doutorado em Ciência da Computação) - Faculdade de Ciências, Universidade Estadual Paulista "Júlio de Mesquita Filho", Bauru, 2024
dc.identifier.latteshttp://lattes.cnpq.br/9675091826237443
dc.identifier.orcidhttps://orcid.org/0009-0005-6935-1022
dc.identifier.urihttps://hdl.handle.net/11449/255167
dc.language.isopor
dc.publisherUniversidade Estadual Paulista (Unesp)
dc.rights.accessRightsAcesso aberto
dc.subjectInteligência artificialpt
dc.subjectInteligência artificial explicávelpt
dc.subjectAvaliaçãopt
dc.subjectPerturbação de pixelspt
dc.titleAnálise da explicabilidade dos métodos de inteligência artificial eXplicável aplicados a segmentação de imagens de peixes pacu
dc.title.alternativeExplainability analysis of eXplainable artificial intelligence methods applied to pacu fish image segmentationen
dc.typeTese de doutorado
unesp.campusUniversidade Estadual Paulista (Unesp), Faculdade de Ciências, Bauru
unesp.embargoOnline
unesp.examinationboard.typeBanca pública
unesp.graduateProgramCiência da Computação - FC/FCT/IBILCE/IGCE 33004153073P2
unesp.knowledgeAreaOutra
unesp.researchAreaInteligência Computacional

Arquivos

Pacote Original
Agora exibindo 1 - 1 de 1
Imagem de Miniatura
Nome:
feitosa_jc_dr_bauru.pdf
Tamanho:
11.57 MB
Formato:
Adobe Portable Document Format
Baixar
Licença do Pacote
Agora exibindo 1 - 1 de 1
Nenhuma Miniatura disponível
Nome:
license.txt
Tamanho:
3.03 KB
Formato:
Item-specific license agreed upon to submission
Descrição:

Coleções

Faculdade de Ciências, Bauru