Sintonização de hiperparâmetros de autocodificadores convolucionais para redução de ruído em camada de mistura

Abstract

Este trabalho apresenta a sintonização de hiperparâmetros de autoencoders convolucionais para a redução de ruído em imagens provenientes de simulações numéricas de escoamento em camada de mistura. Utilizando uma base de dados contendo imagens com diferentes níveis de ruído artificialmente adicionados, aplicou-se o framework Optuna para otimizar parâmetros da rede, como número de filtros, tamanho do kernel, taxa de aprendizado e funções de ativação. Os resultados demonstraram eficácia na remoção de ruídos para a maioria dos níveis testados, embora para ruídos de alta intensidade (0 dB) a remoção tenha sido parcial. A análise da matriz de reconstrução indicou uma capacidade de generalização quando modelos treinados em condições mais ruidosas foram aplicados a imagens menos ruidosas. O autoencoder mostrou-se uma ferramenta promissora para melhoria da qualidade dos dados experimentais em fluidos. Para trabalhos futuros, recomenda-se a aplicação da métrica Structural Similarity Index (SSIM) para avaliação qualitativa das imagens reconstruídas, além da exploração de outras bases de dados e técnicas de otimização.

This work presents the hyperparameter tuning of convolutional autoencoders for noise reduction in images derived from numerical simulations of mixing layer flow. Using a dataset containing images with different levels of artificially added noise, the Optuna framework was applied to optimize network parameters, such as the number of filters, kernel size, learning rate, and activation functions. The results demonstrated effectiveness in noise removal for most tested levels, although for highintensity noise (0 dB), the removal was partial. The analysis of the reconstruction matrix indicated a generalization capability when models trained in noisier conditions were applied to less noisy images. The autoencoder proved to be a promising tool for improving the quality of experimental fluid data. For future work, the application of the Structural Similarity Index (SSIM) metric is recommended for the qualitative assessment of reconstructed images, in addition to the exploration of other datasets and optimization techniques.