Multi-objective optimization of a neural network-based nonlinear equalizer in unrepeated digital coherent optical communication systems

Abstract

In this work, we propose using neural networks to mitigate intersymbol interference introduced by the fiber in optical communication systems. This mitigation method is well known, nevertheless the majority of studies that we traced back in the literature process only the symbol of interest, and consequently, cannot compensate the intersymbol interference. The approach presented in this work includes also using adjacent symbols, as there is a correlation between these symbols distortion. But, this increases the computational complexity. For that reason, we also analyzed the computational complexity to train the neural network. We were not able to trace back in the literature works that performed this multi-objective analysis, taking into account the adjacent symbols for training the neural network and also the computational complexity.

Neste projeto, propomos a utilização de redes neurais para mitigação da interferência intersimbólica introduzida pela fibra em sistemas de comunicações ópticas coerentes digitais. Este método de mitigação é conhecido, no entanto a maioria dos estudos encontrados na literatura processam apenas o símbolo de interesse e consequentemente não conseguem compensar a interferência intersimbólica. A proposta apresentada neste trabalho envolve utilizar também os símbolos adjacentes, uma vez que existe correlação entre a distorção destes símbolos. No entanto isto aumenta a complexidade computacional. Por esta razão, analisamos também a complexidade computacional para efetuar o treinamento da rede. Não encontramos anteriormente na literatura trabalhos que efetuaram esta análise multi-objetiva, levando em conta os símbolos adjacentes no treinamento da rede neural e também a complexidade computacional.