Аннотация:Компенсация нелинейных искажений сигнала остаётся одной из ключевых задач для обеспечения высокой пропускной способности и увеличения дальности современных волоконно-оптических систем связи. Нелинейные эффекты существенно ограничивают качество передачи данных, особенно при росте мощности сигнала и распространении на большие расстояния. В связи с этим разработка точных, устойчивых и вычислительно эффективных методов компенсации, включающих современные подходы машинного обучения, приобретает особую актуальность в оптической телекоммуникационной инженерии. В статье представлен сравнительный анализ эффективных алгоритмов компенсации нелинейных искажений в волоконно-оптических системах связи с применением методов машинного обучения. Рассмотрены модификации классического метода цифрового обратного распространения (DBP) – обучаемый DBP (LDBP), улучшенный DBP (EnDBP), модель на основе теории возмущений PBM, гибридная схема PB-DBP и подход с использованием свёрточных нейронных сетей CNN. На основе экспериментальных данных с лабораторного макета оптической линии передачи длиной 2000 км показаны возможности обучения параметров и проведено сравнение эффективности методов по точности компенсации и вычислительной сложности. Реализованные методы демонстрируют значительный прирост отношения сигнал/шум и позволяют оптимизировать баланс между точностью и нагрузкой на модуль цифровой обработки сигнала.