Метод проксимального градиента

Метод проксимального градиента — это обобщение проецирования, используемое для решения недифференцируемых задач выпуклого программирования. Много интересных задач можно сформулировать как задачи выпуклого программирования вида где — выпуклые функции, определённые как отображения , где некоторые из функций недифференцируемы, что исключает обычные техники гладкой оптимизации, такие как метод наискорейшего спуска или метод сопряжённых градиентов и др., вместо них могут быть использованы проксимальные градиентные методы. Эти методы работают путём расщепления, так что функции используются индивидуально, что позволяет разработать более просто реализуемые алгоритмы.Они называются проксимальными (англ. proximal, ближайший), поскольку каждая негладкая функция среди вовлекается в процесс через оператор близости. Итерационный алгоритм мягкой пороговой фильтрации, проекция Ландвебера, проекция градиента, попеременные проекции, , метод чередующихся расщеплений Брэгмана являются частными случаями проксимальных алгоритмов. Для рассмотрения проксимальных градиентных методов со стороны статистической теории обучения и приложений к этой теории см. статью .