Проецирование в выпуклые множества

Перейти к навигацииПерейти к поиску

Проецирование в выпуклые множества (англ. projections onto convex sets, POCS), которое иногда упоминается как метод попеременного проецирования, является методом поиска точки в пересечении двух замкнутых выпуклых множеств. Это очень простой алгоритм и был переоткрыт много раз[1]. Простой случай, когда множествами являются аффинные пространства, проанализировал Джон фон Нейман[2][3]. Случай аффинных пространств является частным, поскольку итерации сходятся не просто к точке в пересечении (в предположении, что пересечение не пустое), а к ортогональной проекции (исходной) точки на пересечение множеств. Для случая общих замкнутых выпуклых множеств предельная точка не обязательно будет проекцией. Классическая работа для случая двух замкнутых выпуклых множеств показывает, что скорость сходимости итераций линейна[4][5]. Имеются расширения, в которых рассматриваются случаи более одного множества, или когда множества не выпуклы[6], или варианты, дающие более быструю сходимость. При анализе POCS и связанных методов пытаются показать, что алгоритм сходится (и если тaк, пытаются найти скорость сходимости), и выяснить, сходится ли метод к проекции исходной точки. Ответы, в основном, известны для простых случаев, но эта область активно исследуется в направлении обобщений. Есть два варианта алгоритма, таких как алгоритм Дикстры[7]. См. ссылки в разделе «Литература для дальнейшего чтения» с обзором вариантов, обобщений и приложений метода POCS. Хорошее изложение истории метода можно найти в разделе III книги Комбета[8].

Алгоритм

Пример двух окружностей

Алгоритм POCS решает следующую задачу:

найти , такой, что

где C и D два замкнутых выпуклых множества.

Чтобы использовать алгоритм POCS, нужно знать, как проецировать в множества C и D по отдельности. Алгоритм начинается с произвольного значения и генерирует последовательность

Простота алгоритма объясняет его популярность. Если пересечение множеств C и D не пусто, то последовательность, порождённая алгоритмом, будет сходиться к некоторой точке в их пересечении.

В отличие от алгоритма проектирования Дикстры, решение не обязательно окажется проекцией в пересечение множеств C и D.

Связанные алгоритмы

Пример варианта усреднённого проецирования

Метод усреднённого проецирования аналогичен. Для случая двух замкнутых выпуклых множеств C и D он работает по формуле

Давно известно, что он сходится глобально[9]. Более того, метод просто обобщить на более чем два множества. Некоторые результаты сходимости для этого случая можно найти в статье Льюиса, Люка и Малика[10].

Метод усреднённого проецирования можно переформулировать как метод поочерёдного проецирования с помощью стандартного приёма. Рассмотрим множество

,

которое определено в произведении пространств . Определим теперь другое множество, также в произведении пространств:

Тогда нахождение эквивалентно нахождению .

Чтобы найти точку в , используем метод поочерёдного проецирования. Проекция вектора в множество F задаётся выражением , следовательно,

Поскольку , в предположении, что , будем иметь для всех , а следовательно, мы можем упростить итерацию до .

Примечания

  1. Bauschke, Borwein, 1996, с. 367–426.
  2. von Neumann, 1949, с. 401–485.
  3. von Neumann, 1950.
  4. Гурин, Поляк, Райк, 1967, с. 1–24.
  5. Bauschke, Borwein, 1993, с. 185–212.
  6. Lewis, Malick, 2008, с. 216–234.
  7. Обратите внимание, Дикстры, а не Дейкстры, это разные люди.
  8. Combettes, 1993, с. 182–208.
  9. Auslender, 1969.
  10. Local convergence for alternating and averaged nonconvex projections. A Lewis, R Luke, J Malick, 2007. arXiv

Литература

  • A. Auslender. Methodes Numeriques pour la Resolution des Problems d’Optimisation avec Constraintes. — Grenoble: Faculte des Sciences, 1969. — (PhD thesis).
  • Bauschke H.H., Borwein J.M. On projection algorithms for solving convex feasibility problems // SIAM Review. — 1996. — Т. 38, вып. 3. — doi:10.1137/S0036144593251710.
  • J. von Neumann. On rings of operators. Reduction theory // Ann. of Math.. — 1949. — Т. 50, вып. 2. — doi:10.2307/1969463. — JSTOR 1969463. (Репринт лекционных заметок, выпущенных в 1933)
  • J. von Neumann. Functional Operators. — Princeton, NJ: Princeton University Press, 1950. — Т. II. Reprint of mimeographed lecture notes first distributed in 1933
  • Л. Г. Гурин, Б. Т. Поляк, Э. В. Райк. Методы проекций для отыскания общей точки выпуклых множеств // Ж. вычисл. матем. и матем. физ.. — 1967. — Т. 7, вып. 6.
  • Bauschke H.H., Borwein J.M. On the convergence of von Neumann's alternating projection algorithm for two sets // Set-Valued Analysis. — 1993. — Т. 1, вып. 2. — doi:10.1007/bf01027691.
  • Lewis A. S., Malick J. Alternating Projections on Manifolds // Mathematics of Operations Research. — 2008. — Т. 33. — doi:10.1287/moor.1070.0291.
  • Combettes P. L. The foundations of set theoretic estimation // Proceedings of the IEEE. — 1993. — Т. 81, вып. 2. — doi:10.1109/5.214546.

Литература для дальнейшего чтения