Алгоритм Бентли — Оттманна

Возникает проблема с вертикальным отрезком в том смысле как его сравнивать по выше/ниже с пересекающими отрезками. Для этого можно, например, считать, что если точка пересечения вертикального с не вертикальным отрезков находится ниже текущей координаты ${\displaystyle y}$ точки события, то вертикальный отрезок находится выше, если точка пересечения выше текущей координаты ${\displaystyle y}$ точки события, то вертикальный отрезок считается ниже пересекающего его. Если текущая координата ${\displaystyle y}$ равна координате ${\displaystyle y}$ точки события, то при удалении отрезка считать, что вертикальный отрезок ниже, при вставке же считать, что он выше.

В худшем случае, когда, например, все отрезки, пересекаясь между собой, образуют прямоугольную сетку, будет ${\displaystyle O\left(n^{2}\right)}$ точек пересечений, которые надо будет хранить. Чтобы избежать использования квадрата памяти в алгоритме, можно удалять точку пересечения отрезков, которые временно перестают быть соседними при данном положении выметающей прямой. Эти точки все равно будут снова найдены при последующих шагах алгоритма, когда данные отрезки снова станут соседними (Печ, Шерир 1991).

В приведенном ниже псевдокоде используются:

• Q — динамические структура данных без повторений с логарифмическим временем поиска, вставки, удаления точек событий и поиска минимального элемента (например, красно-чёрное дерево, 2-3-дерево).
• T — динамические структура данных без повторений с логарифмическим временем поиска, вставки, удаления отрезков. В ней хранятся все отрезки, пересекающие выметающую прямую (например, красно-чёрное дерево, 2-3-дерево).
• q — точка события.
• newq — только что найденная точка пересечения отрезков, точка события.
• L(q) — множество отрезков, левый конец которых — q (для вертикальных отрезков левым считается нижний конец).
• R(q) — множество отрезков, правым концом которых является q.
• I(q) — множество отрезков, пересекающихся в q.

segmentsIntersections(points[])
    1) Инициализируются Q и T. В Q заносятся все концы отрезков, упорядоченные по координате x, при этом, если две точки совпали,
       то левая конечная точка отрезка помещается перед правой. Если совпали только x, то точка с меньшим y является меньшей.
       T ← ∅
    2) while Q != ∅
           q ← min(Q);
           processPoint(q);

processPoint(q)
    1) Найти в Q все отрезки, содержащие q; // они в Q будут соседними, так как точки события, которые содержатся в этих
       отрезках, имеют одинаковые координаты;
    2) if (|L(q)| + |R(q)| + |I(q)| > 1) ИЛИ (|I(q)| > 0)
           then Выдать в ответ точку q;
    3) if (|I(q)| = 0) И (|L(q)|+|R(q)| > 0) // в рассматриваемой точке все отрезки только начинаются или заканчиваются;
           then I(q) ← I(q) ∪ L(q) ∪ R(q); // добавить в I(q) L(q) и R(q)
    4) Удалить из T R(q) и I(q);
    5) Вставить в T I(q) и L(q);
    // из T были удалены все отрезки из множества I(q), теперь же вставляются обратно в измененном порядке после точки пересечения;
    6) if (L(q)∪I(q) = ∅) ИЛИ (|I(q)| = |R(q)| - 1)
           then Найти в T верхнего и нижнего соседей q su и sl;
                newq = findIntersect(su, sl);
                if newq != NULL
                    then add(Q, newq);
    7) else
           Пусть s′ — самый верхний отрезок из L(q)∪I(q);
           Пусть su — верхний сосед s′ в T;
           Пусть s′′ — самый нижний отрезок из L(q)∪ I(q);
           Пусть sl — нижний сосед s′′ в T;
           newq = findIntersect(su, s′);
           if newq != NULL
               then add(Q, newq);
           newq = findIntersect(sl, s′′);
           if newq != NULL
               then add(Q, newq);
           // далее убираем квадрат памяти;
           newq = findIntersect(sl, su);
           if newq != NULL
               then delete(Q, newq);
           newq = findIntersect(s′′, su);
           if newq != NULL
               then delete(Q, newq);
           newq = findIntersect(sl, s′);
           if newq != NULL
               then delete(Q, newq);

findIntersect(sl, su)
    if sl и su пересекаются правее заметающей прямой (или на заметающей прямой выше текущей точки события)
        then return newq;
    else return NULL;

Пусть ${\displaystyle n}$ — число отрезков, ${\displaystyle m\left(q\right)}$ — число отрезков, пересекающих точку ${\displaystyle q}$. Тогда время на инициализацию Q равно ${\displaystyle O\left(n\log n\right)}$, на инициализацию T — ${\displaystyle O\left(1\right)}$. На поиск всех отрезков, проходящих через точку ${\displaystyle q}$ и обновление Q, требуется ${\displaystyle O\left(m\left(q\right)\log n\right)}$ времени. На обновление T также ${\displaystyle O\left(m\left(q\right)\log n\right)}$ времени. Суммарно: ${\displaystyle O\left(n\log n+\sum m\left(q\right)\log n\right)=O\left(n\log n+\log n\sum m\left(q\right)\right)=O\left(\left(n+k\right)\log n\right)}$, где ${\displaystyle k}$ — число точек пересечения ${\displaystyle \left(\sum m\left(q\right)=O\left(n+k\right)\right)}$. ${\displaystyle k=O\left(n^{2}\right)}$.

Память ${\displaystyle O\left(n\right)}$, благодаря тому, что удаляются точки пересечения отрезков, которые перестали быть соседними, иначе было бы ${\displaystyle O\left(n+k\right)}$, где ${\displaystyle k=O\left(n^{2}\right)}$.

• Берг М., Чеонг О., Кревельд М., Овермарс М. Вычислительная геометрия. Алгоритмы и приложения = Computational Geometry: Algorithms and Applications. — М.: ДМК-Пресс, 2016. — 438 с. — ISBN 978-5-97060-406-9.
• Mark de Berg, Marc van Kreveld, Mark Overmars, Otfried Schwarzkopf. Computational Geometry: Algorithms and Applications. — Springer, 2000. — 368 с.
• Прапарата Ф., Шеймос М. Вычислительная геометрия: Введение = Computational Geometry An introduction. — М.: Мир, 1989. — 478 с.
• Ласло М. Вычислительная геометрия и компьютерная графика на C++. — М.: БИНОМ, 1997. — 304 с.
• Т. Кормен, Ч. Лейзерсон, Р. Ривест, К. Штайн. Алгоритмы. Построение и анализ = Introduction to Algorithms. — 2-e изд. — “Вильямс”, 2005. — 1296 с.

• Визуализатор — частный случай (алгоритм Шеймоса — Гоя, 1976 (определение наличия пересекающихся отрезков)).