(см. § 2, гл. 1). Пусть для определенности Rea<0. Тогда ростки множеств 5 и - это ростки многообразий размерности dimlF»+2 и dim IF" соответственно; сумма этих размерностей равна п.

Замечание. В классе векторных полей, имеющих особую точку с парой чисто мнимых собственных значений, поля общего положения не имеют гомоклинической траектории особой точки.

1.3. Негиперболические циклы. Исследуем гомоклинические траектории негиперболических циклов. В однопараметрических семействах общего положения могут встречаться негиперболические циклы, имеющие один мультипликатор 1 или -1 или пару невещественных мультипликаторов е*". Если остальные мультипликаторы лежат внутри (вне) единичной окружности, то будем говорить, что такой цикл - типа устойчивый (неустойчивый) узел по гиперболическим переменным. В противном случае цикл - типа седло по гиперболическим переменным. Аналогичные определения даются для неподвижной или периодической точки диффеоморфизма. Опишем устойчивые и неустойчивые множества негиперболических циклов, предполагая, что выполнены требования общности положения из § 1 главы 2.

Пример 1. Для векторного поля на R", имеющего цикл L с мультипликатором -1-1, неподвижная точка преобразования монодромии трансверсали D в окрестности L обладает одномерным центральным многообразием, и ростки множеств SlCiD,

Sif]D в неподвижной точке такие же, как ростки So, So векторного поля на R" в особой точке с одномерным центральным многообразием (см. пример 1, п. 1.2). Росток же множества .51(5") на L диффеоморфен ростку на окружности {0}х5 прямого или косого произведения s-мерного (и-мерного) полупространства с нулем на границе на окружность 5. Здесь s = dimU71, u = (iimWi. В частности, если L-устойчивый узел по гиперболическим переменным, то росток 5" на L диффеоморфен ростку на {0}х5 произведения луча с вершиной нуль на окружность 51.

Замечание. Так как dim5i + dim52 = «+2, то наличие гомоклинической траектории и даже однопараметрического семейства таких траекторий в классе векторных полей с негиперболическим циклом, имеющим мультипликатор +1. - явление общего положения.

Пример 2. Рассмотрим векторное поле на R", имеющее цикл с мультипликатором (-1). Неподвижная точка преобразования монодромии трансверсали, соответствующая циклу, обладает одномерным центральным многообразием, на котором преобразование монодромии может быть записано в виде: x--x+ax+bx-l- Квадрат этого преобразования записы-

вается как: х >-*x-2{a-]-b)x-{-..., откуда ясно, что при a-f --b>0 (<0) неподвижная точка на центральном многообразии устойчива (неустойчива). Это же верно и для цикла. Поэтому так как «-fs = n, s=dinilF% u = dimlF", то при a + b>0, dimS«=s-f 1, dimS" = u, a при a-{-b<:0, dimS« = s, dimS« = u--l. Следовательно, наличие изолированной гомоклинической траектории в классе векторных полей с таким циклом - явление общего положения при s2, и2.

Пример 3. Предположим, что векторное поле на R" имеет цикл с парой невещественных мультипликаторов е±",

Ф€ ~ . Преобразование монодромни имеет двумерное центральное многообразие, на котором (в координатах х-р/у = z) оно может быть записано, в виде z>-vz-\-az\ zp-f..., v=e. Отсюда несложно вывести, что при Rea<0 (>0) неподвижная точка этого преобразования устойчива (неустойчива) на центральном многообразии. Это же справедливо и для цикла. Нетрудно убедиться, что u+s = n-1, где u = йimW, s = u\mW\ поэтому при Rea<0, dimS=s + 2, dimS" = u, а при Rea>0, dini5 = s, dimS" = u + 2. Так как dim S-hdim S"=n--1, то наличие изолированной гомоклинической траектории в классе векторных полей с таким циклом - явление общего положения.

Лемма (В. С. Афраймович, 1985). Если векторное поле, удовлетворяющее требованиям, наложенным в примере 2 или 3, имеет гомоклиническую траекторию цикла, по которой трансверсально пересекаются множества S" и то все векторные поля из некоторой окрестности поля в пространстве xiM) имеют бесконечное множество неблуждающих траекторий и, следовательно, поле не принадлежит границе множества векторных полей Морса-Смейла.

Поскольку в этой, статье рассматриваются лишь бифуркации в окрестности границы множества систем Морса-Смейла, то всюду ниже гомоклинические траектории негиперболического цикла рассматриваются только в том случае, когда один из мультипликаторов цикла равен 1.

1.4. Нетрансверсальные пересечения многообразий.

Определение. Два гладких подмногообразия А и В п-мерного многообразия имеют простое касание в точке Р, если сумма их размерностей не меньше п и, кроме того,

1) Прямая сумма касательных плоскостей в точке Р к подмногообразиям (п-1)-мерна: dim (ТрЛ + ТрВ) =п-1.

2) Если / - гладкая функция с некритической точкой Р, равная нулю на Л и имеющая критическую точку Р на В, то второй дифференциал (гессиан) ограничения / на 5 в точке Р - квадратичная форма на ТрВ. Требуется, чтобы ограничение этой формы на TpAfiTpB было невырождено.

Замечание. Простота касания не зависит ни от выбора функции, ни от того, на каком из двух многообразий она обращается в нуль.

Определение. Два гладких подмногообразия А и В п-мерного многообразия Ж" имеют квазитрансверсальное пересечение в точке Р, если A.\mA-\-d\mB-n-1, и существуют окрестность U точки Р и (п-1)-мерное гладкое подмногообразие М~ многообразия такие, что многообразия A[\U и B{\U принадлежат .М"- и как подмногообразия Ж"~ трансверсально пересекаются в точке Р.

Лемма ([180]). Два гладких подмногообразия Л и В «-мер ного многообразия AI имеют простое касание в точке Р, если и только если существует система координат {{xi, ..., х„)} в некоторой окрестности U точки Р такая, что пересечения Л П и 5 П задаются уравнениями

Af]l={Xk = 0, a-rl<k<n}; BU= Xk = Q, 1<Л<«-(6-fl), д:„= 2 ej=±ll

Здесь a = 6.imA, b = dimB; если n=b-{-\, то линейные уравнения во второй системе отсутствуют; jc(P)=0.

Определение. Два инвариантных многообразия векторного поля имеют траекторию простого касания (квазитрансвер-сального пересечения), если они пересекаются по неодноточечной фазовой кривой, и в какой-либо (а следовательно, и в каждой) точке этой кривой их пересечения с трансверсалью к полю имеют простое касание (квазитрансверсальное пересечение).

1.5. Контуры. Нелокальные бифуркации, связанные с простыми касаниями и квазитрансверсальными пересечениями, разбиваются на два класса с существенно различными свойствами, в зависимости от существования (или несуществования) так называемых контуров.

Определение. Последовательность Qo,---,Qk. где каждое Qi -либо положение равновесия, либо предельный цикл, k>2, Qo= Qk, образует контур), если Sq. П Sq. ф 0, /6(0; ...; А - 1}.

Теорема ([198]). Если все Qi гиперболичны и все пересечения трансверсальны, то векторное поле (и все близкие поля) имеет счетное множество предельных циклов. А

Поэтому для векторного поля общего положения, имеющего контур и лежащего на границе множества векторных полей Морса-Смейла, либо:

1) все Qi гиперболичны и существует траектория простого касания (либо квазитрансверсального пересечения), либо

В литературе употребляется также термин «цикл* и не всегда предполагается, что fe>2.