Учебное пособие по курсу «Нейроинформатика» | страница 34
таких, что (a>i,a²>j)=0 при всех i<j и (a¹>i,a²>i)=0, a²>i≠0 при всех i, тогда все вектора множества {a>i} линейно независимы.
Доказательство. Известно, что процедура ортогонализации Грама приводит к построению ортонормированного множества векторов, а все вектора линейно зависящие от предыдущих векторов последовательности обращаются в нулевые. Проведем процедуру ортогонализации для заданной последовательности векторов.
1. b>1=a>1/||a>1||
2. b>2=(a>2-(a>2,b>2))/||a>2-(a>2,b>1)b>1||. Причем a>2-(a>2,b>1)b>1 ≠ 0, так как (a>1, a²>2)=0, (a¹>2-((a>2,b>1)b>1,a²>2)=0 и a²>2≠0.
…
j.
Причем
и a²>j≠0.
…
Доказательство теоремы. Произведем линейное преобразование векторов множества x с матрицей
Легко заметить, что при этом преобразовании все единичные координаты переходят в единичные, а координаты со значением –1 в нулевые. Таким образом
По пятому свойству заключаем, что число линейно независимых векторов в множествах X и Y совпадает. Пусть 1≤m≤k. Докажем, что y>I>⊗k при |I|=m содержит компоненту, ортогональную всем y>J>⊗k, |J|≤m, J≠I.
Из предложения 1 имеем
Представим (17) в виде двух слагаемых:
Обозначим первую сумму в (18) через y>I0>⊗k. Докажем, что y>I0>⊗k ортогонален ко всем y>J>⊗k, |J|≤m, J≠I, и второй сумме в (18). Так как I≠J, I⊄J, существует q∈I, q∉J.
Из свойств сюръективного мультииндекса следует, что все слагаемые, входящие в y>I0>⊗k содержат в качестве тензорного сомножителя e>q, не входящий ни в одно тензорное произведение, составляющие в сумме y>J>⊗k. Из свойства 2 получаем, что (y>J>⊗k, y>I0>⊗k) = 0. Аналогично, из того, что в каждом слагаемом второй суммы L≠I, I⊄L следует ортогональность y>I0>⊗k каждому слагаемому второй суммы в (18) и, следовательно, всей сумме.
Таким образом y>I>⊗k содержит компоненту y>I0>⊗k ортогональную ко всем y>J>⊗k, |J|≤m, J≠I и (y>J>⊗k-y>I0>⊗k). Множество тензоров Y>k={y>I>⊗k, |I|≤k} удовлетворяет условиям леммы, и следовательно все тензоры в Y>k линейно независимы. Таким образом, число линейно независимых тензоров в множестве не меньше чем
Для того, чтобы показать, что число линейно независимых тензоров в множестве {x>⊗k} не превосходит этой величины достаточно показать, что добавление любого тензора из Y к Y>k приводит к появлению линейной зависимости. Покажем, что любой y>I>⊗k при |I|>k может быть представлен в виде линейной комбинации тензоров из Y>k. Ранее было показано, что любой тензор y>I>⊗k может быть представлен в виде (17). Разобьем (17) на три суммы: