наріжним каменем всіх статистичних досліджень.
1.2.2 Класичні задачі способу наймених квадратів
У будь-якій задачі по способу найменших квадратів передбачається:
1) вирівнювання, тобто визначення найкращих значень по результатам безпосередніх вимірювань;
2) оцінка точності цих значень.
Перша частина завдання нерозривно пов'язана з другою і в цілому складає загальну завдачу вирівнювальних операцій по способу найменших квадратів.
У класичній теорії і практиці вирівнювання і оцінки точності розрізняють наступні завдання:
а) безпосередні вимірювання однієї величини;
б) посередні вимірювання;
в) безпосередні вимірювання, зв'язані умовами;
г) непрямі вимірювання, зв'язані умовами;
д) умовні вимірювання з додатковими невідомими.
Назвемо для зручності вказану послідовність схемою «а — д». Така схема склалася історично, побудована по методу індукції і незмінно знаходить віддзеркалення в учбовій і допоміжній літературі.
Великий досвід урівнювальних операцій по схемі «а — д» зведений геодезистами в строгі і зразково розташовані алгебраїчні дії, і вся практика обчислень по цій схемі проводиться в класичних формах.
Відповідно схемі «а — д» класичні форми передбачають, по суті, рішення оберненої задачі — завдачі вирівнювання функцій безпосередньо виміряних величин. Тим часом всі випадки по схемі «а — д» природньо розглядати як різновиди прямого завдання — задачі вирівнювання безпосередніх вимірювань способом поправок.
Ідея математичної обробки результатів вимірювань таким способом проста і зрозуміла по суті: якщо вирівняні результати вимірювань, то тим самим будуть вирівняні функції від цих результатів і таким чином задовольняються всі аналітичні вимоги, дотримуються всі геодезичні зв'язки
і визначаються всі необхідні невідомі, найкращі в сенсі теорії Лежандра — Гауса. До такої форми приводить умова Лежандра — Гауса в геометричній інтерпретації. У цій інтерпретації виявляються необхідні і достатні умови рішення будь-якої задачі по класичній схемі в узагальненій формі.
1.2.3 Принцип найменших квадратів
Особливості рішення систем лінійних рівнянь. Помилки вимірів впливають на точність результатів і порушують рівняння, які зв'язують невідомі. З цієї причини при рішенні систем лінійних рівнянь виникають дві проблеми:
1) випадкові помилки результатів вимірювань порушують рівність, в яку вони входять;
2) інформація, задана системою рівнянь, може виявитися недостатньою для визначення всіх невідомих.
Якщо ліві частини рівнянь знаходяться в якому-небудь зв'язку між собою, то праві частини повинні задовольняти певні умови сумісності. Але під впливом помилок вимірювань умови сумісності можуть не виконуватися і, відповідно, в строго математичному сенсі задана система може виявитися несумісною. Несумісність можна усунути, опустивши деякі рівняння як надлишкові. Але тоді може бути, що для визначення невідомих система не матиме достатнього числа рівнянь.
Таким чином, питання недостатньої визначеності і перевизначеності тісно зв'язані між собою і є предметом дослідження.
Спосіб найменших квадратів дає можливість виправити будь-яку перевизначену і несумісну систему рівнянь.
Виразимо перевизначену систему в матричній формі
(1.2.4)
Таку систему характеризує прямокутна матриця А, в якій число рядків більше числа стовпців.
Внаслідок помилок вимірювань рівняння (1.2.4) математично несумісне, тобто не можна зробити всі складові кінцевого вектора
(1.2.5)
рівними нулю.
Але тоді можна знайти рішення, яке при даних обставинах буде найкращим.
З цією метою достатньо квадрат довжини кінцевого вектора
(1.2.6)
підпорядкувати умові
(1.2.7)
і під цією умовою визначити .
Задача приведення до мінімуму виразу (1.2.6) завжди має певне рішення незалежно від того, сумісна або несумісна задана система рівнянь. Якщо ця система сумісна, то значення , знайдене з умови (1.2.7), при підстановці в рівняння (1.2.5) оберне кінцевий вектор в нульовий.
Якщо ж система несумісна, то кінцевий вектор не перейде в нульовий вектор, але знайдене значення буде рішенням з найменшою помилкою в тому сенсі, що квадрат довжини кінцевого вектора буде менший, ніж при будь-якому іншому виборі .
Таким чином, рішення задачі за способом найменших квадратів повністю позбавляє від дослідження сумісності заданої системи рівнянь. Якщо система сумісна, то кінцевий вектор, одержаний за способом найменших квадратів, виявиться нулем, підтверджуючи тим самим, що система сумісна.
Рішення рівняння (1.2.4) способом найменших квадратів зводиться до визначення вектора , при якому скаляр
приймає найменше значення. Визначення екстремальних значень скалярної функції від багатьох змінних приводить до рівняння
Особливість цього рівняння полягає в тому, що воно завжди призводить до цілком визначеної системи такого самого числа рівнянь, скільки є невідомих, незалежно від того, як сильно була перевизначена первинна система (1.2.4).
1.2.4 Задача про перпендикуляр та найкраще наближення
Задача про перпендикуляр. Якщо в унітарному або евклідовому -мірному просторі дані довільний вектор і деякий -мірний підпростір з базисом х то вектор можна представити єдиним способом у формі розкладання
вважаючи, що вектор лежить в підпросторі , вектор перпендикулярний до всіх векторів з підпростору (тут — ортогональна проекція вектора на підпростір , — проектуючий вектор).
Приклад. Якщо — тривимірний простір, а = 2 і всі вектори побудовані від фіксованої точки , то — площина, що проходить через , — ортогональна проекція виміряного вектора на площину ; — відстань від кінця вектора до площини .
З цією завдачею пов'язана наступна.
Завдання про найкраще наближення. Вектор — проекція вектора на підпростір — є рішенням задачі про найкраще наближення.
Дійсно, візьмемо в підпросторі довільний вектор . Тоді маємо
Оскільки вектори
і
взаємно перпендикулярні, то за теоремою Піфагора
Тоді, різниця має найменшу довжину, якщо
Геометричний зміст умови Лежандра або Лежандра – Гаусса. У світлі завдання про перпендикуляр умова Лежандра
(1.2.8)
або умова Лежандра — Гауса
(1.2.9)
яке можна записати і так:
(1.2.10)
рівносильно умові, згідно якої визначається квадрат найкоротшої відстані в -мірному просторі.
Отже, якщо вектори задовільняють відповідно умови(1.2.8), (1.2.9), (1.2.10), то кожний з них являє собою проектуючий вектор або перпендикуляр, опущений на заданий підпростір в .
Умова Лежандра виражається позитивно певною квадратичною формою нормального