МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ

Томский государственный университет

Физический факультет

 

УТВЕРЖДАЮ:

Декан физического факультета

 

_________________ В.М. Кузнецов

 

"_____"__________________2011 г.

 

 

 

Рабочая программа дисциплины

 

Методы определения параметров математических
моделей по данным измерений

 

 

 

Направление подготовки

230400 – «Информационные системы и технологии»

 

Наименование магистерской программы

Информационные системы и технологии в геодезии и картографии

 

 

 

 

 

Квалификация (степень) выпускника

Магистр

 

Форма обучения

Очная

 

 

 

 

 

 

Статус дисциплины:

Профессиональный цикл

 

Томск-2011 г.


1. Цели освоения дисциплины

 

Целью курса «Методы определения параметров математических моделей по данным измерений» является формирование у студентов современных представлений о задачах определения параметров математических моделей по данным измерений и основных методах их решения в разных областях естествознания, включая геодезию.

 

Задачами курса являются:

n изучение классификации ошибок измерений и основных вероятностных характеристик оценок параметров моделей;

n приобретение навыков построения целевой функции в линейных и нелинейных задачах оценивания параметров моделей и основных алгоритмов их решения;

n изучение особенностей и свойств итерационных методов Гаусса-Ньютона, Ньютона, градиентного спуска, Левенберга-Марквардта, продолжения по параметру и их модификаций в задачах наименьших квадратов (НК), а также метода вариационно-взвешенных квадратических приближений в задаче наименьших модулей;

n формирование представлений о классификации задач оценивания по степени нелинейности и методах оценок точности решений, включая определение вероятностных областей возможных решений;

n приобретение навыков статистического моделирования задач.

Изучение данного курса включает также в себя решение несложных практических задач, что должно сформировать навыки решения задач оценивания.

 

2. Место дисциплины в структуре ООП магистратуры

 

Дисциплина относится к профессиональному циклу. К моменту изучения курса «Методы определения параметров математических моделей по данным измерений» магистранты должны изучить основы математических дисциплин, включая линейную алгебру, математический анализ, теорию вероятностей и математическую статистику, а также численные методы, информатику и языки программирования.

 

3. Компетенции обучающегося, формируемые в результате освоения дисциплины

 

В результате освоения дисциплины обучающийся должен обладать компетенциями:

а) общекультурными (ОК):

 

 

4. Структура и содержание дисциплины

Общая трудоёмкость дисциплины составляет 3 зачётные единицы, 108 часов.

 

№

п/п

 

 

Раздел

дисциплины

Семестр

Неделя семестра

Виды учебной работы, включая самостоятельную работу студентов и трудоемкость (в часах)

Формы текущего контроля (по неделям семестра) Форма промежуточной аттестации (по семестрам)

Лекции

Практич. аанятия

Сам. работа с препод.

Индивид. самост. раб.

 

Модуль 1

 

 

 

 

 

 

 
  1.  

Основные понятия. Общие представления об измерениях и их ошибках. Классификация ошибок измерений.

1

1

2

 

 

 

Устный опрос. Обсуждение.
  1.  

Элементы линейной алгебры/

1

1

2

 

 

 

Устный опрос.
  1.  

Элементы математической статистики.

1

2

2

2

 

2

Письменная проверочная работа.
  1.  

Оценки и их классификация. Метод максимального правдоподобия.

1

3

2

 

 

2

Устный опрос. Обсуждение.
  1.  

Методы безусловной минимизации целевых функций. Алгоритмы прямого поиска.

 

3

2

 

2

 

Устный опрос. Обсуждение.
  1.  

Методы безусловной минимизации целевых функций. Итерационные алгоритмы.

1

4

2

2

2

 

Письменная проверочная работа.

 

Модуль 2

 

 

 

 

 

 

 
  1.  

Линейная задача наименьших квадратов (НК) и ее вероятностное обоснование. Системы условных и нормальных уравнений

1

5

2

 

 

2

Устный опрос. Обсуждение.
  1.  

Линейная задача НК. Примеры из различных областей естествознания.

1

5

2

 

2

 

Устный опрос. Обсуждение.
  1.  

Ковариационная матрица ошибок НК-оценок. Методы определения точности оценок.

1

6

2

 

 

 

Обсуждение.
  1.  

Виды доверительных областей и их обоснование.

1

7

2

 

 

2

Устный опрос. Обсуждение.
  1.  

Доверительные эллипсоиды и методы их построения.

1

7

 

2

 

2

Письменная проверочная работа.
  1.  

Методы отбраковки измерений.

1

8

2

 

 

 

Обсуждение.
  1.  

Весовые матрицы и способы их построения в задачах оценивания. Теоретические и практические аспекты. Примеры.

1

8

2

 

 

2

Доклады студентов.

 

Модуль 3

 

 

 

 

 

 

 
  1.  

Нелинейная задача наименьших квадратов (НК). Системы нормальных уравнений.

1

9

2

 

 

 

Устный опрос. Обсуждение.
  1.  

Нелинейная задача НК. Примеры из различных областей естествознания.

1

9

 

2

 

2

Письменная проверочная работа.
  1.  

Методы Ньютона и Гаусса-Ньютона, их свойства.

1

10

2

2

 

2

Письменная проверочная работа.
  1.  

Методы градиентного спуска и Левенберга-Марквардта.

1

11

2

 

 

 

Устный опрос. Обсуждение.
  1.  

Методы продолжения по параметру и их модификации.

1

11

2

 

2

 

Устный опрос. Обсуждение.
  1.  

Теоретические и практические аспекты применения итерационных и прямых методов в задачах НК.

1

12

2

2

 

2

Письменная проверочная работа.
  1.  

Методы вычисления частных производных от измеряемых параметров по определяемым параметрам в задачах оценивания. Примеры.

1

13

2

 

2

 

Доклады студентов.
  1.  

Критерии применимости в нелинейных задачах НК матрицы ковариации ошибок определяемых параметров.

1

13

2

 

2

 

Устный опрос. Обсуждение.
  1.  

Классификация нелинейных задач оценивания. Методы построения доверительных областей в нелинейной постановке.

1

14

2

 

 

2

Устный опрос. Обсуждение.

 

Модуль 4

 

 

 

 

 

 

 
  1.  

Нелинейная задача наименьших модулей и ее обоснование.

1

14

2

 

 

 

Обсуждение.
  1.  

Метод вариационно-взвешенных квадратических приближений в задаче наименьших модулей.

1

15

2

 

 

2

Доклады студентов.

 

Модуль 5

 

 

 

 

 

 

 
  1.  

Рекуррентные алгоритмы оценивания параметров моделей.

1

15

2

 

2

2

Доклады студентов.
  1.  

Краткий обзор общих методов устойчивого оценивания.

1

16

2

 

 

 

Обсуждение.
  1.  

Минимаксный подход Хубера определения устойчивых оценок.

1

16

2

 

 

 

Обсуждение.

 

Промежуточная аттестация

1

 

2

 

 

2

Косультация-диалог.

 

Итоговая аттестация

1

 

2

 

 

2

Экзамен

 

Всего часов

 

 

54

12

14

28

 

 

 

5. Образовательные технологии 

 

В соответствии с требованиями ФГОС ВПО по направлению подготовки «Информационные системы и технологии» реализуется компетентностный подход, который предусматривает широкое использование в учебном процессе активных и интерактивных форм проведения лекций в сочетании с внеаудиторной работой с целью формирования и развития профессиональных навыков обучающихся.

 

 

 

 

 

 

6. Оценочные средства для текущего контроля успеваемости, промежуточной аттестации по итогам освоения дисциплины и учебно-методическое обеспечение самостоятельной работы студентов

 

Примерный перечень контрольных вопросов к лекциям

 

Контрольные вопросы к модулю 1

 

  1. В чем отличие «личной» ошибки измерений от «инструментальной» ошибки измерений?
  2. Определение понятия «внешняя» ошибка, «методическая» ошибка и ошибка «модели». В чем их отличие?
  3. Определение понятия «систематическая», «случайная» и «грубая» ошибка измерений.
  4. Существует ли четкое разделение между систематическими и случайными ошибками?
  5. В каких случаях можно делать предположение о нормальном распределении случайных ошибок?
  6. Какую матрицу называют диагональной, единичной, симметрической, нулевой и транспонированной по отношению к данной матрице?
  7. Сформулируйте необходимое и достаточное условия существования у квадратной матрицы обратной матрицы.
  8. Определение понятия собственные значения и собственные вектора матрицы.
  9. Сингулярное разложение матрицы. Перечислите применения сингулярного разложения матриц в прикладных задачах.
  10. Приведите для вещественных чисел аналог операции обращения матриц. Какие способы обращения матриц вы знаете?
  11. Определение понятия математическое ожидание, дисперсия и ковариация. В чем отличие матриц ковариаций от корреляционных матриц?
  12.  Какие оценки называют несмещенными, состоятельными и эффективными? Имеют ли эти свойства оценки, которые находятся из решения реальных задач?
  13. Что нужно знать для нахождения оценок по методу максимального правдоподобия?
  14. К какой задаче сводится метод максимального правдоподобия при нормальном распределении ошибок измерений?
  15. В чем отличие методов прямого поиска и итерационных методов решения задач минимизаций целевой функции?
  16. Достоинства и недостатки симплексного метода и метода Гаусса-Ньютона.

 

Контрольные вопросы к модулю 2

 

  1. Какие математические модели лежат в основе линейной задачи НК?
    2. 
  2. Влияет ли наличие систематических ошибок на точность НК-оценок и достоверность оценок точности, определяемых на основе ковариационных матриц?
  3. Какой вид доверительных областей имеет наименьшие размеры?
  4. Определите вершины доверительного эллипсоида, если известно сингулярное разложение матрицы ковариации оценок.
  5. Какие способы построения доверительных эллипсоидов вы знаете?
  6. Что можно сказать о точности оценок и доверительных эллипсоидах, если они получены при одинаковой точности измерений, но в одном случае ошибки измерений распределены по нормальному закону, в другом по иному закону?
  7. Каким образом можно сравнивать объемы доверительных эллипсоидов?
  8. Что показывают собственные значения и числа обусловленности матриц нормальных уравнений и матриц ковариаций?
  9. Обязательно ли использование весовых множителей в задачах, в которых измеряемые параметры разной размерности (разного вида)?
  10. Обязательно ли знание приближенного решения в линейной задаче НК?
  11. Что представляют собой уровенные поверхности целевой функции в линейной задаче НК?

 

Контрольные вопросы к модулю 3

 

  1. Какие математические модели лежат в основе нелинейной задачи НК?
  2. Какие делаются допущения в трактовке нелинейной задачи НК?
  3. Является ли в математической статистике строго обоснованной теория нелинейного оценивания?
  4. Какую матрицу называют матрицей Гессе? Какой должна быть матрица Гессе, чтобы задача НК была корректной?
  5. Какие основные методы решения нелинейных задач НК вы знаете? Достоинства и недостатки методов. Какой метод является основным и почему?
  6. Какие уравнения в нелинейной задаче НК называются нормальными уравнениями?
  7. Какие существуют способы вычисления матриц частных производных от измеряемых параметров по определяемым параметрам? Особенности определения частных производных способом конечных разностей. Какой способ является универсальным?
  8. Достоинства и недостатки метода градиентного спуска и метода Левенберга-Марквардта.
  9. Перечислите основные методы продолжения по параметру. Что представляют собой алгоритмы приближений Эйлера?
  10. На чем основаны способы определения доверительных областей в нелинейной задаче НК?
  11. Классификация нелинейных задач. Мера (показатель) нелинейности. Критерии применимости в нелинейных задачах НК матриц ковариаций.
  12. Можно ли в общем случае путем параметрических преобразований перевести нелинейную задачу НК в класс линейных задач? Приведите примеры, когда такие преобразования возможны.
  13. Какой метод решения задач НК в математической статике называется в классической и космической геодезии параметрическим способом, а в астрономии методом дифференциальных поправок?
  14. Достоинства и недостатки представления доверительных областей по граничным поверхностям.
  15. Может ли быть в нелинейных задачах эллипсоидальная поверхность уровенной?

 

Контрольные вопросы  к модулю 4

 

  1. Сформулируйте задачу наименьших модулей (НМ). При каком распределении ошибок измерений НМ-оценки определяемых параметров являются наилучшими?
  2. Алгоритм какого метода решения задачи НК лежит в основе метода вариационно-взвешенных квадратических приближений?
  3. Определяется ли в задачах НМ ковариационная матрица ошибок НМ-оценок?
  4. Являются ли НМ-оценки менее чувствительными к грубым ошибкам измерений, чем НК-оценки?
  5. Какими методами решается задача НМ, и какой метод является более простым?

 

Контрольные вопросы  к модулю 5

 

  1. Какие виды рекуррентных алгоритмов вы знаете и их особенности?
  2. Как обрабатывается измерительная информация в рекуррентном алгоритме при нахождении оценок определяемых параметров?
  3. Можно ли классический алгоритм метода Гаусса-Ньютона путем алгебраических преобразований представить в виде рекуррентного алгоритма?
  4. Достоинства и недостатки рекуррентных алгоритмов по сравнению с обычными алгоритмами.
  5. Какие свойства должны иметь устойчивые оценки? Какое свойство является важнейшим?
  6. Можно ли считать устойчивые оценки эффективными?
  7. Какое математическое положение лежит в основе способов устойчивого оценивания?
  8. Как влияет на точность определяемых оценок отклонение  реального распределения ошибок измерений от предполагаемого распределения?
  9. Являются ли оценки в способе Хубера более точными по сравнению с НК-оценками при распределении ошибок измерений по нормальному закону?

 

Методические рекомендации студентам по самостоятельной работе

 

Вопросы, вынесенные на самостоятельное изучение по курсу «Методы определения параметров математических моделей по данным измерений»

 

  1. Роль математической модели при обработке измерений.
  2. Методы обращения матриц.
  3. Обоснование предположений о законах распределения ошибок измерений.
  4. Точность оценки и неравенство информации.
  5. Распределения многомерных непрерывных случайных величин.
  6. Линейные преобразования случайных векторов.
  7. Многомерное нормальное распределение.
  8. Распределения Стьюдента,  и Фишера – Снедекора.
  9.  Интервальное оценивание.
  10. Метод максимума апостериорной вероятности.
  11. Метод неопределенных множителей Лагранжа, его обоснование.
  12. Обоснование сходимости итераций метода вариационно-взвешенных квадратических приближений.

 

Перечень вопросов, выносимых на зачет 

 

Перечень выносимых на зачет вопросов по модулю 1

 

  1. Предмет и основные задачи теории оценивания.
    2. 
  2. Классификация ошибок измерений и их значение в задачах оценивания.
  3. Основные вероятностные характеристики оценок.
  4. Обратные матрицы. Методы обращения матриц. Сингулярное разложение матриц.
  5. Обращение Мура-Пенроуза. Основные свойства псевдообращений.
  6. Методы минимизации целевых функций.
  7. Метод максимального правдоподобия.

 

Перечень выносимых на зачет вопросов по модулю 2

 

  1. Линейная задача наименьших квадратов. Теорема Гаусса-Маркова.
  2. Условные и нормальные уравнения в задаче наименьших квадратов. Вычислительные схемы решения линейной задачи НК.
  3. Оценки точности решений линейных задач НК.
  4. Доверительные области в теории линейного регрессионного анализа.
  5. Алгоритмы метода Монте-Карло построения доверительных эллипсоидов.
  6. Весовые матрицы и способы их задания.
  7. Методы отбраковки измерений.

 

 

Перечень выносимых на зачет вопросов по модулю 3

 

  1. Нелинейная задача наименьших квадратов. Матрица Гессе. Особенности уровенной поверхности целевой функции.
  2. Основные методы решения нелинейной задачи НК и их особенности.
  3. Метод Гаусса-Ньютона, его свойства. Теоремы сходимости итераций метода Гаусса-Ньютона.
  4. Модификации метода Гаусса-Ньютона.
  5. Метод градиентного спуска, его модификации. Достоинства и недостатки метода.
  6. Метод Левенберга-Марквардта. Достоинства и недостатки метода.
  7. Метод продолжения по параметру, его модификации.
  8. Методы вычисления частных производных от измеряемых параметров по определяемым параметрам.
  9. Прямые методы решения нелинейной задачи НК. Симплексный метод.
  10. Доверительные области в теории нелинейного регрессионного анализа.
  11. Мера (показатель) нелинейности задачи определения доверительных областей. Точный метод и приближенные методы вычисления показателя нелинейности. Классификация нелинейных задач.
  12. Методы определения доверительных областей в нелинейной задаче НК.
  13. Методы построения вероятностных распределений возможных значений определяемых параметров.

 

Перечень выносимых на зачет вопросов по модулю 4

 

  1. Задача наименьших модулей и ее вероятностное обоснование.
  2.  Метод вариационно-взвешенных квадратических приближений.
  3. Задачи наименьших модулей и наименьших квадратов, особенности их решения.

 

Перечень выносимых на зачет вопросов по модулю 5

 

  1.  Виды рекуррентных алгоритмов оценивания параметров, их особенности.
  2. Алгоритм динамической фильтрации, его особенности.
  3. Преобразование алгоритма Гаусса-Ньютона в задаче НК в виде рекуррентного алгоритма.
  4. Методы устойчивого оценивания. Достоинство и недостатки методов.
  5. Способ оценивания Хубера, его достоинства и недостатки.

 

Глоссарий

 

 

7. Учебно-методическое и информационное обеспечение дисциплины

 

Основная литература

 

  1. Мудров В.И., Кушко В.Л. Методы обработки измерений: Квазиправдоподобные оценки.М.: Радио и связь, 1983. 304 с.
  2. Эльясберг П.Е. Определение орбит. М.: Наука, 1977. 416 с.
    1. Худсон Д. Статистика для физиков. М.: Мир, 1970. 296 с.
    2. Аттетков А.В., Галкин С.В., Зарубин В.С. Методы оптимизации. М.: Изд-во МГТУ, 2001. 440 с.
    3. Гантмахер Ф.Р. Теория матриц. М.: Наука, 1966. 576 с.
      1. Авдюшев В.А. Численное моделирование орбит. Томск: Изд-во НТЛ, 2010. 284 с.
      2. Дрейпер Н., Смит Г. Прикладной регрессионный анализ: В 2-х кн. М.: Финансы и статистика, 1986. Кн. 1. 366с.

 

Дополнительная литература

 

  1. Бард Й. Нелинейное оценивание параметров. М.: Статистика, 1979. 349 с.
  2. Жданюк Б Ф. Основы статистической обработки траекторных измерений. М.: Сов. радио, 1978. 384 с.
  3. Андронов А.М., Копытов Е.А., Гринглаз Л.Я. Теория вероятностей и математическая статистика: Учебник для вузов. СПб.: Питер, 2004. 461 с.
  4. Воеводин В.В. Энциклопедия линейной алгебры. Электронная система ЛИНЕАЛ. СПб.: БХВ-Петербург, 2006. 544 с.
  5. Уоткинс Д.С. Основы матричных вычислений. М.: БИНОМ. Лаборатория знаний, 2006. 644 с.
  6. Форсайт Дж., Малькольм М., Моулер К. Машинные методы математических вычислений. М.: Мир, 1980. 280 с.
  7. Кемниц Ю.В. Теория ошибок измерений. М.: Недра, 1970. 188 с.
  8. Линник Ю.В. Метод наименьших квадратов и основы теории обработки наблюдений. М.:Физматгиз, 1962. 352 с.

 

 

8. Материально-техническое обеспечение дисциплины

 

Все виды материально-информационной базы Научной библиотеки ТГУ. Мультимедийное оборудование физического факультета ТГУ. Сеть Интернет.  

 

Программа составлена в соответствии с требованиями ФГОС ВПО с учетом рекомендаций и ПрООП ВПО по направлению и профилю подготовки 230400 Информационные системы и технологии.

 

Автор:                              профессор Черницов Александр Михайлович

 

Рецензент (ы): _________________________

 

Программа одобрена на заседании методической комиссии физического факультета ТГУ от ___________ года, протокол № ________.