Реферат: Классический метод наименьших квадратов

по дисциплине Эконометрика

на тему

Классический метод наименьшихквадратов

Студента 3 курса 681 группы

Бахтеевой Татьяны Михайловны

2010

Метод наименьшихквадратов (МНК) – один из наиболее широко используемых методов при решениимногих задач восстановления регрессионных зависимостей[1].Впервые МНК был использован Лежандром в 1806 г. для решения задач небесноймеханики на основе экспериментальных данных астрономических наблюдений. В 1809г. Гаусс изложил статистическую интерпретацию МНК и тем самым дал началоширокого применения статистических методов при решении задач восстановлениярегрессионных зависимостей. Строгое математическое обоснование и установлениеграниц содержательной применимости метода наименьших квадратов даны А.А.Марковым и А.Н. Колмогоровым. Ныне способ представляет собой один из важнейшихразделов математической статистики и широко используется для статистическихвыводов в различных областях науки и техники.

Приведу краткое описаниеданного метода. Метод наименьших квадратов — один из методов регрессионногоанализа для оценки неизвестных величин по результатам измерений, содержащихслучайные ошибки. Применяется также для приближённого представления заданнойфункции другими (более простыми) функциями и часто оказывается полезным при обработкенаблюдений. В настоящее время широко применяется при обработке количественныхрезультатов естественнонаучных опытов, технических данных, астрономических игеодезических наблюдений и измерений.

Можновыделить следующие достоинства метода:

а)расчеты сводятся к механической процедуре нахождения коэффициентов;

б)доступность полученных математических выводов.

Основнымнедостатком МНК является чувствительность оценок к резким выбросам, которыевстречаются в исходных данных.

Рассмотрюприменение классического метода наименьших квадратов для нахождения неизвестныхпараметров уравнения регрессии на примере модели линейной парной регрессии.Пусть подобрана эмпирическая линия, по виду которой можно судить о том, чтосвязь между независимой переменной и зависимой переменной линейна и описываетсяравенством:

/>(1)

Необходимонайти такие значения параметров /> и />, которые бы доставляли минимум функции (1), т. е.минимизировали бы сумму квадратов отклонений наблюдаемых значенийрезультативного признака /> от теоретических значений /> (значений, рассчитанных на основанииуравнения регрессии):

/>(2)

Приминимизации функции (1) неизвестными являются значения коэффициентов регрессии /> и /> Значения зависимой и независимой переменных известныиз наблюдений.

Длятого чтобы найти минимум функции двух переменных, нужно вычислить частныепроизводные этой функции по каждой из оцениваемых параметров и приравнять их кнулю. В результате получаем стационарную систему уравнений для функции (2):

/>

регрессивный оценкаобработка результат

Еслиразделить обе части каждого уравнения системы на (-2), раскрыть скобки ипривести подобные члены, то получим систему:

/>

Этасистема нормальных уравнений относительно коэффициентов />и />для зависимости

/>

Решениемсистемы нормальных уравнений являются оценки неизвестных параметров уравнениярегрессии /> и />:

/>

/>

Где /> - среднее значение зависимогопризнака;

/> — среднее значение независимогопризнака;

/> — среднее арифметическое значение произведениязависимого и независимого признаков;

/> — дисперсия независимого признака;

/> — ковариация между зависимым инезависимым признаками.

Рассмотрим применение МНК наконкретном примере.

Имеются данные о цене на нефть />(долларов за баррель) и индексе акцийнефтяной компании /> (в процентных пунктах). Требуетсянайти эмпирическую формулу, отражающую связь между ценой на нефть и индексомакций нефтяной компании исходя из предположения, что связь между указаннымипеременными линейна и описывается функцией вида

/>

Зависимой переменной /> в данной регрессионной модели будетявляться индекс акций нефтяной компании, а независимой /> — цена на нефть.

Для нахождения коэффициентов /> и /> построим вспомогательную таблицу (1).

Таблица 1.

Таблица для нахождения коэффициентов />и />

/>

Запишемсистему нормальных уравнений исходя из данных таблицы:

/>

Решениемданной системы будут следующие числа:

/>

Такимобразом, уровень регрессии, описывающее зависимость между ценой на нефть ииндексом акций нефтяной компании, можно записать как:

/>

Наосновании полученного уравнения регрессии можно сделать вывод о том, что сизменением цены на нефть на 1 денежную единицу за баррель индекс акций нефтянойкомпании изменяется примерно на 15, 317 процентных пункта.

Методнаименьших квадратов является наиболее распространенным методом оцениванияпараметров уровня регрессии, и применим только для линейных относительнопараметров моделей или приводимых к линейным с помощью преобразования и заменыпеременных[2].

Списокиспользованной литературы:

1.  Крянев А.В. Применение современныхметодов математической статистики при восстановлении регрессионных зависимостейна ЭВМ. Учебное пособие. М.: 1988. С. 4.

2.  Мамаева З.М. Математические методы имодели в экономике. ч 2. Учебное пособие. Н. Новгород.: 2010. С 17

3.  Эконометрика. Конспект лекций. ЯковлеваА.В. М.: Эксмо, 2008.С. 126.