Планирование цены

       в) Ширина доверительного интервала минимальна, если , (ортогональны);

       г) Ширина доверительного интервала равна  бесконечности, если:

вектор-столбцы  и в матрице наблюдений коллинеарные, т.е.если: 

                                    

       д) В общем случае в регрессионных  уравнениях доверительный  интервал для отдельно взятого регрессионного коэффициента определяется выражением  

                  

       1.5 Адекватность  модели

       Существует  соотношение, которое можно использовать для оценки адекватности модели, сравнивая  и  . Расчетное  определяется по формуле                   (3.4)

Табличное значение  берется с таблиц с определенным числом степенем свобода и для притятого уровня значимості .Если расчетное значение більше , то это значит, что дисперсия  MSR статистически меньше дисперсии MSD относительно ,в этом случае полученное уравнение регрессии можно считать дееспособным. 

                     2. ПРАКТИЧЕСКАЯ ЧАСТЬ 

   Поставлена  следующая задача: построить зависимость  количества выигранных голов от характеристик  сыгранных игр на основе модели множественной  регрессии.

   На  основе имеющейся выборки сделаем  следующие оценки: 

 

1. параметры модели  β_i (для данной модели существенными являются переменные WIN и DP):

2)оценки: множественный  коэффициент корреляции R, R² ,F, p,   и          Std Error of estimate:

3) график  для вычисленных значений и  исходных:

К такому ряду можно  применить модель линейной регрессии, так как он стационарный;         4)построение регрессии:

По графику  видно, что в целом модель адекватна: практически все значения легли  на линию регрессии;

5)гистограммы  исходных и вычисленных значений  имеют нормальное распределение:

   

 

Пример  решения нахождения модели множественной  регрессии

Множественная регрессия с двумя переменными

Модель  множественной регрессии вида Y = b₀ +b₁X₁ + b₂X₂;  
1) Найтинеизвестные b₀, b₁,b₂ можно, решим систему трехлинейных уравнений с тремя неизвестными b₀,b₁,b₂: 
 
Для решения системы можете воспользоваться решение системы методом Крамера 
2) Или использовав формулы 
 
Для этого строим таблицу вида:

Y x1 x2 (y-yср)2 (x1-x1ср)2 (x2-x2ср)2 (y-yср)(x1-x1ср) (y-yср)(x2-x2ср) (x1-x1ср)(x2-x2ср)

Выборочные  дисперсии эмпирических коэффициентов  множественной регрессии можно  определить следующим образом:  
 
Здесь z'_jj - j-тый диагональный элемент матрицы Z^-1 =(X^TX)^-1.  
  
Приэтом:  
  
где m - количество объясняющихпеременных модели. 
В частности, для уравнения множественной регрессии

Y = b₀ + b₁X₁ + b₂X₂

с двумя  объясняющими переменными используются следующие формулы: 
 
 
Или   
  
или   
, , .  
Здесьr₁₂ - выборочный коэффициент корреляции между объясняющимипеременными X₁ и X₂; Sb_j - стандартная ошибкакоэффициента регрессии; S - стандартная ошибка множественной регрессии (несмещенная оценка). 
По аналогии с парной регрессией после определения точечных оценокb_j коэффициентов βj (j=1,2,…,m) теоретического уравнения множественной регрессии могут быть рассчитаны интервальные оценки указанных коэффициентов.

Доверительный интервал, накрывающий с надежностью (1-α) неизвестное значение параметра βj, определяется как

Под регрессией понимается функциональная зависимость между объясняющими переменными и условным математическим ожиданием (средним значением) зависимой переменной, которая строится с целью предсказания (прогнозирования) этого среднего значения при фиксированных значениях первых.

Матричный способ решения

Пример  решения. Множественная регрессия.

Пример  решения. Множественная регрессия.

На практике рекомендуется, чтобы n превышало k не менее, чем в три раза. В данном случае n = 5; k = 2; 
Определим вектор оценок коэффициентов регрессии. Согласно методу наименьших квадратов, вектор получается из выражения: 
s = (X^TX)^-1X^TY 
Матрица X

1 18 4 1 23 21 1 6 4 1 2 9 1 0 45

 
Матрица Y

3 6 8 14 21

 
Матрица X^T

1 1 1 1 1 18 23 6 2 0 4 21 4 9 45

Умножаем матрицы, (X^TX) 
 
Умножаем матрицы, (X^TY) 
 
Находим определитель det(X^TX)^T = 2245132 
Находим обратную матрицу (X^TX)^-1 
 
Вектор оценок коэффициентов регрессии равен 
s = (X^TX)^-1X^TY = 
 
Уравнение множественной регрессии 
Y = 11.1168-0.4642X ₁ + 0.2309X ₂ 
Для несмещенной оценки дисперсии проделаем следующие вычисления: 
Абсолютная ошибка аппроксимации 
e = Y - X*s

-0.68 0.71 -1.25 1.73 -0.51

 
s_e² = (Y - X*s)^T(Y - X*s) 
Несмещенная оценка дисперсии равна  
 
Оценка среднеквадратичного отклонения равна  
 
Найдем оценку ковариационной матрицы вектора k = σ*(X^TX)^-1 
 
Дисперсии параметров множественной модели определяются соотношением S ²_i = K_ii, т.е. это элементы, лежащие на главной диагонали 
С целью расширения возможностей содержательного анализа модели регрессии используютсячастные коэффициенты эластичности, которые определяются по формуле 
 
 
 
Тесноту совместного влияния факторов на результат оценивает индекс множественной корреляции (от 0 до 1)  
 
Связь между признаком Y факторами X сильная 
Частные коэффициенты (или индексы) корреляции, измеряющие влияние на у фактора х_iпри неизменном уровне других факторов определяются по стандартной формуле линейного коэффициента корреляции - последовательно берутся пары yx₁,yx₂,... , x₁x₂, x₁x₃.. и так далее и для каждой пары находится коэффициент корреляции 
Коэффициент детерминации  
R ²= 0.99 ² = 0.97 
т.е. в 97.1675 % случаев изменения х приводят к изменению y. Другими словами - точность подбора уравнения регрессии - высокая 
Значимость коэффициента множественной корреляции 
 
По таблице Стьюдента находим Tтабл 
T_табл (n-m-1;a) = (2;0.05) = 2.92 
Поскольку Tнабл > Tтабл , то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициента корреляции статистически - значим

Интервальная  оценкадля коэффициента корреляции (доверительный  интервал) 
 
Доверительный интервал для коэффициента корреляции

r(0.9487;1.0227)

Проверка  гипотез относительно коэффициентов уравнения  регрессии  
1) t-статистика 
 
 
Статистическая значимость коэффициента регрессии b₀ подтверждается 
 
Статистическая значимость коэффициента регрессии b₁ подтверждается 
 
Статистическая значимость коэффициента регрессии b₂ подтверждается

Доверительный интервал для коэффициентов  уравнения регрессии 
Определим доверительные интервалы коэффициентов регрессии, которые с надежность 95% будут следующими:

(b_i - t _i S _i; b_i + t _i S _i)

 
b ₀: (7.5656;14.668) 
b ₁: (-0.6615;-0.267)  
b ₂: (0.1153;0.3465) 
2) F-статистика. Критерий Фишера  
 
 
Fkp = 19.2  
Поскольку F > Fkp, то коэффициент детерминации статистически значим и уравнение регрессии статистически надежно 

Проверка  статистической значимости коэффициентов уравнения  множественной регрессии

Как и  в случае множественной регрессии, статистическая значимость коэффициентовмножественной регрессии с m объясняющими переменными  проверяется на основе t-статистики:  
 
имеющей в данном случае распределение Стьюдента с числом степеней свободы v = n- m-1. При требуемом уровне значимости наблюдаемое значение t-статистики сравнивается с критической точной  распределения Стьюдента. 
В случае, если   , то статистическая значимость соответствующего коэффициента множественной регрессии подтверждается. Это означает, что фактор Xj линейно связан с зависимой переменной Y. Если же установлен факт незначимости коэффициента b_j, то рекомендуется исключить из уравнения переменную Xj. Это не приведет к существенной потере качества модели, но сделает ее более конкретной.

Проверка  общего качества уравнения  множественной регрессии

Для этой цели, как и в случае множественной  регрессии,используется коэффициент  детерминации R²:  
 

Справедливо соотношение 0<=R2<=1. Чем ближе этот коэффициент к единице, тем больше уравнение множественной регрессии  объясняет поведение Y.  
Для множественной регрессии коэффициент детерминации является неубывающей функциейчисла объясняющих переменных. Добавление новой объясняющей переменной никогда не уменьшает значение R², так как каждая последующая переменная может лишь дополнить, но никак не сократить информацию, объясняющую поведение зависимой переменной.  
Иногда при расчете коэффициента детерминации для получения несмещенных оценок в числителе и знаменателе вычитаемой из единицы дроби делается поправка на число степеней свободы, т.е. вводится так называемый скорректированный (исправленный) коэффициент детерминации:  
  
Соотношение может быть представлено в следующем виде:  
  
 для m>1. С ростом значения m скорректированный коэффициент детерминации растет медленнее, чем обычный.Очевидно, что  только при R² = 1.   может принимать отрицательные значения.  
Доказано, что   увеличивается при добавлении новой объясняющей переменной тогда и только тогда, когда t-статистика для этой переменной по модулю больше единицы. Поэтому добавление в модель новых объясняющих переменных осуществляется до тех пор, пока растет скорректированный коэффициент детерминации.  
Рекомендуется после проверки общего качества уравнения регрессии провести анализ его статистической значимости. Для этого используется F-статистика:  
  
Показатели F и R2 равны или не равен нулю одновременно. Если F=0, то R²=0, следовательно, величина Y линейно не зависит от X1,X2,…,Xm..Расчетное значение F сравнивается с критическим Fкр. Fкр, исходя из требуемого уровня значимости α и чисел степеней свободы v1 = m и v2 = n - m - 1, определяется на основе распределения Фишера. Если F>Fкр, то R² статистически значим.