Корреляционно-регрессионный анализ

      Данная  корреляционная таблица уже при  общем знакомстве даёт возможность  выдвинуть предположение о наличии  или отсутствии связи, а также  выяснить её направление, Если частоты  расположены по диагонали из верхнего левого угла в правый нижний, то связь между признаками прямая. Если же частоты расположены по диагонали справа налево, - то связь обратная. В данном случае можно предположить наличие прямой связи.

      Корреляционная  зависимость чётко обнаруживается только при рассмотрении средних  значений результативного признака, соответствующих определённым значениям факторного признака, т.к. при достаточно большом числе наблюдений в каждой группе влияние прочих случайных факторов будет взаимопогашаться, и чётче выступит зависимость результирующего признака от фактора, положенного в основу группировки.  

      Для предварительного выявления наличия  связи и раскрытия её характера, применяют графический метод. Используя  данные об индивидуальных значениях  признака-фактора и соответствующих  ему значениях результативного признака, строится в прямоугольных координатах точечный график, который называют «полем корреляции». Для данного примера поле корреляции имеет следующий вид ( см. рис. 2.1).

 

Рис.2.1. 

      Точки корреляционного поля не лежат на одной линии, они вытянуты определённой полосой слева на право. Нанеся средние значения факторного и результирующего признаков на график и соединяя последовательно отрезками прямых соответствующие им точки, получают эмпирическую линию связи.

      Если эмпирическая линия связи по своему виду приближается к прямой линии, то это свидетельствует о наличии прямолинейной корреляционной связи между признаками. Если же имеется тенденция неравномерного изменения значений результирующего признака, и эмпирическая линия связи будет приближаться к какой-либо кривой, то это может быть связано с наличием криволинейной корреляционной связи. 

2.3. Множественная  корреляция 

      Проведенный выше анализ статистических совокупностей  позволяет изучить взаимосвязь  только двух переменных.

      На  практике же часто приходится исследовать  зависимость результирующего признака от нескольких факторных признаков. В этом случае статистическая модель может быть представлена уравнением регрессии с несколькими переменными. Такая регрессия называется множественной (множественная корреляция).

      Например, линейная регрессия с m независимыми переменными имеет вид:

                  y_i = a₀x₀ + a₁x₁ + a₂x₂ + … + a_mx_m,                                  (2.1)

где    а₀, а₁, а₂, …, а_m – параметры уравнения регрессии,   

      m – число независимых  переменных,

      х₀, х₁, х₂, …, х_m – значения факторного признака,

      y_i – значение результирующего признака.

      При оценке параметров этого уравнения  в каждом i-том наблюдении фиксируют  значения результирующего признака у и факторных признаков х_i0…х_im.  

      Оценки  параметров уравнения регрессии  находятся с помощью метода наименьших квадратов, который в случае множественной  регрессии удобнее представить  в матричной форме.

      Применяются следующие обозначения:

а = (а_j), j = 0,1,…,m – вектор оценок параметров, m – число неизвестных параметров;

у = (у_i), i = 1,2,…,n – вектор значений зависимой переменной, n – число наблюдений;

х = (х_ij) – матрица значений независимых переменных размерностью n(m+1);

е = (e_i) – вектор ошибок в уравнении с оцененными параметрами.

      Уравнение регрессии с оцененными параметрами  имеет вид: 

                              у = Ха,                                                         (2.2) 

      Линейная  модель (2.1) в векторном виде имеет  вид: 

                              у = Ха + е.                                                    (2.3) 

      Сумма квадратов отклонений равна: 

Q = åе_i² = e^Te = (y-Xa)^T(y-Xa) = y^Ty – a^TX^Ty – y^TXa + a^TX^TXa = 

    = y^Ty – 2a^TX^Ty + a^TX^TXa,                                                                           (2.4) 

где    Т – знак операции транспонирования, т.е. строки исходной матрицы в  транспонированной занимают положение столбцов.

      Дифференцированием Q по а получается

                              = -2Х^Ту + 2(Х^ТХ)а                                       (2.5) 

      Приравниванием  производной к нулю получается выражение для определения вектора оценки а:

                              Х^Ту = Х^ТХа,

                              а = (Х^ТХ)^-1(Х^Ту).                                           (2.6)

      Оценку  а, определенную изложенным способом, называют оценкой метода наименьших квадратов. Применительно к уравнению  регрессии (2.1) матрицы коэффициентов имеют вид: 

                        I  x₁₁  x₁₂  … x_1m

                        I  x₂₁  x₂₂  … x_2m

    X = …  …  …  …  …    ,

                        …  …  …  …  …

                        I  x_n1  x_n2  … x_nm

и, следовательно,

                        n        åx_i1       …     åx_im

                        åх_i1   åx_i1²         …     åx_i1x_im

                  X^TX=     …       …         …    …             ,

                        …       …         …    …

                        åх_im   åx_i1x_im    …  åx_im² 

                        åу_i

                        åy_ix_i1

                   Х^Ту=    :        .

                           :

                        åy_ix_im 

      Суммирование  производится по числу наблюдений n. 

2.4. Применение  множественной корреляции к изучению состава кадров         на промышленном предприятии 

      Рассматривается пример:

Переменная  у (заработная плата) зависит от разряда  х₁ и степени выплачивания норм х₂ . Принимая линейную модель множественной регрессии в виде 

      y=a₀+a₁x₁=a₂x₂ 

определить  оценки а0, а1, а2 параметров по методу наименьших квадратов.

      Исходные  данные по 30 рабочим приведены в  табл. 2.3.

                                                                       

                                                      Таблица 2.3. 

Сведения  о заработной плате, стажу и степени  выполнения норм по 30 рабочим на промышленном предприятии 

 
 
 
 
 
 

Продолжение табл.2.3. 
 

 
 

      Оценки  а0, а1, а2 следует рассчитать по методу наименьших квадратов. 

      1  5  117,4                    1100,1                       1     …    1