Множинна регресія

В цьому розділі ми розглянемо побудову множинної регресії, а також моделі що можуть бути зведені до стандартної 
лінійної регресії:
1. Аналіз за допомогою лінійної регресії
2. Поліноміальна регресія.

1. Аналіз за допомогою лінійної регресії

Припустимо, що необхідно побудувати модель виду y = (Subscript[β, 0])+(Subscript[β, 1])(Subscript[x, 1]) +(Subscript[β, 2])(Subscript[x, 2]) +(Subscript[β, 3])(Subscript[x, 3]) +ϵ. 
Змінні:
(Subscript[x, 1]) - кількість працюючих
(Subscript[x, 2]) - площа торгового залу
(Subscript[x, 3]) - відношення зарплати директора до середньої зарплати продавця
y  - виручка
За даними, навединими нижче, необхідно зробити наступне.

1) Оцінити параметри моделі множинної лінійної регресії.
2) Виписати вибіркову регресійну функцію.
3) Зробити висновок про значущість регресії.
4) Зробити висновки про значущість коефіцієнтів.
5) Чому дорівнює коефіцієнт детермінації?
6) Чому дорівнює загальна сума квадратів?
7) Чому дорівнює пояснена сума квадратів?
8) Чому дорівнює сума квадратів залишків?

<< Statistics`LinearRegression`

x1={37, 51, 55, 64, 75, 81, 85, 85, 87, 88, 90, 91, 91, 93, 94, 
          98, 101, 101, 111, 114, 115, 119, 125, 129, 132, 134, 137, 164, 
          167, 171};x2=\({0.8792, 2.742, 3.393, 3.625, 3.635, 3.724, 3.871, 4.379, 
          4.407, 4.613, 4.638, 4.639, 
\ \ 4.743, 4.795, 4.889, 4.911, 
          5.256, 5.476, 5.633, 5.74, 5.75, 5.762, 5.957, 6.001, 
          6.017, 
\ \ 6.153, 6.609, 7.178, 7.962, 8.624}\);
x3=\({60.6, 63.75, 45.38, 91. , 73.23, 33.81, 33.87, 19.93, 99.69, 
          63.98, 83.5, 75.54, 90.82, 
\ \ 47.98, 82.62, 19.58, 71.16, 96.9, 
          78.92, 86.97, 47.23, 46.94, 34.78, 55.91, 86.63, 
\ \ 83.18, 89.4, 
          64.91, 23.4, 59.38}\);
y=\({62.36, 105.9, 152.8, 144.8, 159.2, 159. , 159. , 184.2, 
          181.8, 166.5, 188.4, 190.2, 192.8, 
\ \ 196.5, 196.7, 202.5, 
          193.6, 236. , 237.1, 230.5, 230.9, 251.3, 256.1, 260.6, 
          258.4, 
\ \ 268.8, 277.6, 311.1, 337.7, 359.9}\);

1. Першим кроком є побудова відповідної регресії та знаходження її коефіцієнтів.

Z = Transpose[{x1, x2, x3, y}];
MatrixForm[Z]

Regress[Z, {1, t1, t2, t3}, {t1, t2, t3}]

\(TextForm\`2.  Першим\ кроком\ є\ побудова\ відповідної\ регресії\ та\ знаходження\ її\ \(\(коефіцієнтів\)\(.\)\)\)

\(\(y\&^ = 
          4.43555 + 0.806571  x\_1 + 24.7707  x\_2 - 
            0.0179227  x\_3\)\(\ \)\)

\(TextForm\`3. \ PValue\ для\ моделі\ дорівнює\ 0, \ отже\ модель\ є\ значущою\ при\ будь - якому\ рівні\ \(\(значущості\)\(.\)\)\)

4. (Subscript[PValue, 1])=0.00147472 < 0.01,отже змінна  (Subscript[(x ), 1])є значущою при рівні значущості 0.01, а тим більше при рівні значущості  0.05.

(Subscript[PValue, 2]) = 0.0000242097 < 0.01, отже (Subscript[(x ), 2])  є значущою і при рівні значущості 0.01, \(і\ при\ \ \(\(0.05\)\(.\)\)\)

(Subscript[PValue, 3]) = 0.80623063774285324` > 0.05 , змінна  (Subscript[x, 3])не є значущою, \(тобто\ можна\ зробити\ висновок\), що виручка не залежить від відношення зарплати директора до середньої зарплати \(\(продавців\)\(.\)\)

5. (R^2) = 0.981927, що є досить високим рівнем, а тому можна вважати нашу модель вдалою.
6. TSS=121067.78268
7. ESS=118879.70195
8. RSS=2188.08

2. Поліноміальна регресія

Розглянемо приклад, коли необхідно побудувати регресійну залежність невизначеного вигляду, якщо є припущення, 
що одна зі змінних y може залежати від двох змінних x1 та x2:

x1={23, 28, 29, 34, 33, 36, 39, 44, 45, 48, 55, 58, 61, 62, 65, 
          68, 73, 76, 77, 82, 85, 88, 87, 92, 95, 96, 99, 102, 109, 108, 115, 
          116, 119, 122, 123, 128, 133, 132, 139, 138};
x2={112, 111, 106, 105, 98, 99, 92, 89, 88, 83, 84, 79, 76, 71, 
          70, 65, 64, 59, 58, 55, 52, 47, 48, 45, 42, 35, 34, 31, 26, 23, 24, 
          17, 18, 11, 12, 7, 4, -1, -2, -7};
y={3495, 3447, 3156, 3099, 2722, 2789, 2431, 2285, 2239, 2013, 
          2077, 1849, 1733, 1535, 1500, 1325, 1295, 1129, 1086, 997, 911, 
          787, 807, 739, 668, 513, 496, 435, 350, 303, 325, 245, 254, 185, 
          195, 155, 143, 123, 128, 129};

\(TextForm\`\(Розглянемо\ \(моделі : 

            1. \ y\) = β\_0 + \(β\_1\) x\_1 + \(β\_2\) 
            x\_2 + e;\)\)
2.  y = (Subscript[β, 0]) + (Subscript[β, 1]) 
            ((Subscript[x, 1])^2) + (Subscript[β, 2]) (Subscript[x, 2]) + e;
3.  y = (Subscript[β, 0]) + (Subscript[β, 1]) (Subscript[x, 1]) + (Subscript[β, 2]) 
          (Subscript[x, 2]) + (Subscript[β, 3]) ((Subscript[x, 2])^2) + e

Z = Transpose[{x1,  x2, y}];
r1 = Regress[Z,  {1,  t1, t2},  {t1, t2}];
r2 = Regress[Z,  {1, t1^2,  t2},  {t1, t2}];
r3 = Regress[Z,  {1,  t1, t2, t2^2},  {t1, t2}];
Print[AdjustedRSquared  /. r1, "  ",  
        AdjustedRSquared  /. r2, "  ", 
        AdjustedRSquared  /. r3];

Хоча всі коефіцієнти достатньо високі, але найкращий результат дала не лінійна, а поліноміальна регресія.

r1

Самостійна робота

1. Зробити прогноз за наведеною моделлю, якщо в наступному році очікується: x1=180, x2=8.5, x3=60.

2. Визначити зміну виручки при зміні кожного з факторів на 1.

3. За допомогою факторів х1, х2, х3 побудувати найкращу нелінійну регресію.

4. За допомогою комп'ютера розв'язати задачі: 2.19, 2.23, 2.24

5. Розв'язати задачі: 2.1, 2.2, 2.3, 2.5.