まぬねこの足跡。。。

備忘録+たのしさ+ひっそりと

統計学:総和『Σ』数学

総和【summation】『 \sum(シグマ)

 \displaystyle \sum_{i=1}^n=x_1+\cdots+x_n

性質

 x_1=\cdots=x_n=aのとき・・・全部同じ値

 \displaystyle \sum_{i=1}^na=na
 \displaystyle \sum_{i=1}^n(\color{red}{c}x_i)=\color{red}{c}\sum_{i=1}^n(x_i) ・・・ \color{red}{c}を外にだせる

 x_1=y_i+z_iのとき・・・2つの数の和

 \displaystyle \sum_{i=1}^n(\color{red}{y_i}+\color{green}{z_i})=\sum_{i=1}^n\color{red}{y_i}+\sum_{i=1}^n\color{green}{z_i} ・・・別々に和をとり、加算。
 \displaystyle \sum_{i=1}^n(\color{red}{ay_i}+\color{green}{bz_i})=\color{red}{a}\sum_{i=1}^n\color{red}{y_i}+\color{green}{b}\sum_{i=1}^n\color{green}{z_i} ・・・別々に和をとり、加算。

分散の平方和

 \displaystyle \sum_{i=1}^n(x_i+\overline{x})^2=\sum_{i=1}^n x_i^2-n\overline{x}^2

<式>
 \begin{eqnarray*}
\displaystyle \sum_{i=1}^n(x_i+\overline{x})^2&=&\sum_{i=1}^n(x_i^2\color{red}{-2\overline{x}}x_i+\overline{x}^2) \\
&=&\sum_{i=1}^n x_i^2+\sum_{i=1}^n (\color{red}{-2\overline{x}})x_i+\sum_{i=1}^n\overline{x}^2 \\
&=&\sum_{i=1}^n x_i^2\color{red}{-2\overline{x}}\color{cyan}{\sum_{i=1}^n x_i}+\sum_{i=1}^n\overline{x}^2 \\
&=&\sum_{i=1}^n x_i^2\color{red}{-2\overline{x}}(\color{cyan}{n\overline{x}})+\color{magenta}{\sum_{i=1}^n\overline{x}^2} \\
&=&\sum_{i=1}^n x_i^2-2n\overline{x}^2+\color{magenta}{n\overline{x}^2} \\
&=&\sum_{i=1}^n x_i^2-n\overline{x}^2 \\
\end{eqnarray*}


1次式「 y=a+bx」⇒「最小二乗法」にする

下式を最小にする a、bを求める。
 \begin{eqnarray*}
S(a,b)&=&\sum(y_i-a-bx_i)^2&=&(y_1-a-bx_1)^2+\cdots+(y_n-a-bx_n)^2 \\
\end{eqnarray*}

1.  aに関する平方完成
 \begin{eqnarray*}
S(a,b)&=&\sum\{(y_i-bx_i)-a\}^2 \\
&=&\sum a^2 -2\sum a(y_1-a-bx_1)+\sum(y_i-bx_i)^2 \\ 
&=&na^2-2\sum a(y_1-a-bx_1)+\sum(y_i-bx_i)^2 \\ 
&=&n\{a^2-2a(\overline{y}-b\overline{x}\}+\sum(y_i-bx_i)^2 \\
&=&n\{a-(\overline{y}-b\overline{x})\}^2+\color{red}{\sum(y_i-bx_i)^2-n(\overline{y}-b\overline{x})^2} \\ 
\end{eqnarray*}
 aの値「a= \overline{y}-b\overline{x}」

2.   R(b)=\color{red}{\sum(y_i-bx_i)^2-n(\overline{y}-b\overline{x})^2}を変形
 x_i:「w_i=y_i-bx_i 」 ⇒ 「\overline{w}=\overline{y}-b\overline{x}」から
 \begin{eqnarray*}
R(b)&=&\sum w_i^2 - n\overline{w}^2 \\
&=&\sum(w_i-\overline{w})^2 \\
&=&\sum \{(y_i - bx_i) - (\overline{y} - b\overline{x)}\}^2 \\
&=&\sum\{(y_i -\overline{y})-b(x_i-\overline{x})\}^2 \\
R(b)&=&\color{cyan}{\sum(y_i -\overline{y})^2}-2b\color{magenta}{\sum(x_i-\overline{x})(y_i-\overline{y})}+b^2\color{blue}{\sum(x_i-\overline{x}) ^2}  \\
&=&\color{red}{n}(\color{cyan}{s_y^2} - 2b\color{magenta}{s_{xy}} + b^2\color{blue}{s_x^2})
\end{eqnarray*}

ちょこっとメモ

 x,yの分散。共分散

 x,yの分散:\color{blue}{s_x^2=\frac{\sum (x_i - \overline{x})^2}{\color{red}{n}}},  \color{cyan}{s_y^2=\frac{\sum (y_i - \overline{y})^2}{\color{red}{n}}}
 x,yの共分散:\color{magenta}{s_{xy}=\frac{\sum (x_i - \overline{x})(y_i - \overline{y})}{\color{red}{n}}}

3.  R(b)で、bに関する平方完成
 \begin{eqnarray*}
\frac{R(b)}{\color{red}{n}}&=&\color{blue}{s_x^2}(b^2-2\frac{\color{magenta}{s_{xy}}}{\color{blue}{s_x^2}})+\color{cyan}{s_y^2} \\
&=&\color{blue}{s_x^2}(b-\frac{\color{magenta}{s_{xy}}}{\color{blue}{s_x^2}})^2+\color{cyan}{s_y^2}-(\frac{\color{magenta}{s_{xy}}}{s_x})^2 \\
\end{eqnarray*}

4. 結論
 S(a,b)の最小は、b=\dfrac{s_{xy}}{s_x^2}, 「a= \overline{y}-b\overline{x}」