「統計学関連なんでもあり」の過去ログ--- 045

No.15740　重回帰分析の偏回帰係数、および、標準偏回帰係数　　【かず】　2011/11/23(Wed) 15:28

重回帰分析の偏回帰係数，および，標準偏回帰係数について教えてください。

標準偏回帰係数＝目的変数への影響力の大きさと解釈できるとする統計の本があります。

もし，目的変数が製品の満足度，説明変数が製品の属性評価だったとします。
つまり，製品の満足度をあげるために，どの属性をいじればよいのか，重回帰式から優先順位をつけようとしています。

さて，統計の本を素直に受け取ると，標準偏回帰係数の大きな属性から手をつけるというアプローチになろうかと思うのですが，標準偏回帰係数を大きさの順にならべたときに偏回帰係数の大きさの順と異なることがあります。

偏回帰係数がもっとも大きい属性項目のアンケート評点（5段階）をX1で，その偏回帰係数の値は0．5とします。
次に偏回帰係数が大きい属性項目のアンケート評点（5段階）をX2とすると，その偏回帰係数値は0．3だったとします。

一方，標準偏回帰係数のほうをみると，別の属性項目のアンケート評点X2が0．6，X1のほうが0．4だったとします。

この例では，アンケートの評点ということで単位も同じです（単位がないという意味で）。
単純に「X1，X2どちらかの評点を1点あげる努力をするなら，偏回帰係数の大きいX1」といいたくなるのですが，やはり解釈としてまずいのでしょうか？
説明変数の標準偏差1単位分の変動で考えるときが標準偏回帰係数の出番だと思いますが，X1，X2を標準化する前の標準偏差の1単位がそもそもX1＜X2だとしたら，X1の評価をあげることを優先したほうが満足度の評価も上げやすいと思うのですが，違うのでしょうか？

標準偏回帰係数の有用性の説明において，単位が違うものをそろえることを引き合いに出されるのですが，目的変数への影響力とのつながりの点で偏相関係数との違いを整理できておりません。

どなたかご教示いただけますでしょうか。
よろしくお願いいたします。

No.15744　Re: 重回帰分析の偏回帰係数，および，標準偏回帰係数　　【青木繁伸】　2011/11/23(Wed) 20:46

> 標準偏回帰係数の有用性の説明において，単位が違うものをそろえることを引き合いに出されるのですが

それは，単位の異なるもの，たとえば g で測定されるものと cm で測定されるものでは，同じ土俵で比較できないでしょうという意味で挙げられるの。
単位が同じでも，cm と m で測定されるものはやはり，同じ土俵で比較できないでしょう。m であらわされるものを cm に換算して重回帰分析をやると，偏回帰係数は 1/100 になるでしょう。しかし本質は，平均値と標準偏差がことなる変数は偏回帰係数では比較できないということです。そこで，元のデータを（従属変数も），平均値＝0，標準偏差＝1に標準化して重回帰分析したときの偏回帰係数が，標準化偏回帰係数ということなのです。
結論として，独立変数が従属変数にどの程度の影響を与えるかは，標準化偏回帰係数によって判断する必要がある（偏回帰件数は，独立変数の標準偏差の大きさによって相互比較できないものである）ということなんです。

結論：独立変数が従属変数に与える影響の大きさを見るときには，
からならず！！！！！！！！！！！！！！！！！！！！
標準化偏回帰係数を見るべきなのです！！！！！！！！！！！！！！！！！！！！！！！！！！！

No.15748　Re: 重回帰分析の偏回帰係数，および，標準偏回帰係数　　【かず】　2011/11/24(Thu) 07:25

青木先生，ご回答をありがとうございます。

ホームページ内の標準偏回帰係数の説明文にあります内容ですが，教えていただけますでしょうか。

＞標準化偏回帰係数は，ある独立変数が 1 標準偏差変動したときに，標準化された従属変数が何単位変動するかを表す。

とのことですが，これは，独立変数が1標準偏差（標準化されたあとの標準偏差，すなわち1？）分動いたときに，従属変数が何標準偏差（こちらも標準化されたあとの標準偏差？）動くかということでしょうか？
通常，ある1つの独立変数が1標準偏差動いたときには，従属変数側の変動は1標準偏差より小さいという理解でよいでしょうか？

No.15749　Re: 重回帰分析の偏回帰係数，および，標準偏回帰係数　　【青木繁伸】　2011/11/24(Thu) 07:44

> 独立変数が1標準偏差（標準化されたあとの標準偏差，すなわち1？）分動いたときに，従属変数が何標準偏差（こちらも標準化されたあとの標準偏差？）動くかということでしょうか？

「1標準偏差」とは「1×標準偏差」です。標準化する前のデータであろうと標準化した後のデータであろうと，標準偏差は標準偏差。後者の場合には，標準偏差は1です。つまり「1×1」。

> 通常，ある1つの独立変数が1標準偏差動いたときには，従属変数側の変動は1標準偏差より小さいという理解でよいでしょうか？

そうですよ。標準化偏回帰係数（の絶対値）は 1 未満ですからね。

No.15757　Re: 重回帰分析の偏回帰係数，および，標準偏回帰係数　　【かず】　2011/11/25(Fri) 08:27

青木先生

ご回答をありがとうございました。
1つ追加で質問させてください。

> 通常，ある1つの独立変数が1標準偏差動いたときには，従属変数側の変動は1標準偏差より小さいという理解でよいでしょうか？
そうですよ。標準化偏回帰係数（の絶対値）は 1 未満ですからね

標準偏回帰係数が1を超えるような場合，多重共線性が疑われるというのはこのあたりのことから来ているのでしょうか。

データの分散＝そのデータの情報量というような捉え方をしている本もありました。
つまり，独立変数側の標準偏回帰係数が1より大きくなるということは，その独立変数1つで従属変数側の情報量以上を説明してしまうから道理に合わなくなるという理解でよいのでしょうか？

No.15758　Re: 重回帰分析の偏回帰係数，および，標準偏回帰係数　　【青木繁伸】　2011/11/25(Fri) 08:48

> 独立変数側の標準偏回帰係数が1より大きくなるということは，その独立変数1つで従属変数側の情報量以上を説明してしまうから道理に合わなくなるという理解でよいのでしょうか？

どのように理解しても良いでしょうが，多重共線性の場合に標準化偏回帰係数が1以上になるというのは，有限の精度で計算しているコンピュータの誤差という統計学以前の問題があるのです。

No.15799　Re: 重回帰分析の偏回帰係数，および，標準偏回帰係数　　【かず】　2011/11/28(Mon) 09:39

お世話になります。

＞多重共線性の場合に標準化偏回帰係数が1以上になるというのは，有限の精度で計算しているコンピュータの誤差という統計学以前の問題があるのです。

そうなのですか。
技術的処理上の問題ではなく，てっきり，もっと数学的な理由が背景にあるのかと思っておりました。
ありがとうございました。