Dribs and Drabs

書評じゃなくて,ただのメモ

中原治『基礎から学ぶ統計学』羊土社 417

ネットでいい評判を目にしたから読んでみた。たしかにこれ,分かりやすい。農学部での講義がベースになっていることから,統計学を〈使う〉ことが主目的で,そのために〈定性的に理解する〉ことを目指しているからなんだろう。図を多用した説明が特徴的──大量の図を用意するのは容易ではないだろう。著者の主観と思想を交えつつ,統計学の歴史(上の人物)へのリスペクトも交えつつ書かれているのも特徴的で,良い。

自分が読んだ統計学の本──東大出版会のやつ──にはANOVAは載ってなかったと思うので,この本で初めて学んだ。

x

序

著者は、北海道大学農学部で20年間、学部2~3年生を対象に、統計学の入門レベルの講義を担当してきました。この教育現場での試行錯誤から、著者の講義は、3つの特色を持つようになりました。

特色の1つめは「図を多用する」です。統計学の学習では、計算の意味を見失うことが多いです。図は、学習する上で、大きな助けとなります。そして時には、図は、学習を楽しいものにしてくれます。この講義は「可能な限り図に語らせる」という方針を土台にしています。

特色の2つめは「実践的な手法を中心に学ぶ」です。通常、統計学の入門課程では、その理論的な基礎を中心に教えます。このスタイルは、非の打ち所がない王道です。しかし実際には「数学が難しい」と「何の役に立つのか?実感できない」という理由から、学習者が挫折しやすい欠点があります。この講義では「統計学は道具として役に立つ」と実感できる基本的手法を中心に、その計算の原理を学びます。このスタイルの学習を通して、統計学の基礎に対する、理解とセンスを身につけます。

特色の3つめは「数学のハードルを下げる」です。この講義では、高校1~2年で学ぶ数学で理解できる学習内容は、数学として理解することを目指します。一方、それ以上のレベルの内容は「知識として身につける」という方針に切り替え、定性的な理解だけを目指します。

はじめに

1.統計学の必要性

散らばりを示すデータから、適切な推論を導くための道具が、統計学です。もしくは、気まぐれで散らばった数値との付き合い方を教えてくれるのが、統計学です。

2.散らばり(バラツキ)

数学者たちは、散らばりを見せる数値の背後に、美しい数理があることを発見してきました。その知識の体系が「統計学」です。

3.基本的な用語と概念

統計学の目的はシンプルです。統計学は、数が限られた観測値からなる標本を使い、母集団に対して、推論を行う学問です。

4.本書の2本柱

本書の主題の1つは、平均の比較です。特に重要な手法は3つ、独立2群のt検定、一元配置分散分析、多重比較です。本書の第Ⅲ部で、こうした手法を学びます。 これらの手法は、統計的仮説検定(statistical hypothesis test)とか仮説検定(hypothesis test)と呼ばれます。本書では、単に検定と呼びます。

本書の2つめの主題は、2つの変数、xとyの間の関係です。本書の第Ⅳ部で、2つの手法を学びます。

5.検定統計量

検定統計量は「差があるのか?それとも差があるとは言えないのか?」を判断するための数値を計算します。検定統計量は「差があることに対する確の強さを示す数値」と言えます。どの検定においても、中心的な役割を果たします。

第Ⅰ部 統計的仮設検定の理論

第Ⅰ部では、基本的な統計手法である「統計的仮説検定(statistical hypothesis test)」の基本的な論理を学びます。本書では「検定」と呼びます。検定の論理は、独特です。検定は「背理法(proof by contradiction)」と呼ばれる論理と、考え方の枠組みが似ています。

1章 検定の論理(二項検定を教材として)

二項検定は、本書で学ぶ統計手法の中では、最も使用頻度が低い手法です。しかし、統計学の入門に最適な学習項目です。理由が3つあります。第一に、高校1~2年で学んだ数学だけで、この手法の原理を完全に理解できます。統計手法はたくさんありますが、唯一この手法だけは、全て手作りの計算で実行できます。第二に、面倒な検定統計量の計算を必要としません。第三に、二項検定には、検定の論理の全てが詰まっています。こうした理由から、読者のお父さんやお母さん、もしくは、お爺ちゃんやお婆ちゃんの世代では、二項検定は、高校の数学の教科書で解説されていました。

1.例題1:B薬はA薬より有効か?

二項検定を理解するには、その前に、2つの学習項目、二項分布と期待値を学ぶ必要があります。

2.二項分布

3.期待値E[X]

2つめのルールは「棄却域の確率の合計を5%か1%に設定する」です。棄却域の確率の合計を有意水準(significance level)と呼びます。有意水準の記号にはαを使います。

「統計的に有意な(statistically significant)」という表現は「差があるとした判断は、統計学の立場からは、おそらく妥当だろう」という程度の意味の形容詞です。「有意」という用語は「意味が有る」に由来します。

4.練習問題A

5.二項検定

6.検定の論理(まとめ)

7.練習問題B

利き耳を調べるのは簡単である。ある人の利き耳を知りたければ、騒音の中で、小声で話しかけてみればよい。耳に手を当て、こちらに向けた耳が利き耳である。

2章 検定統計量(Wilcoxon-Mann-Whitney検定を教材として)

本草の主題は「初めて学ぶ検定統計量」です。二項検定以外、全ての検定では検定統計量と呼ばれる数値を計算します。検定統計量は、有意差の有無を判断するための数値です。全ての検定において、検定統計量は最も重要な役割を果たします。しかし、統計学の初学者には、学習上のハードルとなります。新しい検定統計量を学ぶたびに、その計算の意味を理解する努力が要求されるからです。本章では、検定統計量を学ぶ最初の教材として、Wilcoxon-Mann-Whitney(WMW)検定を学びます。WMW検定は、ノンパラメトリック統計と呼ばれる統計手法の代表格です。そして何より、計算が簡単で、検定統計量の最初の教材として最適です。WMW検定は3段階の作業からなります。1番目に、実験や調査で得た結果から、検定統計量を計算します。2番目に、数表から検定統計量の臨界値U0.05を見つけます。3番目に、2つの数値、UとU0.05の大小の比較から、有意差の有無を判断します。この3段階の手順は、本章以降で学ぶ全ての検定で共通する手順です。本章の目的は2つです。1つめの目的は、読者が、この3段階の作業の流れに慣れることです。2つめの目的は、検定統計量の計算の意味を理解するための、最初の努力を体験することです。

1.例題2:肥料Aと肥料Bの収量に差はあるか?

Wilcoxon- Mann-Whitney (WMW) 検定は、Mann-Whitney のU検定(Mann-Whitney U test)と呼ばれる手法とWilcoxonの順位和検定(Wilcoxon rank-sum test)と呼ばれる手法の総称です。本章では、前者を解説します。

2.WMW検定の目的

WMW検定の目的は、実験や調査で得られた標本を使い「この2つの可能性のうち、実験や調査の結果の説明として、どちらがより妥当か?」を判断することにあります。

3.検定統計量

検定統計量Uは、2つの母集団が同じ確率分布に従うとき、大きな数値になる性質があります。

一方、2つの母集団が異なる確率分布に従うときは、ゼロに近い、小さな数値になる性質があります。

WMW検定は、このUの性質を利用して、差の有無を判断します。実験や調査の結果から計算したUが、大きければ「差はなさそうだ」と判断し、小さければ「差がありそうだ」と判断します。

4.WMW検定の手順

WMW検定の帰無仮説H₀の立て方には、いくつかの流儀があります。ここでは、初学者がもっとも理解しやすいものを選びました。多くの解説書で採用されている帰無仮説は、「中央値(median)が2つの母集団で等しい」とするものです。

本章で学ぶWMW検定は、ノンパラメトリック統計の代表格です。WMW検定は、特定の確率分布を仮定しません。WMW検定は、得られた観測値の順位だけを考察の対象にします。

WMW検定では、赤玉と黄玉の並び順さえ決まってしまえば、具体的な数値は無用になります。観測値の順位だけが必要な情報です。

5.練習問題C

6.数学者たちに感謝

この結果、私たちが検定で行うべき作業はこの「①検定統計量を計算し、②数表の中に臨界値を探し、③2つの大小を比べること」だけです。しかも、検定統計量の計算は、どの検定でも、四則計算と平方根の計算程度ですみます。

7.WMW検定の定性的理解

検定統計量Uは、赤玉と黄玉が完全に分離したとき、最低値の0となります。

一方、検定統計量Uが最大値か、最大値に近いときには、赤玉と黄玉が完全に混合しています。

検定統計量Uは、赤玉と黄玉が混じり合う過程で上昇していきます。

8.WMW検定の実践的な技術

前節までの学習で、WMW検定の計算の意味を定性的に理解しました。 しかし、実践的な手法としてWMW検定を使うには、検定統計量Uの計算方法について、あと2つ、知っておくべき技術があります。

① 標本サイズnが大きい場合のU1とU2の計算

こうしたUの計算方法は単純ですが、退屈で面倒です。標本サイズがさらに大きくなると、苦痛になります。検定統計量Uを発明したHB Mann と DR Whitneyは、U₁とU₂をもう少し楽に求める計算式を提案しました。

②タイ(等しい値)がある場合のUの計算

9.WMW検定を発明した自然科学者たち

統計学は、応用数学の一分野です。数学の才能に恵まれた天才たちが創りあげてきました。しかし、数学の才能以外では、私たちと変わらない、普通の人たちです。夢をもったり、辛い時期を耐え抜いたり、挫折を味わったり、その人生は私たちと変わりません。WMW検定は、3人の自然科学者の努力から生まれました。

本書で紹介したのはMann-WhitneyのU検定です。しかし近年は、3人の功績を等しく認める Wilcoxon-Mann-Whitney検定という総称も一般的です。そこで、本書ではこの表現を使いました。

10.統計学を学ぶための心がけ

統計学の学習では「統計学や、統計学を専門とする数学者たちの存在に感謝する」という気持ちが大切です。

WMW検定に限らず、数学者たちは、様々な実験や調査の設定に対し、適切な検定法を発明してくれました。そのうえ、検定統計量の計算のマニュアルも、臨界値の数表も用意してくれました。この状況に、数学を専門としない私たちは、感謝する必要があります。

11.WMW検定の手順(まとめ)

ところが、本書執筆時点でのアメリカの解説書の大半は、真逆の説明を行なっています。Uを「U1とU2のうち大きい値」と定義し直したのです。これは、WMW 検定以外の全ての検定において「差が明確なほど、検定統計量は大きな値を示す」という特徴があるからです。そこで、WMW検定でも、検定統計量が同じ性質を持つように、再定義されました。

12.練習問題D

3章 第1種の過誤と第2種の過誤

統計学の目的は、数が限られた観測値からなる標本を使って、母集団に対する推論を行うことです。しかし、標本サイズが限られている以上、100%正しい結論を導くことは、原理的に不可能です。統計手法は、時々、誤った結論を導きます。そこで私たちは、統計手法が犯しうる過ちについて学ぶ必要があります。検定の場合、過ちには2種類あります。差がないのに「統計的に有意な差がある」と間違える過ちを「第1種の過誤」と呼びます。差があるのに「統計的に有意な差はない」と間違える過ちを「第2種の過誤」と呼びます。本章では、第1章の例題1を使って、この2つの過ちについて学びます。

1.検定の論理の復習

2.4つの可能性

私たちが検定を行うときには、2つの状況があり得ます。1つは「帰無仮説H₀は正しい」という状況です。もう1つは「帰無仮説H₀は間違っている」という状況です。そして、検定を用いた判断にも、2つの可能性があります。「有意差あり(P<0.05)」と「有意差なし」です。そこで、検定を行えば、合計2×2=4通りの可能性があります。左の一覧表は、この4通りを示しています。

3.第1種の過誤

このように、帰無仮説H0「比べるもの同士が等しい」が正しいにも関わらず、「有意差がある(P<0.05)」と誤った結論を下す誤りを、第1種の過誤とか第1種の誤り、もしくはタイプ・ワン・エラーと呼びます。

「有意差あり(P<0.05)」という表現には、3つの内容があります。1つめは「私たちは『帰無仮説H₀は間違っている」という判断が妥当だと結論した」という内容です。言葉を変えると、「差があるだろう」が妥当な推論だと判断した、ということです。

2つめは「しかし、もしかしたら帰無仮説H0は正しくて、そのうえで、私たちが誤って、第1種の過誤を犯しただけなのかもしれない。その可能性を100%完全に否定することはできない」という内容です。ここでは「『差があるだろう』という推論が間違っている可能性は、もちろんある」と、しっかり認めています。

3つめは「ただし、もし仮に帰無仮説H0が正しいとしても、第1種の過誤を犯す確率は5%に過ぎない」という内容です。この内容を「P<0.05」という不等式が示しています。この3つめの内容は、2つめの内容と合わせて「『差がある』という推論が間違っている可能性は否定できないが、この推論が間違いである可能性は十分に小さい」と主張しています。

4.第2種の過誤

このように、帰無仮説H0「比べるもの同士が等しいが間違っているにも関わらず「有意差なし」と誤った結論を下すことを、第2種の過誤とか第2種の誤り、もしくはタイプ・ツー・エラーと呼びます。

本節を読み「こんなに高い確率で第2種の過誤が起こるのか!」と驚いた読者もいると思います。こんな結果になった原因の1つは、例題の標本サイズn=20(患者の数)が小さいからです。

有意水準αを5%に設定しておけば、二項検定に限らず、本書の後半で学ぶt検定や一元配置分散分析でも、他のどんな検定でも、5%です。 この意味で、第1種の過誤は「単純明快」と言えます。 ところが、第2種の過誤には、こうした簡単さが全くありません。 第2種の過誤が起こる確率βは、有意水準α以外の要因によっても変化します。

ここで『有意差なし』という表現の意味は何だろうか?という問題を考えます。

結論から書きます。有意差がないときは「結局、何も分からなかった」です。もしかしたら、帰無仮説が正しかったのかもしれません。その可能性は否定できません。しかし、もしかしたら、帰無仮説が間違っているのに、第2種の過誤を狙してしまっただけなのかもしれません。この可能性も、否定できません。「この2つの可能性のうちどちらが正しいか?」を知りたいです。しかし、判断するためのヒントがありません。

5.データの解釈と言葉遣いに、気をつける

検定を行うと、その結果には2つの可能性があります。1つは「有意差あり(P<0.05)」で、もう1つは「有意差なし」です。どちらの結果にせよ、不確定な要素が残ります。そこで、私たちは、結果の解釈と、結果を報告する表現に、注意深さが要求されます。

有意差(P<0.05)がある以上「差があることを示唆する1つの強い証拠を得た」という立場に立つことができます。

再度、繰り返します。「有意差なし」の意味は「差があるのか?ないのか?は何も分からなかった」です。ですから「有意差が認められなかった」とだけ述べて、それ以上の内容について言及する際には、極めて慎重に議論を進める必要があります。

第Ⅱ部 統計学の理論的基礎

第Ⅰ部では、高校1~2年で学ぶ数学で理解できる統計手法を2つ学びました。しかし、これほど理解しやすい学習項目は、統計学には、この2つだけです。他の多くの統計手法を理解するには、統計学の理論的な基礎について、最低限の知識が不可です。

第Ⅱ部では、統計学の理論の初歩を学びます。多くの初学者にとって、統計学の理論的な基礎を支える数学は、理解するには難し過ぎます。本書は「はじめて統計学を学ぶときは、その数学的側面に取り組む必要はない」という姿勢で作成しています。そこで、この第Ⅱ部では、統計学の理論的基礎の、定性的な理解だけを目指します

4章 平均・分散・標準偏差・自由度

私たちが実験や調査を行うと、いくつかの観測値からなる標本を得ます。標本を得たら、いくつかの計算を行います。計算で得られた数値は統計量(statistic)と呼ばれます。基本的な統計量に、標本平均、標本分散、標本標準偏差があります。この3つは大切です。多くの統計手法で、重要な役割を果たします。本章では、この3つの統計量の、基礎を学びます。

1.例題4:3つの観測値

2.母集団と標本

本章で学ぶ平均・分散・標準偏差も「母集団に対して定義される式」と「標本に対して定義される式」が、明確に区別されます。読者は、いまどちらの話をしているか?を注意しながら読み進めてください

3.平均

この空想上の観測値を使って計算した算術平均を母平均μ(population mean)と呼びます。

私たちが実験や調査をするとき「知りたくて仕方ない」のが母平均μです。しかし「Nが膨大」という理由から、実際の実験や調査では、決して手に入れることができない数値です。

この確率分布に従う母集団から、無作為に1つの観測値(確率変数)xを取り出すことを考えます。この「観測値(確率変数)xの期待値E[x]」が、もう1つの、母平均μの定義です。

当然、標本平均x̄が、私たちが知りたい母平均μと正確に一致することは、100%あり得ません。

しかし、標本平均x̄には大切な性質があります。標本平均x̄の期待値E[x̄]は、母平均μに一致します。(…)この性質を不偏性(unbiasedness)と呼びます。

4.分散と標準偏差の基礎

本節から節4-6までは「観測値xの分布の広がり(散らばり)」の指標となる分散(variance)と標準偏差(standard deviation)を学びます。

偏差の計算には,起点と終点が必要です。偏差の起点には,母平均μを使います。

観測値の散らばりの指標として,初学者に素直に受け入れやすいのは,平均偏差(mean deviation)です。(…)平均偏差は,統計の初学者には,直感的で分かりやすい計算です。しかし,統計学ではほとんど使われません。理由は簡単です。数学者たちが「これを散らばりの指標にすると,統計学の理論を展開できない」と判断したからです。

5.母分散σ2と母標準偏差σ

本書では「偏差平方和」を使います。記号は「SS」です。「sum of squares」の頭文字に由来する記号です。

6.標本分散s2と標本標準偏差s

本章は、ここから本番に入ります。私たちが実験や調査で手に入れるのは、数が限られた観測値をからなる標本です。この標本を使い、母分散σ2や母標準偏差σを推定する必要があります。これが標本分散と標本標準偏差の仕事です。

まず最初に、読者へのアドバイスがあります。本節で紹介する計算は、その一部が、私たちの直感にまったく訴えません。次節以降の解説も、まったく直感に訴えません。ですから、決して「計算の意味を理解してやろう!」なんて野心は、抱かないでください。謙虚に「計算のルールの基礎を、知識として身につける」という姿勢で臨んでください。

標本平均x̄を使った偏差平方和SSには、1つの特徴があります。母平均を使った偏差平和SSより、小さい数値を算出する傾向があります。

「自由度df」は、大半の統計手法に登場する、非常に重要な概念です。と同時に、初学者が統計学に挫折する、1つの大きな原因でもあります。本書では、節4-9で、その初歩をしっかり学ぶ予定でいます。そこで、今の時点では、チンプンカンプンでも構いません。気にせずに、読み進めてください。

明らかに、違和感を与える計算です。しかし、このように標本分散s²を定義しておくと、その期待値E[s2]が母分散σ2に一致します

7.母数と統計量

ここまでに、たくさんの定義式を紹介してきました。混乱がないように、ここで、一覧表にまとめておきます。

統計学の多くの手法では「標本から計算した統計量を使い、未知の母数(パラメータ)に対して、適切な推論を行う」という作業を行います。この原則を、統計学の学習では、常に忘れずにいてください。

要点をまとめます。2つの理由①国際的に標準的な用語の体系に合わせるべきと②用語の体系はシンプルであるべきから、本書では「標本分散」を使います。「不偏分散」は、一切、使いません。

8.自由度dfの概念を確立してきた自然科学者たち

標本平均x̄を偏差の起点に使う時、偏差平方和SSを「標本サイズnではなく、n-1で割るべき」であることを、最初に発見したのは Friedrich Bessel(1784–1846) です。

統計学を学んでいると、最も頻繁にその名を目にするのが、Ronald Aylmer Fisher (1890–1962)です。私たちが学ぶ統計学の、数学としての基礎の多くを、彼が構築しました。本書の第10章で学ぶ分散分析も、彼の偉大な発明の1つです。

9.自由度df

自由度みは、本書で学ぶ統計手法の大半で現れます。しかも、n-1より煩雑な形で現れる場合がほとんどです。統計学を学習するうえで、自由度みという概念は、とても重要です。

本節では、自由度の基本的な考え方と、自由度dfの数え方の基礎を学びます。読者は理解するではなく慣れることに集中する姿勢が求められます。

統計学の学習では、自由度dfを意訳して「標本分散や標本標準偏差の計算における、意味のある偏差の数」もしくは「不可欠な偏差の数」と覚えておくと、格段に馴染みやすくなります。

10.標本分散s2の計算の手順(まとめ)

11.練習問題E

5章 正規分布と統計理論の初歩

本書の第Ⅰ部と第Ⅱ部では、統計学の基礎を学んでいます。本章は、この基礎編の中では、他より難しい学習項目となっています。頑張って乗り切ってください。本章は2つの内容からなります。前半では「正規分布」と呼ばれる確率分布の初歩を学びます。正規分布は、統計学で最も基本的な確率分布です。統計手法の多くは、母集団が正規分布に従うと仮定します。本章の後半では、統計学の理論の初歩を学びます。統計学は、一見デタラメにしか見えない、散らばった数値を対象にします。しかし、こうした数値たちの振る舞いの背後にも、シンプルで美しい定理や公式が存在します。そのうちの基本的な項目を紹介します。本章の内容は全て、次章以降で学ぶ統計手法を理解するうえで、不可欠な予備知識です。ただし、数学として理解するには困難な内容が中心です。本章は、公式や定理を天下り的に与え、その定性的な内容を紹介していきます。そこで、学習する際には「完全に理解しよう」と意気込むことはせずに、「定性的なイメージを作る」と「知識を増やす」の2つを心がけてください。

1.正規分布

正規分布は、最も基本的な確率分布です。英語では「normal distribution」です。その意味は「様々な測定でよく見かける、ごく普通の確率分布」です。本章では、正規分布の初歩を学びます。統計手法の多くは、母集団が、正規分布に従うと仮定します。

本節で見たように、nが大きくなるにつれ、二項分布が正規分布に近づいていく性質は、ド・モアブル-ラプラスの定理(De Moivre-Laplace theorem)として知られています。

2.標準正規分布

標準正規分布の両端に2.5%ずつ、合計5%の棄却域を作るzの臨界値は1.96です。

3.練習問題F

4.標準化

標準化の計算式は z = (x - μ) / σ

5.練習問題G

6.定理1:標本平均が従う確率分布

このように、標本サイズnをドンドンと大きくし、無限大に近づけていく過程を想像します。すると、その極限で、標本平均エックスバーが母平均μに限りなく近づくと想像できます。この性質を、大数の法則(law of large numbers)と呼びます。

新しい用語の1つめです。「統計量が従う確率分布」を標本分布(sampling distribution)と呼びます。

新しい用語の2つめです。標本分布には、この確率分布を特徴付ける期待値(平均)と標準偏差が存在します。「標本分布の標準偏差」を標準誤差(standard error)と呼びます。記号には、頭文字を使って「SE」や「se」を使います。

なお、標本平均エックスバーの標準誤差に限っては、記号に「SEM」や「sem」も使います。これは「standard error of the (sample) mean(標本平均の標準誤差)」の頭文字に由来します。

7.練習問題H

8.定理2:中心極限定理

中心極限定理は、「定理1」の拡張版のような内容です。要点は「どんな確率分布から得た標本平均エックスバーも、標準偏差が1/√n倍に狭まった正規分布に近似的に従う」です。

9.定理3:正規分布の再生性

これは美しい性質です。正規分布から得た観測値(確率変数)は、その和も、その差も、正規分布に従ってくれるのです。この性質は、正規分布の再生性(reproductive property)と呼ばれています。

10.練習問題I

11.定理4:2つの標本平均の差が従う確率分布

12.練習問題J

13.定理(まとめ)

6章 t分布と母平均μの95%信頼区間

母平均μの95%信頼区間は、数が限られた観測値からなる標本を使い「母平均にはおそらくこの範囲の中にあるのではないか?」と推測する方法です。公式も計算手順も簡単です。本章には、大切な学習項目が2つあります。1つめは、第5章で学んだ統計学の理論的な基礎の活かし方を学ぶことです。95%信頼区間の公式は、導出が簡単なので、この目的に適しています。加えて、本章で学ぶ論理は、第7章や第8章でt検定を学ぶための、良い予備知識となります。本章のもう1つの大切な学習項目は、t分布と呼ばれる確率分布です

本章の最大の目標は、t分布のこうした性質を理解することです。なお、本書の後半で学ぶF分布も、母数は自由度dfです。本章をしっかり学び切って「自由度dfが確率分布の形状を決める」という性質に、慣れてください。

1.例題6:7つの観測値の背後にいる母平均μは?

本章では母平均μはどこにいるのだろうか?という疑問に取り組みます。

ある程度の幅のある範囲を求め「おそらく、この中に母平均μがいるだろう」と推測することなら可能です。これが、本章で学ぶ95%信頼区間(95%confidence interval)という手法です。confidence intervalの頭文字を使って「95%CI」という表記もよく使われます。

95%頼区間の95%は「この方法に従った95%信頼区間を計算していると、平均して、20回に19回の頻度で、この範囲内に母平均いが入る」という意味です。この95%は信頼係数(confidence coefficient)と呼ばれています。

2.母標準偏差σが既知の場合の95%信頼区間

本節では「母標準偏差のが既知」という条件を考えます。このような条件は、実際の実験や調査では100%あり得ません。しかし、この簡単な状況から学習を始めると、計算の仕組みを理解しやすいメリットがあります。

用語を紹介しておきます。頼区間の上限の値を上側信頼限界(upper confidence limit) と呼び、下限の値を下側信頼限界(lower confidence limit)と呼びます。

3.練習問題K

4.σをsで代用してみる

ただしこの方法には、致命的な点があります。計算を実行するには、母標準偏差σが予め分かっている必要があります。しかし実際の実験や調査では、そんな状況は100%あり得ません。

では、どうしたらいいのか?という問題が生じます。選択肢は1つしかありません。母標準偏差のの代役として、第4章で学んだ標本標準偏差sを使うことです。

この結果から「母標準偏差σの代わりに標本標準偏差sを使って得たこは、もはや、標準正規分布N(0, 12)に従わない」ことが分かります。

この結果から「σの代わりにsを使って得たこの分布の、標準正規分布N(0, 12)からのズレの大きさは、標本サイズnに依存する」ことが分かります。

5.Gossetが発明したt分布

K Pearsonは、この点に関しては、きわめて冷淡でした。彼にとっては、生物系の研究者が手にする実験データの大半は、標本サイズnが小さ過ぎて「そもそも統計学の対象になりえない」無駄な実験データでした。

K Pearsonとは対照的に、WS Gosset (1876–1937)は、謙虚で、親切で、思慮深い人であったそうです。

WS Gossetは、生物系の多くの研究者が悩む問題「①十分な標本サイズnを得られない。②観測値との散らばりが激しい。③背後のメカニズムが不明」という特徴を実体験した、最初の数学者でした。

WS Gossetの発想は画期的でした。彼は、sがσの大雑把な推定値であることを認めたうえで、「この出来損ないの標準化で得られた数値が従う確率分布を、新しく発見する!」という方向に活路を見出しました。これは当時、完全に新規なアイディアでした。

6.標準化とStudent化(まとめ)

要点は「σが既知なら、zが標準正規分布 N(0, 12)に従う。σ未知なら、Studentのtがt分布に従う」です。

7.t分布の定性的理解

①t分布は背が低くて幅が広い

②t分布は標本サイズのによって形が少しずつ変化する

③母数(パラメータ)は自由度df

第Ⅲ部以降、t分布の他にF分布という確率分布が登場します。この確率分布も、自由度dfによって、その形状が少しずつ変化します。そこで、臨界値の値も、自由度みによって変化します。こうした性質は、統計学の入門課程の学習上の、大きなハードルとなっています。読者は、こうした性質に、本章で十分に慣れてください。

8.母標準偏差が未知の場合の95%信頼区間

9.95%信頼区間の「95%」の意味

ここで紹介する話題は、土台になっている議論が本書のレベルをはるかに超えます。ここでは、議論の大枠だけ紹介します。一部の読者は「なるほど」と納得し、一部の読者は「騙されているような気がする」と不満に感じる話題です。説得力のない解説であることを、申し訳なく感じています。ただし、ここで紹介する内容は、95%頼区間とともに必ず学ぶべき重要な話題です。最後まで読み、こうした話題があることを、知識として知っておいてください。

95%信頼区間を得ると、私たちは「95%の確率で、母平均には、この範囲の中にいるだろう」と考えます。これは、とても素直で、直感的な考えです。しかし多くの解説書が「絶対に、このように考えてはいけない」と注意を促しています。

こうした論争を経て、現在では「その時々の、1回だけの95%信頼区間の計算結果に対し、母平均μがこの区間に入っているか?外れているか?その確率は?」と考えること自体が、的外れであるとされています。

95%とは、確率ではなく、「何回も95%信頼区間の計算を行ったときの、当たり外れの頻度である」とされています。

この「母集団から単純無作為標本を得て、95%信頼区間を計算する」という作業を延々と続けることを考えます。すると、平均して20回中19回の頻度(95%の頻度)で、95%信頼区間が母平均μを含むことが明らかになります。この「20回中19回の頻度」というのが、95%信頼区間の「95%」の意味となります。

10.母平均μの95%信頼区間の手順(まとめ)

11.練習問題L

第Ⅲ部 母平均μに対する統計解析

第Ⅱ部までに、読者は、基本的な統計手法を理解するための、素地を身に付けてきました。第Ⅲ部と第Ⅳ部では、基本的で、かつ実践的な、統計手法を学びます。

第Ⅲ部では、母平均μを比較する、4つの手法を学びます。どのような分野で調査や実験に従事することになっても、この4つの手法は、使用頻度が高いです。第Ⅲ部は、本書の中核をなします。

7章 関連2群のt検定(対応のあるt検定)

t検定は統計学で最も基本的な検定です。2つの標本の比較を行い、差の有無を調べます。検定には2種類あります。1つは本章で解説する「関連2群のt検定」です。「対応のあるt検定」とも呼ばれます。英語では「Paired t test」です。もう 1つは、次章で学ぶ「独立2群の検定」です。私たちは、実験や調査の設定によって、この2つを使い分ける必要があります。

1.関連2群(対応のあるデータ)の特徴

t検定を学ぶ際、最初に必要となる学習項目は、関連2群と独立2群の区別です。実験や調査の設定によって、この2つを使い分けます。

このように「対になる2つの観測値の間の『差』に重要な意味がある」が関連2群もしくは対応のあるデータの特徴です。

2.対応する2つの観測値の差d

関連2群の設定では、対応する2つの観測値の差が重要な役割を果たします。記号には小文字の「d」を使います。

関連2群のt検定では、この引き算で得た差dを、新たな観測値と見なします。

3.帰無仮説H0と対立仮説HA

関連2群のt検定の、検定としての論理の構造は、第Ⅰ部で学んだ二項検定やWMW検定と同じです。検定統計量を導く論理は、第6章で学んだ95%信頼区間と同じです。

4.σdが既知の場合

ここでは、検定統計量と帰無分布を学びます。分かりやすさを優先させるため、非現実的な条件ですが、まず最初に、母標準偏差σdが既知の場合から考えます。

5.練習問題M

6.σdが未知の場合

7.練習問題N

8.検定統計量tの定性的理解(3つの判断基準)

本節では、Studentのtの定性的な理解を目指します。「どういうときに Studentのtの絶対値が大きくなるのか?」を見ていきます。以下の解説を読めば「検定統計量の Studentのtの定性的性質は、視覚的にも直感的にも、理解しやすい」と実感できるはずです。そして、t検定への理解が深まります。

①差dの標本平均の効果

②差dの標本標準偏差の効果

③標本サイズの効果

9.検定統計量tの性質(まとめ)

以上、節7-8①から節7-8③にかけて、3つの比較を行ってきました。データをヒストグラムにして観察するとき、私たちは直感的に「差はなさそう」とか「これなら絶対に差があるはず」と判断します。そのとき、私たちが無意識に使っている判断基準の3つを、Studentのtは全て備えています。

8章 独立2群のt検定(対応のないt検定)

本章では「独立2群のt検定」もしくは「対応のないt検定」と呼ばれる手法を学びます。英語では「t test」もしくは「Student's t test」です。最も基本的な検定で、この100年の間、様々な研究分野で、最も多く使われてきた検定の1つです。一方で、多くの学習者は、この学習項目で、統計学の学習に挫折します。検定統計量の計算の意味を理解できないからです。

1.独立2群(対応のないデータ)の特徴

t検定の理解には「関連2群(観測値に対応がある)」と「独立2群(観測値に対応がない)」の区別が必須です。本節では、独立2群の2つの例を紹介します。

2.標本平均の差

独立2群のt検定は、2つの標本から得た2つの標本平均の差を、考察の対象にします。

独立2群のt検定には、2つの前提があります。1つめの前提は「比較する2つの母集団は、ともに、正規分布に従う」です。

私たちの実験や調査において、観測値が、常に100%必ず正規分布に従う保証はありません。もしかしたら、他の確率分布に従うかもしれません。しかし、この手法では標本平均の差を考察の対象にします。第5章で学んだ中心極限定理があるため、観測値が従う確率分布がどんなものであろうと、その標本平均は、近似的に正規分布に従います。そこで、この手法の適用に対して「観測値が正規分布に従う必要がある」という条件は、さほど厳密ではなく、かなり緩やかになります。ただし、データが正規分布からあまりにも逸脱している場合は、第2章で学んだ、ノンパラメトリック統計のWMW検定を行うことを検討してください。

2つめの前提は「この2つの正規分布は、等しい母標準偏差のを持つ」です。この条件を分散の仮定(assumption of homogeneity of variance, homoscedasticity assumption)と呼びます。

本書では「等分散」を仮定した手法を中心に学びます。その理由は「初学者にとって、学習が容易になる」です。しかし、実際のデータでは、時々、等分散の仮定がまったく期待できそうにないデータが現れることがあります。この場合、等分散を仮定しないWelch検定(Welch's test)を使います。 Welch検定は、独立2群のt検定を、同じ原理のまま拡張した方法です。

こうした前提条件を読むと、手にしたデータの「正規性」や「等分散性」を調べる方法が気になります。これを簡単に紹介します。正規性をチェックする手法には、シャピローウィルク検定(Shapiro-Wilk test)やアンダーソンーダーリング検定(Anderson-Darling test for normality)、コルモゴロフースミルノフ検定(Kolmogorov-Smirnov test for normality)などがあります。こうした検定は、帰無仮説H0「母集団は正規分布に従っている」の妥当性を調べます。一方、等分散性のチェックには、広く使われる手法が2つあります。この2つを状況に応じて使い分けます。もし、標本が正規分布に従っているように見えるなら、バーレット検定(Bartlett's test for homogeneity of variances)を使います。もしそうでないなら、ルビーン検定(Levene's test)を使います。この2つの検定は、帰無仮説「対象とする全ての母集団が等しい母分散を持つ」の妥当性を調べます。ここで紹介した統計手法は本書のレベルを超えるため、本書では解説していません。興味のある人は、統計学の勉強をさらに進めてください。

3.帰無仮説H0と対立仮説HA

4.σが既知の場合

この例題8.1では、検定結果の解釈においては、注意深くなってください。例題8.1は、調査の設定が良くありません。一見、この結果は「サプリメントAの方が、サプリメントBよりも、LDLコレステロールを低下させる効果が高い」を示唆するように見えます。しかし、そうではない可能性もたくさんあります。例えば、サプリメントAとBでは、愛用する年齢層が異なるかもしれません。もしそうなら、この検定結果は「異なる年齢層では、LDLコレステロール値が異なるようである」を示唆しているだけかもしれません。他にも、様々な可能性が考えられます。これは、全ての実験や調査においても、同様です。もし「有意な差が認められた(P<0.05)」としても、その検定結果を土台にした考察では、常に、注意深くあってください。しっかりした考察なしに、安直な因果関係に飛びつく事だけは、避けてください。

5.練習問題O

6.σが未知の場合

合算標準偏差は、英語では「pooled standard deviation」です。一方、日本語の用語は統一されていません。本書では合算標準偏差という用語を使うことにします。

7.練習問題P

8.検定統計量tは煩雑

これまで学んだ検定と同様に、独立2群の検定においても、検定統計量のStudentのtは、差があるのか?それとも、差があるとは言えないのか?を判断する重要な数値です。本章では前節まで、基本に忠実なスタイルでStudentのtを解説してきました。しかしこのスタイルは、あまり直感的な理解が得られない欠点があります。 そこで、Studentのtの計算の意味を、少しでも直感的に理解したいと考えます。

9.練習問題Q:Studentのtをシンプルにする

10.検定統計量tの定性的理解(3つの判断基準)

11.検定統計量tの性質(まとめ)

独立2群のt検定は、3つの基準を土台にして、差の有無を判断します。この判断基準は、私たちにとって、とても直感的な基準です。

標本平均の差が大きいとき、私たちは「差があるに違いない」と、直感的に確信します。 そして、こんなときには必ず、Studentのtも大きな値になってくれます。

標本標準偏差が小さいとき、私たちは「差があるに違いない」と、直感的に確信します。 そして、こんなときには必ず、Studentのtも大きな値になってくれます。

標本サイズnが大きいとき、私たちは「差があるに違いない」と、直感的に確信します。 そして、こんなときには必ず、Studentのtも大きな値になってくれます。

もし読者が、この3つの図を観察して「当然、これなら差があるだろう」と思えているなら、独立2群のt検定の原理を、もしくは本質を、定性的に、直感でしっかり理解したことになります。

9章 P値

独立2群のt検定の学習を終えたところで、ちょっと、寄り道をします。本章では「P値」を学びます。本書の学習では、統計学の基本的な考え方を身につけるため、読者には、関数電卓やExcelを使ってもらっています。しかし、私たちが実際の研究や業務で統計解析を行う場合は、統計解析専用のソフトウェアを使います。どのソフトウェアも、P値を計算します。そこで、私たちはP値の基礎知識を学ぶ必要があります。P値を言葉で表現すると「帰無仮説H0が正しい場合に、実験や調査で得られた差、もしくは、それより大きな差が起こる確率」となります。この表現は正確ですが、初学者が読んで「なるほど」と思える容易さがありません。P値はむしろ、図で理解すべきです。図を使えば、P値はとても簡単な概念です。前章で学んだ独立2群のt検定を例にして、P値の基礎を紹介します。

1.検定の枠組み

ここで重要なのは、単純な二択を行う点です。「棄却域に入るなら、差があるだろう」と判断し、「棄却域に入らないなら『差がある』とは言えないだろう」と判断します。

現在、有意水準として「5%」が広く使われています。この「5%」という判断基準は、RA Fisherの1925年の著作「研究者のための統計手法(Statistical methods for research workers) 」の中で提案されました。「5%」自体に理論的な根拠はありません。RA Fisherは、あくまで、数学を専門としない研究者のために、1つの目安として提案しただけです。彼は後に「有意水準が、ある特定の値に固定されるべきではない」と主張しています。しかし、彼の1925年の提案は、現在に至るまで、慣習的に受け継がれてきました。その結果、統計学のどの教科書でも「有意水準には慣習的に5%が使われている」と紹介されています。

2.2択だけの判断は不十分

しかし、統計解析を始め、経験を積むと、「棄却域に入るか?入らないか?」の二択の基準だけでは、不十分に感じる場面に遭遇します。

以上、ここまで見た通り「検定統計量のStudentのtが帰無分布の中の何処にいるか?」は、私たちにいろいろな情報を与えてくれます。この情報の、1つの指標が「P値」です。

3.P値

P値の定義は簡単です。まず、帰無分布を用意します。

実験や調査の結果から計算したStudentのtが、下図のようになったとします。

次に、このStudentのtに-1を乗じた数値を用意します。

帰無分布の、この2つの数値の外側の面積(確率)を計算します(計算自体はPCが行ってくれます)。

この2つの面積(確率)を合計したものがP値です。

P値の意味を言葉で表現すると「帰無仮説が正しい場合に、実験や調査で得られた差、もしくは、それより大きな差が起こる確率」となります。P値は、言葉で表現すると、小難しくなります。図形として理解する方が簡単です。読者はP値を「帰無仮説において、実験や調査で得た検定統計量(本章の例なら Studentのt)の外側の面積(確率)」と覚えてください。

10章 一元配置分散分析

前章では2つの標本の比較を行いました。本章と次章は、3つ以上の標本の比較を行います。本章は、本書の一番の難所です。「分散分析」と呼ばれる手法の基礎を学びます。分散分析には、実験や調査の設定に応じ、様々な種類があります。本章で学ぶのは、そのうち、最もシンプルで、計算も最も楽な、一元配置分散分析です。しかしそれでも、前章までと比べると、計算量が格段に増します。計算の過程で、多くの読者が「今、何を計算しているのか?」を見失いがちになります。ただし、計算の原理自体は、極めてシンプルです。II部の内容が理解できていれば、問題なく理解できます。

分散分析は英語でanalysis of variance です。第4章で紹介したRA Fisher(1890–1962)が発明した手法です。略してANOVAと表記されることが多いです。発音は「アノーヴァ」です。分散分析は、実験や調査の設定に応じた様々な種類があります。本章で学ぶ一元配置分散分析は、その中で、最も簡単な手法です。一要因分散分析とも呼ばれます。英語ではone-way ANOVA とかsingle factor ANOVA, one factor ANOVAと呼ばれます。

1.一元配置分散分析のデータの特徴

この調査での最大の疑問は「4つのサプリメントの愛用者のうち、LDLコレステロール値が1番低いのはどのサプリメントの愛用者か?2番目は?3番目は?」です。しかしここでは、もっと素朴な疑問を考えます。「そもそも、異なるサプリメントの愛用者の間で、LDLコレステロール値が異なるなんてことが、本当にあるのだろうか?」です。この疑問に答えてくれるのが、一元配置分散分析です。

2.2つの可能性

1つの可能性は「4つの標本とも、同一の母平均μをもつ、同じ確率分布から得られた」です。

もう1つの可能性は「4つの標本が、異なる母平均をもつ、異なる確率分布から得られた」です。

「一体、どちらの説明が妥当なのか?」を判断するのが、一元配置分散分析の目的です。

3.一元配置分散分析の前提条件

一元配置分散分析の前提条件は、2つあります。1つは、全ての母集団が正規分布に従うことです(右図)。 もう1つの前提は、この正規分布の全てが、等しい母分散(もしくは母標準偏差)を持つことです。

4.帰無仮説H0と対立仮説HA

一元配置分散分析の帰無仮説は、「全ての母集団が、同一の正規分布に従う」です。

一元配置分散分析も、基本的な論理は、これまで学んだ検定と変わりません。そこで、まず「帰無仮説が正しい」と仮定します。次いで、この仮定の下で、実験や調査で得た結果が「起こりやすい結果だったのか?それとも起こりにくい結果だったのか?」を調べます。

5.新しい記号:k,N,x̅̅

1つ目の記号は「k」です。標本の数もしくは処理の数です。

この計算の中で、2つの記号を使います。1つは、観測値の総数です。この総数に大文字の「N」を使います。

もう1つは、全観測値の平均です。総平均(grand mean)と呼びます。記号には「家」を使います。読み方は「エックス・ダブル・バー」です。

6.一元配置分散分析の大まかな流れ

一元配置分散分析は、計算が多く、面倒です。初学者は「今、何を目的に、何を計算しているのか?」を、簡単に見失います。

この手法は、5つのステップからなります。その過程で、3つの分散を計算します。そのうちの2つは、まったく異なる視点から、母分散を推定します。検定統計量のFは、この2つを比較します。そこで一元配置分散分析の学習では、この2つの母分散の推定法を理解することが、最も重要です。

本節では、一元配置分散分析の手順の大枠を紹介をします。なお分散分析では、「分散」を平均平方(mean square)と呼ぶ場合が多いです。本書では2つを併記します。

母分散の、1つめの推定値は、誤差平均平方[mean square(squared) error)〕とか群内分散(within-group variation)と呼ばれます。

2つめの母分散の推定値は、処理平均平方(treatment mean square)とか群間分散(between-group variation) と呼ばれます。記号には「MSbetween」を使います。

MSbetweenの特徴は「帰無仮説が正しいときだけ、母分散を適切に推定するその一方で帰無仮説が間違っていると、母分散より大きい、デタラメな数値を計算する」という性質です。この性質が、一元配置分散分析の核心をなします。有意差の有無を判断できるのは、この計算のおかげです。帰無仮説が正しいときと、間違っているときでは、まったく異なる数値を計算してくれるからです。

検定統計量Fは2つのMSで作る分数です。Fは、この手法を開発した「RA Fisher」の頭文字に由来します。Fの分母は、誤差平均平方(群内分散)MSwithinです。分子は、処理平均平方(群間分散)MSbetweenです。

帰無仮説が正しいとき、MSwithinも MSbetweenも、母分散を適切に推定します。そこで、検定統計量Fは、1からあまり離れていない数値を計算します。

7.誤差平均平方(群内分散)MSwithin

帰無仮説が正しくても、間違いでも、常に、適切な母分散の推定を行うのが MSwithinの役割です。

8.練習問題R

9.処理平均平方(群間分散)MSbetween

帰無仮説が正しいときと、帰無仮説が間違っているときで、まったく異なる値を計算するのが、MSbetweenの役割です。

10.練習問題S

11.全平均平方MStotal

全平均平方MStotalは、検定統計量Fの計算には直接に関わりません。しかし、分散分析表を作成するのに必要な計算です。また、MSwithinやMSbetweenの計算ミスをチェックするためにも重宝します。

12.練習問題T

13.分散分析表と検定統計量F

正しい計算が行われていれば、3つの偏差平方和の間に、簡単な等式が成立します。

14.検定統計量Fの定性的理解

こうした理由から、Fが大きくなるほど、私たちは「帰無仮説は間違っているに違いない。k個の標本は、異なる母集団に由来するに違いない」と確信します。

15.一元配置分散分析の手順(まとめ)

16.練習問題U

17.標本サイズが不揃いのときの計算

11章 多重比較(Bonferroni補正とTukey-Kramer法)

一元配置分散分析では、3群以上の比較をして「統計的に有意な差の有無」だけを問いました。本章で学ぶ多重比較は「母平均が1番高いのはどれか?2番目は?3番目は?…」という、順番を決める作業をします。多重比較には多くの手法があります。本章では、最も基本的な2つの手法、Bonferroni補正とTukey-Kramer法を学びます。多重比較の出発点は、比較する標本間の、全ての対に対して、独立2群のt検定を行うことです。ただし、この方法には問題があります。この問題を「多重性」と呼びます。本章では、多重性の理解が最重要な学習項目となります。Bonferroni補正も Tukey-Kramer法も、多重性の問題をクリアするために、独立2群のt検定に工夫を加えています。多重比較では、この、工夫を加えたt検定で、全ての標本の間で総当たり戦を行います。手順が多いため、計算量は多いです。しかし、独立2群の検定と一元配置分散分析を理解できていれば、どの作業も、理解は容易です。

1.多重比較のデータの特徴

この調査での疑問は「最もコレステロール値が低いのは、どのサプリメントの愛用者か?2番目は?3番目は?」です。多重比較(multiple comparison)が、この疑問に答えてくれます。

2.アルファベットを使った結果の表示

多重比較は、3標本以上の比較において「これが1番。これが2番。これが3番。…」と順位を付けることを目的にしています。しかし、明確な順位を付けられないことが多いです。観測値の散らばりが大きい場合や、標本サイズが不十分な場合に、こうした問題が起こります。 そこで多重比較では、慣習的に、アルファベットを用いて結果を示す場合が多いです。本節では、この表記法の基礎を学びます。

アルファベットの見方を説明します。基本は「同じアルファベットを持つ標本の間には、有意差はない。一方、共通するアルファベットを持たない標本の間には、有意差がある」です。

3.多重比較の出発点

多重比較の出発点は「標本間の全ての対で、総当たり戦の、独立2群のt検定を行う」です。本節では、総当たり戦の対戦表を作っておきます。この作業は、多重比較を行ううえで「必ず行わなければならない作業」ではありません。しかし、多重比較は計算が多いため、情報を整理するのに重宝します。アルファベットの割り当ても簡単です。初学者の場合、本書のスタイルに従うことを薦めます。

4.多重性という課題

多童性は、統計学の初学者には、難しい概念です。そこで、ここでの解説は、理解のしやすさを最優先しています。その結果、多重比較を支える数学として、厳密さに、かなりの久陥があります。ただし、統計学のエンドユーザーである私たちには、必要十分な解説となっています。読者は「多重性という問題の、全体像を掴む」に集中してください。

多比較の出発点は「独立2群のt検定を使い、全ての標本の間で総当たり戦を行う」です。この場合、1回の多重比較の中で、何回も独立2群のt検定を行うことになります。この「何回も独立2群のt検定を行う」ことで、新たな問題が生じます。この問題を多重性(multiplicity)と呼びます。多重性は、多重比較の学習で、最も重要な概念です。 多重性を理解するためには、第3章で学んだ第一種の過誤を復習する必要があります。そのうえでfamily wise error rate 略してFWERという、新しい視点が必要となります。本書では、この用語を「全体としての有意水準」と、意訳して、呼んでおきます。

FWER (全体としての有意水準)は「複数回のt検定を行ったとき、1回以上の第1種の過誤を犯す確率」です。 このように、多重比較のFWER (全体としての有意水準)が、本来の5%より上昇する性質を多重性と呼びますそして、多重性と呼ばれる概念が提起しているのは「FWER(全体としての有意水準)は、5%を超えるべきではない」という問題意識です。 こうした理由から、多重比較では「FWER(全体としての有意水準)が5%を超えないようにするための調整」が、必要になります。

5.Bonferroni補正

1つめの手法です。Bonferroni補正は英語でBonferroni correction です。日本語では、解説書によって「調整」とか「補正」とか「修正」といった表現が使われます。Bonferroniは日本語の読み方で「ボンフェローニ」です。

Bonferroni 補正は、棄却域の確率を「検定母数分の1」に低下させるだけの、とでも簡単な方法です。独立2群の検定以外の、様々な手法で使えます。本書で学ぶ手法であれば、第2章のWilcoxon-Mann-Whitney 検定や第7章の関連2群のt検定(対応のあるt検定)とともに、Bonferroni補正を行うことができます。

6.Tukey-Kramer法

2つめの手法です。本章の主役です。Tukey-Kramer法(Tukey-Kramer test)はTukey法とかTukeyの多重比較とも呼ばれます。「Tukey」は日本語の読み方で「テューキー」です。「Kramer」は「クレイマー」です。英語ではTukey HSD(HSDは「honestly significant difference」の略)と表記されることも多いです。Tukey-Kramer法は、独立2群のも検定が、多重比較用に改良されています。しかし、検定統計量の基本的な枠組みは、独立2群のt検定と何ひとつ変わりません。

データがこうした前提条件から逸脱している場合、2つの選択肢があります。1つは、正規分布を仮定し、しかし等分散は仮定しない、Games-Howell法です。もう1つは、正規分布すら仮定しない、ノンパラメトリック統計のSteel-Dwass法です。これは、第2章で学んだWilcoxon-Mann-Whitney検定を多重比較に拡張した手法です。

7.Tukey-Kramer法の計算

統計解析の結果を示すとき、アスタリスクを使った結果の表示を行うことがあります。慣習的なスタイルは、「*」は有意水準5%での有意差あり、「**」は有意水準1%での有意差あり、「***」は有意水準0.1%での有意差あり、です。

8.Tukey-Kramer法の手順(まとめ)

9.アルファベットの割り当て

有意差の有無を示すアルファベットの割り当ては、比較する標本の数が3つ程度なら、試行錯誤的に簡単に行えます。しかし、それ以上であると、面倒ではあっても、確実な方法が必要になります。本節では、新たな例を使い、手順を説明します。

10.練習問題V

第Ⅳ部 2つの変数xとyの間の関係

第Ⅲ部では、1つの変数を扱いました。第Ⅳ部では、2つの変数とりの間の関係を調べます。2つの分析手法を学びます。

1つめの手法は相関分析です。xが上昇するに従い、yが上昇もしくは低下していく傾向を示すとき、この関係を相関と呼びます。第12章では、相関の有無を判断するために重要な相関係数rの計算の仕組みを学びます。

2つめの手法は単回帰分析です。単回帰分析は、xとyの間に直線的な関係があるとき、xとyの関係をシンプルに要約する直線を引く手法です。第13章では、この直線の傾きやソー切片の決まり方を学びます。次に、回帰直線のデータへの当てはまりの良さの指標として、決定係数を学びます。

12章 相関分析

た。本章と次章では、2つの変数、xとy、の関係を調べる手法の基礎を学びますxが上昇すると、yが上昇したり低下する直線的な変化がある場合「相関がある」と表現します。相関の有無や強弱の客観的な評価を行うのが、相関係数rです。

1.例題12:2つの変数の関係は?

2.新しい記号:(xi, yi)

3.正の相関と負の相関

xとyの間にある、直線的に、互いに関係がある傾向を、相関(correlation)と呼びます。

4.強い相関と弱い相関

この客観的基準が、本章の主役である相関係数(correlation coefficient)です。正確には Pearsonの積率相関係数(Pearson product-moment correlation coefficient)と呼びます。Pearson は「ピアソン」です。実験や調査の結果から得る数値ですから、標本相関係数(sample correlation coefficient) と呼ばれることもあります。ただし、一般には、単に「相関係数」と呼ばれることがほとんどです。本書でも、単に「相関係数」と呼ぶときは「Pearson の積率相関係数(標本相関係数)」を意図しています。

5.相関係数rの性質

6.標本共分散sxy

7.相関係数r

8.相関係数rの計算

9.練習問題W

10.相関の検定

11.より簡便な検定方法

12.練習問題X

13.線形vs.非線形(相関係数rの苦手な状況)

私たちは「相関係数rは線形な関係の検出にのみ、長けている。線形の関係がなければ、効果が落ちる。場合によっては、完全に無力」という性質を、知っておく必要があります。

より適切な表現をすると「相関係数rは線形な関係を前提にした理論に基づいている。相関係数rを非線形な関係に対して計算することは、そもそも相関係数rの誤用であり、避ける必要がある」となります。

14.対数変換

相関係数は、非線形な関係を想定していません。しかし、非線形な関係ではあっても、とと」の関係が単調増加(monotonic increase)や単調減少(monotonic decrease)であれば、相関の有無を判断できます。そのための手段は2つあります。1つはデータ変換(data transformation)です。もう1つは、順位相関係数(rank correlation coefficient)を使うことです。本節で前者を、次節で後者を説明します。

15.Spearmanの順位相関係数

「非線形ではあるが、単調増加もしくは単調減少」という場合、順位相関係数を使うのが、もう1つの方法です。よく使われる順位相関係数に、Spearmanの順位相関係数(Spearman rank correlation coeffcient)とKendallのτ(Kendall's τ)があります。Kendalは「ケンドール」、「τ」は「タウ」です。

16.相関は因果関係の証明にはならない

13章 単回帰分析

xとyの間に関係があるとき、xとyの関係をシンプルな直線や曲線で要約する手法を、回帰分析 (regression analysis)と呼びます。回帰分析には様々な種類があります。本書で紹介するのは、もっとも簡単で基本的な「単回帰分析」と呼ばれる手法です

1.例題13:他の変数から予測できるか?

2.単回帰分析の前提条件

3.最小2乗法

4.回帰直線の性質

5.xとyを逆にしない

6.y-切片aと傾きbの計算

7.内挿と外挿

8.決定係数r2

9.練習問題Y

10.単回帰分析における検定と推定

x

付録 解答と付表

解答

付表1 Wilcoxon-Mann-Whitney検定の検定統計量Uの臨界値U0.05

付表2 標準正規分布表(下側確率)

付表3 t分布表(パーセント点)

付表4 F分布表(パーセント点)

付表5 Student化された範囲の分布の上側5%点

付表6 Pearsonの積率相関係数rの有意水準5%(α=0.05)と1%(α=0.01)の臨界値r0.05とr0.01

付表7 Spearmanの順位相関係数rsの有意水準5%(α=0.05)と1%(α=0.01)の臨界値rs 0.05とrs 0.01

索引

基礎から学ぶ統計学 | NDLサーチ | 国立国会図書館