Search on the blog

2017年3月30日木曜日

緑本 第11章 空間構造のある階層ベイズモデル

 久保先生の緑本こと「データ解析のための統計モデリング入門――一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。ようやく最終章までたどり着いた!第11章「空間構造のある階層ベイズモデル」を読んだので、理解度チェックリストを作っておく。
  • 空間相関とは?
    • どのようなときに考慮しないといけない?
    • どのように表現できる?
  • 条件つき自己回帰モデル(conditional auto regressive, CAR)とは?
  • 確率場とは?
    • マルコフ確率場とは?
    • ガウス確率場とは?
  • 観測データに欠測がある場合、空間相関を考慮する・しないで予測結果はどのように変わる?

2017年3月27日月曜日

緑本 第10章 階層ベイズモデル -GLMMのベイズモデル化-

 久保先生の緑本こと「データ解析のための統計モデリング入門――一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。今日は第10章「階層ベイズモデル -GLMMのベイズモデル化-」を読んだ。

 そもそもこの本を読み始めたのは、MCMCをどのようにベイズに適用するのかを理解するのが目的だったのだが、この章に来てようやくイメージができた気がする(9章からぼんやりわかり始めていたものが10章でしっかりと分かった)。この本を読む前までは、MCMCというのを最適化の手法のように勘違い(おそらくメトロポリス法が最適化手法の一つであるsimulated annealingに似ていたのでそう思ってしまったのかも)していた気がする。つまり最尤推定でやっているようにMCMCで対数尤度関数を最適化するパラメータを探すのだと勘違いしていて、それってどうやるのか全然わからない、っていうかわざわざそんなことする意味あるの?と悩んでいたのである。
 しかし、MCMCを「ベイズ」に適用するので、やろうとしていることはパラメータの点推定ではなく、パラメータの分布推定である。パラメータの分布が分かれば、特定パラメータの周辺分布や、応答変数の信頼区間や、ある説明変数が応答変数に影響するかどうかなどの統計検定ができる。こういうことをやるためにMCMCを使うというのが分かると、あぁなるほどな〜と使い方(ベイズのモデルをMCMCで計算するという意味)をイメージできるようになった。

 まえおきが長くなってしまったが、いつもの理解度をチェックするための確認リストを作っておく。
  • 階層ベイズモデルとは?
    • GLMMだと何が難しい?
  • 階層事前分布とは?
  • 超事前分布とは?
  • ベイズ統計モデルで主観的な事前分布の使用を避けたい場合は、どのような分布を使えばよいか?
  • 無情報事前分布と階層事前分布のどちらを使うべきかはどのように判断すればよいか?
    • 大域的なパラメータと局所的なパラメータ

2017年3月26日日曜日

緑本 第9章 GLMのベイズモデル化と事後分布の推定

 久保先生の緑本こと「データ解析のための統計モデリング入門――一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。第9章「GLMのベイズモデル化と事後分布の推定」を読んだので理解度チェックリストを作っておく。
  • 無情報事前分布とは?
    • 一様分布以外にはどのようなものが使える?
  • データの中央化とは?
  • データの標準化とは?
  • MCMCでサンプリングする際に設定すべき値は?
    • どのようにチューニングするのがよいか?
  • 周辺事後分布とは?
  • ギブスサンプリングのアルゴリズムについて説明してください
    • 全条件つき分布とは?
    • メトロポリス法と比較したときの利点は?
  • 共役事前分布とは?

2017年3月25日土曜日

緑本 第8章 マルコフ連鎖モンテカルロ(MCMC)法とベイズ統計モデル

 久保先生の緑本こと「データ解析のための統計モデリング入門――一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。8章「マルコフ連鎖モンテカルロ(MCMC)法とベイズ統計モデル」を読んだので、自分の理解度確認のためのチェックリストを作っておく。
  • 統計モデルのパラメータqの最尤推定値を求めたいとします。qを解析的に求められないときにはどのような方法を使えばよいか?原始的な方法を説明してください。
  • メトロポリス法のアルゴリズムを説明してください。
  • MCMCとは?
    • どの部分がマルコフ連鎖なのか?
    • どの部分がモンテカルロ法なのか?
    • MCMCの目的は?
      • 何を出力する?
      • どういうときに重宝する?
  • MCMCの定常分布は何を表す?
  • 頻度主義とベイズ統計学の違いについて説明せよ。
    • モデリングにデータを当てはめた結果えられるものはそれぞれ何か?

2017年3月19日日曜日

緑本 第7章 一般化線形混合モデル -個体差のモデリング-

 久保先生の緑本こと「データ解析のための統計モデリング入門――一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。今日は、第7章「 一般化線形混合モデル -個体差のモデリング-」を読んだ。7章からは本の後半となり、より応用的な内容になる。
 以下は自分の理解度をチェックするために作った確認リスト。

  • 過分散とは?
  • 過分散が起こる原因は?
  • 一般化線形混合モデル(GLMM)とは?
    • どのようなときに使うモデル?
  • 一般化線形混合モデルの最尤推定はどのように行う?
    • 個体差の分布はどのように表すか?
    • 混合分布とは?
  • データの取り方において、反復、疑似反復の違いは?
    • GLMMが必要なのはどっち?

緑本 第6章 GLMの応用範囲をひろげる -ロジスティック回帰など-

 久保先生の緑本こと「データ解析のための統計モデリング入門――一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。今日は第6章「GLMの応用範囲をひろげる -ロジスティック回帰など-」を読んだ。
 以下は自分の理解度をチェックするために作った確認リスト。

  • 以下のようなデータをGLMで分析したい場合に、確率分布は何を用いるのがよさそうか?
    • 上限のないカウントデータ
    • 上限のあるカウントデータ
    • 確率変数のとりうる範囲が0以上の連続値データ
    • 負の値もとりうる場合の連続値データ
  • 以下の文のX, Y, Zに当てはまる語句は何か?
    • ロジスティック回帰は確率分布関数に(X)を、リンク関数に(Y)関数を用いたGLMである。
    • (Y)関数は(Z)関数の逆関数である。
  • オッズ比とは何か?
  • ロジスティック回帰モデル(相互作用項無し)において、ある説明変数xが1増加した場合、オッズ比はどのように変化するか?
  • 交互作用項とは何か?
  • 交互作用項をいれる場合の注意点は?
  • 観測データの割算値を使って回帰を行う場合の問題点は?
  • オフセット項とは何か?そのメリットは?

2017年3月15日水曜日

緑本 第5章 GLMの尤度比検定と検定の非対称性

 久保先生の緑本こと「データ解析のための統計モデリング入門――一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。今日は第5章「GLMの尤度比検定と検定の非対称性」を読んだ。
 以下は自分の理解度をチェックするために作った確認リスト。
  • 帰無仮説とは?
  • 対立仮説とは?
  • 有意水準とは?
  • Neyman-Pearsonの検定の枠組みとは?
  • 尤度比検定について説明してください。
  • 第1種の過誤と第2種の過誤の違いは?
    • Neyman-Pearsonの検定の枠組みではどちらに専念する?
  • P値とは?
  • 以下の尤度比検定を行うための手法について説明してください。
    • パラメトリックブートストラップ法
    • カイ二乗分布を使った近似
  • 「帰無仮説が棄却できなかったので、帰無仮説は正しい」という主張を否定してください。
    • Neyman-Pearsonの検定の枠組みの非対称性
  • 検定力とは?
  • 検定とモデル選択の目的の違いを説明してください。

2017年3月12日日曜日

緑本 第4章 GLMのモデル選択 -AICとモデルの予測の良さ-

 久保先生の緑本こと「データ解析のための統計モデリング入門――一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。今日は第4章「GLMのモデル選択 -AICとモデルの予測の良さ-」を読んだ。

 以下は自分の理解度をチェックするために作った確認リスト。
  • モデル選択において、「線形モデルの場合は決定係数R2は高ければ高いほどよい。」という主張を否定してください。
  • 逸脱度とは何でしょうか?
    • 最大対数尤度を使って式で書いてみてください。
  • フルモデル、ヌルモデルについて説明してください。
    • それぞれのパラメータ数
    • 最小逸脱度、最大逸脱度
  • 残差逸脱度とは何でしょうか?
  • AICとは何でしょうか?
    • 逸脱度Dとパラメータ数kを使って式で書くとどうなる?
  • 平均対数尤度とは何でしょうか?
  • AICでモデル選択をしていい理由を以下の語句を使って説明してください。
    • 最大対数尤度
    • 平均対数尤度
    • バイアス補正

緑本 第3章 一般化線形モデル(GLM)- ポアソン回帰 -

 久保先生の緑本こと「データ解析のための統計モデリング入門――一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。今日は第3章「一般化線形モデル(GLM)- ポアソン回帰 - 」を読んだ。

 以下は自分の理解度をチェックするために作った確認リスト。
  • ポアソン回帰について説明せよ。
    • どのようなデータに対して適用するのが自然か?
    • モデルを式で書くとどうなる?
  • 一般化線形モデルを用いる際に指定する3つの項目を答えよ。
  • GLMにおいて因子型の説明変数はどのように扱えばよいか説明せよ。
  • 対数リンク関数と恒等リンク関数の違いについて説明せよ。
    • 各説明変数が応答変数に与える影響はどうなるか?
  • 直線回帰と一般化線形モデルの関係について説明せよ。
  • 直線回帰による限界を具体例を用いて説明せよ。
    • 直線回帰が前提としている2つの仮定は何か?

2017年3月11日土曜日

緑本 第2章 確率分布と統計モデルの最尤推定

 久保先生の緑本こと「データ解析のための統計モデリング入門――一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。今日は第2章「確率分布と統計モデルの最尤推定」を読んだ。

 以下は自分の理解度をチェックするために作った確認リスト。
  • 確率分布とは何か?
  • 以下の確率分布はどのような場面で使うのが適切か?
    • ポワソン分布
    • 二項分布
    • 正規分布
    • ガンマ分布
  • 尤度とは何か?
  • 以下のデータはポワソン分布にしたがってランダムに抽出されたものとする。
    • 4, 3, 4, 2, 2, 2, 1, 3, 6, 3
    • 対数尤度を最大化するパラメータと標本平均が一致することを確認せよ。(ポワソン分布の式をそらで書けないようだとダメ)
  • 標準誤差とは何か?
  • 推定と予測の違いについて説明せよ。

2017年3月10日金曜日

緑本 第1章 データを理解するために統計モデルを作る

 久保先生の緑本こと「データ解析のための統計モデリング入門――一般化線形モデル・階層ベイズモデル・MCMC」を読み出した。自分自身の理解度チェックのために各章ごとに確認リスト的なものを作ることにした。確認リストが質問形式なのは何となく詰め寄られてる気がして緊張感が出るから。

 今日は第1章「データを理解するために統計モデルを作る」を読んだ。
  • 統計モデルとは何でしょうか?
  • 応答変数と説明変数について説明してください。
  • リンク関数について説明してください。
  • 統計モデルのどのあたりが「統計」なモデルなのか説明してください。
  • 統計学の誤用あるあるネタを挙げてください。