SPSSでROC曲線を描く モデルの精度を評価する

SPSS

ROC曲線(Receiver Operating Characteristic)とは何か?について前回お伝えしました。→ROC曲線って何?
今回は実際にロジスティック回帰分析で作ったモデルの精度を評価してみましょう!
ロジスティック回帰分析を行いたい方はこちら→SPSSでロジスティック回帰分析

ROC曲線で精度を評価したいとき

ROC曲線を描く前に、どのようなときにこの解析が必要となるか考え、正しく使用しましょう。
ROC(Receiver Operating Characteristic) 曲線とは、アウトカムを予測するモデルを作ったとき、どの程度そのモデルが正確に予測しているか、推定値と観察値を比較したものです。「作ったモデルを評価する」ときに使用します。
新規にモデルを作った場合に精度を評価したり、既存の予測モデルに新規の項目を追加して、予測能がどの程度よくなるかを比較したりするのに使います。同じロジスティック回帰分析でもAとBの関連をみることが目的という場合には必要ありません。

ロジスティック回帰分析の際にROC曲線を描く準備をする

まず、ロジスティック回帰分析を行います。ロジスティック回帰分析の詳細はこちら→SPSSでロジスティック回帰分析
ROC曲線を描く場合には通常の従属変数と説明変数を入れた後に、[保存]をクリックし、予測値の[確率]にチェックを入れます。

図1 ロジスティック回帰分析のときの準備

ROC曲線を描く

分析➡分類➡ROC曲線

図2 ROC曲線①

先ほどロジスティック回帰分析の際に保存を行ったので、左側のボックスの中に[予測確率]という項目ができていると思います。(※例ではモデルを2つ保存したので[予測確率]が2つできています。)

図3 ROC曲線②

① 検定変数に[予測確率]を入力します。
② 表示の[ROC曲線]、[対角参照線]、[標準誤差と信頼区間]、[ROC曲線の座標点](こちらはなくてもOK)にチェックを入れて[OK]をクリックします。

結果の解釈

ROC曲線が表示されます。

図4 ROC曲線出力

曲線下の領域積の[面積]にあたる部分がAUC (area under the curve)です。AUCはc-statisticsとも言われます。このモデルはAUC 0.65なので、poorであまりよい予測モデルとは言えません。

AUC判断
0.9-1.0Excellent
0.8-0.9Good
0.7-0.8Fair
0.5-0.7Poor
0.5Random
<0.5Worse than random
表 AUC判断の目安

複数のモデルを比較したい

2つのモデルを比較してみましょう。
「ロジスティック回帰分析の際にROC曲線を描く準備をする」の項目のところで比較したいモデルを別々に2つ保存します。

分析➡分類➡ROC分析

図5 ROC分析①
図6 ROC分析②

① 検定変数に比較したいモデルを挿入。
② 状態変数に従属変数(アウトカム)を挿入、アウトカムは0、1の二値数で1をアウトカムありとしているので[1]を入力。
[表示]をクリック。
[ROC曲線][標準誤差と信頼区間]をクリックして[続行]
[OK]をクリック。

図7 ROC曲線の比較

2つのROC曲線、AUCが同時に表示されます。
ただし、一般的にはモデルの項目を増やすとAUCは大きくなる方向に働くということ、作成したモデルに使用したサンプルでは当てはまりがよく出てしまうので(過大評価してしまう)、別のサンプルで評価を行う必要があることには注意が必要です。こちらは成書に譲ります。

コメント

タイトルとURLをコピーしました