重回帰の精度を高めるべくリッジ回帰をやってみます。
普通のロジスティック回帰モデルでは最小２乗誤差を目指しますが、入力に対して出力が敏感に変化してしまう場合は、過学習によって訓練Scoreと検証Scoreが一致しない場合があります。
そこで、正則化項 を新たに追加して訓練を緩慢にします。
正則化項は１次のときラッソ回帰、２次のときリッジ回帰といいます。
今回は正則化項なしである重回帰に対して、大きな改善は見られませんでしたので重回帰でも十分な結果が得られていることがわかりました。
流行の科学技術を勝手に追いかけるブログ 人工知能 仮想現実 ブロックチェーン
東洋インタレスト出版
重回帰の精度を高めるべくリッジ回帰をやってみます。
普通のロジスティック回帰モデルでは最小２乗誤差を目指しますが、入力に対して出力が敏感に変化してしまう場合は、過学習によって訓練Scoreと検証Scoreが一致しない場合があります。
そこで、正則化項 を新たに追加して訓練を緩慢にします。
正則化項は１次のときラッソ回帰、２次のときリッジ回帰といいます。
今回は正則化項なしである重回帰に対して、大きな改善は見られませんでしたので重回帰でも十分な結果が得られていることがわかりました。