過学習に陥った人間や社会の事例は何があるのか

深層学習、機械学習では過学習という罠の事例がある。
では、過学習に陥った人間や社会の事例は何があるのか？
ラフなメモ。

【参考】
学習データに最適化されすぎて本来の目的が達成できなくなる「過学習」と同様の現象はAIだけでなく社会全体で起こっているという主張 - GIGAZINE

失敗の本質―日本軍の組織論的研究の感想: プログラマの思索

なぜ米国企業は90年代に蘇ったのか～日本の手の内は完全に読み取られた～V字回復の経営の感想: プログラマの思索

(引用開始)
Sohl-Dickstein氏は、グッドハートの法則の強力なバージョンは機械学習を超え、社会経済的な問題にも適用できると主張しています。グッドハートの法則の強力なバージョンが当てはまる例として、Sohl-Dickstein氏は以下のものを挙げています。

ゴール：子どもたちをよりよく教育する
プロキシ：標準化されたテストによる成績測定
結果：学校はテストで測りたい基礎的な学問スキルの教育を犠牲にして、「テストに正しく答えるスキル」の教育を進める

ゴール：科学の進歩
プロキシ：科学論文の出版に対してボーナスを支払う
結果：不正確または微妙な成果の公開、査読者と著者の共謀が広まる

ゴール：よい生活
プロキシ：脳内の報酬経路の最大化
結果：薬物やギャンブル中毒になったり、Twitterに時間を費やしたりする

ゴール：国民の利益のために行動するリーダーの選出
プロキシ：投票で最も支持されるリーダーの選出
結果：世論操作のうまいリーダーの選出

ゴール：社会のニーズに基づく労働力と資源の分配
プロキシ：資本主義
結果：貧富の格差の増大
(引用終了)

過学習は人間や社会の方が罠にはまりやすいのではないか。
なぜならば、一度成功すれば、その成功事例や成功パターンに囚われてしまって、成功バイアスから逃げにくくなるから。
成功してしまうと、あえてリスクを選択して、別のやり方を取らなくても成功できると勘違いしてしまうから。

過学習の罠は特に平成時代の日本人や日本社会にすごくよく当てはまるだろう。
昭和の時代に日本が経済No.1になってしまったために、その時の製造業の成功パターンに囚われてしまって、95年から始まったIT革命に乗り遅れてしまって、現在はWebはおろか、クラウド、スマホ、IOT、AIには到底追いついていない。

日本人は「失敗の本質」に書かれているように、第二次世界大戦でも日清戦争・日露戦争の成功体験に囚われすぎて国を破滅してしまったという前科がある。
この前科も過学習という観点で考えれば、とてもフィットするのではないか。

過学習の話で面白いのは、過学習から逃れる手順も既に分かっているいることだ。
具体的には、学習が成功しないようにあえてランダム化して、失敗をある程度許容して、頑健なプロセスを確立することだ。

たとえば、受験勉強に過学習でハマりすぎて、過去問のパターンだけに適合してしまって、新しいテーマの問題に対応できない人であれば、わざと別のテーマを勉強したり、別の分野へ広げるとか。

ある既存ビジネスで成功しすぎた企業であれば、新規事業の種をわざと社内に残し、新規事業を起こせる人たちやチームが活動できるような組織文化をあえて作るとか。

でも、過学習はイノベーションのジレンマと同じタイプの罠かもしれない。
一度成功したやり方でどんどん成功してしまうと、他のやり方を試す事自体がコストがかかるし、現在の成功した状況を危うくしてしまうリスクが大きいからだ。

自分自身も過学習やイノベーションのジレンマに陥っていないか、定期的にふりかえって、我が身を見直すことが大切なのかもしれない。