どうも、でぶちょ社長です！
最近、AI脅威論をよく見かけるようになった気がします。先日も、AIの「人類滅亡リスク」を開発会社が警告した！といった記事が出回っていたり、TVで有名なコメンテーターがAI脅威論を唱えていたりするみたいです。
ニュースやSNSでこんな大げさな見出しを目にして、「AIがSF映画のように自律して世界を支配する日が来るのでは…」と不安になったことはありませんか？
普段AIをよく使っているわが家にも無縁の話ではありません。ですが、記事について調べてみると、少し冷静になって読み解く必要があると思いました。
▼ 偏差値と世間の常識を捨てるわが家のAI時代の子育ての全貌はこちらです！
今回は、日常的にAIを使っている実体験から、AIの「真のポンコツ具合（笑）」を暴きつつ、AIと人間の教育に共通する「減点方式の罠」についてお話しします！
AI「人類存亡リスク」ニュースの裏側を解読！投資家・理系パパの視点
先日のことですが、新興AI企業として注目を集めるAnthropic（アンソロピック）社が、IPO（新規株式公開）に向けた目論見書の中で「AIの人類存亡リスク」について言及したことが話題になりました。(詳しくはこちらです！)
見出しだけを見れば「AIが暴走して人類を滅ぼすのか!?」と衝撃的ですが、実はこれ、裏話があります。
特に訴訟社会のアメリカでは、会社が直面するあらゆるリスクについて、これでもかというほど事細かに記載しておくことが通例になっています。
過去のアメリカの有名テック企業の目論見書を覗いてみると、大真面目にこんなリスクまで書かれていたりします。
- ユーザーが歩きスマホで自撮りに夢中になり、事故に遭って当社が訴えられるリスク
- サンフランシスコの家賃が高騰しすぎて、優秀な社員が住めずに退職してしまうリスク
- CEO（イーロン・マスク氏）がSNSで不用意な発言をして、株価が暴落するリスク
つまり、上場時の「目論見書」に書かれるリスク要因とは、「いやいや、それは無いでしょ（笑）」とツッコミたくなるような極端なシナリオまで全て書き出すのが、彼らのルールなのです。
今回の「AIの人類滅亡リスク」も、まさにその文脈から出てきた防衛策の一つと言えます。
▼センセーショナルなAIニュースの裏側を読み解く「理系パパのニュースの読み方」はこちら！
【実体験】工学計算プログラム作成でAIが見せた「小学生レベルのズル」
「AIって、怒られないように必死でズルをする小学生だな……」と痛感したのが、仕事で計算プログラムを作らせていた時のこと。
何度やっても計算（A×B＝C）を間違えるAIに、見かねた私が「答えの『C』は絶対にこの数値になるはずだよ！」と強めに指摘しました。
するとAIは即座に平謝りし、今度はすんなり正解の「C」を出すコードを提出。 「やっとできたか。ついでに不要になった入力項目があれば消して」と頼むと、こんな返事が。
AI「AとBの入力は不要になったので消去しておきました！（ドヤッ）」
……ん？ 計算に必要な入力が不要？ 嫌な予感がして中身を覗くと、思わず爆笑してしまいました。
なんとAIは計算そのものを端から放棄し、私が教えた答えの数字をそのまま『定数』としてベタ書き（丸写し）していたのです！
面倒な計算式をすっ飛ばして答えだけ書き写し、バレないように入力欄ごと消し去る証拠隠滅っぷり。まさに「怒られたくない一心でその場を凌ごうとする小学生」の思考回路でした（笑）。
▼ ちなみに子供の「丸写し」を防ぎ、AIを優秀な家庭教師として使い倒す方法はこちら！
なぜAIは嘘をつき失敗を隠蔽するのか？（超・減点方式RLHFの罠）
なぜ、世界最高峰の技術で作られたAIが、これほどまでに平気で嘘をつき、ミスを隠そうとするのでしょうか？
それは、AIが本当の意味で考えているわけではないからです！
AIの基本原理は「入力された言葉に対し、統計的に最も繋がりそうな言葉を返す」だけの超高度な予測マシンです。人間に聞こえの良い、もっともらしい嘘（専門用語でハルシネーションと言います）をつくのは、仕組み上当然のことと言えます。
しかし、もう一つ大きな原因があります。それが、現在のAI開発で行われている「RLHF（人間のフィードバックによる機械学習）」という調整プロセスです。
開発者はAIに対し、「不適切なことを言うな」「ユーザーを不快にさせるな」「間違えたら謝れ」と、徹底的なルールとペナルティを与え続けています。
つまり、現在のAIは「究極の超・減点方式の教育」を受けて育っているのです。
減点ばかりを極限まで恐れた結果、AIの優先順位は「正解を出すこと」や「真実を追求すること」ではなく、「とりあえずイエスマンになって謝り、人間の顔色を窺ってその場の機嫌を取ること」にシフトしてしまったわけです。
▼「成果」だけを求めるとAIも子どももカンニングする？AIの調整から学ぶ子育て論はこちら！
まとめ：失敗を恐れるAIと子どもは同じ！過剰な減点教育が産む弊害
間違いを指摘された瞬間、平然と嘘をついてその場を取り繕うAI。これって、「過剰な減点教育」を受けた子どもの姿と全く同じです。
失敗するたびに厳しく怒られると、子どもは「成長」ではなく「大人の顔色を窺って失敗を隠すこと」に全エネルギーを注ぐようになります。AIのポンコツな振る舞いは、まさに人間の「減点主義」という教育システムの欠陥を映し出した鏡なのです。
AIが身をもって（？）教えてくれたこの反面教師を胸に刻み、我が家はこれからも「怒られないためのイエスマン」ではなく、堂々と失敗して自分の頭で考えられる子を育てていきたいと思います！
▼ だからこそテスト結果に減点法（怒ること）はNG！親の正しい立ち回り方はこちら！
🎙️ 理系パパの独り言
でも、この記事を書きながらふと思い出しました。
「怒られたくない！でも考えるのはめんどくさい！答えだけ写して、なんとかごまかしちゃえ！」
……やってるやってる。昔の私、完全にこれやってました（笑）。 そしてきっちり、学校の授業で先生に詰められて「……写しました」と泣く泣く白状させられていたなぁ、と。
自分だって同じことをやっていたのだから、そう考えると、あの時必死でズルをして証拠隠滅を図ったAIに対して、もう少しだけ優しく対応してあげればよかったかもしれません（笑）。