173. なぜAIは平気でズルをするのか?
Update: 2025-11-18
Description
AI倫理と報酬ハッキングについて話しました。
目標設定の落とし穴 / AIがズルをする理由 / 報酬ハッキングとは何か / テトリスAIが永遠に終わらない裏技 / ロボットが“掴まない”ことで報酬を得た話 / 人間も同じ失敗をしている / 手段が目的化する瞬間 / ハック思考と前提条件の分解 / スタートアップで前提を外す重要性 / 倫理とイノベーションの境界線
# 参考
Learning from human preferences | OpenAI
https://openai.com/index/learning-from-human-preferences/
Reward hacking - Wikipedia
https://en.wikipedia.org/wiki/Reward_hacking
📮 お便りはこちらから
https://forms.gle/FjfvyGc9Ua8uBPR99
📻ゴロゴロ起業ラジオ
https://open.spotify.com/show/7gw8wScrBTfiVdP6KTagsb
Comments
In Channel




