Ep.766 Waymo、自動運転の「ブラックボックス問題」に終止符──“証明できる安全”と生成AIの融合（2025年12月11日配信）
Description
「AIは賢いが、たまに嘘をつく（ハルシネーション）。だから命を預けるのは怖い」──自動運転業界が抱えていたこの最大のジレンマに対し、Googleの兄弟会社であるWaymoが、一つの「解」を提示しました。
Waymoは2025年12月、公式ブログにて「Demonstrably Safe AI（実証可能な安全性を持つAI）」と題した重要な技術指針を発表しました。これは、これまで別々の陣営と見なされていた「従来の厳格なルールベース制御」と「最新の生成AIによる柔軟な判断」を、極めて高度なレベルで融合させたものです。
これまで、自動運転のアプローチには二つの派閥がありました。一つは、Waymoが長年得意としてきた、エンジニアが細かくルールを記述する手法。安全ですが、想定外の事態（例えば、着ぐるみを着た人が道路を横切るなど）に弱いという弱点がありました。もう一つは、Teslaなどが志向する「End-to-End AI」です。これはAIに動画を見せて運転を学ばせる手法で、柔軟性は高いものの、中身がブラックボックスで「なぜその判断をしたか」が説明できないという欠点がありました。
今回Waymoが発表したアーキテクチャは、この両方のいいとこ取りを狙ったものです。 彼らはシステムの脳内に、Geminiなどの基盤モデルをベースにした「Think Slow（熟考する脳）」と、即座に反応する「Think Fast（反射する脳）」の二つを共存させました。「Think Slow」は、生成AIの圧倒的な知識を使って、「あの歩行者はスマホを見ているから、急に止まるかもしれない」といった高度な文脈理解を行います。
そしてここからがWaymoの真骨頂ですが、AIが弾き出した運転プランをそのまま実行するのではなく、その外側に「Safety Validator（安全性の検証器）」という監視役を配置しました。この監視役は、物理法則や交通ルールに基づいた厳格なチェックを行い、もしAIが危険な操作をしようとしたら、即座に安全な動作に書き換えます。これにより、AIの柔軟性を活かしつつ、安全性を数学的に「証明（Demonstrate）」することが可能になったのです。
この技術により、Waymoは「AIにお任せ」の不安を取り除き、規制当局や一般市民に対して「なぜ安全なのか」をクリアに説明できるようになります。それはつまり、自動運転車が実験段階を終え、私たちの街の当たり前のインフラとして普及するための「最後の鍵」が開かれたことを意味しています。
United States
