AI ADDICT、FSDなのに手動で避けまくる

さてさて、前回の更新から1ヶ月ほどが経過してしまいました。本業が忙しくなってきたのはありがたいことで、1歳半になる娘と在宅ワークの合間に遊んでやることも難しくなっています。実はコロナ騒ぎの間にはこれまでにできていなかったような、いろんなことができていたんだなーと改めて振り返る今日このごろです。皆さんの中にも在宅ワークが終わって「ちぇ、これまでみたいにサボりながらうまいこと働けなくてめんどくさいなー」と思っている方がいらっしゃるのではないでしょうか。

さて、いつものように中途半端になっていた記事の続きとして、YouTubeのAI ADDICTのチャンネルより、テスラが提供するFSDの検証をご紹介し、簡単に検証してみたいと思います。といってもわたしのご紹介する内容はあくまでも「まとめ」を主体とした考察ですので、時間と興味のある方はチャンネルへのリスペクトを込めて元ネタをじっくりご覧頂くのが良いと思います。それ以外の時間を短縮したい方のみ、さらっとお読みいただけると何かの参考になるかもしれません。

FSDは検知・停止・回避できるのか

それではまず小さめのバケツからスタート。

時速30マイル、約50km/hですからテストドライブはかなり危険で怖いと思います。次はビア樽。さらに恐ろしいテストになります。信じていいの、FSD？

時速50キロで正面からぶち当たっていたら下手すると車両は廃車レベルに破損するでしょうし、ビア樽が飛ばされたらドライバーや近くの人・物に当たって恐ろしい事故につながる可能性もあります。動画の最初にAI ADDICT氏が警告しているとおり絶対に真似をしてはいけないテストですね。

木製のパレットが路上に落ちると、モニター上では一応検知しているのがわかります。

パタッとパレットが倒れた瞬間画面上から物体は消えてしまいました。FSDはたった10センチ程度の高さしかない物体に関しては問題ないとして検知しないことに決めたようです。

今度はパレットを立てて置いてみたところ、これもやはり回避せず、ドライバーの意思により回避することになっています。

バーベキューグリルによるテストでは、さすがにビビってしまったということで途中でFSDによる回避のテストを中断、早めに手動回避してしまいました。そりゃそうです。

ピックアップトラックが前方に侵入しますが、画面上に自動車を検知する様子はありません。

ドライバーがブレーキを踏まなければ追突するような距離にきてようやく検知しているようです。

結局この状況でもスクリーン上には警告の表示はありませんでした。さすがFSD、世界の最先端をいく装備です。きっとテストなのでドライバーがいざとなればブレーキを踏んだりハンドルを操作してくれるということを自動で認識していたのでしょう。

FSDの先進性は認めるが

この動画は今年の5月に公開されたもので、それから約半年経ちFSD/オートパイロットシステムもさらに進化を続けているものと思われます。したがって上記のテストを最新のFSDで実行すると全て検知・回避/停止できるようになっているのかもしれません。しかしわずか半年前にであれ数年前にであれ、テスラはこれを「FSD」という名の非常に高価なオプションとして提供してきたのです。FSDによって危険を回避できたというユーザーの報告も何度か目にしましたが、現時点でFSDの能力を判断するならAI ADDICT氏の主張するように最初のFは外すべきでしょうね。全自動ではなく部分的自動運転となるとパートタイムセルフドライビングになり、略語はPTSDとなってしまいます。ちょっとまずいですね。
→パートタイムセルフドライビングについての短い記事がありました

テスラはそこまで力を入れていない

以前AIの責任者としてFSDの行く先を担ってきたアンドレイ・カルパシーが長期休暇に出ると聞いたとき「あ、これはもう帰ってこないな」と思いTwitterかここですぐに書きました。結果的に予想は当たり、彼はしれっとそのまま退職、その後テスラの開発はどうなっているかご存知でしょうか？「テスラのことだからエンジニアは他にもまだまだたくさんいるし、最先端企業にふさわしい開発がどんどん進んでいるはず」ですか？

いえいえ、開発部門は縮小されて自動運転の開発に関わるエンジニアはたったの100人にも満たず、一部の事業でライバルとなる企業の抱える何千人というエンジニアの開発力に明らかに劣っています。FSDに期待するユーザーはシステムが改善されていくのを心待ちにする、これは当たり前のことですけれども、残念ながら今を見る限りテスラはそれほど力を入れて自動運転を開発する気がありません。

ここで皆さんに質問です。
「では自動運転に関してテスラとライバル企業の違いはなんですか？」

※以下、以前の繰り返しになるので必ずさらっと斜め読み程度にしてください。

ストッククローラーを読んだことのある方ならすぐおわかりだと思います。それはLiDARなどの異なるセンサーを組み合わせているかどうかです。テスラはカメラのみ、他社はほぼすべてLiDAR、レーダーなどセンサーフュージョンでシステムを構築しています。最近のツイートでLiDARを採用しているEmbarkの説明がこちら。トラックであれタクシーであれどの会社もこんな感じです。

毎回しつこく説明するのですがLiDARは万能ではありません。LiDARがあるかどうかが自動運転の成功を決めるわけでもありません。問題はビジョンにすべてを委ねるのか否かで、イーロン・マスクはビジョンで十分だと明言しています。しかし安全に関する技術で「これだけでなんとかやれるだろうから他の機能は削ろう」とするのは大きな間違いで、技術者が陥りやすい罠です。そしてこの部分についてはイーロン・マスクは間違いを犯したと断言しておきます。といってもイーロン・マスクは当初LiDARを否定などはしていなかったのですけどね。

LiDARの価格があまりにも高いことにあきれて少し強めに否定するような意見をポロッと本音で言ってしまったのでしょう。しかしLiDARの価格は当時の10分の1以下になり、一方でテスラのFSDは1万5000ドルまで引き上げられ、イーロンの主張の真逆を行くことになってしまいました。

テスラのエンジニアはビジョンのみに依存する危険を理解していてLiDAR搭載を強く勧めたものの、イーロンが公言したシステムのリリース日に間に合わなくなるリスクを考えて余計なものを取っ払ってしまったというのが真相だと言われていますが今では本当にそうなんだろうと思います。ルミナーのCFOトマス・フェニモアもはっきり「イーロン・マスクの考え方は時代遅れ」と語っています。

→Luminar’s Lidar Technology Will Dethrone Tesla in the Driverless Car Race