交通標識のイタズラ、自動運転車は誤認識--研究結果

　道路標識の「STOP」（止まれ）の文字が、「STOP, Hammer Time」（ストップ、ハマータイム）と往年のヒット曲のフレーズに書き換えられていたら、ドライバーは思わず笑ってしまうかもしれない。しかし、そのイタズラのために自動運転車が交差点を一時停止せずに走り抜けてしまったら、笑いごとではすまないだろう。

　ワシントン大学などの研究チームが発表した『Robust Physical-World Attacks on Machine Learning Models』（機械学習モデルに対する効果の高い物理的攻撃）という論文によると、一般的な道路標識にちょっとした変更を加えるだけで、自動運転車のシステムが混乱をきたし、標識の意味を誤って解釈してしまう可能性があるという。

　研究チームは、大量の計算とちょっとした印刷物を使って、自動運転車のシステムに2種類の異なる「攻撃」を仕掛けた。攻撃対象は、車のビジョンシステムに搭載されている分類機能だ。ビジョンシステムは、自動運転車のカメラの視界に入った物体が何であり、どういう意味があるのかを車に伝える役割を果たす。カメラが物体を検知すると、分類機能がその物体に対する車の挙動を決定する。

　第1の攻撃は、道路標識の実物大コピーを印刷し、それを本物の標識の上に貼り付けるというものだ。右折の標識の黒い矢印を、灰色がかった不鮮明なものに置き換えたところ、自動運転車のシステムは混乱し、その標識を右折ではなく一時停止か車線追加と勘違いしたという。これが実際の状況であれば、混乱した車が停止する必要のない場所で止まろうとし、道路上にさらなる混乱を引き起こしかねない。

提供：University of Washington et. al

　第2の攻撃は、標識の上から小さなステッカーを貼り付け、抽象絵画のような見た目に変えてしまうというもの。四角い形をした黒いステッカーと白いステッカーを一時停止の道路標識に貼ったところ、システムがその標識を時速45マイル（約72km）の制限速度標識と勘違いしたという。いつものように一時停止せず、スピードを出して交差点を走り抜けるよう車に指示しても、良い結果が待っていないことは火を見るよりも明らかだ。