検索結果 (事業化プロポーザル)

人工知能のセキュリティ

松浦　幹太生産技術研究所情報・エレクトロニクス系部門

深層学習などの人工知能は、画像認識や音声認識、自然言語処理、確率過程に関する予測などを含む多様なタスクで高い精度を出すことがわかってきたため、注目を集めている。しかし一方で、入力データに微小な改変を加えることによって出力を大きく誤らせることが可能な敵対的入力の存在が報告され、さらに発展的な攻撃や、虚偽情報の悪影響も知られている。例えば、自動運転が騙されれば、甚大な事故につながりかねない。投資支援システムが微妙に騙され続ければ、その不正に誰も気づかないかもしれない。これらに関する脅威分析を十分に行い、対策を講じることは、人工知能を利用したシステムを提供する側の社会的責任である。松浦研は、人工知能に関する事前情報が不十分な状況での高度なブラックボックス攻撃技術、攻撃の検知技術、あるいは攻撃耐性を強化する技術に関する先駆的な研究成果を挙げている。