画像識別AIの誤識別リスクを効果的・効率的に低減する技術を開発

~ 自動運転システムにおける安全性ベンチマークにて効果を検証 ~

概要

 情報・システム研究機構 国⽴情報学研究所のアーキテクチャ科学研究系 准教授 ⽯川冬樹らの研究チームは、九州⼤学⼤学院 システム情報科学研究院 情報知能⼯学部⾨ 准教授 ⾺ 雷らの研究チームとともに、画像識別AI の誤識別に対するリスクを効果的・効率的に低減する技術を開発しました。本研究成果は、科学技術振興機構の未来社会創造事業Engineerable AI プロジェクト(*1)(通称eAI プロジェクト、研究開発代表者︓NII アーキテクチャ科学研究系 准教授 ⽯川 冬樹)によるものです。
深層ニューラルネットワーク(以下DNN: Deep Neural Network)では、多数のパラメーターが異なる物体の識別結果に対して複雑に影響するため、ある誤識別を改善するための修正が、他の識別結果に意図しない低下(デグレ)を発⽣させる問題があります。
 本プロジェクトでは、役割の異なる複数のDNN 修正技術を組み合わせ、画像識別⽤DNN を狙い通りに修正する研究開発を進めてきました。具体的には、様々な誤識別を分類し、タイプごとの原因と修正⽅法を発⾒する技術(NII)、パラメーター修正と誤識別改善の履歴情報を利⽤することで修正による低下を抑制する技術(NII)、パラメーター値だけでなくDNN の基本構造⾃体も修正する技術(九⼤)などに取り組んできました。
 ⾃動運転AI 向けの実験では、⾃動⾞企業などを交えて定めた安全性ベンチマークで評価を⾏い、多数の安全要求を満たした上で狙い通りの修正が可能であり、効果的・効率的にリスクを低減できることを確認しました。
 今後、開発した修正技術をフレームワークとして統合するとともに、⾃動運転のあり⽅に関するビジョンやポリシー、⾛⾏データの特性など企業ごとに異なるニーズに応じた産業実証に取り組んでいきます。
 NII、九⼤の研究成果は、それぞれ、ソフトウェアテストに関するフラッグシップ国際会議ICST 2023(*2)で2023 年4 ⽉(アイルランド時間)、ソフトウェア解析に関するフラッグシップ国際会議SANER 2023(*3)で2023 年3 ⽉23 ⽇(マカオ時間)、ソフトウェア⼯学に関するフラッグシップ雑誌TOSEM(*4)で2023年内に発表されます。

用語解説

(*1) Engineerable AI プロジェクト︓JST における「未来社会創造事業 サイバー世界とフィジカル世界を結ぶモデリングと AI 超スマート社会の実現領域」に採択されている研究プロジェクトで、⾃動運転をはじめとして深層学習技術を⽤いた AI システムの安全性・信頼性確保・向上のため、細やかなニーズに応える AI の構築や修正が可能な技術と、医療・交通の⼆領域における概念実証に取り組む。正式名称は「機械学習を⽤いたシステムの⾼品質化・実⽤化を加速する”Engineerable AI”技術の開発」、略称は eAIプロジェクト。 https://engineerable.ai/
(*2) ICST 2023 : The 16th IEEE International Conference on Software Testing, Verification and Validation。CORE と呼ばれる計算機科学系の国際会議ランキングにて A ランク。
(*3) SANER 2023 : The 30th IEEE International Conference on Software Analysis, Evolution and Reengineering。CORE と呼ばれる計算機科学系の国際会議ランキングにて A ランク。
(*4) TOSEM : ACM Transactions on Software Engineering and Methodology。CORE と呼ばれる計算機科学系の雑誌ランキングにて A*ランク。

詳細

詳細はこちらをご参照ください。

Virtual Graduate Study Fair at Kyushu University

九州大学と春日市が包括連携協定を締結しました

関連記事

  1. 【7/31~8/27開催】GPUミニキャンプの開…

    情報基盤研究開発センターでは7月10日に試験運用を開始した新スーパーコンピュ…

  2. 世界初!蒸気に応答して広波長帯域の近赤外吸収を劇…

    ~アルコール蒸気で消去、水蒸気で書き込み可能な近赤外吸収スイッチ材料~…

  3. 人工スピンアイスの三次元化によるスピン波特性の向…

    理学研究院Troy Dion 助教高性能な学習型演算素子の実現に向け…

  4. GenéLive!:リズムゲームの譜面制作をAI…

    ~KLab・九州大学の共著論文が人工知能分野の国際学会「AAAI-23」で採…

  5. 加速電子と光子の時間相関電子顕微鏡を実現

     ~ 個々の加速電子を利用してナノスケール発光寿命を計測 ~ ポ…

  6. [11/2-11/7開催]Asia Week 2…

    九州大学で、アジアの多彩な文化を知るためのイベント盛りだくさん!九州大学…

  7. 【学内向け】2022年度 JST 戦略的創造研究…

    【学内向け】2022年度 JST 戦略的創造研究推進 未来社会創造、創発的研…

  8. プラスチックから水素へ変換する技術を開発

    沖縄を対象としたマイクロ波熱分解の社会技術的評価カーボンニュートラル・エ…