～ 自動運転システムにおける安全性ベンチマークにて効果を検証 ～
概要
情報・システム研究機構 国⽴情報学研究所のアーキテクチャ科学研究系 准教授 ⽯川冬樹らの研究チームは、九州⼤学⼤学院 システム情報科学研究院 情報知能⼯学部⾨ 准教授 ⾺ 雷らの研究チームとともに、画像識別AI の誤識別に対するリスクを効果的・効率的に低減する技術を開発しました。本研究成果は、科学技術振興機構の未来社会創造事業Engineerable AI プロジェクト(*1)（通称eAI プロジェクト、研究開発代表者︓NII アーキテクチャ科学研究系 准教授 ⽯川 冬樹）によるものです。
深層ニューラルネットワーク（以下DNN: Deep Neural Network）では、多数のパラメーターが異なる物体の識別結果に対して複雑に影響するため、ある誤識別を改善するための修正が、他の識別結果に意図しない低下（デグレ）を発⽣させる問題があります。
本プロジェクトでは、役割の異なる複数のDNN 修正技術を組み合わせ、画像識別⽤DNN を狙い通りに修正する研究開発を進めてきました。具体的には、様々な誤識別を分類し、タイプごとの原因と修正⽅法を発⾒する技術（NII）、パラメーター修正と誤識別改善の履歴情報を利⽤することで修正による低下を抑制する技術（NII）、パラメーター値だけでなくDNN の基本構造⾃体も修正する技術（九⼤）などに取り組んできました。
⾃動運転AI 向けの実験では、⾃動⾞企業などを交えて定めた安全性ベンチマークで評価を⾏い、多数の安全要求を満たした上で狙い通りの修正が可能であり、効果的・効率的にリスクを低減できることを確認しました。
今後、開発した修正技術をフレームワークとして統合するとともに、⾃動運転のあり⽅に関するビジョンやポリシー、⾛⾏データの特性など企業ごとに異なるニーズに応じた産業実証に取り組んでいきます。
NII、九⼤の研究成果は、それぞれ、ソフトウェアテストに関するフラッグシップ国際会議ICST 2023(*2)で2023 年4 ⽉（アイルランド時間）、ソフトウェア解析に関するフラッグシップ国際会議SANER 2023(*3)で2023 年3 ⽉23 ⽇（マカオ時間）、ソフトウェア⼯学に関するフラッグシップ雑誌TOSEM(*4)で2023年内に発表されます。
用語解説
(*1) Engineerable AI プロジェクト︓JST における「未来社会創造事業 サイバー世界とフィジカル世界を結ぶモデリングと AI 超スマート社会の実現領域」に採択されている研究プロジェクトで、⾃動運転をはじめとして深層学習技術を⽤いた AI システムの安全性・信頼性確保・向上のため、細やかなニーズに応える AI の構築や修正が可能な技術と、医療・交通の⼆領域における概念実証に取り組む。正式名称は「機械学習を⽤いたシステムの⾼品質化・実⽤化を加速する”Engineerable AI”技術の開発」、略称は eAIプロジェクト。 https://engineerable.ai/
(*2) ICST 2023 : The 16th IEEE International Conference on Software Testing, Verification and Validation。CORE と呼ばれる計算機科学系の国際会議ランキングにて A ランク。
(*3) SANER 2023 : The 30th IEEE International Conference on Software Analysis, Evolution and Reengineering。CORE と呼ばれる計算機科学系の国際会議ランキングにて A ランク。
(*4) TOSEM : ACM Transactions on Software Engineering and Methodology。CORE と呼ばれる計算機科学系の雑誌ランキングにて A*ランク。
詳細
詳細はこちらをご参照ください。
