〜 AIが未知の要素をどのように扱うか評価する手法を開発 〜
ポイント
・現在のAIは、画像認識の精度は高いが融通が利かず、その理由は現在も分かっていない
・今回、ニューラルネットワーク(※1)が未知の要素をどのように扱うかを評価する「Raw Zero-Shot」と呼ばれる手法を開発
・今後、この手法が将来のAIのロバスト性(※2)向上に役立つことに期待
概要
現在のAIは、画像認識の精度は高いですが融通が利きません。しかし、なぜこのようなことが起こるのか、正確には謎のままです。
今回、九州大学大学院システム情報科学研究院のVASCONCELLOS VARGAS DANILO（ヴァスコンセロス ヴァルガス ダニロ）らの研究グループは、ニューラルネットワークが未知の要素をどのように扱うかを評価する「Raw Zero-Shot」と呼ばれる手法を開発しました。
この結果は、研究者がニューラルネットワークを堅牢でなくしている共通の特徴を特定し、AIをより信頼性の高いものにする手法を開発するのに役立つ可能性があります。
本研究成果はアメリカの雑誌「PLOS ONE (2022)」に2022年４月27日（水）に掲載されました。
用語解説
(※1) ニューラルネットワーク
人工ニューラルネットワークのこと。人工ニューロンと呼ばれるユニットやノードの集合体に基づいており、生物の脳のニューロンをモデル化したものです。
(※2) ロバスト性
ロバスト性とは機械学習モデルが騙されないようにする能力のことです。例えばモデルが画像の分類を行うときに、入力の変化を行うことで望んだ分類結果とは異なる結果を得られるような敵対的アルゴリズムが存在しています。
詳細
九州大学プレスリリースをご参照ください。
