AIを壊してより良いものにする

〜 AIが未知の要素をどのように扱うか評価する手法を開発 〜

ポイント

・現在のAIは、画像認識の精度は高いが融通が利かず、その理由は現在も分かっていない
・今回、ニューラルネットワーク(※1)が未知の要素をどのように扱うかを評価する「Raw Zero-Shot」と呼ばれる手法を開発
・今後、この手法が将来のAIのロバスト性(※2)向上に役立つことに期待

概要

 現在のAIは、画像認識の精度は高いですが融通が利きません。しかし、なぜこのようなことが起こるのか、正確には謎のままです。
 今回、九州大学大学院システム情報科学研究院のVASCONCELLOS VARGAS DANILO(ヴァスコンセロス ヴァルガス ダニロ)らの研究グループは、ニューラルネットワークが未知の要素をどのように扱うかを評価する「Raw Zero-Shot」と呼ばれる手法を開発しました。
 この結果は、研究者がニューラルネットワークを堅牢でなくしている共通の特徴を特定し、AIをより信頼性の高いものにする手法を開発するのに役立つ可能性があります。
 本研究成果はアメリカの雑誌「PLOS ONE (2022)」に2022年4月27日(水)に掲載されました。

用語解説

(※1) ニューラルネットワーク
人工ニューラルネットワークのこと。人工ニューロンと呼ばれるユニットやノードの集合体に基づいており、生物の脳のニューロンをモデル化したものです。
(※2) ロバスト性
ロバスト性とは機械学習モデルが騙されないようにする能力のことです。例えばモデルが画像の分類を行うときに、入力の変化を行うことで望んだ分類結果とは異なる結果を得られるような敵対的アルゴリズムが存在しています。

詳細

九州大学プレスリリースをご参照ください。

統合新領域学府ライブラリーサイエンス専攻オンラインイベント「ライブラリーサイエンスを知る」+入試説明会

令和4年度 公開講座「意外な歴史の事実!」

関連記事

  1. 《7/8開催》第18回九州工学教育協会シンポジウ…

    講師 梶原智之准教授(愛媛大学)、長沼祥太郎准教授(九州大学)202…

  2. 兆候から発見へ:世界最高エネルギー衝突型加速器L…

    ~ 世界最高エネルギー衝突型加速器LHCが生成するニュートリノをFASER…

  3. 核融合プラズマの新たな乱流遷移を発見

    応用力学研究所木下 稔基 助教核融合炉の革新的な運転シナリオの確立へ…

  4. 計測データの量や質に対するベイズ推定のスケーリン…

    ~複雑現象の計測と数理モデリングをつなぐ新たな指針に~ポイント・…

  5. マイクロ空間内に均一な原子層を形成させる新技術

    ~ 狭窄空間内への新たな原子層堆積手法の開発 ~ ポイント・き…

  6. “超”高放射性粒子:福島第一原発1号機から放出さ…

    “超”高放射性粒子:福島第一原発1号機から放出されたメガベクレル放射性粒子の…

  7. 2つの教師なし機械学習の連携によるアニオン交換膜…

    工学研究院加藤 幸一郎 准教授研究者による新規材料の設計を効率化し、…

  8. ⾼い横型熱電変換性能を持つ⼆次元層状磁⽯の発⾒

    層状物質の特異なスピンの流れを使って、室温無磁場下で効率的な熱電変換を実証…