つながる研究工学部版

研究の目的、概要、期待される効果

　人工知能（Artificial Intelligence: AI）は多くの分野に応用されており、一部の実問題では性能が人間を凌駕するまでになっていますが、まだ脆弱性やプライバシー侵害など、安全性に課題が残されています。本研究の目的は、計算知能技術（進化計算、ファジィシステム、ニューラルネットワーク等）を用いることによって、安全・安定・安心のAIモデルを構築することを目指しています。
　具体的には、モデル構築・学習の段階で、進化計算を利用して（学習サンプルに人間が知覚できないような小さなノイズを追加した）敵対的サンプルを生成し、これらのサンプルを使用して高い頑強性を持つAIモデルを構築します。同時にAIモデルの性能を劣化させずに構造を簡素化し、演算量を低減する軽量化モデルを最適化します。また、AIモデルが導入後の段階では、学習済みAIモデルに適応できる脆弱性自動検出と再学習を行い、汎用的な枠組みを開発し、自己進化能力を持たせ、様々な新しいシナリオに対応できるようします。
　本研究の研究成果により、多くの実問題で使われているAIモデルにおける潜在的な危険の除去し、より安全で信頼性の高い人工知能を実現します。