Engineerable AI プロジェクト

6/28 キックオフシンポジウムの情報はこちら

本プロジェクトにおいては、医療や自動運転などディペンダビリティが重要となる領域を見据え、細やかなニーズに応えるAIシステムのための “Engineerable AI” 技術に取り組んでいます。

本プロジェクトにおいては、AIシステムのための機械学習、特に深層学習における二つの技術課題に着目しています。第一の点として、大量データへの依存性があります。AIシステムの振る舞いはデータから訓練を通して構築されますが、しばしばデータが少ない状況への対応が弱くなってしまいます。一方でデータ少ない状況であっても、安全性の観点で重要であったり、人間の専門家の「苦手領域」をカバーするために重要であったりします。第二の点は、システムの振る舞いの制御困難性です。訓練に用いるデータを追加したり変更したりすることでAIシステムの更新を行いますが、これにより振る舞い全体が変わってしまい、結果が非常に不確実で予測不可能となります。特に、継続的な改善を行おうとする際に、ある部分を直そうとして再訓練を行うと、別の部分がうまくいかなくなってしまうということがあります。

本プロジェクトにおいては、これらの技術課題を踏まえ、 細やかなニーズに応えるAIシステムのための “Engineerable AI” 技術に取り組んでいます。 一つの方向性としては、データだけから重要な特性を学ぶのではなく、人間の知識を埋め込んでAIを構築する技術に取り組んでいます。もう一つの方向性としては、AIの挙動やその良し悪しに関する知識を調べることで、その挙動を望ましい形に修正する技術に取り組んでいます。

本プロジェクトではこれらの “Engineerable AI” 技術に対する概念実証（POC）として、品質が最重要となるシステムの代表例である医療および自動運転の二領域での実証に取り組みます。