フレームワーク

高品質なAI実現に向けたガイド集

―「フレームワーク」の概要を教えてください。

鷲﨑：目標は広い意味で高信頼なAIを効率よく実現することにあり、「フレームワーク」は、そうした高信頼なAI実現に向けた“開発・運用ガイドの仕組み”といえます。

機械学習は使用するデータによって振る舞いが決定します。データの捉え方をいかにすべきか、実社会にどのような価値をもたらすのか、そのためにはシステムをどう機能させるかなど、さまざまな側面を見なければなりません。

また、機械学習に基づいた意思決定や振る舞いが、この範囲内であれば安全性がどのような根拠に基づきどこでどのように保証され、この範囲外だと保証されないといったことを明確に説明することがとても大切になります。eAIプロジェクトで対象にしている自動運転や医療のように、人命に直結する、大きな損害をもたらしかねない非常にクリティカルなものを扱うには、多面的・安全性を組み入れた高信頼な機械学習システムが求められます。

この高信頼な機械学習システムを工学的に作るためには、安全性を含むさまざまな側面が整合した形で保証されるように開発と運用を体系的に進める全体の方法論・プロセスが不可欠です。そしてそこには、特定の文脈で問題と解決をまとめた定石と呼べるパターンの組み入れが不可欠だと考え、そのパターンを分類・整理し、まとめたものも「フレームワーク」の重要な構成要素の一つとなります。

また、機械学習システムはデータの特徴が変化することによって、徐々に機械学習による予測が現実と乖離していくケースもあります。そして、それを改修するには、通常どのようにしたらよいかという根拠が必要です。しかし、現在の機械学習では、「こういう要求に応えたい」「品質を改善するために、変更したい」「環境が変化し、不整合が生じた」場合、その都度手探りでの改修となっています。eAIプロジェクトは、これをエンジニアリングできる（体系的に対応できる）ようにすることを目標としており、私たちの「フレームワーク」も“体系的に改修する”ことへのガイドになるものです。

世界が注目している取り組み

―プロジェクトチームの活動内容を教えてください。
鷲﨑：「フレームワーク」チームでは、機械学習システムの開発や運用における要求分析や設計・実装・保守などのモデリング中心の方法論およびプロセスを分類・整理し、さらにそこから参照する形で主要な解決をいくつかのパターンとしてまとめています。具体的には先日「Software Engineering Patterns for Machine Learning Applications」を発表しました。ここでは15のプラクティスをパターンとして整理し解説しています。機械学習システムの構築および改修を行う際に、「このような課題には、この対応ですすめたほうがよい」という15のガイドがあるというイメージです。これらは広く全般的な機械学習において利用できるよう、“共通の課題” “共通に求められる型”などをある程度抽象化し、パターンにしています。
私たちの「フレームワーク」は、自動運転分野や医療分野、工場内における監視などの一業種に特化したものでも、ひとつの問題領域だけに偏るものでもなく、整合性を持って一貫したかたちであらゆる分野で扱え、かつ、きちんと説明できるものを目指しています。
機械学習を使ったソフトウェアシステム開発には、データサイエンティスト、ソフトウエアエンジニア、ハードウエアのエンジニア、ドメインのエキスパートなど、さまざまな利害関係者や異なる専門家が関わります。そういった関係者の共通言語になることも期待しています。
「Software Engineering Patterns for Machine Learning Applications」は、米国の権威ある学会誌『IEEE Computer』の特集「Artificial intelligence and Software are you ready？」に掲載され、同誌のTrending Articlesとなりました。“一定の抽象度で整理していくことが大切である”とした私たちの研究が世界中から注目を集めています。関連して、私と吉岡先生などフレームワークチームのメンバーにより、Google Cloudのデータ分析&AI部門トップLakshmanan氏らがまとめた「Machine Learning Design Patterns」を和訳して「機械学習デザインパターン」として2021年10月に出版しました。同書では、30のパターンを公開しています。
eAIプロジェクトは、AIの説明性や信頼性、そして安全性が求められる領域を開拓するプロジェクトであり、私たちの「フレームワーク」もこれらの領域を深掘りしたものです。「Software Engineering Patterns for Machine Learning Applications」とGoogleのパターンほか各種のパターンやプラクティスなどを、目的に応じて併用していくと良いでしょう。

第1段階と第2段階の構造

―「フレームワーク」は、さまざまな分野に対応したものなのですね。
鷲﨑：まさにそこが大切な部分です。私たちの「フレームワーク」は、2段階の構成となります。今お話ししたように分野非依存の全般的に利用できるものを第1段階とし、画像解析による自動運転や医療における機械学習など、対象によって問題領域は異なるため、各問題領域にあわせ、特化した部分が第2段階となります。

―今後の取り組みを教えてください。
鷲﨑：現在の「フレームワーク」はドキュメントを中心としたものですが、モデリングツールの研究開発も進めています。「フレームワーク」の特長は一貫した整合性。そのためには、よりシステマチックにミスなくソフトウェアを開発できることが大切で、そのためのツールは必要だと考えています。その際は、一からつくるのではなく、既存のモデリングツールで使えるプラグインツールが良いだろう考え、2022年11月までにはプロトタイプを発表する予定です。

吉岡：2022年度は、自動運転をフィールドにした「深層学習自動デバッグ技術」の例で実証実験を行い、「フレームワーク」の有効性を示していけるように進めていく計画です。来年度以降、医療分野など、いろいろな横展開をしていきたいと考えています。なお、「フレームワーク」を構成する基本的なモデリング中心の方法論・プロセス（GOMLTRaT）についてはは、すでに富士通の「OCR（Optical Character Recognition）」にて活用・拡張をはじめていただいています。

eAIプロジェクトは産学連携の取り組み

「フレームワーク」でも自動運転に強い企業、機械学習に強い企業と連携し、まずは、フレームワークの第1段階がいろいろなドメインに使えることを立証していきたいと考えています。

高品質の証“Made in Japan”に向けて

―現在の課題やさらに強化されていくポイントを教えてください。

鷲﨑：ガイドとしての適切な抽象度はつねに課題だと思っています。抽象度を高めれば適用範囲は広がります。しかし、それでは抽象的すぎてガイドとしての役割が担えません。逆に具体化しすぎると、特定の局面しか活用できないことになります。機械学習全般に対応できながらも一定の実効性を持つガイドとして、適切な抽象度がカギになります。

また、「フレームワーク」は、技術をどう活用するかのガイドであり、技術チームが開発したさまざまな技術を取り込むことが本質的な課題です。安全性に関してリスクを算出することも「フレームワーク」で対応していければならないことだと考えており、技術検証（POC）チームとの連携をより強固なものにしていく予定です。

あとは、「フレームワーク」の有効性・必要性をきちんと説明していくことです。「フレームワーク」は、ソフトウェアおよびシステムの開発を効率よく、かつ整合性を保ったかたちで進めていくガイドです。そのガイドがないために不整合が生じたり、問題を追跡できなかった、安全性が担保できないなどのケースが想定されます。ガイドがあるからこそ、エンジニアリングに一貫した整合性が取れ、安全性も担保できることを企業の経営者層に説明できるようにしなければなりません。エンドユーザへ直接に目に見える変化ではない分、「フレームワーク」による変化には分かりにくさがありますが、複雑なAIシステムの開発には今後ますます必要になることは確かです。AIをエンジニアリング（体系的）に構築できることを分かりやすく説明することも私たちの仕事。そうしなければ、機械学習の社会実装を加速させることはできません。

日本は、品質や安全性をとても大切にします。eAIプロジェクトは、日本のよさである高品質・高い安全性を担保したAI実現に向けて活動しており、そんな頼れるAIシステムを世界中が求めています。そんな高品質＆安全の証“Made in Japan”のAI実現に向けて、「フレームワーク」を推進していきます。