AIモデルの「栄養成分表示」で透明性を強化、潜在的なバイアスやモデル・ドリフトの表面化で
オープンソースAIモデルをサポート

データおよびAIのリーディング・カンパニーである米国SAS Institute Inc.（以下 SAS）は、AIガバナンスを向上しモデルの信頼性や透明性をサポートする、信頼できるAI（https://www.sas.com/ja_jp/company-information/innovation/responsible-innovation.html）の新製品およびサービスを発表しました。モデルカードと新サービスのAIガバナンス・アドバイザリーは、激動するAI環境をうまく乗り切り、リスクを回避して、目標に向けて安心してAIを活用していけるよう組織を支援します。SASは、米国国立標準技術研究所（NIST）のAIリスクマネジメントフレームワーク（AI RMF）に準拠した「信頼できるAIのライフサイクル・ワークフロー」も公開しました。

SASのデータ倫理プラクティス担当バイスプレジデントであるレジー・タウンゼント（Reggie Townsend）は、次のように述べています。「当社のお客様はAIの潜在能力について非常に興味はあるものの、その導入時期や利用方法については慎重な姿勢を崩していません。責任あるAIやAI倫理について、数多くの質問が寄せられています。当社が目指すのは、数十年の経験に基づくツールやガイダンスを提供し、お客様が収益性を高めると同時に意図しない危害を回避しながらAIを取り込めるようにすることです」

モデルカード：信頼できるAIの「栄養成分表示」
AIモデルのような複雑で高度なものを受容し、AIライフサイクルに関わる誰もが手軽に活用できるようにすることは、容易ではありません。さらに、世界中で新たなルールや規制が制定されるにつれて、モデルのパフォーマンスを理解して規制当局と共有する能力が重要になっていきます。今後、SAS® Viya®（https://www.sas.com/ja_jp/software/viya.html）に搭載される予定のモデルカードは、AIのライフサイクルを通じて役立つものであり、独自モデルにもオープンソースモデルにも対応するよう考案されたこのツールに開発者から取締役まですべてのステークホルダーが価値を見出すでしょう。

2024年中頃にリリース予定のモデルカードは、まさにAIモデルの「栄養成分表示」と呼べるものです。SASのアプローチは、SAS製品から直接コンテンツを登録したモデルのモデルカードを自動生成するようにし、個々のユーザーが作成する負担を取り除きます。また、SAS Viyaにはすでにオープンソース管理用のアーキテクチャが搭載されているため、モデルカードはPythonモデルを始めとするオープンソースモデルにも対応できます。

モデルカードでは、正確性や公平性のほか、状況の変化によりモデルのパフォーマンスが低下する要因となるモデル・ドリフトなどの重要な指標が採り上げられます。モデルの最終更新日や作成者、責任者などガバナンスに関する詳細情報も含まれ、モデルのパフォーマンスに異常が生じた際に組織内で対処できるようになっています。モデルの利用欄には、使用目的、想定外のユースケース、制限事項など、透明性やモデル監査がビジネスオペレーションの規制対象になる可能性が高い重要な要素についての説明が含まれます。 なお、モデルカードは今年初めに開催されたSASのアナリティクス・カンファレンス「SAS
Insight」において紹介されました。

IDCのリサーチディレクターであるエリック・ガオ（Eric Gao）氏は、次のように述べています。「SASは業界における導入状況の実情と課題に焦点を当てた上で、AIの導入を慎重なアプローチで支援しています。AIプロジェクトを監視し、透明性を高めていくために、モデルカードは非常に役立つでしょう」

AI倫理のベテランが率いる新しいAIガバナンスグループ
AIの普及に伴って、SASの顧客企業は自社のデータを生産的かつ安全に利用する方法への関心をますます高めています。SASはデータとAIの活用を支援するために、既存顧客に対する付加価値サービスとして、AIガバナンス・アドバイザリーの提供を開始します。

最初に簡単な打ち合わせを行った後、SAS AIガバナンス・アドバイザリーは、AIガバナンス（https://www.sas.com/sas/whitepapers/a-comprehensive-approach-to-trustworthy-ai-governance.html）が組織においてどのような意味を持つのか検討できるよう支援します。SASはこのサービスの試験導入を行った結果、顧客企業から複数のメリットが挙げられました。

ポーランドのPZU Insuranceは、中欧および東欧地域で最大級の金融機関です。SASの長年の顧客企業である PZUは、保険金請求、セールス、不正検知、カスタマーケア等にAIを導入しています。

PZUの情報、データおよびアナリティクス管理担当マネージングディレクター（チーフデータオフィサー兼チーフアナリティクスオフィサー）であるマレック・ウィルシェフスキ（Marek Wilczewski）氏は、次のように述べています。「当社のAIガバナンスについてSASと会話することで、顧客と当社のビジネスにとって問題になり得る、潜在的要素について検討することができました。AIプロジェクトを開始するにあたって、より幅広い視野を持つことが重要であると理解するようになりました」

この業界のベテランでAI倫理のエキスパートであるスティーブン・ティール（Steven Tiell）がAIガバナンス・グローバルヘッドとして、SASに加わりました。ティールはこれまでアクセンチュアのグローバルデータ倫理のリーダーとしてイノベーションプラクティスを担当してきたほか、DataStaxでAI戦略担当バイスプレジデントを務めました。

新たな政府基準の構築
昨年、米国国立標準技術研究所（NIST）は、AIリスクマネジメントフレームワーク（AI RMF）を構築しました。これは法規制が定められていない分野で組織が信頼できる、責任あるAIの設計・管理を行うための重要なツールとなりました。

SASは個々の役割や期待値を明確化し、必要なドキュメントを収集し、検討すべき項目をまとめ、自動化を活用して容易に導入できるようにすることで、NISTの推奨事項を組織に適用しやすくできる「信頼できるAIのライフサイクル・ワークフロー」を作成しました。組織は最終的に、モデルが公平でありプロセスが何ら危害を生じさせるものではないことを保証するためにデューデリジェンスを行ったことを示す文書を備えた本番用モデルを構築することができます。

このワークフローによって、組織はAIシステムが人間の生活に与える影響について、検討事項を文書化することができます。この中には、トレーニングデータが影響を受けた人々を代表するものであり、モデルの予測とパフォーマンスが保護されたクラス間のパフォーマンスと類似していることを保証するためのステップが含まれます。このステップが、モデルが特定の集団に差別的な影響や危害を生じさせるものではないことを確約するために役立ちます。また、さらに注意が必要な場合、人間参加型のHuman-in-the-loopタスクを作成して行動することで、時間が経過してもモデルの正確性が確実に維持されるようにすることができます。

SAS の責任ある AI のライフサイクル・ワークフローは、SAS Model Manager Resources Github（https://github.com/sassoftware/model-management-resources/tree/main/samples/Workflow_Integration/Trustworthy_AI_Life_Cycle）からダウンロードできるほか、間もなくNIST のAIリソースセンターでも入手できるようになります。

今回の発表は、ビジネスリーダー、技術者、SASパートナー向けのデータおよびAIのSAS年次イベントであるSAS Innovate（https://innovate.sas.com/）において行われました。SASからの最新ニュースを継続的に受け取るには、X/Twitterで@SASsoftwareNews（https://twitter.com/SASsoftwareNews）をフォローしてください。

*2024年4月17日に米国SAS Institute Inc.より発表されたプレスリリース（https://www.sas.com/en_us/news/press-releases/2024/april/trustworthy-ai-governance-model-cards.html）の抄訳です。本記事の正式言語は英語であり、その内容および解釈については英語を優先します。

SASについて
SASは、アナリティクスのリーディング・カンパニーです。SASは、革新的なソフトウェアとサービスを通じて、世界中の顧客に対し、データをインテリジェンスに変換するためのパワーとインスピレーションを届けています。SASは「The Power to Know®（知る力）」をお届けします。

*SASとその他の製品は米国とその他の国における米国SAS Institute Inc.の商標または登録商標です。その他の会社名ならびに製品名は、各社の商標または登録商標です。