AI TRiSMとは？戦略的テクノロジーのトップトレンド！

近年急速に成長し、すでに私たちの生活の中で必要不可欠な存在となっているAI（人工知能）ですが、普及・発展していく中で様々なリスクを伴うことも明らかになってきました。そこで、今回はAIの運用にあたって考える必要のあるフレームワーク、AI TRiSMについてご紹介します。

AI TRiSM！いったいどんな内容なのかな？

AIの運用において非常に重要な用語ですね。具体的にどのような意味を持つのか見ていきましょう。

AI TRiSMとは？

AI TRiSMは、"AI Trust, Risk and Security Management"の頭文字をとった言葉で、アメリカの調査会社Gartnerが提唱した用語です。信頼性・リスク・セキュリティ管理の観点から、AIの活用を最適化するための枠組みを意味します。これまでもAI活用において懸念事項とされてきた、プライバシーや倫理面での判断リスクへの対応や、セキュリティ対策などに注目し、AIの信頼を高めることを目指した取り組みです。

AI TRiSMは主に4つの柱から成っています。

説明可能性

判断に至ったプロセスを可視化することで信頼性を高めます。行動の解釈を明確にすることで、どのようなプロセスをたどってその結果になったのかを説明することができるため、透明性を高めることができます。

ModelOps

「モデルの運用化」を意味します。開発、検証、テスト、業務実装、本稼働の工程を円滑かつ効率的にすることで、AIの有効性を維持します。

AI セキュリティ

不正なアクセスや改ざんなどのデータ異常を検知し、敵対攻撃に対する耐性を持つことで信頼性・安全性を保ちます。

プライバシー

外部からの不正なアクセスやデータの盗難から保護することだけでなく、内部からのデータ持ち出しや破損に対応することも重要です

Gartner、2023年の戦略的テクノロジのトップ・トレンドを発表

注目されている理由

AI TRiSMが注目されている理由は、今後さらに社会のさまざまな場面でAIの活用が進んでいく中で、AI TRiSMを適用することがAIに対するリスク管理を強化することができるだけでなく、AIの信頼性を高めることができると考えられているためです。

Gartnerは2022年10月31日〜11月2日にかけて開催された「Gartner IT Symposium/Xpo 2022」において、2023年の戦略的テクノロジーのトップ・トレンドとして注目している10項目を発表しました。AI TRiSMはそのうちのひとつです。

発表された10項目は大きく分けて、3つの中心テーマである最適化(Optimize)、拡張(Scale)、開拓(Pioneer)に分類されます。そして、AI TRiSMはこの"最適化"に該当します。

最適化	デジタル免疫システム、オブザーバビリティの応用、AI TRiSM
拡張	インダストリ・クラウド・プラットフォーム、プラットフォームエンジニアリング、ワイヤレスの高付加価値化
開拓	スーパーアプリ、アダプティブAIシステム、メタバース持続可能なテクノロジー

2022年10月、米国ではAIが及ぼす可能性のある悪影響から人々や社会を保護することを目的として、「AI権利章典」の草案が発表されました。その中で5つの原則が定められました。

安全で効果的なシステム
アルゴリズム由来の差別からの保護
データのプライバシー
ユーザーへの通知と説明
人間による代替手段、考慮、フォールバック

AIを安全かつ効果的に活用するために必要なことは何か？ | ガートナー

米国の AI権利章典(AI Bill of Rights) について - 内閣府

Blueprint for an AI Bill of Rights: A Vision for Protecting Our Civil Rights in the Algorithmic Age | OSTP | The White House

活用事例

ここからは、AI TRiSMの導入が社会のどのような場面で役立つのか、具体的な活用方法とともにご紹介します。

ヘルスケア

透明性が高く、バイアスのかかっていない状態での適切な治療方法の選択を可能にし、セキュリティ面では、患者のプライバシーの保護も強化することができるようになります。

ビジネス

企業を狙った詐欺の防止をするなど、リスク管理の確実性を上げ、より効率的な運営が実現されることが期待されています。

自動運転

より安全性の高い自動運転によって、人間の判断ミスなどから起こる交通事故を減らすことにつながります。

サイバーセキュリティ

内部のデータを適切に保護しながら、外部からのサイバー攻撃を特定し、攻撃を予防することでサイバー脅威に対応することができるようになります。

カスタマーサービス

アルゴリズムが説明可能になることにより、パーソナライズされたサービスを提供することができるため、顧客満足度の向上などが期待できます。

このように、AI TRiSMが普及することによって個人の生活環境の向上や企業のDX推進に役立ち、社会全体にとっても多くのメリットがあります。

AI Trust, Risk and Security Management (AI TRiSM)

おわりに

今回はAI TRiSMについてご紹介しました。技術の進歩に伴い、AIの社会での活用や導入が増えていく中で改めて生じ得る様々なリスクを見直し、それにどう対応しマネジメントしていくべきか考える必要があります。AIの信頼性が保証されることで、社会のさらなる発展につなげることができるのです。

インターネット・アカデミーでは、AIについて学ぶことのできるコースを多数用意しています。未経験でも学びやすい「AI基礎研修」や「AIプログラミング講座」、より専門的な「AIエンジニア育成コース」など幅広いコース選択ができるため、AIについて網羅的に学ぶことができます。講座にご興味がある方は、ぜひ一度無料カウンセリングにてご相談ください。