whitepaper
人工知能（AI）は、コネクテッド製品、産業オペレーション、およびデジタルサービスの領域において、その活用が急速に拡大しています。組織が監視・自動化・サービスワークフローにAIを組み込むにあたり、それらのシステムがどのように管理・統制されているか、意思決定がどのように行われているか、そして責任の所在がどこにあるかを明確に把握することが不可欠となっています。
コネクテッド製品の開発・運用に携わるチームにとって、EU AI法が重要である理由は、EUの市場で使用または上市されるAIシステムに対して、リスクベースのフレームワークを導入している点にあります。同法は、すべてのソフトウェア機能を同一に扱うものではなく、また「インテリジェント」と称されるすべてのデジタル機能に適用されるわけでもありません。
多くの組織にとって、重要な問いはAIを活用しているかどうかという単純な問題ではありません。接続された製品やサービスにおける特定のAI機能が本法の適用範囲に含まれるかどうか、どの程度のリスクをもたらすか、そして組織がAIバリューチェーンにおいて担う役割からどのような責任が生じるか、という点にあります。
なぜ今、これが重要なのか
AIは実験段階から日常的な運用フェーズへと移行しつつあります。コネクテッド製品および産業環境においては、予兆検知、異常検出、オペレーター支援、そしてサービス最適化を目的として、すでに実用化が進んでいます。
AIの活用が実際の製品・サービスにより深く組み込まれるにつれ、顧客はAIの利用方法、その根拠となるデータ、および出力結果の確認や異議申し立ての手段に関する透明性を、ますます強く求めるようになっています。EU AI規制法（EU AI Act）は、こうした変化に対応するため、AIに関する統一的なルールを定め、リスクの程度に応じて義務の範囲を段階的に規定しています。
御社のビジネスにおいて、Cumulocityの活用できるところを見つけましょう
Cumulocityが、お客様のビジネス目標とユースケースに合わせたデモを通じて、AIoTソリューションの接続・管理・拡張をどのように実現するかをご確認ください。
プロダクト、エンジニアリング、そしてオペレーションの各チームにとって、ガバナンスはもはや後回しにできる課題ではありません。製品設計、デプロイメント、監視、そしてライフサイクル管理と並行して検討すべき重要事項です。信頼性の高いAIを構築することは、単に規制要件を満たすことにとどまりません。それは、顧客が安心して導入できるAI搭載製品を実現することを意味します。
お客様のユースケースは対象範囲内ですか？
コネクテッド製品の開発チームが最初に直面する実務上の問いの一つは、ある機能がEU AI法上の「AIシステム」に該当するか否かという点です。この判断は非常に重要です。なぜなら、同規制はすべてのソフトウェアアプリケーションや自動化ワークフローに一律に適用されるわけではないからです。
純粋に決定論的なソフトウェアは、一般的に当該法令の適用範囲外となります。一方、入力データから推論を行い、予測・推奨・判断・またはコンテンツを生成するシステムは、実際の機能の在り方によっては、適用範囲内に該当する場合があります。
AIoTチームにとって、この区別は重要な意味を持ちます。閾値アラートに使用される固定ルールエンジンは、設備の故障を予測するモデル、オペレーターへの推奨事項を生成するモデル、あるいはサービスチーム向けAIアシスタントを支援するモデルとは、まったく異なる扱いが求められる場合があります。
リスクベースアプローチとは何か
EUのAI規制法（EU AI Act）の中核をなす特徴は、リスクベースのアプローチです。AIシステムが健康、安全、または基本的権利に与える潜在的な影響が大きいほど、課せられる義務はより厳格なものとなります。
実際には、コネクテッド製品におけるすべてのAIユースケースが同じレベルの審査を受けるわけではありません。一部のアプリケーションは透明性に関する義務が生じる場合がありますが、リスクの高いユースケースでは、より包括的なガバナンス、ドキュメント整備、監視体制、および管理策が求められます。
コネクテッド製品を手がける組織にとって、最も重要な示唆はシンプルです。ガバナンスは、ユースケースに見合った規模で実施すべきということです。各チームは、AIがどこで活用されているか、どのような意思決定を支援しているか、どのような影響が生じる可能性があるか、そしてどのようなセーフガードが必要かを、明確に把握しておく必要があります。
あなたの役割が重要な理由
法律上の責任は、AIシステムそのものの特性だけによって決まるものではありません。AIのバリューチェーンにおいて、組織がどのような役割を担っているか——すなわち、プロバイダー（提供者）として機能しているか、デプロイヤー（導入・運用者）として機能しているか——によっても、責任の範囲と内容が異なります。
その区別は、コネクテッド製品ビジネスを展開する企業にとって重要な意味を持ちます。サードパーティのAIを社内業務に活用する組織と、AIを商用製品やサービスに組み込んで顧客に提供する組織とでは、負うべき責任の範囲が異なる場合があります。
多くのプラットフォームのお客様にとって、ここから議論は具体的な実務レベルへと移行します。各チームは、自社が活用しているAI機能の特定、その所有者の明確化、製品や業務への導入プロセスの整理、そして製品・エンジニアリング・法務・セキュリティの各部門にわたるアカウンタビリティの所在を明らかにする必要があります。
IoTチームが今すぐ取り組むべきこと
EUのAI規制法（EU AI Act）への対応においては、まず自社の全体像を把握することが不可欠です。接続された製品およびサービス全体にわたるAI関連のユースケースを体系的に整理し、規制の適用範囲に該当する可能性のある機能を特定した上で、それらの機能が業務上の意思決定、顧客への影響、または規制対象プロセスに関与しているかどうかを評価することが求められます。
次のステップは、社内における責任範囲を明確化することです。各チームは、自らが主にプロバイダーとして機能するのか、デプロイヤーとして機能するのか、あるいはその両方を担うのかを把握したうえで、ガバナンス、ドキュメント管理、監視体制、およびエスカレーションプロセスを、後から追加するのではなく、早期の段階で定義しておくことが重要です。
プラットフォームの機能が重要な役割を果たすのも、まさにこの点においてです。優れた運用可視化、デバイスライフサイクル管理、追跡可能なデータフロー、そして適切に管理された統合ポイントを備えることで、チームはより高い制御性と確実性をもってAI対応サービスを構築することができます。
プロダクトチームの視点
AIを活用した製品を導入する際に何を確認すべきかを理解することは、課題の一側面に過ぎません。そうした製品を開発するチームもまた、EU AI規制法が製品設計・開発・ガバナンス・ライフサイクル管理に与える影響を十分に検討する必要があります。
関連ホワイトペーパー「EU AI法の解説：プロダクトチームが知っておくべきこと」では、プロダクトチームの視点からEU AI法の規制内容を詳しく解説しています。具体的には、規制の適用範囲に該当する可能性のあるAI機能の特定方法、リスクと責任の把握、そして製品開発ライフサイクルへのガバナンスの組み込み方について取り上げています。
Cumulocity が信頼性の高い AIoT を支える仕組み
「Cumulocityでは、信頼性の高いAIは後から付け加えるものではなく、最初から設計・構築されるべきものと考えています。」
Cumulocityは、組織が接続された製品およびAI対応サービスを開発・デプロイ・管理するための、エンタープライズグレードのAIoTプラットフォームです。接続資産管理、AI活用に対応したデータ基盤、そして業務の可視化を中心とした本プラットフォームのアプローチは、AIoTを責任ある形で拡張・展開したいと考えるチームのニーズに的確に応えます。
EUのAI規制法（EU AI Act）がもたらす機会と責務への対応を検討されているお客様にとって、プラットフォームの最も重要な価値は、「コンプライアンス」単体にあるのではありません。それは、実用的な信頼性の高いAIを支える可視化・制御・ライフサイクル管理・データガバナンスを基盤として、コネクテッドプロダクトを構築できる能力にあります。
AIの恩恵を最大限に享受できる組織とは、イノベーションと明確な説明責任を両立させた組織です。コネクテッドプロダクトチームにおいては、ガバナンスをデプロイ後に付加する別個の活動としてではなく、製品ライフサイクルの当初から組み込まれた要素として位置づけることが不可欠です。