私たちはAIが私たちに何をしてくれるかについて多くの時間を費やして議論しています。しかし、 AIガバナンス?

ガバナンスは、AIに関する議論の中で見出しを飾ったり、議論を巻き起こしたりする部分ではないかもしれないが、組織がデータ、意思決定、ビジネスプロセスをAIに任せられるかどうかを決定づける部分である。

AIから最も優れた財務成果を上げている企業の間では、ガバナンスもますます重要な要素となっている。PwCの 2026年AI性能調査 これらの企業は、責任あるAIフレームワークを導入している可能性が1.7倍高いことがわかった。

翻訳: AI プログラムの成功は、 それを中心に構築されたガバナンスについて.

チームがより多くのソフトウェアを開発し、エージェントが企業情報へのアクセス権と実行権限を与えられるにつれて、AIは既存のガバナンスに新たな要求を突きつけます。リーダーは、どのエージェントが実行されているか、エージェントが何にアクセスできるか、必要なレビューが実施されたかどうかを正確に把握できる必要があります。そのためには、AI対応のガバナンスフレームワークが提供するような、検証可能な証拠が不可欠です。

多くのポリシーが存在します。 Mendix at Siemens成功するAIガバナンスフレームワークは、組織がフレームワークを確実に実装しているかどうかにかかっている。

以下の質問は、貴社のガバナンスフレームワークが、AI導入に必要なレベルの可視性、監視、および説明責任を提供しているかどうかを評価するのに役立ちます。

1. すべてのエージェント、その所有者、および許可されたアクセス権限を特定できますか？

AI対応のガバナンスフレームワークは、組織全体で稼働しているエージェントをリーダーが明確に把握できるものでなければなりません。そのためには、各エージェントの目的、バージョン、責任者、データおよびシステムへのアクセス権限を示す中央集約型のインベントリが必要です。

こうしたアクセス制限については、慎重な検討が必要です。オディック氏は、エージェントが有益な業務を遂行するためには企業情報が必要だが、その情報を提供することで、意図せず機密データが漏洩する可能性があると説明しています。チームは、エージェントがアクセスを許可されている情報を明確に定めるべきであり、権限が制限されている人物に代わって行動する場合についても同様です。

各エージェントについて、使用できる情報と実行権限のあるアクションを明確に定める必要があります。エージェントの展開、更新、または廃止に伴い、この記録を常に最新の状態に保つことで、チームは監視のための明確な出発点を得ることができます。

2. 本番稼働前に必要な検証が行われたことを証明できますか？

リーダーたちは、開発プロセス全体を通して適切なレビューが行われたと心から信じているかもしれない。唯一の問題は、それを検証できないことが多いということだ。

AIによってチームが作成するソフトウェアの量が増加するにつれ、リーダーはレビュープロセスがコード成果物の量に追いついているかどうかを知る必要があると、オディック氏は強調する。

特定のリリースにおいて、チームはどの成果物が必要な検証を受けたか、誰がレビューしたか、そして承認されたかどうかを示すことができなければなりません。これらの記録は、本番環境にデプロイされたバージョンと関連付けられる必要があります。もしそのような証拠の取得が困難な場合、リーダーはレビューの実施方法や記録方法に改善すべき課題を抱えていることになります。

3. エージェントの行動に関する利用可能な記録を取得できますか？

担当者が業務記録を更新し、その結果に異議を唱える者がいた場合、チームは調査を可能にする証拠の記録を残しておく必要があります。

この活動記録には、関連する入力、モデルとの相互作用、ツール呼び出し、アクション、承認を、調査対象のリクエストと結果として得られた成果に結びつける必要があります。また、何が起こったかをレビューする責任者がアクセスしやすく、理解しやすいものでなければなりません。

オダイクは記録を指摘し、 モデル呼び出し回答を導き出す際に使用されたパラメータやコンテキストは、トレーサビリティの重要な要素です。記録されたアクションや承認と併せて、これらの詳細は、チームが結果がどのように発生したかを再現し、ポリシーからの逸脱を確認するのに役立ちます。

4. 承認およびエスカレーションの責任はワークフローに組み込まれていますか？

各エージェントについて、チームは以下を定義する必要があります。

• 独立して実行できるアクション
• どの行為に人間の承認が必要か
• 何か問題が発生した場合、誰が対応しなければならないのか

重大な結果を招くような変更については、ワークフローを進める前に、権限のある担当者が提案された変更内容を確認し、承認する必要がある。

例えば、重要なシステムを更新する前に承認が必要な場合、エージェントは許可された情報を収集し、推奨事項を作成する可能性がある。

評価では、必要な承認手順が実施されているか、承認が得られるまでプロセスが一時停止されているか、そして承認が記録されているかを確認する必要があります。

5. より多くのチームがAIを導入するにつれて、同じガバナンス基準は維持されるだろうか？

アプリケーションやエージェントを開発するチームが増えるにつれ、リーダーは、ポートフォリオ全体で権限管理と監視が一貫しているという確信を持つ必要がある。

新規プロジェクトが共通の管理体制を継承するかどうか、チームがそれらの管理体制が適用されたことを証明できるかどうか、そして例外がどのように承認され記録されるかを評価する。

各プロジェクトはそれぞれ固有のデータ、権限、およびアクションを評価する必要があります。しかし、共有コントロールはチームに一貫した出発点を提供し、展開が拡大するにつれてリーダーが監視を維持するのに役立ちます。

ポートフォリオ全体にわたるガバナンスのサポート

共通の制御セットは、アーキテクチャが実際に機能する部分です。制御がプラットフォームに組み込まれている場合、すべての新しいアプリケーションとエージェントは自動的に制御対象となります。

Mendixエージェント開発プラットフォームであり、 Siemens' Intelligence Center Xエージェント型エンタープライズシステムである は、チームが標準を一度コード化し、ビルド時および実行中の環境全体で、すべてのアプリケーションをその標準に照らしてチェックすることを可能にします。プラットフォーム上に構築されたエージェントは、統制されたワークフロー内で動作します。エージェントは、 によって設定された権限で動作します。 彼らが働く人間そして、彼らの活動は中央監査ログに記録される。

チームは、人的レビューを必須のワークフロー手順として設定できるため、重要なアクションを実行する前に承認が必要となります。オディック氏が強調するように、レビューを実施するには、こうした監視機能が実装されている必要があります。

プラットフォームレベルで制御を確立することで、後続のアプリケーション開発においてチームが繰り返す基礎作業を削減することもできます。

と Mendix一度設定すれば、それがどこにでも継承されます。「多くのお客様が、プラットフォームを活用して構築速度を向上させています。」 2回目、3回目、4回目の申請「」とオディックは言う。

あなたの統治能力を試してみましょう

大きな力には大きな責任が伴う。これは単なる決まり文句ではなく、AIエージェントを管理する上での実際的な義務と言えるでしょう。エージェントに企業情報へのアクセス権と行動権限を与えるのであれば、彼らの行動に対して責任を負わなければなりません。

まず、ここで概説した質問を、組織内で既に稼働しているエージェントに適用してみてください。そのエージェントの所有者を特定し、権限を確認し、レビューやアクティビティの証拠を取得できますか？

これらの回答によって、ポリシーが実際にどの程度有効か、そして次の展開で作業負荷が増える前に何に注意する必要があるかが明らかになります。