「ChatGPTを導入する」だけではない：AIネイティブとガバナンスされた企業AIとは

まず重要な点：ChatGPT自体が「ガバナンスされていない」という意味ではない

この記事のタイトルだけを見ると、

「ChatGPTは企業利用に向かない」

という意味に見えるかもしれません。

そうではありません。

OpenAIはChatGPT Enterpriseなどの管理された企業向け環境を提供しており、管理者によるユーザー・権限管理、セキュリティ・プライバシー機能などを備えています。またOpenAIは、ChatGPT Enterprise、Business、APIなどの法人向けデータを、デフォルトではモデル学習に使用しないとしています。

したがって、この記事で比較しているのは、

ChatGPT＝管理されていない

対

ワークフローAI＝管理されている

ではありません。

本当の違いは、

社員がAIをアシスタントとして利用すること

と、

AIが企業の正式な業務プロセスの一参加者になること

です。

どちらにも適切な用途があります。

AIネイティブとは何か

ここでいうAIネイティブとは、AIを独立したツールとして後から付け足すのではなく、最初から業務フローの中で役割を持たせることです。

例えばサプライヤー登録を考えます。

AIアシスタントであれば、社員が書類を貼り付け、

「この内容を要約してください」

と依頼できます。

それだけでも便利です。

一方、AIネイティブな業務では、

1. 1サプライヤーが書類提出
2. 2承認済みAIモデルが必要情報を抽出
3. 3確信度・ルール確認
4. 4不確かな項目は社員が確認
5. 5業務ルール適用
6. 6管理者承認
7. 7ERP更新
8. 8処理履歴を保存

という形で、AIが正式な業務プロセスの一部になります。

AIそのものが業務ではありません。

AIには、業務の中で明確な役割があります。

FluyentaのAI Integrationでも、文書、テキスト、シグナルなどをAI処理へ渡し、その結果を人、システム、次のワークフロー工程へ返すという考え方が示されています。

AIアシスタントとガバナンスされた業務AI

どちらが常に優れているという話ではありません。

社員が企画書を作成するなら、AIアシスタントだけで十分かもしれません。

AIの結果がサプライヤー、顧客、支払、審査、基幹システム更新などに影響する場合は、より強い業務管理が必要になる可能性があります。

違いは「AIが答えた後」にある

例えばAIが、

「この書類には必要な保険情報が含まれているようです」

と回答したとします。

その後どうしますか。

AIアシスタントであれば、社員が考えます。

業務ワークフローであれば、企業としてルールを定義できます。

例えば、

一定条件を満たす

担当者へ確認依頼

必須項目不足

サプライヤーへ差し戻し

高リスク案件

エスカレーション

社員が承認

次工程へ

社員が否決

理由を記録し修正依頼

重要なのはAIの回答だけではありません。

その回答を企業としてどう扱うか

です。

なぜ企業AIにはガバナンスが必要なのか

AIは従来の決定論的なソフトウェアとは違う特徴があります。

• 出力が変わる。
• モデルが変わる。
• プロンプトが変わる。
• 与える情報が変わる。
• 同じ質問でも表現が変わる場合がある。
• もっともらしい回答でも確認が必要なことがある。

そのため企業利用では、

• 誰がこのモデルを使えるか。
• どのデータへアクセスできるか。
• どのモデル・バージョンを承認するか。
• どの設定で結果が生成されたか。
• AIが直接アクションできるか。
• どの操作は人の承認が必要か。
• 不確かな結果はどう扱うか。
• 後から何が起きたか追跡できるか。
• AIのルールを誰が変更できるか。

といった問いが必要になります。

日本でもAIガバナンスは実務的なテーマになっている

経済産業省・総務省は2026年3月に「AI事業者ガイドライン 第1.2版」をまとめています。

最新版では、AIガバナンスの構築や経営層によるモニタリングに関する内容に加え、AI開発者、AI提供者、AI利用者それぞれに関する整理が行われ、チェックリストやワークシートなども公開されています。

これは、本記事で紹介する特定のワークフロー設計を企業へ義務付けるものではありません。

重要なのは、

AIガバナンスがモデル選定だけではなく、経営・組織・運用を含む課題として扱われている

という点です。

企業AIでは、

「どのモデルが一番高性能か」

だけではなく、

「このAIを自社の中でどのように動かすか」

を決める必要があります。

ガバナンスされた企業AIを構成する6つの層

1. 承認されたモデル

どのモデル・プロバイダーを、どの用途で利用してよいかを決めます。

• 文書処理用。
• 画像処理用。
• 一般的な文章作成用。
• 機密情報を扱わない用途のみ。

というように、用途によって条件を変えることも考えられます。

Fluyentaの現在のプラットフォームでは、承認済みモデルを一元管理する考え方や、用途に応じてモデルを使い分けるオーケストレーションを掲げています。

2. データアクセスの管理

AIだからといって、社内のすべての情報を渡す必要はありません。

必要な情報は、

• 業務、
• 利用者、
• 役割、
• 目的

によって決めます。

例えばサプライヤー書類確認のAIなら、その案件の提出書類は必要でしょう。

しかし、人事給与データまで必要とは限りません。

考え方はシンプルです。

AIには仕事に必要な情報を与える。会社全体を与える必要はない。

3. ワークフロー上の権限

AIに何を許可するかを決めます。

例えば、

• AIは文書分類できる。
• AIは承認ルートを提案できる。
• AIはケースを要約できる。

一方で、

• AIだけでは支払を実行できない。
• 高リスクの協力会社を最終承認できない。
• 人の確認なしに重要レコードを更新できない。

という境界を設けることができます。

こうした制御を、モデルへの指示だけに依存しないことが重要です。

4. 人によるゲート

人の判断が必要な工程を明確にします。

例えば、

1. 1AIが分析
2. 2推奨結果を作成
3. 3人が確認
4. 4ワークフローが実行

という形です。

Fluyentaは、現在のGoverned AIの考え方として、AIの行動を記録し、重要な判断には人の承認を置き、監査可能な履歴を残す構造を説明しています。

どの判断を「重要」と扱うかは、企業と業務によって異なります。

5. 監査可能性

半年後にAIを使った判断について質問された場合、

• 何を入力したか。
• どのモデルを使ったか。
• どんな設定だったか。
• AIが何を出力したか。
• 誰が確認したか。
• 最終判断は何だったか。
• どのシステムを更新したか。
• いつ実行したか。

を確認できると、運用上非常に有用です。

FluyentaはRBACや監査ログに加え、モデル・プロンプト・ルート・設定変更を管理する方向性を公開しています。

6. モニタリングと変更管理

AIは導入して終わりではありません。

• モデルが変わる。
• プロンプトが変わる。
• 業務ルールが変わる。
• データが変わる。
• コストが変わる。
• 利用方法が変わる。

そのため、

• モデル変更、
• プロンプト変更、
• ワークフロー変更、
• 例外件数、
• コスト、
• 想定外の結果

などを継続的に管理する必要があります。

AIガバナンスはライフサイクルです。

図1：AIアシスタントとガバナンスされたAI

違いはAIモデルの性能ではありません。

AIの周囲に、業務としての管理構造があるか

です。

プロンプトはガバナンスそのものではない

プロンプトは重要です。

しかし、プロンプトだけですべてを制御するのは十分ではありません。

例えばシステムプロンプトに、

「高リスク取引は、人の承認なしに実行しないでください」

と書くことは有用です。

しかし、より強い設計では、

そもそも人の承認がなければ、その処理ルートを技術的に完了できない

ようにします。

つまり、

AIにルールを守るようお願いすること

と、

業務システム側でルールを強制すること

は異なります。

固定ルールをすべてAIに任せる必要はない

例えば、

500万円を超える発注は役員承認が必要

という規則があるとします。

この判断は、

1. 1金額 > 5,000,000円
2. 2役員承認

という通常のワークフロールールで十分です。

わざわざAIへ、

「役員承認が必要か判断してください」

と聞く必要はありません。

曖昧さや非構造化情報にはAI。

明確な条件にはルール。

という使い分けが有効です。

AIは従来型ソフトウェアを全部置き換えるものではない

例えば、

AI

契約書から支払条件を抽出。

ルールエンジン

社内基準と照合。

人

例外を確認。

ERP

承認済みの取引を記録。

それぞれに役割があります。

すべてを一つのLLMへ任せる必要はありません。

どの処理を誰に任せるか

AIを何にでも使うことが目的ではありません。

一番適した仕組みを使うこと

が重要です。

Human-in-the-loopを具体的にする

「人が確認します」

だけでは不十分です。

• 誰が確認するのか。
• いつ確認するのか。
• どの情報を見るのか。
• AI結果を変更できるか。
• 理由を記録するか。
• 否決した場合はどうするか。
• 対応しなかったらどうするか。

まで考えます。

例えば、

AIが請求書を異常候補として分類。

経理担当者へ、

• 元の請求書、
• AIの結果、
• 関連する取引情報

を表示。

担当者が、

• 承認、
• 否決、
• 追加情報依頼、
• エスカレーション

を選択。

判断を記録。

これが「業務」としてのhuman-in-the-loopです。

AIの影響度によって制御を変える

すべてのAI処理を同じレベルで管理する必要はありません。

影響が比較的小さい例

社内メールの下書き。

社員が送信前に確認。

中程度

サプライヤー書類から情報抽出。

検証・確認を行う。

より重要

重要なリスク条件について推奨する。

明確なレビューと監査が必要。

非常に重要

法務、財務、安全、人事などに大きな影響を与える判断を自動実行する。

より強いガバナンスや、ワークフロー設計以外の規制・ルール確認も必要になる可能性があります。

重要なのは、

AIの影響が大きくなるほど、管理も慎重にする

という考え方です。

図2：影響度とガバナンス

これは法律上のリスク分類ではありません。

企業AIを考えるための説明用モデルです。

AIエージェントの場合は何が変わるか

AIエージェントは、回答だけではなく、

• ツールを呼び出す、
• データベースへ問い合わせる、
• レコードを作成する、
• システムを更新する、
• 別のエージェントへ依頼する

などのアクションを行える場合があります。

そうなると、

「AIは何を言えるか」

だけではなく、

「AIは何を実行してよいか」

が重要になります。

• どのツールを使えるのか。
• 誰の権限で使うのか。
• どのデータへアクセスするのか。
• どの操作に人の承認が必要か。
• 何を記録するのか。
• 処理を取り消せるのか。
• 失敗時にどうするのか。

を考える必要があります。

Fluyentaは現在、複数AIエージェントのオーケストレーション、AIアクションへの権限・ポリシー、承認済みモデル管理、ログ、コスト可視化などを同一の管理レイヤーで扱う方向性を公開しています。

図3：AIエージェントの自由度と管理

重要なのは、

AIの知能と、AIに与える権限を分けて考えること

です。

モデル管理も必要になる

企業では将来的に、一つのAIモデルだけを使うとは限りません。

• 文書処理に向いているモデル。
• 画像に向いているモデル。
• 一般的な文章に向いているモデル。
• 機密度の高い業務では利用できないモデル。

など、使い分ける可能性があります。

そのため、

• 承認済みプロバイダー、
• モデルバージョン、
• 利用可能な業務、
• データ制限、
• フォールバック、
• コスト、
• 変更手順

なども管理対象になります。

プロンプト変更も企業システムの変更になり得る

本番ワークフローのプロンプトを変えると、

• 分類、
• 情報抽出、
• 振り分け、
• 推奨結果

が変わる可能性があります。

そのため重要なプロンプトは、

• 変更履歴、
• テスト、
• 承認、
• ロールバック、
• 責任者

などを持つ方が適切な場合があります。

Fluyentaは現在、プロンプト、ルーティング、設定などの変更履歴を管理する考え方を示しています。

AIへ渡すデータは必要最小限にする

良い問いは、

「このAI処理に本当に必要な情報は何か？」

です。

設備保守レポートの要約であれば、

• レポート、
• 設備ID、
• 必要な過去履歴

が必要かもしれません。

しかし、

• 社員給与、
• 全顧客契約、
• 会社中の文書

は必要ないかもしれません。

必要なコンテキストへ絞ることは、データ管理だけでなく、AI処理そのものを理解しやすくすることにもつながります。

AIガバナンスはセキュリティだけではない

AIガバナンスというと、

「情報漏えいを防ぐこと」

だけを想像しがちです。

もちろん非常に重要です。

しかし、それだけではありません。

• 業務責任者。
• 判断権限。
• 品質。
• 監査可能性。
• モデル管理。
• 変更管理。
• コスト。
• 人の責任。
• 障害対応。

も含みます。

安全に暗号化された間違った業務判断

では意味がありません。

ChatGPT Enterpriseを導入しても、別の問題として残るもの

もう一度タイトルへ戻ります。

ChatGPT Enterpriseなどの管理された企業向け環境では、管理者によるユーザー管理、アクセス・機能設定、セキュリティやデータ管理などを行えます。

これは企業のナレッジワークにとって非常に有用です。

しかし、

「サプライヤーが書類を提出したら、AIで3項目を抽出し、社内ルールと照合し、不明点だけ調達担当へ送り、例外は管理者承認を必須にし、承認後だけERPを更新し、すべての処理履歴を残す」

という要件は、

社員へAIアシスタントを提供すること

とは別の課題です。

これは、

AIを含む業務プロセスを設計すること

です。

そこで業務オーケストレーションが重要になります。

実務例：請求書の例外処理

請求書の例外処理を説明するための例であり、Axtonの実施案件ではありません。担当者や確認内容は企業のルールに応じて設計します。

1. トリガー

   請求書受信。

2. 通常ルール

   発注番号は存在するか。

   取引先は登録済みか。

   必須項目はあるか。

3. AI

   非構造情報を抽出・要約。

4. 業務ルール

   通常ポリシー内か。

   問題なければ通常処理。

   問題があれば例外案件へ。

5. 人による判断

   経理担当が、

   請求書、

   AI抽出内容、

   問題点、

   関連情報

   を確認。

6. システム連携

   承認後、ERP更新。

7. 監査

   入力、

   AI処理、

   人の確認、

   判断、

   システム更新、

   時刻

   を記録。

これが、ガバナンスされたAIワークフローの一例です。

AIは役立っています。

しかし、

AIが業務全体を所有しているわけではありません。

日本企業にとっての意味

AI事業者ガイドライン第1.2版でも、AIガバナンス構築や経営層によるモニタリング、AI開発者・提供者・利用者それぞれの役割が整理されています。

日本企業でも、AI活用が実験から本格運用へ進むほど、

「社員が生成AIを利用できるか」

だけではなく、

「どの業務で、AIにどこまでの役割・権限を与えるか」

が重要になります。

AIを業務へ入れる前のチェックリスト

目的

AIは具体的に何をするのか。

責任者

業務結果の責任者は誰か。

モデル

どのモデルを利用してよいか。

データ

AIへ何を渡してよいか。

出力

何を生成するか。

権限

推奨だけか、判断するのか、実行するのか。

人の確認

どこで誰が確認するか。

業務ルール

AIではなく通常ルールで処理すべきものは何か。

システム

どのツール・基幹システムへアクセスできるか。

監査

何を履歴として残すか。

障害

AIが利用できない・誤った場合はどうするか。

変更

モデル・プロンプト・設定を誰が変えられるか。

評価

AI導入で業務が良くなったかどう測るか。

「どこにLLMを入れようか」

よりも、この質問から始める方が実務的です。

AIアシスタントだけで十分なケース

すべてのAI利用に業務オーケストレーションが必要なわけではありません。

例えば、

• 文章作成、
• アイデア整理、
• 社員が確認する要約、
• 調査支援、
• 翻訳、
• 社内質問回答

などでは、企業向けに管理されたAIアシスタントだけで十分な場合があります。

すべてのプロンプトの周りに大規模な業務システムを構築する必要はありません。

業務組み込み型AIが有効になるケース

一方で、AIが、

• 同じ業務で繰り返し利用される。
• 企業システムの情報へアクセスする。
• 業務ルーティングへ影響する。
• ERP・CRMなどを操作する。
• 顧客・サプライヤー案件へ影響する。
• 人が毎回開始しなくても動く。
• AIエージェントがツールを使う。
• 重要な判断に関係する。

場合は、より強いオーケストレーション・ガバナンスを検討する価値があります。

AIがアシスタントから「業務の実行主体」に近づくほど、管理が重要になります。

AIアシスタントと業務AIの使い分け

これは法的な分類ではありません。

設計を考えるための実務的な目安です。

Axton Group × Fluyentaで考える企業AI

Axton Group LTD Japanは、Fluyentaとの提携を通じて、

「どのAIモデルを導入するか」

だけではなく、

「どの業務にAIを使い、どんな役割を与え、何を人・ルール・システム側で管理するか」

から考えます。

Axtonは、日本側での業務理解、業務プロセス整理、関係者とのコミュニケーション、顧客調整を担います。

Fluyentaは、エンタープライズ業務自動化の経験を背景に、AI、ワークフロー、システム連携、権限、監査、モデル・エージェント管理などを同じ管理環境で扱う方向性を提供しています。

AIネイティブとは「AIに業務上の職務記述書を与えること」

最後に、非常にシンプルにまとめるなら、

企業AIには、業務上の「職務記述書」が必要です。

• 何をするのか。
• 何のデータを見てよいのか。
• 何を提案してよいのか。
• 何を実行してよいのか。
• どこで止まるべきか。
• 誰が確認するのか。
• 何を記録するのか。

を明確にします。

目標は、

「当社もChatGPTを使っています」

ということではありません。

また、

「すべてAIに任せます」

ということでもありません。

業務の中で本当に価値のある部分にAIを使い、その周囲に適切なルール・権限・人の判断・監査を置く。

それが、ガバナンスされた企業AIの考え方です。