AIの制御レイヤー

この記事は Dries Buytaert 氏の公式ブログ「dri.es」の翻訳記事です。Driesブログの記事一覧よりすべての翻訳記事をご覧いただけます。

先週、Salesforce社に恥ずかしい出来事がありました。

Vivint社はSalesforce社のAgentforceを使って、カスタマーサービスの電話対応後に満足度調査を送信していました。最近、調査がランダムに送信されないことがあり、数週間も誰も気づかなかったことが判明しました。

Salesforce社がこの問題を調査したところ、根本原因を発見しました。AIエージェントがステップをスキップしていたのです。このタスクにAIは必要ありませんでした。必要だったのは、毎回確実に完了するワークフローでした。そこで彼らは、エージェントの周りにより多くの構造とガードレールを追加しました。魔法ではなく、より多くのワークフローです。

そして、それが正しい答えです。実は数ヶ月前にオーケストレーションのシフトでこのことについて書きました。

将来的には、おそらく 信頼性と一貫性のための決定論的ワークフローと、柔軟性とインテリジェンスのためのAI駆動の意思決定の組み合わせの両方が必要になるでしょう。

Salesforce社は苦労してそれを学びました。

まさにこれが、私がn8nやActivepiecesのような外部ワークフロー自動化プラットフォームに注目している理由です。これらのプラットフォームでは、どのステップを決定論的にし、どのステップにAIを使うかを制御できます。DrupalのEvent-Condition-Actionモジュールのような内部自動化ソリューションも、同じ考え方に従っています。

Activepiecesやn8nを使えば、Vivint社のワークフローは次のようになります。カスタマーサービスの電話が終了し、AIがトランスクリプトを分析して調査メッセージをパーソナライズし、その後、自動化プラットフォームがメールを送信します。AIは得意なことをやり、自動化プラットフォームは毎回確実に送信されることを保証します。

LLMは設計上、確率的です。決定論を必要とするステップでは、AIを使うべきではありません。

この問題を解決するための2つのアーキテクチャアプローチが登場しています。

1つ目は「外から内へ」です。n8nやActivepiecesのようなワークフロープラットフォームは、決定論的プロセスを制御し、その中の特定のステップにAIを使用します。ワークフローは、いつAIを呼び出すか、その出力で何をするか、失敗した場合に何が起こるかを指定します。外から内へは、より信頼性が高く監査可能です。AIが失敗したり予期しない結果を返したりした場合、ワークフローがそれをキャッチします。何が起こったのか、なぜそうなったのかを正確に確認できます。しかし、ワークフロー設計者が予測したことに制限されるため、柔軟性は低くなります。

2つ目のアプローチは「内から外へ」です。AIエージェントは、その動作の一部として決定論的ツールを呼び出すことができます。AIが制御しますが、精度を必要とする何かをする必要がある場合、そのタスクを確実に実行するツールに渡します。これは、例えばAnthropic社のClaude Codeが行っていることです。Claude Codeがコードがコンパイルされることを確認する必要がある場合、推測はしません。実際のコンパイラを呼び出します。内から外へはより適応的です。欲しいものを説明すれば、AIが方法を見つけ出します。しかし、監査とデバッグが難しく、規制当局への説明も難しく、AIがすべてのステップで呼び出されるため、大規模になるとコストがかかります。

両方のアプローチが共存することは直感的に感じられます。それらはネストできます。3つのレイヤーを想像してください。外側のレイヤーはワークフロー自動化です。完全に決定論的で、プロセスを保証します。中間のレイヤーはAIです。非決定論的で、判断を下します。AIステップの内側のレイヤーは決定論的ツールです。AIのために正確なアクションを実行します。

すべての人が3つのレイヤーすべてを必要とするわけではありません。ソフトウェアの作成のような特定のタスクには、内から外へで十分です。しかし、多くのステップ、複数の統合、複雑なビジネスルール、厳格な監査要件を持つ複雑なエンタープライズワークフローには、外側のレイヤーが必要です。

そこでワークフロー自動化プラットフォームが登場します。すべてのAIユースケースを強化する必要はありません。エンタープライズが可視性と制御を必要とする複雑なワークフローで勝つ必要があります。そこに多くの商業的価値も生まれます。エンタープライズは信頼性と説明責任にお金を払います。

私たちはまだAIエージェントの時代の初期にいます。誘惑は、知能だけで構造を置き換えられると信じることです。しかし、エンタープライズは顧客、収益、コンプライアンスに触れるプロセスを賭けることはできません。すべてのステップが説明可能なシステムが必要です。だから決定論的ワークフローが重要なのです。それは信頼性と知能が出会う場所であり、次世代のエンタープライズプラットフォームが構築される場所です。

そして、インフラストラクチャが不可欠になると、組織はそれを借りるのではなく、所有したいと考えます。だからLinuxがサーバーで勝ち、PostgreSQLがデータベースで勝ったのです。オーケストレーションレイヤーがエンタープライズAIにとって不可欠になれば、オープンソースは重要な選択肢になります。Activepiecesはオープンソースで、n8nは「ソース利用可能」です（コードは検査できますが、商用制限があります）。いずれにせよ、彼らの成功を見たいと思っています。

By Dries Buytaert

この記事は「The Control Layers of AI」（投稿日：2025-12-30）の翻訳記事です。