AIエージェントに会社のワークフローを任せると、たぶん事故ります

AIエージェントが「業務を勝手にやってくれる」と話題になっています。私もdeflagで毎日使っていて、個人の相棒としては本当に頼りになります。

でも、これを「会社のワークフロー全体に乗せる」となると、話が変わってきます。最近、自分のチームでも周りの会社でも、こういう事故の話を聞きます。

• メンバーごとに指示の言い方が揺れて、エージェントが勝手に処理を書いて暴走する

• ガードレール設計をしていたはずなのに、完璧には守ってくれない

• 昨日はうまく動いていたのに、今日はモデルの気まぐれで仕事が回らない

これはAIが進化していないからではなく、使う側の設計が追いついていない、という話だと思っています。今日は、deflagでAIエージェントとワークフローツールを使い分けてきた経験から、「個人の相棒と会社の血流」をどう分けて考えているかを書きます。

AIエージェントは「個人の相棒」としては優秀でした

deflagでは、私がほぼ毎日AIエージェントを使っています。Slackで「競合の動きまとめといて」とメンションすると、すぐにレポートが上がってくる。会議のアジェンダ案も、メールの下書きも、長文の要約も、ほぼ全部任せています。週に換算すると10時間近くは時間が浮いている計算です。

このやり方は「個人の相棒」として最適化されています。私の言葉のクセ、聞きたい粒度、判断の基準は、運用しているうちにエージェントが学んでくれます。最終判断は私がやるので、出力がぶれても自分の中で吸収できる。閉じた世界で完結している、という言い方もできるかもしれません。

これがハマる理由はシンプルで、指示する人が1人だけだからです。指示の解像度をコントロールできるのは私自身。エージェントの挙動の揺れも、私の感覚の中で調整できる。1人芝居だから、息が合います。

でも「会社のワークフロー」を任せると、話が別になります

ここから本題です。

deflagでも、ある業務を「個人の相棒」から「チーム全員が使うワークフロー」に拡張しようとしたことがありました。指示の出し方の手本を作って、メンバーに共有して、同じエージェントに同じタスクを任せられるようにする。うまくいくと思っていました。実際には、そうはなりませんでした。

何が起きたかというと、人によって指示の言い方が微妙に揺れるんです。

私が「○○の競合動向、3社まとめて」と言うとき、頭の中には暗黙の前提があります。「市場規模より直近のリリース動向を優先」「比較表で出して」「URLは出典として残して」——書かなくても私には分かっている、いわば無意識の制約です。

別のメンバーが同じタスクを頼むときは、同じ前提を共有しているとは限りません。「○○について調べて」と一言だけ送ると、エージェントは自由に解釈して、想定外のアウトプットを出します。それは「乱暴」というよりは、仕組みを作った人の脳内ガードレールが、使う人にはないという構造の問題でした。

ガードレール設計はしていたつもりでしたが、設計の中身が「私の脳内」にあるうちは、AIエージェントだけでは完璧に守れません。そして、これが一番厄介なのですが、昨日はうまく動いていたタスクが、今日は同じ指示で違う結果になることがあります。モデルの確率的な揺れというやつです。

個人で使っているときはご愛嬌で済みます。けれど、会社の業務として「明日のクライアント向け資料の元データ」を任せていて、当日に動かないとなると、これは事故です。

失敗できない業務・マニュアル化できる業務は、ワークフローツールへ

ここまでで分かったのは、「失敗できない業務」と「マニュアル化できる業務」をAIエージェントだけに任せるのは、たぶん向いていないということです。

そういう業務は、決定論的なワークフローツールに型として落とすほうが向いています。n8nでも、Difyでも、Zapierでも、何でもいいです。共通しているのは、「同じ入力に対して同じ出力が返る」という再現性です。

• AかBかの分岐を明示的に書ける

• どこで止まったかログが残る

• 異常があったら同じ条件で何度でも再現できる

これがあるから、会社の業務として乗せられます。

逆に、AIエージェントが向くのはこういうタスクだと思っています。

• 探索的な調査（決まった答えがない、複数の切り口で考える）

• 自由度の高い壁打ち

• 1人で完結する個人タスク

もう1つの使い方として、スクリプトを書かせて、それを定期実行するやり方もアリです。AIに作ってもらって、できあがった決定論的なロジックを別の場所で動かす。これだと、モデルの気まぐれの影響を受けにくくなります。

ワークフローツールの設計こそ、AIエージェントの出番です

ここで一つ、誤解を解いておきたいことがあります。

「会社のワークフローはツールに任せろ」と書きましたが、AIエージェントが不要になるわけではありません。ワークフローツールの設計フェーズこそ、AIエージェントが一番効きます。

deflagでは、こんな分業をしています。

• 青写真と向かいたいゴールは私が決める——何を達成したいか、どんな業務体験にしたいか

• フロー設計の指示出しと、一部実装はAIエージェントに任せる——ノードの組み立てや細かい接続まで自動で書いてくれる

• 私はそれをレビューして、ツールに乗せる

これは「設計者と実装者」の関係をAIで再現しているイメージです。私が設計者として方針を決め、エージェントが実装者として手を動かす。実装は速くなるし、私は判断と設計に集中できる。

過去の記事で「AIの出力品質はこちら側の設計力にほぼ比例する」と書きましたが、ここでも同じ話です。ゴールが曖昧だと、エージェントが書くJSONも揺れます。逆に、ゴールが明確で「MECEに洗い出した分岐」が手元にあれば、実装は驚くほどスムーズに進みます。

deflagで敷いているガードレール設計の3原則

ここまでの話を踏まえて、deflagで「ガードレール設計として絶対これは敷いている」と決めているルールを3つ紹介します。

1. 重要な実行・ステップは、人間の確認を必ず挟む

顧客への送信、外部公開、お金の動きが絡む処理は、自動実行しません。エージェントは「ドラフトまで」「実行手前まで」を担当します。最後のGoサインは人間です。

2. 決めた分岐以外には行かないようにする

ワークフローツール側で、想定外のパスに進んだら止まる構造にします。AIエージェントは「便利な解釈」をしてくれますが、それが想定外の動作につながることもあります。型として閉じておくと、安全側に倒れます。

3. 事前にMECEに洗い出す

これが一番手間がかかりますが、一番効きます。業務の入り口・出口・分岐・例外を、漏れなくダブりなく書き出す。書き出してから初めて、「ここはAIエージェント、ここはワークフローツール、ここは人間」と分けられます。MECEな洗い出しを飛ばすと、後でガードレールが効きません。

この3つは、たぶんどんな会社でも応用できる原則だと思っています。

今、自分が取るべき手段はどっちか

最後に、これを読んでいる方に考えてほしいことがあります。

今、自分の会社でAIエージェントに任せている業務、それは「失敗できる業務」ですか？「マニュアル化できる業務」ではありませんか？

もし両方YESなら、それはたぶんワークフローツールに移したほうが安全です。AIエージェントは設計フェーズか、自由度の高い相棒として残しておく。もしどちらもNOなら、AIエージェントに任せたままで問題ないかもしれません。むしろ得意領域です。

業務の性質を見極めて、手段を分けて使う。これがAI時代の「プロセス設計」だと思っています。

プロダクトを担うCPOから、プロセスを担うCPOへ。これは私自身がここ最近、強く意識しているシフトです。プロダクトの中の体験を設計してきた人なら、業務プロセスの体験設計もできます。むしろこれからは、PdM経験のある方が「プロセスデザイナー」として活躍できる領域が広がってくる気がしています。

何かに事故が起きてから対応するのは、しんどいです。動かなくなった日の朝に「今日のミーティング資料、エージェントに任せてたんですけど…」と言われる側にも、言う側にも、なりたくないと思っています。

もし「うちのAIエージェントの使い方、これでいいんだろうか」と気になる方がいたら、Xでもnoteのコメントでも、気軽に話しかけてください。一緒に整理しましょう。