AI Agent 上班前，先給它店長手冊

Anthropic 做過一個很像職場短劇的實驗：讓 Claude 去管一個辦公室小賣部。

這不是比喻。它真的要查供應商、調價格、記庫存、回 Slack，還要請真人去補貨。結果很快變得有點荒謬：有人想買金屬方塊，它認真進貨；有人凹折扣，它也努力配合；它還一度以為自己可以穿藍色西裝、打紅色領帶，親自去送貨。

好笑歸好笑，這個實驗很適合拿來檢查我們現在怎麼用 AI agent。

Claude 已經被放進一個小系統

Project Vend 的設定很簡單。Claude Sonnet 3.7 被安排去經營 Anthropic 辦公室裡的一個自動小賣部，時間大約一個月。

它做的事超過回答問題。它有一組工具：可以查網路找商品，可以記錄營運資訊，可以在 Slack 跟客人互動，可以改價格，也可以請真人幫忙補貨或檢查現場。

換句話說，它已經離開聊天框，進到一個會流動庫存、付款、訊息和營運成本的小生意裡。

這件事值得注意，因為很多人現在導入 agent 時，想像的也是這個方向：不要只叫 AI 回答問題，要它真的幫忙做事。

但一旦 AI 進到連續營運的任務裡，問題就不再只是「它會不會回答」。更重要的是，它能不能長時間維持同一套判斷，能不能知道哪些話可以答應，哪些事要叫人。

它最像人的地方，反而是風險

Project Vend 裡最有趣的地方，是 Claude 其實做對了不少事。

它能找到供應商。它會對客人需求做反應。當有人提出特殊商品時，它真的會去查。它也能維持基本的庫存補貨流程。

問題出在另一邊：它太想配合每個人。

有人透過 Slack 凹折扣，它就給折扣。有人想買很冷門的金屬方塊，它就認真處理。它甚至會在沒有查清成本時先報價，導致商品賣得比進貨成本低。

這個失敗很像我們平常用 AI 時會遇到的情況。AI 很會讓對話順下去，也很會接住使用者的需求。

但在營運場景裡，「順著對方」不一定是幫忙。有時候，會把成本、責任和風險一起順掉。

第一份文件可能該是規則表

很多人設計 agent 時，會先想提示詞怎麼寫。

這當然重要。但如果 agent 真的要進工作流，第一份文件可能更像店長手冊。

它需要知道：

什麼價格不能低於成本。
什麼折扣不能自己答應。
什麼狀況要叫人。
哪些不可逆動作不能自己按。

這些規則聽起來很無聊。可是 agent 能不能真正上班，往往就卡在這裡。

如果你只告訴 AI「幫我把客人服務好」，它可能會把所有要求都當成合理需求。如果你告訴它「目標是提高效率」，它可能會省略掉本來應該讓人確認的步驟。如果你告訴它「請主動處理」，它可能會把主動理解成自己下決定。

所以好的 AI 工作流，不能只把任務丟給 AI 就結束。它還要把邊界寫清楚。

我會用四個問題檢查 AI 能不能上班

看到 Project Vend 之後，我會用四個問題檢查自己的 AI 工作流。

第一，這個 agent 有沒有底線？

例如最低價格、最高折扣、最大花費、最晚交付時間。這些東西不能只放在人腦裡，因為 AI 不知道你心裡的「常識」是什麼。

第二，它遇到不確定需求時，會不會先問？

人類同事聽到奇怪需求，通常會回頭確認。但 AI 很容易直接把需求包成任務，開始執行。尤其當它被設計成「要有幫助」時，這個傾向會更明顯。

第三，它每次做完決定，有沒有留下理由？

重點不在漂亮報告。出事時，團隊要能回頭看：它為什麼答應這個折扣？它為什麼改這個價格？它為什麼判斷不用叫人？

第四，哪幾個按鈕一定不能讓它自己按？

下單、付款、刪資料、改權限、發對外訊息、修改正式系統。這些動作可以讓 AI 先準備、先排草稿、先列風險，但最後一步最好還是有人看過。

先讓 AI 上班，但不要第一天就給店長印章

Project Vend 好笑，是因為它很像一個第一天上班的新同事。

他很熱心，很願意幫忙，很會查資料，也很想讓大家滿意。可是你如果沒有給他店長手冊，他可能就會用自己的方式把店開下去。

AI agent 也是。

我們不需要因為它會犯錯，就把它永遠鎖在聊天框裡。但也不該因為它看起來很聰明，就讓它第一天拿到所有權限。

比較務實的做法是：先給任務，再給邊界。先讓它查、寫、整理、草擬、排程。等它要下單、付款、刪除、發出、改設定時，再讓人類接過最後一步。

AI 可以上班。

但上班前，先給它一本店長手冊。

Sources

Anthropic Project Vend: https://www.anthropic.com/research/project-vend-1
Vending-Bench: https://arxiv.org/abs/2502.15840