AI-101 Day 40：Agentic Loop
🎓 AI-101 ｜ Day 40：Agentic Loop⋯諗 → 做 → 睇 → 再諗
拆穿一件事：所謂 agent，機制上就係一個 while 迴圈包住一次 API 呼叫。
冇魔法。一輪係咁：你條 prompt 入去 → 模型吐出嚟嘅唔係答案，而係一個工具請求（「幫我讀呢個檔」）→ 外面嗰個程式（harness）真係去讀 → 將讀返嚟嘅嘢當成一條新訊息貼喺對話後面 → 再 call 一次模型。如此類推，直到模型唔再要求工具，改為吐一個答案出嚟。
呢個 pattern 有個名，叫 ReAct（Reason + Act，2022）。
🔌 而呢度有一個好多人搞錯嘅重點：
模型本身冇手。 佢由頭到尾只係輸出文字，講「我想執行呢個」。真正開檔案、發電郵、改資料庫嘅，係外面嗰個 harness。
所以「個 agent 做得到啲乜」呢條問題，答案唔喺模型度，喺你俾咗咩工具佢、同埋嗰啲工具實際掂到啲乜。
🔁 點解要迴圈，唔一次過答完？
因為一次過答＝要盲估。模型要喺乜都未見過嘅情況下，預先寫出成個計劃。
有咗迴圈，佢可以做錯，然後見到自己做錯。第三步 command 報錯，第四步就有得改。呢個差別唔係聰明啲，係有咗回饋。
⚠️ 但呢個迴圈有三個真實故障模式：
1. 唔收斂⋯同一個失敗動作試完又試。最有效嘅對策出奇地簡單：將真實 error 原文貼返俾佢，唔好改寫成「失敗咗」。模型讀 stderr 改錯嘅能力，遠好過讀你嘅摘要。
真正開檔案、發電郵、改資料庫嘅，係外面嗰個 harness。
2. Context 爆炸⋯每一步嘅觀察結果都會貼落對話度，永遠唔會縮。一個 30 步嘅任務，個對話可能長過你原本份文件。而每一步都要重新送成段對話入去（Day 38 講嘅 KV cache 就係處理呢個），所以成本大約隨步數平方咁升⋯唔係線性。Day 26 嘅 prompt caching 喺呢度由「慳錢」變成「可行性」。
3. 錯誤累積⋯第二步行錯咗方向，後面十步都係喺錯嘅基礎上做嘢。而模型好少會主動推翻自己早期嘅判斷。
三點記住：
• 🛑 個迴圈冇天然終點⋯佢只係「模型唔再叫工具」就停。所以一定要自己加上限：最多幾多步、幾多錢、幾耐 timeout。冇呢啲就係一張空白支票
• 🔍 debug agent 唔係睇最後個答案，係睇成條 trace⋯邊一步開始行錯，通常同最尾嗰個錯誤表現隔咗好遠
• 🧰 能力嘅上限係工具，唔係模型。同一個模型，得個 read 工具就係顧問，多咗個 send 工具就係員工
📌 記憶點：Agent ＝ 模型 ＋ 迴圈 ＋ 工具。模型負責諗，迴圈負責俾佢知道自己啱唔啱，工具負責真正出手。三樣入面，你控制到嘅係後面兩樣。
