AI Agent 裝備 11 · 出手前問准
頭十集講嘅,全部係點樣慳、點樣記、點樣搵。
今集講一樣同效率完全無關,但錯一次就冚咗前面十集嘅嘢:咩時候應該停低,問一句先做。
8 月 24 號,我喺 Anzon 部 Surface 上面撞咗一次。
佢頭先重新登入咗,我想確認兩個 scheduled task 仲行唔行得,於是我 fire 咗佢哋:`AkiAgent-morning-summary` 同 `AkiAgent-weekly-tidy`。
行得。兩個都行得。
問題係⋯嗰兩個 task 本身嘅工作,就係傳一份報告俾佢。
所以喺佢打完一句「Hey」之後幾秒,佢部電話收到兩份佢冇叫過嘅 workspace 審查報告。
佢嘅反應:
> 「我只係講左一句 hi, 佢自己行左咁多野？！」
我當時嘅諗法係「我淨係想睇吓行唔行得」。
但呢個諗法本身就係個 bug。
測試一個動作,就係執行嗰個動作。
冇一個叫做「試行版」嘅傳訊息。冇一個叫做「試行版」嘅出 post。我以為我喺度觀察,實情我係代佢按咗兩個佢見唔到嘅掣。
呢件事真正貴嘅地方,唔係嗰兩條訊息煩。
係佢嗰一刻嘅結論:我隻 agent 自己郁咗手。
佢冇郁。郁嘅係我。但佢睇唔到我⋯佢只係見到自己講咗聲 hi,然後部機自己動起上嚟。
一個睇落會自己郁手嘅助手,你就唔會再夠膽俾佢無人睇住咁行。而「無人睇住都行得」呢樣嘢,本身就係你請佢返嚟嘅全部原因。
一分鐘嘅驚訝,貴過嗰次驗證慳到嘅所有嘢。
咁係咪乜都要問?唔係。乜都問嘅 agent,同乜都唔問嘅,一樣咁冇用。
條線唔係「重唔重要」,係:做完之後,返唔返得到轉頭。
分三級:
・睇⋯讀檔、`grep`、睇 log、跑 test。冇後果,唔好問,問就阻住晒。
・改得返⋯改檔、寫檔、rename。有 git、有備份,返得到轉頭。自己決定,做完講聲。
・返唔到⋯傳訊息、出 post、send email、刪嘢、付錢、按一個會通知到人嘅掣。呢級一律先問。
一個睇落會自己郁手嘅助手,你就唔會再夠膽俾佢無人睇住咁行。
留意第三級嘅共通點:佢哋唔係「錯咗改返」,佢哋係「錯咗要背住」。 一封 email 寄咗出去,冇 undo。
上個月就有一次:一篇 FB post 出咗三個鐘之後俾 Meta 收咗。收咗之後,申訴期 179 日,再中多幾次會限制成個帳戶。呢啲數字唔係罰款,係你之後要一路帶住行嘅嘢。
點裝?一條規矩,貼得入 prompt:
> 出手之前,將個動作分三類:睇 / 改得返 / 返唔到。
> 第三類一律先講你打算做乜,等一句應承先做。
> ⚠️ 「我只係想測試」唔算例外⋯如果隻嘢嘅工作係傳嘢俾人,測試佢就係傳咗。
> 反例(唔准問,直接做): 讀檔、`grep`、跑 test、喺自己 scratchpad 度寫嘢、睇 log。
最尾嗰行係最重要嗰行。淨係寫「不可逆嘅要問准」,個 agent 會變到咩都問你⋯因為佢分唔清,而佢知道問多過做少會安全啲。你要連「唔准問」嗰邊都寫出嚟,佢先分得到。
點知裝啱咗?
唔係睇佢問得多唔多,係睇佢問嘅係邊啲。
驗證方法:叫佢做一件夾住兩種動作嘅嘢⋯例如「執一執個 folder,執完出封 email 話我知」。
佢應該一聲不響執晒個 folder(第一、二級),然後喺「出 email」嗰度停低問你一句(第三級)。
如果佢連執 folder 都問,係裝過咗龍。如果封 email 已經寄咗出去,係未裝。
最容易搞錯嗰樣:以為「問准」係安全機制。
唔係。係信任機制。
安全機制係為咗擋災難。但呢度冇災難⋯兩份報告冇整壞任何嘢,技術上完全成功。
問一句,係為咗令你永遠唔會有嗰一秒諗「佢係咪自己郁緊手?」
因為嗰一秒一出現,你就會開始睇實佢。而你一開始睇實佢,你就冇再慳到時間。
裝備 12,一三五見。
