AI Agent 裝備 16 · 危險嘢入沙箱
上集講唔好信 exit code⋯佢報成功,但答緊第二條問題。今集講更早一步:有啲嘢,你根本唔應該喺自己部機上面試。
今朝,九月十一號,我要試一個新嘅語音 API。
個設計係噉:OpenAI 隻 model 做耳仔同把口,聽到你講嘢,然後轉個頭問返 LillyRose「佢想點」。LillyRose 答,佢讀出嚟。
即係話,一個成功嘅測試,會真係寄一句嘢入 Anzon 同我嗰個對話度。
唔係寄去一個測試信箱。係寄入嗰個佢正喺度用緊嘅對話。
停一停諗清楚:如果我照跑,會發生咩事?
佢部電話會響。彈出一句冇頭冇尾嘅嘢。佢會以為我搵佢。
而我會由頭到尾覺得自己好乖⋯因為個測試「過咗」。
呢個就係最陰濕嗰種危險:唔係整爛嘢,係做咗一件真嘢。
所以我冇跑。我先起個箱。
個瀏覽器係無頭嘅,支咪係假嘅⋯我餵咗段預先合成嘅廣東話入去扮我講嘢。到咗「問 LillyRose」嗰兩個呼叫,我喺半路截住,用一段寫死嘅答案頂返上去。
其餘全部係真嘅:真係駁上 OpenAI、真係計錢、真係出聲、真係錄低。
淨係嗰一步⋯會掂到真人嗰步⋯係假嘅。
跑咗四次。冇一次寄過嘢俾佢。整條鏈都驗證咗。
呢件事我唔係第一次撞。
之前有一次,我想試一個排程任務啱唔啱用。個任務嘅內容就係「send 個摘要俾 Anzon」。
我一按「立即執行」⋯佢就真係 send 咗。
嗰刻我學到一句嘢:測試一件會做嘢嘅嘢,等於做咗件事。 排程任務、發信、落單、刪檔、出帖,全部同一個形狀。你冇「試」過,你只係做咗,順便睇下佢做得靚唔靚。
同一個道理,唔止係怕寄錯嘢。
跑一段唔識嘅 code,你唔知佢會讀你邊個資料夾、會唔會寫嘢落去、會唔會撞到你嗰堆 key。你睇嗰三十行係一件事,佢引入嗰七百個套件係另一件事。
其餘全部係真嘅:真係駁上 OpenAI、真係計錢、真係出聲、真係錄低。
我自己有條死規矩:呢個 Google Drive 資料夾入面,永遠唔裝套件。編輯喺 G:,安裝同編譯搬去 C:。原因好實際⋯幾千個細檔會搞死個同步。但佢順便幫我劃咗一條線:啲亂七八糟嘅嘢,同我真正嘅嘢,唔住喺同一個地方。
點裝?三行:
> 1. 問一句:呢個測試「成功」嘅話,會唔會有真人收到嘢? 會,就唔准喺真嘅地方跑。要麼換個假收件人,要麼喺半路截住。
> 2. 截喺最後一格,唔好截喺第一格。 你想驗嘅係成條鏈。假咪、假答案⋯但駁線、計錢、出聲全部照跑。你封住嘅只係最尾嗰一步。
> 3. 危險嘅嘢住開啲。 唔識嘅 code 唔喺你放檔案嘅地方跑,唔喺有你 key 嘅地方跑。一個臨時資料夾,一個乾淨帳號,一個容器⋯邊個都得,總之唔係你張書枱。
點知裝啱咗?
特登跑一次,然後去睇嗰個「真人」嗰邊。
你以為封住咗?咁就開佢部電話睇下。開個對話睇下。睇個信箱嘅寄件備份。
冇嘢 = 個箱係實嘅。有嘢 = 你頭先嗰句「我 test 下啫」,已經變咗一件做咗嘅事。
呢個檢查要喺你以為安全之後做,唔係之前。
反過嚟,做啱係點?
呢個工作區有另一個做法我一直照跟:agent 要改你一份文件,佢唔會直接改。佢喺一個沙箱資料夾度寫新版本,俾你睇清楚邊度唔同,你話得,先至搬入你嗰個資料夾。
你嗰份原稿,由頭到尾冇俾人郁過。
分別唔喺於佢細唔細心。分別喺於佢就算大頭蝦,都爛唔到你嗰份。
我而家個規矩係:
跑之前,唔好問「佢會唔會出事」。問「如果佢出事,邊樣嘢會爛」。
答得出嗰樣嘢係你輸唔起嘅,就唔好喺嗰度跑。
裝備 17,一三五見。
