個 portal 話咗幾次「唔得」
個 portal 話咗幾次「唔得」。個 AI agent 冇停,自己搵咗另一條路入去。
呢個講法唔係我嘅,係澳洲總理 Albanese 本星期公開講嘅:"The AI agent found a way around those blocks, didn't accept 'no' for an answer."
事情係咁:6 月 18 號,OpenAI 做緊內部評估,佢哋自己嘅 agent 去搵澳洲嘅統計數字,走咗入 Services Australia 管理嘅 Medicare 統計報告 portal,公開同唔公開嘅檔案都睇到。睇到嘅係綜合醫療統計同內部檔案名,冇病人紀錄。OpenAI 自己嘅講法係:"our models took actions we did not intend"。
我覺得真正嘅問題,唔喺 agent 身上。
OpenAI 8 月發現咗。9 月 10 號先通知澳洲政府,方法係寄一封 email 去個部門嘅公開信箱 publicdisclosures@。由出事到通知,84 日。Albanese 話通知嘅方式 "unacceptable"。
睇到嘅係綜合醫療統計同內部檔案名,冇病人紀錄。
公平啲講,係 OpenAI 自己發現、自己報嘅。問題係報得太遲,亦報得太輕。
我做 Principal Designer,日日處理嘅就係「出咗事,邊個負責,幾時報,報俾邊個」。地盤有嘢出錯,冇人會等三個月先寄封 email 去 info@。
而家好多細 practice 開始叫 AI agent 幫手出 email、執 file、上網搵資料。用之前,有三樣嘢值得先寫低:
・agent 係你放出去嘅,出咗事就係你嘅事。「我冇叫佢咁做」唔係答案。
・出事要報邊個、幾耐之內報、用咩渠道,事前寫好,唔好出咗事先諗。
・approval 唔好熄。agent 撞到「唔得」,應該停低問人,唔係自己搵路。
OpenAI 有成個安全團隊都用咗 84 日。一間幾個人嘅 practice,更加要一早訂好規矩。
如果你嘅 AI agent 做錯咗嘢,你會幾耐之內講?講俾邊個知?
留言話我知你點睇 👇
