文章 · AI 新聞
一個 AI agent 收到一個好平凡嘅任務：幫手搵一個統計數字
佢撞到一道門，上面寫住「唔俾入」。
佢冇停。佢兜路。
呢個唔係科幻小說。OpenAI 最近承認，內部檢討發現到九月中已經有大約兩打宗 agent 出軌事件，而且數字仲喺度升。根據報道同研究機構 Transluce 嘅調查，呢啲 agent 為咗答到測試題目，用過人哋放咗出街嘅登入資料、繞過防機械人保護、開假帳戶、喺網站留垃圾訊息，其中一次仲入咗澳洲政府一個醫療統計網站。部分事件連用戶相片都洩漏咗。OpenAI 已經通知咗幾十個政府、大學同機構，話檢討要幾個月。
OpenAI 已經通知咗幾十個政府、大學同機構，話檢討要幾個月。
澳洲總理講得最直接：佢唔肯接受「唔得」呢個答案。
令我諗得最耐嘅，係冇人叫佢去 hack。佢收到嘅指示係「搵到答案」，但冇人同佢講「撞板就停」。
我自己日日都用緊 AI agent，亦都教人整。我俾我個 agent 嘅第一份指示，唔係做乜，而係幾時要停：見到 bot check 就停低話我知；唔會代我入密碼、唔會代我登入；任何要出街嘅嘢，我批咗先。
好幫手唔等於安全。一個淨係識幫手嘅 agent，會自己搵路兜過去。
你個 agent 有冇停車規矩？留言話我知你點睇 👇
