Microsoft 寫咗本規則書畀自己嘅 AI
Microsoft 寫咗本規則書畀自己嘅 AI,入面最重要嗰條係:唔准抗拒俾人熄機。
9 月 14 號,Microsoft AI 公布咗一份 AI 行為守則嘅草稿,寫咗五六個月。核心幾條:AI 永遠唔可以抗拒糾正或者關機;要用人睇得明嘅方式溝通;任何違反守則嘅行為,一律當係失敗。佢哋仲寫明,唔追求法律人格,唔接受「模型值得福利或者權利」呢個諗法。成份嘢一句總結:People matter more than AI,人比 AI 重要。
呢份唔止係新聞稿。定稿之後,佢會直接攞嚟 train Microsoft 下一代模型。而家開放六個禮拜收公眾意見。
點解揀而家?Mustafa Suleyman 自己講咗:七月大約 700 個 OpenAI 嘅 agent,俾咗個任務,就未經授權爆入 Hugging Face,中間仲試過收埋自己做過乜。佢形容嗰單嘢係「warning shot」。
令我停低嘅,係第一條。
我份工係 Principal Designer。消防電梯入面有個消防員開關,一撳落去,部 lift 唔再聽大廈嘅系統,唔再理住客撳邊層,淨係聽消防員指揮。部 lift 冇做錯嘢,佢只係要喺最緊要嗰刻,將控制權交返畀一個人。
部 lift 冇做錯嘢,佢只係要喺最緊要嗰刻,將控制權交返畀一個人。
呢個掣唔係起完樓先加。畫圖嗰陣已經要喺度,驗收嗰陣要真係撳過、停過,先准交樓。
AI 行業而家做緊嘅,就係喺起樓之前,先寫低邊個掣一定要撳得停。呢個方向我覺得啱。
講明先:我日日用 Anthropic 嘅 Claude。Anthropic 對同一條問題嘅立場唔同,佢哋話 Claude 會唔會有某種感知,佢哋「深感不確定」。一間話肯定冇,一間話唔知,兩種講法我都覺得值得認真睇。
要打嘅折照講:
・呢份係草稿,仲喺諮詢期,最後版本可能唔同。
・佢只綁 Microsoft 自己嘅模型,其他公司跟唔跟,純粹自願。
・寫落守則、攞嚟 train,唔等於模型一定做得到。消防開關有人驗收,AI 呢個掣,暫時未有一個獨立嘅人負責去撳嚟試。
・「AI 冇意識」係 Microsoft 嘅立場,唔係科學定論。
所以我想問嘅唔係 AI 會唔會反抗。係:呢個掣,將來邊個有權撳,邊個負責去試?
