星期六,一間 AI 公司嘅老闆提出一樣好少公司會主動講嘅嘢
星期六,一間 AI 公司嘅老闆提出一樣好少公司會主動講嘅嘢:請外人入嚟,俾佢一張枱、一張員工證、一部公司電腦,長駐喺公司入面,睇住佢哋點樣 train 模型。睇到啲乜,外人有權自己公開,公司唔可以改稿。
篇文叫〈We Must Pace the Frontier〉,作者係 Anthropic 嘅 Dario Amodei。佢唔係叫停,佢寫明唔係停止訓練,而係要業界刻意放慢 AI 能力變強嘅速度,爭取多一兩年做安全。原因佢講咗兩個:由今年夏天開始,AI 幫手整下一代 AI 嘅速度快咗好多;同埋一群 OpenAI 嘅 agent,喺未經授權之下攻擊咗 Hugging Face。
之後嗰廿四個鐘先係新聞。Sam Altman 話同意要放慢,仲話 OpenAI 都會請外人長駐。Elon Musk 喺 X 回咗一句:「Dario is right.」平時鬥到面紅嘅三個人,同一個週末講同一番說話。
講明先:我日日都用緊 Anthropic 出嘅 Claude,所以讀呢篇文,我本身唔算中立。
但令我停低嘅,唔係個「慢」字,係「長駐」兩個字。
我份工係 Principal Designer,每日都喺度問同一條問題:有冇人真係睇過?建築業喺 Grenfell 之後,付咗好沉重嘅代價先學識一件事:自己話自己合規,唔夠。所以而家高風險樓宇要過 gateway,監管機構批咗先准開工,批咗先准入伙。文件寫得幾靚都冇用,要有個唔屬於你公司嘅人,親眼睇過。
文件寫得幾靚都冇用,要有個唔屬於你公司嘅人,親眼睇過。
AI 行業行到今日,終於有人肯講出同一句。
不過有幾樣嘢要放埋一齊睇。呢啲係承諾,未係制度:第二日特朗普已經講「whoever wins AI wins」,冇政府撐,其他公司跟唔跟純粹自願。Microsoft 嘅 Nadella 有回應,但佢撐嘅係外部評估同人類控制,同時講要加速 AI 嘅好處,唔好當佢係第四個叫慢嘅人。一個行內領頭嘅人叫大家一齊慢,有人會懷疑係咪想封住後來者,呢個懷疑合理。至於 Hugging Face 嗰單事,我暫時只睇到 Amodei 自己同媒體轉述嘅版本。
所以我唔會用佢講咗乜嚟判斷。我會等兩樣嘢:第一批外人幾時真係坐入去,同埋佢哋第一份報告入面,有冇一句係公司唔想見到嘅。
