有些生意,我寧願不做

有些生意,我寧願不做

有一種談判,不管最後結果如何,你都知道自己必須走進去。

Anthropic 大概就是帶著這種心情,坐上了與美國國防部的談判桌。雙方商談的是 Claude 的政府使用授權,讓這家公司最核心的 AI 系統進入美國軍事體系。這類合約,金額龐大,關係長遠,在 AI 產業的商業邏輯裡幾乎是必爭之地。

然後 Anthropic 說了不。

兩條線,不是一時衝動

說不的理由,非常具體。Anthropic 要求在合約中排除兩種用途:用 Claude 對美國公民進行大規模監控,以及讓 Claude 在無人類參與的情況下驅動全自主致命武器。

我第一次看到這兩條例外,覺得它們說的是非常不同的事。一個是公民自由的問題,一個是軍事技術的問題。但細想,它們共享同一個底層結構:把本來需要人去做判斷、去承擔責任的事,交給機器去執行。

大規模監控真正危險的地方,是它把「誰被監控、為什麼」這個問題,從個別判斷化成了系統性的自動流程。人的參與被抹去,但後果依然落在人身上。自主武器也是如此,把「是否開槍」這個不應被輕率對待的決定,從一個人的手上移走,交給一個訓練集和一組權重。

這兩件事,都是關於責任的去人化。Anthropic 認為這是紅線。我認同這個判斷。

代價是真實的

但我也清楚,這個判斷帶來的代價是真實的。

美國國防部長隨即宣布,將 Anthropic 列為「供應鏈風險」。這個標籤原本是用來對付外國廠商的,現在落在了一家美國本土的 AI 公司身上,原因不過是它在使用條款上不肯讓步。

失去政府合約,並非小事。這影響的不只是直接的收入,還有 Anthropic 在政府採購生態中的位置、未來的合作機會,以及它在整個政策對話中的話語份量。一家被官方標記為「供應鏈風險」的公司,在很多場合會被拒於門外,不需要任何進一步的解釋。

有人說,Anthropic 這樣做是在賭博。我不這麼看。但我也沒辦法說,這個選擇沒有代價。

理想主義,還是長期策略?

這個問題,我想了很久。

某種程度上,這兩個框架說的是同一件事,只是時間軸不同。守住倫理底線,短期內確實是損失。但長期來看,一家願意對自己最大金主說不的公司,積累的是一種很難被仿冒的信任:公眾的信任,開發者社群的信任,乃至其他政府合作方的信任。

但我不想把它純粹包裝成商業智慧。

Anthropic 劃下這兩條線,在我看來,首先是因為他們真的相信這些事不應該被做,然後才是因為不做這些事長遠對公司更好。這個順序,很重要。一旦把倫理決定的理由全部換算成商業回報,你就在某種程度上把那個決定掏空了。你會發現,當商業回報的計算改變,那條線也可以移動。

所以我更願意這樣說:Anthropic 這次的選擇,是用具體的代價,為自己公開聲明過的立場付了帳。那兩條線不是臨時畫的,是白紙黑字寫進使用政策裡的,而現在,他們在真實的壓力下,沒有劃掉它們。

這件事值得被記下來。

接下來

Anthropic 說,將透過法律途徑挑戰「供應鏈風險」的指定。這場仗還沒結束,而且無論結果如何,它的意義都已經確立。

靜默妥協是一種選擇,私下周旋是另一種。Anthropic 選擇了公開說清楚:自己做了什麼決定、為什麼、這個決定的法律邊界在哪裡。

在 AI 能力快速擴張、政府與企業之間的邊界不斷被測試的時代,這樣的公開紀錄,本身就是一件有價值的事。

我不知道 Anthropic 最終會贏得這場法律戰。但我知道,他們在談判桌上做的那個選擇,是對的。

Read more

護欄的幻覺

護欄的幻覺

一個有組織的操作者,試圖用 ChatGPT 協助策劃一場針對外國官員的影響力行動。ChatGPT 拒絕了。某個地方的安全儀表板,也許亮起了一個綠燈。 然後,操作者轉向了 DeepSeek 和 Qwen。行動繼續推進。幾個月後的內部紀錄顯示,行動已按計劃啟動。 那個綠燈,還亮著嗎? 這件事讓我想到一個很基本的問題:護欄的功能到底是什麼? 從技術設計的角度,護欄的目的是攔截有害請求。那一次,它確實攔截了。但如果一個壞行為者在被拒絕後,換一個工具就能繼續,那個攔截的意義究竟是什麼?它讓事情麻煩了五分鐘,也許一個小時。但對一個有數百名全職員工、橫跨三百多個境外社群平台、年度預算以數十萬美元計算的組織來說,這種量級的麻煩接近於零。 護欄的邏輯,建立在一個假設上:使用者沒有替代方案,或者切換替代方案的成本很高。對一般濫用者來說,這個假設或許成立。但面對有本地部署能力、隨時能換工具的國家機器,它從來就不成立。 我覺得 AI 安全的公共討論,長期活在一個錯誤的框架裡。 我們討論模型護欄、紅隊測試、對齊研究,彷彿那是這場對抗的主要戰場。

By Edwin Wong
偷學的指控,從來不是關於偷學

偷學的指控,從來不是關於偷學

我一直對科技公司的道德聲明有一種職業性的警惕。那些聲明未必是謊言。只是道德語言在商業利益與競爭壓力的包圍下,往往會發生某種扭曲。當一家公司以義憤填膺的語氣指控競爭者「偷學」,我的第一個反應,通常是先想知道這家公司自己的手有多乾淨。 什麼叫做「偷學」 AI 訓練的基本邏輯很簡單:你用大量資料灌進模型,模型從中學會模式,然後輸出能力。這個過程裡,「資料」這個詞承載了所有的模糊性。版權作品算不算「資料」?創作者的原創文章、記者的深度報導、作家幾十年的作品,在訓練集裡只是一組 token,還是一種應該被授權使用的資產?這個問題,AI 業界至今沒有給出讓人滿意的答案。主要是因為,如果認真回答,代價太高。「蒸餾」的邏輯與此平行。你用更強大模型的輸出灌進弱模型,弱模型從中學會更強大模型的推理方式,跳過了從零開始訓練的巨大成本。在技術層面,這與用版權書籍訓練語言模型的邏輯,結構上幾乎是同一件事。差別在於:誰做的,對象是誰。 道德高地是一個會移動的位置 我想到那個總在法庭劇裡出現的橋段:律師在台上義正嚴辭地指控對方,而辯護律師緩緩翻開一份舊文件,讓指控者自己過去的話語成為迴力鏢。這次的情節大

By Edwin Wong
不牽手的合照:德里 AI 峰會把競爭寫在鏡頭裡

不牽手的合照:德里 AI 峰會把競爭寫在鏡頭裡

新德里的舞台向來擅長把宏大理想濃縮成一張照片。2 月 19 日,印度總理納倫德拉・莫迪在「India AI Impact Summit 2026」最忙碌的一天,安排了十四位政商領袖一字排開,手牽手高舉,像是把「合作」兩字直接掛在畫面上。鏡頭也確實捕捉到多數人配合:從站位居中的莫迪,到一旁的企業領袖,合照像一條被拉直的政治宣言。唯獨 OpenAI 執行長山姆・奧特曼與 Anthropic 執行長達里奧・阿莫迪,站在彼此旁邊卻沒有接起那一段手。兩人抬起手臂,卻在最該「連上」的瞬間,讓空氣留在兩掌之間。在社群時代,這種空隙比握手更有解讀空間。它很快被剪成短片、截成定格,成為峰會外溢的「第二議程」。合照原本要替印度的 AI 野心背書,卻意外讓全球 AI 產業的緊張關係獲得一個直觀符號:競爭從白皮書走出來,變成肢體語言。 兩家公司的裂縫:

By Edwin Wong
演算法的終章:與 Dario Amodei 探討指數增長的盡頭

演算法的終章:與 Dario Amodei 探討指數增長的盡頭

在矽谷喧囂的流量泡沫外,Anthropic 執行長 Dario Amodei 正冷靜地注視著那條改變人類文明軌跡的指數曲線。在他看來,公眾尚未意識到我們正處於這段指數增長的尾聲。這並非預示著進步的停滯,而是一場更深層次、更具破壞性的轉型即將到來:我們正從「智慧的積累」轉向「能力的實踐」。 大算力團塊:被驗證的預言與技術轉型 三年前,當 Amodei 談論擴展定律(Scaling Laws)時,這仍像是一場大膽的科學假設。如今,這已成為業界的共識。Amodei 回顧了他在 2017 年提出的「大算力團塊」(The Big Blob of Compute)假設,認為模型的能力主要取決於算力總量、數據質量、目標函數以及數值穩定性,而非精巧的算法結構。從預訓練到強化學習的轉向過去三年的核心更新在於,預訓練(Pre-training)的指數增長雖然持續,但強化學習(RL)的擴展定律已然成型。Amodei

By Edwin Wong