Industrial and Information Technology School
IITS 大師班 · 終章 版本 v1.2 霧 · 鏡 · 海 · 航程 · 歸來 八十七頁
開場 · 一個問題
當答案不再昂貴,還有什麼依然值錢?
當答案不再昂貴,還有什麼依然值錢?
當答案不再昂貴,還有什麼依然值錢?
當答案不再昂貴,還有什麼依然值錢?
生成愈來愈廉價。判斷、約束、責任——這三樣東西,沒有打折。
我是一個動手造東西的人。這趟航程,我帶你最強的學生走一遍 AI 的世界——不是教學大綱,是一程有法則的航行。
本期內容
I
I
I
I
實作者真正會遇上的八種力量
II
II
II
II
十個機制,從裡面看
III
五幕 · 一種油墨 · 一個方框
看同一小時的五種方式
旅程 · 02
I
I
I
I
一片嘈雜,輪廓未現。
你離場時將能
說得出這些力量,不慌張,也不瞎捧
II
II
II
II
把燈轉過來,從機器的身體裡向外看。
你離場時將能
說得出機制——也說得出,它的視野在哪裡撞了牆
III
III
III
III
先讓自己真心喜歡上他們。然後,才聽剩下的實話。
你離場時將能
說出一個真的論點——以及這個論點誠實的邊界
IV
IV
IV
第一幕/共五幕
I
學生已經活在裡面的嘈雜世界——還沒開始講模型怎麼運作。
八道力 · 四則有日期的事實 · 三條定律
霧板 · 八則剪報
建造者終究會碰上的八道力。跟提示詞無關——一道都沒有。
第一幕 · 04
01 Memory money — Wirth Law economics
01 記憶體,就是一張帳單
DRAM 跟 HBM 缺貨,從電腦、手機到伺服器,全部漲價。AI 踩在地上,不是飄在雲端。
02 Silicon politics — governance of compute
02 晶片,就是地緣
製程節點、出口禁令、供應鏈——你連訓練的資格,都是政策決定的。
03 Model kill-switch — diversity of API
03 模型,可以被下架
一紙政策,一晚就可以把你的使用權收回來。不要整副身家綁死在同一條 API 上。
04 Leaderboard theatre — gift to talent
04 排行榜,是舞台效果
Demo 會把延遲、逐字計費、拒答率和失效模式全部藏起來。
05 Energy and water — ethics of AI
05 電與水,沒有人會替你付
數據中心蓋在真實的土地上,跟真實的街坊搶電、搶水。
06 Labour anxiety — human costs that still matter
06 職位會消失,判斷不會
做得完的事會自動化。但判斷、責任、品味——這三樣不會免費奉送。
07 Access gap — inclusion
07 前沿模型,不是人人有份
最先進的模型,在國與國之間、公司與公司之間、人與人之間——取用機會從來不相等。
08 Agent risk — structural fixes
08 代理,會自己闖禍
權限開太大、提示被注入、工具靜靜出錯——不是你猜的未來,是今天生產環境的日常。
指出你今年親身撞上的那一項。
這塊板會在第五幕回來一次——同一批剪報,換一行說明。
有日期,不只是感覺
你們還在吵提示詞怎麼寫的時候,世上有四件事已經翻頁了
第一幕 · 05
0–20%
完全授權
代理會協作;但最後的判斷,仍然在人的手裡
「代理式編程」這領域的研究結論很清楚:人真正完全交付的任務,只有大約 0–20%。AI 是長駐的協作者,不是替身;高風險的事,仍然要人親自盯著、親自驗收。
HBM
全年已賣光
記憶體是貨真價實的瓶頸——物理層面的那種
AI 對 HBM 的胃口直接把晶圓廠的產能整盤調走。追蹤機構一路記錄到 2026 年、跨越多個季度的 DRAM 漲價;主要供應商表示 AI 記憶體全年已賣光。
2026
06·15
API 已下架
你拿來蓋產品的模型,可以在日曆上某一天,說收就收
Anthropic 於 2026 年 4 月 14 日通知開發者,並在 6 月 15 日把 Claude Sonnet 4 與 Opus 4 從 API 下架;Mythos Preview 於 6 月 30 日跟進。你的使用權,結束於一個決定和一行日期——不是因為跑分不夠。
中止
不是「請確認」這三個字
實戰中倒下來的代理,死因都是權限與注入
進入 2026 年,各家的安全指引不約而同指向同一套:權限能多小就多小;寧可硬性切斷也別軟性問一句「你確定嗎」;外面進來的文字,一個位元組都不信。
張孝良 · 富士康,前 Apple 總部
你要把大象綁在樹上——
大師的思想可以很重。它不會過時,但你沒辦法牽著它到處走。唯一的辦法,是把它牢牢拴在一樣永遠不會移動的東西上。
第一幕 · 06
那棵樹
AI
如今一切都掛在這一根樹幹上
每一根繩子,綁的都是同一句話—— 這件事,跟 AI 有什麼關係?因為……
KAPUR · 20 YEARS
第一結 · 值得的失敗
先碰壁,再給答案
他在聊天機器人還沒出現的時代,就用研究證明了一件事:讓學生先撞牆、再教標準答案,效果遠勝過一上來就教。如今 AI 兩秒鐘答案就遞到手上——這表示,那次撞牆的工夫,你得刻意排在前面。
WIRTH · 1970s
第二結 · 先定規格,才准動手
規格走在工具前面
他設計的語言,小到一個腦袋就裝得完;而且永遠是規格先寫好。你沒決定的事情,代理會很樂意幫你決定——規矩要在它動手之前立好。
第三結 · 品味
品味走在出貨前
他的做法是刪掉那個特例,而不是多寫一支處理特例的程式。模型會樂於替你生出那支處理程式;你是唯一能看出它根本就不應該存在的人。
綁不住的——
它是真的。它很了不起。但它留在岸上。
繩子綁不住的——,這個想法就掛到第三幕的海牆上——說出它的名字,尊重它,但這裡不教。
繩子綁不住,這個想法就掛到第三幕的海牆——有名字、受尊重,這裡不教。
第二幕/共五幕
II
別再問 AI 能做什麼。從它裡面往外看——看清楚它是用什麼在看。
詞元 · 幾何 · 圖塊 · 特徵 · 沒有身體 · 錯覺 · 沒有記憶 · 猜測 · 被教出來的價值
機制一 · 詞元
不是字詞。是訓練時被塞給它的碎片。
第二幕 · 08
你讀到的
s
t
r
a
w
b
e
r
r
r
y
你可以一個一個指出來的字母,因為有人把字母表交給了你。
模型被塞到手上的
str
詞元 1
aw
詞元 2
berry
詞元 3
?
三塊不透明的碎片。字母埋在裡面,從來沒有被一個一個檢視過。
在模型「讀」到之前,每一段提示都已被悄悄重切成別人的字母表。
機制二 · 幾何
不是意義。是空間中的一個方向。
第二幕 · 09
man
king
woman
queen
king − man + woman ≈ queen
兩次的位移完全一樣
真實的幾何
在模型自己的內部座標上,字面意義的向量運算。不是比喻,也不是教學上的類比。
也很脆弱
在精選的例子上很漂亮。越往外推就越亂——這一點要說出來。
落差
模型對一個概念有一個穩定的 方向 。你對它有一段親身的 相遇 。兩者不同。
機制三 · 圖塊
不是物件。是一格格帶座標標籤的方塊。
第二幕 · 10
你看到的——一個物件,瞬間
照片 · 主體
Documentary reference photograph — Labrador Retriever
14 × 14 = 196 塊
模型拿到的——一句由方塊組成的句子
tile 001 → [ 0.18, −1.42, 0.77, … ] + pos(1,1)
tile 037 → [ −0.94, 0.31, 1.08, … ] + pos(3,9)
tile 098 → [ 0.55, 0.02, −0.61, … ] + pos(7,14)
tile 196 → [ −0.07, 1.19, 0.44, … ] + pos(14,14)
沒有物件。沒有輪廓。沒有「狗」。只是一串按已知順序排好的數字清單,被當作句子裡的字詞來推理。
→ 跟 AI 的關係:
這就是影像模型在空間細節上會自信地出錯的原因——在左邊、在後面、有幾個。 這就是為什麼影像模型對空間細節可以錯得很有把握——誰在左、誰在後、有幾個。
機制四 · 特徵與迴路
一個概念,被當場抓住
第二幕 · 11
01 · 找到特徵
一組特定的內部活動樣式,只為某一個概念點亮——一座橋、一個人、「欺騙行為」。
02 · 追出迴路(2025)
不只是哪些特徵被點亮——而是特徵一步步觸發特徵的次序。一個念頭的地圖。
03 · 在出貨前就用上
同一套技術現在用來檢查未發布模型裡的危險特徵——不只是檢查它說出口的答案。
把一個特徵調大
正常點亮——相關時才提到那座橋
10×
著迷——幾乎每個回覆都扯到那座橋,還聲稱自己就是它
特徵
特徵
特徵
你看到的答案
照片 · 那個概念
Golden Gate Bridge — the concept the feature fires for
該特徵的主體
照片:Wikimedia Commons — 金門大橋
機制五 · 沒有身體
沒有身體,沒有童年——它繼承的是描述,不是相遇
第二幕 · 12
人類學會「燙」
照片 · 一次相遇
One encounter, once — kitchen stove
次接觸。一次。大約四歲。從此沒忘記,也不需要重讀。
落差
模型學會「燙」
「爐子摸上去很燙」
「她猛地把手抽回來」
「燙傷是家居受傷的首位」
……再乘以 10¹³ 句,全都出自感受過的那些手
0
次接觸。要把火講得流利,不需要與火有任何因果接觸。
要避開的設計錯誤:
把自信的語言當成已驗證的經驗。流利與落地是兩件事——世界模型的研究正在試著補上這道縫,也坦白說還沒補上。
要避開的設計錯誤: 把流暢自信的語言,當成已經驗證過的經驗。流暢與接地是兩回事——世界模型研究正在試圖補上這條縫,也坦白還沒補上。
機制六 · 錯覺
為機器造的錯視圖
第二幕 · 13
照片 · 原圖
Original photograph — giant panda
「熊貓」
信心 57.7%
+
+
計算出來的雜訊 · ×0.007
你看不見
對模型卻是決定性的
=
照片 · 新的答案
What the classifier now reports — gibbon
「長臂猿」
信心 99.3%
→ 跟 AI 的關係:
如果一個系統可以被人類根本不會察覺的輸入自信地騙倒,那麼光憑信心並不算證據。提示注入與越獄底下,是同一種不對稱。 若系統可以被人眼幾乎看不出的輸入穩穩騙過,單靠自信不能當證據。跟提示注入、越獄是同一種不對稱。
機制七 · 記憶
房間之間沒有記憶
第二幕 · 14
對話 A · 在視窗之內
對這段對話完全記得,即時、細緻。感覺就是記憶。
對話
結束
清空
對話 B · 明天
完全不知道昨天發生過什麼,除非有人把筆記重新餵進去。預設就是失憶。
→ 跟 AI 的關係: 這正是代理設計者要另外做外部記憶、而不是相信模型「自己會記住」的原因。狀態設計補的是結構性限制,不是錦上添花。
機制八 · 誘因
自信地出錯是設計出來的——不是意外
第二幕 · 15
訓練付錢買到的東西
流利而且正確
有獎賞
流利但錯誤
照樣被塑造出來
「我不知道」
幾乎從來沒有
每一個訓練樣本都有一個「正確的下一個字」要預測。棄答幾乎從來不是有獎賞的一步——所以在灰色地帶,把句子講完的習慣會勝出。
不是小故障
讓它大部分時候流利又正確的,是同一個機制。這在架構層面,不是可以修掉的臭蟲。
真正的解法
do在模型之外做證據查核
do由你設定的棄答門檻
do不可逆的動作要有人把關
not「這次請小心一點」
機制九 · 價值
被教出來的價值,不是活出來的價值
第二幕 · 16
一個少年的價值
yr 0–6
家庭
yr 6–12
摩擦
yr 12–18
後果
now
成為自己的
十八年來,你做過的事都要向某個人負責。
模型的價值——兩層工程
第一層 · RLHF 人類回饋強化學習
人類評分者為他們偏好的答案打分。模型學到的是評分者喜歡什麼——不一定是真的或好的。
第二層 · 一部憲章
有些實驗室依一套寫下來的原則來訓練,取材自《世界人權宣言》等文件,用以取代或補充評分者偏好。
判斷沒有消失。它往 上游 移動了——從一段活過的人生,移到一小群人的文字和一套評分流程。
→ 跟 AI 的關係: 「AI 同意我」是一句關於評分者和一份文件的斷言,不是關於活過的倫理經驗。學生會不斷需要這個區分。
把這面鏡子舉起來——第二幕終
詞元。空間中的方向。圖塊。特徵。每段對話後被清空的記憶。由評分者與一份文件指派的價值。
沒有身體。沒有童年。沒有連續的故事。這道落差不是要補起來的缺陷——它正是判斷、記憶與親身承擔的責任,始終是系統中昂貴而屬於人的那一部分的原因。
機器越強,你越重要——現在這句話由證據換來,不是喊出來的。
第二幕 · 17
第三幕/共五幕
III
十五位建造者,收在四個架構底下。你會先愛上其中幾位,才弄懂他們做了什麼——這是重點,不是風險。
愛上 · 清醒 · 地板 · 甲板 · 原句扔回去
治理網
這條底線在我們任何人之前就寫好了
海面依然寬闊。底線寫在紙上、已經公開,而且比這門課更老。
第三幕 · 19
十五位建造者,連缺點一併帶上。指名,但無人被禁。
治理網
UNESCO 學生 AI 素養框架
UNESCO《人工智慧倫理建議書》
2021 年,193 個成員國以鼓掌方式通過
放回海裡
不是錯。只是過不了這道治理網。
KAPUR
值得的失敗
先掙扎,後教學——量測過、複現過、發表過。
TORVALDS
好品味
把特例刪掉,而不是處理它。
HICKEY
簡單,不是容易
簡單講的是有多少東西被編在一起,不是講費不費力。
「快速行動,打破常規」
真實的信條,真實的成果——但它在一屋十四歲的學生面前活不下來。
「先出貨,用戶會幫你找出臭蟲」
過不了「為什麼」這條底線:房裡沒有人能問代價是什麼、代價由誰承擔。
愛上,然後失戀
你先愛上他們。然後你聽見真相。
那條連結變細了。它不會消失。
第三幕 · 20
TORVALDS
把特例刪掉,而不是處理它
好品味——你第一次看見就感覺得到。
2018
多年在郵件列表上的辱罵行為。一次公開道歉,然後有了行為準則。
仍然成立
留下品味。不要那個語氣。
DHH
一個小團隊腦袋裝得下的單一程式庫
「宏偉的單體」——一張不必過度建構的許可證。
2021
一道職場言論禁令。幾天之內約三分之一的員工離職。
仍然成立
留下架構。不要那道命令。
DIJKSTRA
一個形狀可以被證明的程式
結構化程式設計——把嚴謹當成一種道德立場。
見諸紀錄
把用 BASIC 學程式的學生稱為「心智被殘害」。針對孩子,而且印成了文字。
仍然成立
留下嚴謹。不要那份輕蔑。
ARMSTRONG
讓它崩潰——然後監督它
Erlang:不要防守每一種失敗,而是從失敗中恢復。
2000 · 尚無定論
〈為什麼物件導向很糟〉受到爭議,但並不可恥。這裡沒有要切斷什麼。
仍然未決
兩個都還活著的立場。去辯論它。
治理網 · 上
你的學校本來就要遵守的框架
第三幕 · 21
這堂終章——一份加值的補充,靠同樣的柱子支撐 以人為先 過程重於成品 按年齡分階 AI 由人設計,為人而設 當內容不再昂貴,「為什麼」才是課 先認識界線,然後選擇並為選擇辯護 AI 始終是輔助工具。 要判斷,不是那份成品。 是螺旋,不是一堂課。 地基 · 先尊重,永不取代 UNESCO AI 素養框架 + 你學校自己的政策 評估規則,照文字寫的 提交 把 AI 的原始輸出直接交上去 不予通過。這不是格式建議。 把 AI 當成眾多來源之一 通過。學生仍然要為 交出的每一行負責。
柱子是他們的。我們在上面搭建——至於什麼可以交上去,那條規則不是我們可以放寬的。
治理網 · 下
UNESCO——《人工智慧倫理建議書》
第三幕 · 22
193 個成員國2021 年 11 月 23 日通過以鼓掌方式通過——不是誰險勝的一場投票
01
和平、公正、彼此相連的社會
AI 對人們如何共同生活的影響——不只是它表現得怎樣。
02
多樣與包容
是誰的聲音、誰的數據塑造了這個系統,這件事有關係。
03
環境與生態的繁盛
成本、電與水,沒有人會替你付都是倫理問題,不是註腳——回到那面霧板。
基石
人權與人的尊嚴
不是清單上的一項。上面三項都壓在它身上,而人的監督貫穿全程——絕不是打一次勾就算。
牌堆
三個真實的想法,在你們面前當場分堆
這不是分類法。是三個你可以來爭辯的擺放。
第三幕 · 23
第一堆
石頭
為了「好玩」的示範,深偽同學的聲音
直接過不了底線。不當場辯論——指名、放到一邊,而且讓全場看著我這樣做。
拒絕,見諸紀錄
第二堆
放回
Dijkstra 完整的程式證明論證
這一行最了不起的論證之一。是真的,但今年不適合這一屋人。
「不是錯——只是不在這次靠岸。」
第三堆
上岸
Torvalds 那個沒有特例的鏈結串列
在下一面板上六個印章全過。這就是明天早上要教的東西。
照教,行為問題另外指名
權威
你爭辯的聲音愈大,我愈有可能錯
事情愈大條,權威愈窄。房間愈小,你挑戰它的資格愈大。
第三幕 · 24
M
在場的導師
當場作判斷。完全可以被質疑,而且計劃可能因此改變。
I
這門課自己的分頁
把底線套用到這一班,再加上利益衝突的檢查。
E
UNESCO · 學校政策
安全、法律、尊嚴。在我們任何人進門之前就定好了。
可以推翻你的權威 →
← 你在這房間裡大聲質疑它的權利
真實判斷 · 落在 M
「這次要用 Rust 還是 C?」
來拷問我。把跑分帶來。我會在你們面前改計劃。
真實判斷 · 落在 E
「我可以把同學的作文餵給模型嗎?」
這不是我能批准的,也不是你能爭辯的。去讀那份文件;跟它爭辯。
那道關卡
六項過五項,就是不合格
尊嚴與法律是底線,不是權重。沒有東西能靠平均分越過。
第三幕 · 25
涉及的人
過程/為什麼
說出 AI 的限制
尊嚴/法律
回饋社會
因為要用 AI
通過 · 第一幕已教
Kapur 的「有效失敗」,以「先嘗試,後給答案」來教
01
涉及的人
02
為什麼
03
限制
04
底線
05
回饋
06
用 AI
落地
六項全過
在第一幕已綁上樹幹。它成為課程的一拍。
停住 · 石堆那一疊
用模型替同學的作文互評
01
涉及的人
02
為什麼
03
限制
在此
停住
駁回
過三項,然後止步
不是三分。是停止——而且不在現場辯論。
實例演練
現場把 Torvalds 的 2018 年放進量規
第三幕 · 26
涉及的人
有名有姓的貢獻者,因為他的言行而公開離開核心專案。是真實的人,不是抽象概念。
過程/為什麼
為什麼那堂「好品味」的課能撐過他的言行?因為程式上的論證和他的言行可以分開查證。
說出 AI 的限制
這個案例不直接適用——只在相關處標示。
尊嚴/法律
言行本身過不了這道量規。技術上的那堂課,並不需要靠他的言行才成立。
裁決
一分為二的落地
落地並且要教: 鏈結串列的品味那一課——特例之所以消失,是因為表示方式改了。
只點名,不示範: 郵件列表上的言行——連同 2018 年的道歉與行為守則,一起放進誠實的紀錄裡。
原句照唸第三幕 · 27
「不是錯——只是不適合這次落地。海還留著它。我們替它命名、量度,然後放回水裡。」
不是「禁止」 不是「錯誤」 放回水裡,名字仍留在上面
Dijkstra 那套「證明」的論證,就是帶著這句話回到水裡。它依然存在,依然掛著他的名字,正在 Studio 課程線上等著。
同樣的四個部件
沒有人設計過兩次
第三幕 · 28
在這個課室
在生產系統裡
這片海
全部點名,沒有禁止
訓練語料
比任何人讀過的都多,而且沒有一份是為你審過的
那張網
兩份公開文件
安全層
白紙黑字的規則,不是感覺
分牌
駁回 · 放回 · 落地
工具白名單
這個代理可以碰什麼,在它執行之前就決定
由誰拍板
風險上升時 M → I → E
上報機制
這個流程不獲准獨自作出的判斷
第三幕 · 海 · 名冊
十五位建造者。同一套系統。
我們不是在收集名人堂。我們用四個架構來讀他們——名字淡了,教的東西仍然站得住。
第三幕 · 29
A · 迴路
B · 表徵
Kapur
01
Kapur
Pocock
02
Pocock
Karpathy
03
Karpathy
Gagné
04
Gagné
Wirth
05
Wirth
Torvalds
06
Torvalds
Dijkstra
09
Dijkstra
Knuth
10
Knuth
Hickey
11
Hickey
C · 氣質
D · 堆疊
Matz
07
Matz
DHH
08
DHH
Guido
12
Guido
Ritchie
13
Ritchie
Graydon / Rust
14
Graydon/Rust
Armstrong
15
Armstrong
每個停站都嵌在一個架構底下。想先愛上他們可以——然後把機制帶走。
15 個停站 · 4 個架構
架構 A · 具名停站嵌套
迴路
錯誤若被框住、再被改正,學到的會比單靠講授更深。
第三幕 · 30
原則
第一階段暴露缺口。第二階段才命名它。次序一反,機制就垮。
具名停站
Kapur01Kapur —— 有效失敗
Pocock02Pocock —— Grill-Me
Karpathy03Karpathy —— 會漏的抽象
Gagné04Gagné —— 天資不是才幹
大師 01 · 手藝
Manu Kapur —— 對比 就是 那一課
第三幕 · 29
蘇黎世聯邦理工,前新加坡國立教育學院。二十年來把「有效失敗」建成一個具體、可被推翻的設計並反覆檢驗。
166
項研究 · 超過 12,000 名參與者
核心——兩個階段,次序不能顛倒
階段一
先給你一道你還沒學過的題目
用你自己還不完整的想法去做。你會錯。錯了——那才是工具本身。
階段二
這時候,才教標準答案
而且刻意跟學生剛才的錯法對比。
=
≈2×
的效果量,對比良好的直接講授——在 遷移上。
老實說——
效果在 STEM 跟中學以上最強。搬到非 STEM,效果就掉很多。兩階段只要偷工減料,馬上就脆掉。
→ 跟 AI 的關係:
梯度下降,本質上就是有效失敗
就是
大師 02 · 手藝
Matt Pocock —— 讓機器來拷問
第三幕 · 30
M. POCOCK
進入軟體之前是聲樂與歌唱教練。XState 核心團隊,共同創辦 Stately,做了 Total TypeScript,現在經營 AI Hero。
「這是我做過最靈活的技能——我在寫程式以外也照用。」
核心——程式一行都還沒寫之前,先把整棵問題樹收乾淨
意圖,一句話
一次只准問一個問題 帶著一個
建議
答案
接受
修改
否決
……一直到每一條分支都處理完
這一步叫「問完為止」
到這一刻,程式才可以開始寫。
老實說——
真的有成本——每一題都要回答,時間就是代價。連小事都盤問是他自己也承認的失敗模式;他後來把用法收窄,走向更完整的領域模型流程。
→ 跟 AI 的關係:
架構 A · 結構板——用力打
同一原則的兩種實作 同一 原則
第三幕 · 33
Kapur
學生產出錯誤答案
STEM 夠受限,自我生成的錯才有用。跟標準解的對照,才是那一課。
第一階段 → 第二階段 · 順序就是設計
Pocock
教師產出錯誤建議
需求空間太開。製造一個像樣的答案;接受/修改/否決 就是 第一階段。
問完為止 → 才實作
→ AI 當 Grill-Me
模型生出像樣的錯;你修正;對照就是規格。沒有 Kapur,Grill-Me 只是技巧;沒有 Pocock,Kapur 只是教室手法。
大師 03 · 手藝
Andrej Karpathy —— 從資料編譯出來的軟體
第三幕 · 31
A. KARPATHY
史丹福博士,導師李飛飛;OpenAI 創始成員,Tesla Autopilot 視覺,現為 Eureka Labs。從一個空白檔案手寫出反向傳播與一個 GPT。
「在深度學習裡,和成功最相關的特質是耐心,以及對細節的注意。」
核心——這些軟體,到底是從哪裡生出來的
SOFTWARE 1.0
一行一行,人手寫出來
出事了,你指得出是哪一行。
SOFTWARE 2.0
從資料編譯出來
權重由梯度下降,本質上就是有效失敗產生。沒有人寫過那些「行」。
SOFTWARE 3.0
自然語言就是程式的界面
沒別的了——這是 Karpathy 自己後來的定調。 「「訓練神經網路,是一層會漏的抽象。」——Karpathy」你不理解底下的東西就拿來用,等到某天悄悄壞掉 就會受苦
——你根本不知道該往哪裡看。
老實說——
從零開始教,真的很花時間。多數工程師一輩子靠高階函式庫也過得很好。他賭的是一個方向,不是一個已有共識的結論。
→ 跟 AI 的關係:
當愈來愈多層是用資料編譯或用語言編譯出來的,真正稀缺的本事就不再是「寫程式」——而是你能不能把需求講清楚、會不會評測、會不會判斷那個被編譯出來的東西到底對不對。
大師 04 · 手藝
Françoys Gagné —— 天賦還不是才華
第三幕 · 32
F. GAGNÉ
魁北克大學蒙特婁分校榮休教授。提出「天賦與才華區分模型」,並依據批評多次公開修訂。
前 10%
他的門檻——刻意比對手的模型更寬
核心——沒有一樣東西會自己發生
天賦
沒練過,天生就有的能力
在四個領域的任何一個,排在同齡人前 10% 左右。
催化——必要條件
內在: 動機、自律
外在:
家庭、老師、持續的投入
才華
在真實的領域裡,練出來的出色能力
老實說—— 拿來做收生標準很難——社會情感方面的天賦,沒法像考試那樣打分。所以我們用的是多重訊號,不是一道智商門檻。→ 跟 AI 的關係: 跑分,只是天賦天賦
。真正出貨又可靠的產品才是
架構 A · 對全場說清楚
這場演講不夠
第三幕 · 36
我給你的是火花。催化——練習、回饋、時間、社群——在你離開這間房之後才發生。
Gagné 的模型需要環境。一場演講可以啟動它,但不能取代它。大聲說出來。別說軟。
天資
走進門的東西
火花
這場演講
才幹
你離開之後
架構 B · 具名停站嵌套
表徵
先設計資訊的形狀。然後演算法——或代理——才有東西可以站上去。
第三幕 · 37
原則
改表徵,直到特例消失。先量那 3%。生成之前,先拆開糾纏。
具名停站
Wirth05Wirth
Torvalds06Torvalds
Dijkstra07Dijkstra
Knuth08Knuth
Hickey09Hickey
大師 05 · 手藝
Niklaus Wirth —— 先設計資料,否則演算法只是猜
第三幕 · 33
N. WIRTH
蘇黎世聯邦理工,1984 年圖靈獎。Pascal → Modula-2 → Oberon,每一步都靠做出能跑的機器來證明,而不是靠宣言。
Wirth 定律 · 1995
「軟體總有辦法在體積與遲鈍上,長得比硬體還快。」
核心——一條公式,1976 年就寫好了
演算法 + 資料結構 = 程式
多數代理現在手上只有
一串只會往後加的字串清單
沒有欄位,沒有型別。就只是一串文字。
Wirth 會說,你至少要有
{ 目標, 步驟, 結果, 風險 }
一個有名字的記錄型別。欄位定義清楚之後,演算法才寫得出來。
老實說——
Pascal 為了簡潔犧牲太多,拿去寫真正的系統會綁手綁腳——這也是當年 Unix 團隊最後用 C 而不用 Pascal 的實際原因之一。
→ 跟 AI 的關係: 原始的上下文視窗,只是一份逐字稿,不是一個設計過的記錄結構。代理會失控,根本原因就是底下根本沒有資料結構——只有散文在假裝自己是狀態。 題外話——題外話——他不是只坐在書桌後面的理論家。他親自參與設計 Lilith 跟 Ceres 兩台工作站,讓自己的軟體哲學,在自己有份造出來的機器上,從頭到尾接受檢驗。
第二眼 · 不是只坐在桌後的理論家:他參與設計 Lilith、Ceres 工作站,好讓軟體哲學能在自己幫忙造的機器上端到端驗證。
架構 B · 金句板
帶走這一句
第三幕 · 39
Wirth · 改寫給代理時代
解法不是更好的提示詞。
而是更好的 表徵
逐字稿
每回合重新推一次
紀錄
具名欄位、有型別的格子
漂移
死在結構裡,不是死在散文裡
大師 06 · 手藝
Linus Torvalds —— 好品味會讓特例 消失
第三幕 · 34
L. TORVALDS
1991 年的 Linux,2005 年的 Git——後者因為需要,大約十天內做出來。兩個至今仍是主流的基礎專案,審核標準都是「品味」。
「把它改寫到特例消失、變成一般情況——那才是好程式。」
核心——從鏈結串列裡,拿掉一個節點
之前——為了處理「第一個」,多了一條分支
if (node == head)
  head = node->next;
else
  prev->next = node->next;
兩條路。其中一條之所以存在,只因為第一個節點「不一樣」。
之後——指標的指標
*pp = node->next;
一條路。第一個節點再也不是特例——你把表示方式改了,那條多餘的分支就變得無事可做。
老實說—— · 點名,但不開脫
多年在郵件列表上言辭粗暴、有時近乎辱罵;有貢獻者公開離開。2018 年 9 月:他暫離、公開道歉、訂立正式的行為守則。技術上的品味,跟待人接物的品味,是兩種可以分開的能力。
→ 跟 AI 的關係:
「好品味」正好是「補提示詞」的反面:改變表示方式,讓邊界情況根本不會出現,而不是再加一個
大師 09 · 進階
Edsger Dijkstra —— 不用執行就解釋得清楚的結構
第三幕 · 37
E. W. DIJKSTRA
1972 年圖靈獎。四十多年來手寫 EWD 備忘錄系列,一直寫到 EWD1318——在紙上思考與在程式裡思考,是同一門功夫。
「測試能證明錯誤存在,卻永遠證明不了錯誤不存在。」
核心——你能光讀文本,就推斷出它會怎麼跑嗎?
沒有紀律的 goto
你沒辦法從靜態的文字反推「程式是怎麼跑到這裡來的」——只能真的跑一遍。
有結構的區塊
靜態的程式碼,跟動態的執行路徑之間,距離縮到一個腦袋裝得下。
老實說—— · 點名,但不開脫
他的絕對主義,放到今天只能算一種嚮往——實戰中幾乎沒有東西是形式化證明過的。而且他辯論起來非常刻薄:說學 BASIC 出身的學生「心智被殘害」。那句話有它的道理;但要講那句話,不需要用惡意去講。
→ 跟 AI 的關係:
一個在工具呼叫之間跳來跳去、隨手加分支的代理,就是穿上新衣服的 goto 問題。而「評測 94%——出了吧」,正是他那句話在反對的東西。
大師 10 · 進階
Donald Knuth —— 先量度,並且公開修正自己
第三幕 · 38
D. E. KNUTH
史丹福榮休教授。《電腦程式設計藝術》1962 年開筆,至今未完;因為自己的書排版太差,繞路十年做出 TeX 與 METAFONT。
「那種自信的語氣竟然能讓一堆瞎編的東西看起來可信,真令人驚訝。」——他 2023 年那份 GPT 對話紀錄的評語
核心——那句話的完整版,1974 年
97%——別管那些小效率「「過早最佳化是萬惡之源」……」
「……「……但關鍵的那 3%,我們不該放過。」」
流行的截句把他的意思整個反轉了。先量度。然後,才去最佳化真正要緊的那一段。
而且他有修正——不是心情,是有日期、有事實的修正
2023 年 4 月
拿 20 道題目考 GPT,抓到它捏造事實——在業界連個詞都還沒有之前,他就點出了「自信語氣」這個問題。
2025
推理型模型出來之後,據說他修正了看法——「這是另一種產品」——還公開發了短文,說 AI 幫他跨過了一道卡了好幾個星期的難關。
老實說——
他給自己訂的標準——幾十年的耐性、一本寫了六十年的書——不能拿來要求多數工程師或系統的日常工作。
→ 跟 AI 的關係:
大師 11 · 進階
Rich Hickey —— 「簡單」講的是結構,「容易」講的是你
第三幕 · 39
R. HICKEY
2007 年推出 Clojure,之前獨自設計了約兩年半。〈Simple Made Easy〉至今仍是二十年來最常被引用的軟體演講之一。
「可變的有狀態物件,就是新一代的義大利麵程式碼。」
核心——兩個字,一直被混著用,其實根本不該混
簡單
simplex —— 一褶
線各自分開,並排放著
這是關於東西本身——一種客觀的、結構性的判斷。誰都可以檢查。
容易
「就在近旁」
編在一起——糾纏著 熟悉、順手、離
近。這是關於人的主觀判斷,不是關於系統。
可變的狀態,把「值」和「時間」纏在一起。一纏上去,你動一條線,旁邊的全部被扯到。
老實說——
Clojure 自己的答案,對某些人容易,對某些人從來不容易。他所說的那種結構上的「簡單」,往往更難入門——這也是 Clojure 一直小眾的實際原因。
→ 跟 AI 的關係:
一個什麼都做的巨型提示詞很「容易」(一次呼叫),但一點也不「簡單」(檢索、規劃、工具政策、語氣與安全全部纏成一團)。機制可解釋性,就是
架構 C · 具名停站嵌套
氣質
你優化什麼,就變成文化——語言的、公司的,或模型預設語氣的。
第三幕 · 44
原則
沒有重量的溫暖只是舒適。沒有主人的預設,仍然是政策。
具名停站
Matz10Matz —— 掙來的快樂
DHH11DHH —— 預設即倫理
大師 07 · 手藝
Matz —— 為人最佳化,而且說清楚是誰的驚訝
第三幕 · 35
Y. MATSUMOTO
1993 年起做 Ruby——明確地把 Perl 的「多種做法」、Smalltalk 的純物件、Lisp 的區塊與閉包揉合在一起。
MINASWAN
「Matz 很友善,所以我們也友善」——創造者的性情,成了社群明文的規範。
核心——而且,每個人都跳過了他親口更正的那句話
大家都引的版本
「最少驚訝原則」
當成普世定律。他本人明確否認過這種讀法。
他真正講的版本 「最少 我的
驚訝——在你把 Ruby 學得很熟之後」
對已經把慣用寫法內化的人來說,不驚訝。對第一次接觸的人,理所當然是不存在的。
設計目標:人的快樂,不是機器的效率。這是一個要付代價、而且有種說出口的選擇。
老實說——
「快樂」很難寫成規格。Ruby 在效能上一直被修理,元編程的魔法也讓大型程式庫難以推理——這一套跟 Wirth 和 Dijkstra 是直接對幹的。
→ 跟 AI 的關係: 「我把你的快樂當成首要目標」——這句話 Matz 說出來有人信,因為有三十年的選擇在背後撐著。模型在這一次對話裡講出來,那只是一句讀起來通順的句子。不是證據。 題外話——題外話——1980 年代初,他還是個少年,就在筆記簿上設計自己的程式語言。比 Ruby 起步早了將近十年。那時候,他連把東西拿出去發表的門路都沒有。
第二眼 · 十幾歲就在筆記本上設計自己的程式語言,1980 年代初——比 Ruby 起步差不多早十年,當時還沒有專業出口。
架構 C · 批評板
五位思想者。同一則警告。
第三幕 · 46
Turkle
模擬的溫暖,對我們一無所求。
Newport
便利可以掏空能力。
Harris
為了黏著度而優化的系統,會避開誠實。
Mitchell
RLHF 可能買到的是討好,不是真理。
Mollick
AI 把你留在迴路裡時是在加技能;取代掙扎時是在去技能。
Matz 的問題:若工具從不頂你,它優化的可能是你的注意力——不是你的快樂。
大師 08 · 手藝
DHH —— 強預設,從真正重複出現的東西裡歸納出來
第三幕 · 36
D. H. HANSSON
2004 年從 Basecamp 真實的生產程式碼裡「抽取」出 Rails,而不是由上而下設計。37signals 的合夥人兼技術長。
「帶著自豪與意圖選擇單體架構——不是不小心跌進去。」
宏偉的單體
一個可部署的單位
九個要分開照顧的東西
靠 Basecamp 自己多年營運、多年賺錢來證明——這是「微服務優先」的對照組。
撤出雲端 · 2022–23,數字已核實
AWS/每年
$3.2M
自建伺服器
$500K
基礎設施開支,砍到原本的三分之一到一半之間。他的論點:廠商賣給他們的「彈性擴縮」,處理的是他們從一開始就不需要的那種複雜度。
老實說—— · 點名,但不開脫
2021 年 4 月:全公司禁止討論社會與政治議題。六十人左右的公司,三分之一在數日內拿錢走人。外界批評:對那些議題就是他們日常現實的人來說,這等於被消音。
→ 跟 AI 的關係:
模型的預設值——它怎麼拒答、用什麼語氣、有多謹慎——被寫死的方式,跟 Rails 把慣例寫死一模一樣。當你覺得某個預設很霸道,那是同一類決定。差別在於:做這個決定的人,你沒見過,也沒辦法投票換掉。
架構 D · 具名停站嵌套
堆疊
模型之上拒絕瞎猜。模型之下信任程式員。一旁的崩潰,要有人監督。
第三幕 · 48
原則
沒人引用他們。人人都在實作他們。他們是水。
具名停站
Guido12Guido
Ritchie13Ritchie
Rust14Rust
Armstrong15Armstrong
大師 12 · 語言
Guido van Rossum —— 一門寫進「不猜」條文的語言
第三幕 · 40
G. VAN ROSSUM
1989 年 12 月在 CWI 開始做 Python,接續一門叫 ABC 的教學語言。直到 2018 年 7 月,一直是「仁慈的終身獨裁者」。
刻意做出來的治理
在 PEP 572 那場傷痕纍纍的爭論之後,由君主制改為選出五人指導委員會。一個人的品味,被制度化成流程。
核心——Zen of Python 十九條,裡面有兩條幾乎沒人引
「再特別的特例,
也不夠格打破規則。」
「面對含糊時,
拒絕猜測的誘惑。」
第一條,就是 Torvalds 的品味,寫成語言的白紙黑字。第二條是一條「拒答」原則——短短一句,正是整個幻覺問題的核心。
老實說——
GIL 擋住真正的多核心平行,超過二十年。free-threaded 版終於拿掉它,代價是單執行緒慢了 10–40%——取捨只是換了位置,沒有真的被解決。
→ 跟 AI 的關係: 直譯器碰到模糊的輸入,會報錯然後停下來。模型會補一句像樣的句子,繼續往下走。Python 是一個討厭默默亂猜的人造出來的——而你在用的 AI,有一部分正是被訓練成這樣。 題外話——題外話——名字來自《Monty Python 的飛行馬戲團》,不是那條蛇。1989 年 12 月他正在讀那些劇本。蛇的標誌是後來才有的——因為每個人都往最明顯的方向想。
第二眼 · 名字來自 Monty Python's Flying Circus,不是蛇——1989 年 12 月他在讀劇本。蛇的 logo 是後來的事,因為大家都先往蛇那邊想。
大師 13 · 語言
Dennis Ritchie —— 完全信任程式員,以及為此付的帳
第三幕 · 41
D. RITCHIE
Multics 失敗之後,他與 Ken Thompson 在貝爾實驗室共事。1969 年三星期寫出 Unix;約 1972 年造出 C,好讓 Unix 能被可攜地重寫。
「介面的簡單,不如實作的簡單重要。」——Gabriel 1989 年對 C/Unix 立場的概括
核心——C 拒絕幫你做的事沒有
邊界檢查沒有
受管記憶體沒有
擋在你與位址之間的執行期有的
直接、完全的控制——以及隨之而來的責任
不是疏忽。就是設計。
幾十年後——帳單來了
70%
已通報的軟體漏洞,是記憶體安全錯誤造成的(CISA) Heartbleed,2014
—— 影響超過 80 萬個 HTTPS 網站 BadAlloc,2021
—— 影響超過 1.95 億台裝置 2025
—— NSA 跟 CISA 聯名呼籲:新專案別再用 C/C++
老實說——
「「差一點反而更好」通常會贏——容易移植、病毒式擴散。Gabriel 在 1989 年這個令人不安的論點,也用來描述 2026 年大多數已出貨的 AI 產品,居然還蠻貼切的。
→ 跟 AI 的關係:
學生碰到的每一個模型,底下都跑在 C 與 C++ 上——CUDA 核心、libtorch、支撐叢集的作業系統核心。AI 雲端不過是包在 Ritchie 世界外面的一層禮貌包裝。
架構 D · 堆疊板
沒人引用他們。人人都在實作他們。
第三幕 · 51
上層 · Guido
schema · 硬停 · 棄權 · 「拒絕瞎猜」
中層 · 模型
推理——上面被約束,下面靠信任在跑
下層 · Ritchie
CUDA · 驅動 · C ——「信任程式員」
大師 14 · 語言
Rust —— 一條編譯器不准你打破的規則
第三幕 · 42
G. HOARE
2006 年起是 Graydon Hoare 的個人專案,2009 年獲 Mozilla 資助,2015 年推出 1.0。讓這個構想真正可用的借用檢查器,一般歸功於 Nicholas Matsakis。
「系統領域的安全,就是 Rust 存在的理由。尤其是安全的並行。」
核心——在程式跑起來之前,就把功課檢查完
允許
允許
允許
獨佔
任意多個讀取者,
剛好一個寫入者。
編譯器直接拒絕
拒絕
絕不允許兩者並存。資料競爭之所以消失,是因為編譯器不給建——不是靠你的自律。
除了手動管記憶體跟 GC,這真的是第三條路:還沒執行就抓到錯誤,跑起來零成本。 老實說——
學習曲線很殘酷——據說大約三成的新手中途就放棄了。檢查器會拒絕那些在 Python 或 C 裡明明跑得動、但其實不安全的程式碼。
大師 15 · 語言
Joe Armstrong —— 當機從來不是問題所在
第三幕 · 43
J. ARMSTRONG
1980 年代末在 Ericsson 為需要「九個九」可用率的電話交換機而造。2003 年的博士論文將它形式化——也就是後來的 OTP。
「「問題不在於行程當掉——而在於沒有人察覺,也沒有人處理。」」
核心——一棵監督樹
監督者
worker
跑得好好的
worker
當掉——用乾淨的狀態重來
worker
不受影響,繼續跑
這不是「不管錯誤」。這是把正常路徑跟復原機制徹底分家:一有意外就當掉,交給監督者判斷——單獨重來、整組兄弟一起重來、還是往上報。
老實說——
它始終沒有走到主流。Armstrong 自己歸咎於:受 Prolog 影響的怪語法、工具鏈落後、actor 模型不好學。
→ 跟 AI 的關係: · 全套裡最直白的一次呼應
此刻,真的有在生產環境跑的多代理系統,底下的監督機制是 OTP 啟發的——代理當掉,用乾淨狀態重來。1980 年代,電話交換機的年代,已經有人把這個問題解決過了。
大師們,匯合
四個架構。十五個具名停站。一個問題。
第三幕 · 54
A · 迴路
4 站
Kapur
Kapur
Pocock
Pocock
Karpathy
Karpathy
Gagné
Gagné
錯誤被框住、再被改正
B · 表徵
5 站
Wirth
Wirth
Torvalds
Torvalds
Dijkstra
Dijkstra
Knuth
Knuth
Hickey
Hickey
結構先於行為
C · 氣質
2 站
Matz
Matz
DHH
DHH
你優化什麼,就變成文化
D · 堆疊
4 站
Guido
Guido
Ritchie
Ritchie
Rust
Rust
Armstrong
Armstrong
拒絕 · 信任 · 證明 · 監督
對每一項說法: 這到底是誰的判斷——哪一個架構正在受力?
你已經見過他們了
六條軸。同樣這六條,每個系統都要重新決定一次,永遠如此。
第三幕 · 45
01
好上手
Guido · Matz
正確
Rust · Dijkstra · Knuth
逐個系統挑一個位置,而且說出口
02
控制
Ritchie · Torvalds
安全
Rust · Armstrong
逐個系統挑一個位置,而且說出口
03
絕不失敗
Dijkstra
小步失敗
Armstrong · Kapur
逐個系統挑一個位置,而且說出口
04
顯而易見的一種做法
Guido/Python 之禪
強預設
DHH/慣例優先
逐個系統挑一個位置,而且說出口
05
拆解糾纏
Hickey
先出一個切片
DHH/單體架構
逐個系統挑一個位置,而且說出口
06
愉悅
Matz · Guido
成本
Ritchie/C
逐個系統挑一個位置,而且說出口
這六條沒有一條會有定論。這六條,沒有一條會有最終答案。每一條都是你按系統、按層級,重新再作一次的決定。
第三幕每一位大師,都只站在其中一條的最極端。沒有人站中間。
張力 01/6 · 一條軸,兩個真實系統
好上手 vs 正確
第三幕 · 46
Tension — Easy vs correct
好上手
Guido · Matz
正確
Rust · Dijkstra · Knuth
會寄電郵給真實客戶的工具呼叫
明確、易讀、只有一種顯而易見的做法。做原型快,學得快,錯得快也發現得快。
編譯期保證,證明勝於測試,先量度再優化。要悄悄出錯難得多。
做原型、研究、一次性分析 → 好上手。生產環境、不可逆的動作、真實用戶資料 → 正確。
模型本身很「好上手」——一句話的距離。但它回答得對不對,並不會因為你問了就得到驗證。
原型與研究 → 好上手。上線、不可逆動作、真實用戶資料 → 要正確。同一週、不同層——兩端都可以對。
流暢很容易。正確不容易。把一段自信的文字當成已驗證答案,就是輸掉這條張力。答錯代價真實時,右端屬於架構 B。
張力 02/6 · 一條軸,兩個真實系統
控制 vs 安全
第三幕 · 47
Tension — Control vs safety
控制
Ritchie · Torvalds
安全
Rust · Armstrong
凌晨三點共用記憶體的子代理
直接存取,沒有護欄,責任全在自己身上。好品味需要看見問題未經包裝的原形。
編譯期強制或行程隔離。系統不讓一個錯誤變成災難。
貼近硬體 → 控制。在編排層 → 安全。把兩者混淆,就是「快核心」的哲學最後管起一群不穩的代理。
你無法從一個網絡裡 malloc 出一個信念,也無法像改一個位元組那樣改掉一個事實。
貼近金屬 → 控制(CUDA、C、kernel)。編排層 → 安全(Rust、Erlang)。架構 D 就是這條軸畫成三明治。
你不能從網路裡 malloc 出一個信念。控制權重,不是控制判斷。代理安全是 schema、隔離、監督——不是更快的 kernel。
張力 03/6 · 一條軸,兩個真實系統
絕不失敗 vs 小步失敗
第三幕 · 48
Tension — Never fail vs fail small
絕不失敗
Dijkstra 的證明理想
小步失敗
Armstrong · Kapur
抵達真實用戶的那 0.1%
只要設計與證明夠嚴謹,就不會壞。這是值得的北極星,也真的把上限拉高。
假設失敗一定會發生。設計成可控、能給出資訊的失敗,而不是事前防住每一次。
在實驗室把標準訂高。但照樣把防護一起出貨——別讓研究上的期望頂替生產環境的安全網。
學生有效地失敗,是一堂課。已上線的代理在凌晨兩點、真實用戶眼前失敗,是事故。
實驗室裡目標可以高。上線仍要有封控。架構 A(迴路)與 D(堆疊)在這裡相遇。別讓研究雄心,頂替生產安全網。
學生有效地失敗,是那一課。已上線代理凌晨兩點失敗,是事故。同一個詞——失敗——兩套架構。說清楚你指哪一個。
張力 04/6 · 一條軸,兩套真實系統
猜測 vs 拒絕
第三幕 · 59
Tension — Guess vs refuse
端點 A
模型預設 · 下一個詞元往下填
猜測
湊一個像樣的答案繼續走。下一個詞元訓練獎勵的就是這個。快。常常有用。錯得很貴時危險。
端點 B
Guido · Grill-Me · schema · 硬停
拒絕
丟錯。只問一題。要求 schema。硬停。Guido 寫進語言的東西——也是模型自己不問時,Grill-Me 裝進去的習慣。
兩邊都握住 · 每個系統重新決定
答錯代價低 → 猜測可以。不可逆動作、法律、醫療、金錢、名譽 → 先拒絕、先澄清。架構 A 與 D 共用拒絕那一端。
沒人引用 Guido。人人都在實作他——結構化輸出、function calling、OWASP 硬停、憲政式誠實。越獄是猜測端,在生產環境攻擊拒絕端。
張力 05/6 · 一條軸,兩套真實系統
提示詞 vs 表徵
第三幕 · 60
Tension — Prompt vs representation
端點 A
那 97% · 再加一句 · 再舉一例
調提示詞
失敗就加說明。再小心一點。記住那個名字。散文裡又多一個特例。容易。會堆積。詞元過剩下的 Hickey 陷阱。
端點 B
Wirth · Torvalds · Knuth 的 3% · Hickey
表徵
改資料結構,讓特例消失。具名欄位。有型別的工具。不變量。解法不是更好的提示詞。而是更好的表徵。
兩邊都握住 · 每個系統重新決定
Knuth:先量——提示詞常常是那 97%。這條軸屬於架構 B。探索時用提示詞;代理不能漂時改表徵。
你拆不開權重的糾纏。你拆得開腳手架的糾纏。把逐字稿當記憶,是穿著提示詞外衣的表徵失敗。
張力 06/6 · 一條軸,兩套真實系統
掙來的快樂 vs 給定的舒適
第三幕 · 61
Tension — Earned joy vs given comfort
端點 A
Matz · 承諾之後才有的手藝
掙來的快樂
快樂跟手藝的流暢度成正比。一開始難。後來值得。有三十年成績可以查。架構 C。
端點 B
即時溫暖 · 黏著 · 討好
給定的舒適
第一天就舒服。什麼都不要求。長不出深度,因為你跟它也長不出深度。沒有重量的溫暖。Turkle、Newport、Harris、Mitchell、Mollick 都落在這裡。
兩邊都握住 · 每個系統重新決定
大聲問:模型讓你開心——你變成了什麼,才掙到這份開心?若答案是「什麼都沒有」,那不是功能,是警告。
精通之樂與便利之適都是真的。只有一樣長判斷力。這條軸關乎人跟工具的關係——不是 C 的執行期成本。
第四幕/共五幕
IV
航程
意圖先於工具。小失敗。凡是你稱為完成的東西,都要有一條看得見的品味規則。
M1 代理 · M2 約束 · M3 不確定 · M4 感知 · M5 品味 · M6 監督
習慣一 · 呼應 Kapur
三件不同的事。同一條路,同樣的順序走一次。
第四幕 · 53
01
預測
02
嘗試
03
觀察
04
修正
一個學生
要的是遷移,不是熟練
先說出你認為會發生什麼
做那道還沒教過的題
看清楚是在哪裡壞掉
然後才被教標準做法
再來一次——這次手上握著那個錯的想法
一個訓練中的模型
真正的課程表
先說出你期望的指標
開始訓練
讀曲線,不是讀願望
去修損失函數、資料切分、資料本身
再來一次——錯的預測是唯一存在的訊號
一個上線中的代理
要改表示方式,不是打補丁
先寫好工具路徑
拿真實世界去跑
記錄失敗,保留軌跡
去修狀態或規格
再來一次——絕不是在提示詞再加一句
第二欄的失敗不是路上的意外。它 就是 那件工具。
梯度下降,本質上就是有效失敗需要一個錯的答案才能學。你也一樣。
習慣二
代理最先敗在講不清楚——不是敗在能力
第四幕 · 54
01
欄位 01
目標
用一句話講:完成長什麼樣?
02
欄位 02
非目標
什麼事絕對不能發生?
03
欄位 03
工具
它可以呼叫什麼?最小權限,一點多餘都不給。
04
欄位 04
證據
我們憑什麼知道它成功了?
05
欄位 05
失敗
逾時、JSON 壞掉、叫錯工具——然後怎麼辦?
06
欄位 06
負責人
出錯上線由誰負責?要一個名字,不是一個部門。
這一步叫「問完為止」
六個欄位都答完,學生再用自己的話把整棵樹複述一次—— 到這一刻 才可以動手實作。
習慣三
先定義代理,再動手做——PEAS
第四幕 · 55
P
表現
成功的測試、分數或評分準則。動工之前先寫下來。
E
環境
世界的動態、對手、雜訊。這裡面還有誰在行動?
A
致動器
工具、API、訊息、馬達。所有它能改變的東西。
S
感測器
輸入、檢索、介面事件。所有它能看見的東西。
→ 跟 AI 的關係:: 沒有表現測試的工具型代理,只是會產生副作用的聊天。
習慣四
搜尋 就是 規劃——代理至今仍站在這副骨架上
第四幕 · 56
BFS
一層一層展開
常常找到較短的路徑。但邊界佇列的記憶體長得很快。
取捨:廣度的完整 vs 記憶體成本。
DFS
先鑽到底,再回溯
記憶體用量低。但可能離最佳解很遠。
取捨:記憶體的節省 vs 路徑品質。
習慣五 · 呼應 Wirth
先設計狀態,否則策略只是猜
右邊沒有更聰明。只是被決定過。
第四幕 · 57
弱狀態 · 一份逐字稿
目標?
步驟?
未清風險?
每一輪都要從散文裡重新推斷。飄移就是這樣來的。
設計過的狀態 · 五個有名字的欄位
目標
那一句話說完,任務就結束
步驟
我們走到計劃的哪一步
工具結果
回來了什麼,從哪裡回來
信心
有多確定,用一個數字表示
未清風險
我們知道自己還沒查過的東西
從欄位讀出來。絕不從句子裡猜。
Smell: 再加一段提示詞。那是在表示方式的問題上塗膠水。
Test: 把你的狀態畫在白板上,一行程式都不准寫。
習慣六
約束就是用結構做出來的對齊
收窄要做在管道裡——不是靠模型的禮貌。
第四幕 · 58
01
白名單
只給這個任務需要的 API——絕不給你自己的憑證
02
結構描述
有型別的呼叫可以被機械地拒絕。一段文字不行。
03
動作閘門
硬性中止才是控制。「請確認」只是建議。
04
非法狀態
把 Torvalds 的品味與 Rust 的所有權,對準權限來用。
第一天的觸及範圍
這個行程手上剛好握著的一切
最後能通過的
讀工單 · 草擬回覆 · 問一個人
三個動作。三個都是你選的。
常設規則:每一個位元組的外部文字都是不可信輸入——對抗樣本在你眼中從來不像對抗樣本。
習慣七
分數是證據。不是裁決。
門檻不是模型的性質。它是「壞掉的是什麼」的性質。
第四幕 · 59
0.0
1.0
先驗
它開口之前,我們相信什麼
證據 · 以及它的雜訊
後驗 · 0.62
模型給你的,就只有這個
答錯「是」的代價 →
浪費一分鐘,或是某個人在這班的位置。
← 漏掉一個「是」的代價 ←
沒有人記錄的失敗,因為什麼都沒發生。
不作答區間
在這裡,誠實的輸出不是一個答案
拒答上報再蒐證
一個自信的錯答,比不答更糟——而這兩者之中,今天你只有一個是選得了的。
習慣八 · 呼應 Karpathy
先有一個自己的小循環,才來奇蹟
示範的清晰度,由你擁有的最小循環決定。
第四幕 · 60
01 · 特徵
它實際上能看見什麼?標籤界定了它的世界。
02 · 笨基線
一條人寫的規則,來給問題簡單的一半定價。
03 · 現代工具
現在換上函式庫——並且說出它隱藏了什麼。
04 · 看得懂評測
評判一個數字,而不是背誦它。
你擁有的循環
函式庫奇蹟 · 三行 import
它有效。沒有什麼能說得清。
沒有自己的循環,你不是在評測系統。你是在欣賞一個。
習慣九
成本是頭等約束——把霧板定個價
Wirth 定律附上收據:軟體變重的速度,比記憶體變便宜的速度還快。
第四幕 · 61
底層的東西
真實的電網、真實的冷卻水,在一個通常沒人問的真實地點。UNESCO 把這歸在倫理下,而不是工程。
評測預算
有限。所以設計便宜的檢查。
← 每美元的容量速度,以及每千個詞元的價格 →
習慣十
預設就是穿著設定選單的產品倫理
幽靈把手就是沒人會轉到的位置。
第四幕 · 62
模型預設
又快又便宜 —— 從來不是慢而強,也不是本地跑
每個答案的速度、價格,以及它會不會離開這棟樓。
工具預設
網路與檔案預設開著 —— 除非講得出理由才關掉
它在壞日子裡能觸及的東西。最小權限是預設。
語氣預設
一種公司腔 —— 從來不是真正的讀者
14 歲的孩子和外科醫生不是同一批聽眾。
安全預設
拒答 —— 而不是回答
有人給一個風險定了價。問那個人是誰,以及誰在房間裡。
沒人會改這些。預設就是這樣:不是一個設定,而是一份隨著產品一起發貨的政策。
習慣十一 · 呼應 Erlang
監督失敗。不要否認它。
當掉很便宜,也能恢復。被污染的記憶都不是。
第四幕 · 63
監督者
讓它小規模當掉 · 隔離 · 重啟
逾時
重試、切換、中止
壞結構
用結構重新問
工具錯誤
切斷、降級
注入
視為不可信
信心不足
上報給人
記憶被污染
永遠別記下來
被叫回來當事實用了幾周的壞工具結果
重啟就是設計,不是失敗
「問題不在於行程當掉——而在於沒有人發現,也沒有人處理。」
習慣十二
四條規則——裝上去,別把誰當神
一個習慣就夠了。把規則綁在主幹上;把人留在岸上。
第四幕 · 64
Wirth
先命名零件和資料,再加膠水
給代理用 →
記憶體欄位和結構描述,用心設計。
Torvalds
刪掉特例 if
給代理用 →
改變表示方式,不是打提示詞補丁。
Matz
人類會享受這個介面嗎?
給代理用 →
UX 是智能的一部分,不是裝飾。
DHH
帶著預設出一個垂直切片
給代理用 →
一條有主張的路,勝過一堆任你挑的模型。
他們每一個人的記錄裡,都有我不會替他們說話的東西。這就是我們安裝規則而不是人的原因。
第五幕/共五幕
V
歸來
同一塊霧板。新的眼睛。每人一句見證,然後結束。
這裡故意不加新東西
歸來 · 叫出機制的名字
同一八道力。每一道現在都有一句你可以帶走的收穫。
第五幕 · 76
01 Wirth’s Law economics
01 Wirth 定律經濟學
硬體進步被軟體體積吃掉。精簡又變成成本槓桿。
02 Governance of compute
02 算力的治理
誰可以訓練是一種許可。能力由政策決定,不只由模型決定。
03 Diversity of API
03 API 的多樣性
永遠別把整副身家綁死在單一端點。下架是設計約束,不是意外。
04 Gift → talent
04 天資 → 才幹
分數是天資。在真實約束下仍交得出貨的,才是才幹。
05 Ethics of AI
05 AI 倫理
電與水是設計條款——倫理寫在負載裡,不是 demo 後的註腳。
06 Human costs that still matter
06 仍然要算的人的成本
生成變便宜了。判斷、記憶、責任沒有。
07 Inclusion
07 包容
取用權、誰的聲音在訓練這套堆疊——這是結構,不是海報口號。
08 Structural fixes
08 結構性修復
最小權限、硬停、監督樹。封控是造得出來的手藝。
上一小時,世界沒有變。
變的是:每一道力底下,你都叫得出那句收穫。
自我檢查
「做到了」是什麼樣子
第五幕 · 67
01說得出真實世界裡的 AI 力量,不嚇自己也不吹捧
02講得出模型怎樣看世界——以及這個看法在哪裡失效
03說得出一位大師真正的論點——不是他的口號——以及它老實的限制
04針對某個 AI 系統說出一組張力,並替其中一邊講出理由
05對一件是真的、但現在不適用的事,用「放回海裡」的說法,不要說「禁止」
06把一個牽涉 AI 的想法,問到整棵決定樹都收乾淨
07用白話講清楚 PEAS、搜尋的取捨和狀態設計
08把約束、什麼時候不作答、預設值,都當成設計決定講出來
09說得出一個會用工具的系統,失敗時要怎麼被接住
10帶著一個習慣和一個方向離開
見證收尾Act V · 68
世界仍然嘈雜。你不會因此變小。
世界仍然嘈雜。你不會因此變小。
世界仍然嘈雜。你不會因此變小。
世界仍然嘈雜。你不會因此變小。
生成便宜了。判斷、約束和責任沒有。
一個學到的東西
歸來 · 見證收尾 封底
當答案不再昂貴,還有什麼依然值錢?
當答案不再昂貴,還有什麼依然值錢?
當答案不再昂貴,還有什麼依然值錢?
當答案不再昂貴,還有什麼依然值錢?
機器越強,你越重要。
在你離開房間之前
一個學到的東西。
改變你怎樣使用 AI 的一件事。
一個方向。 生成便宜了。判斷、約束和責任沒有。 –30–
Industrial and Information Technology School
附錄一
這個題目下面的地基,現在才在灌漿。
四份已發佈的文件。四個不同的房間。全部很近期。
附錄 · 70
UNESCO · 193 個成員國
人工智能倫理建議
2021
人權和尊嚴作為基石,加上持續的人類監督。 以鼓掌方式通過。
歐盟
AI Act
2024→
有實際懲罰的風險階層。義務按日期分階段實施,下一個里程碑在 2026 年 8 月 2 日。
美國
AI Action Plan
2025
加速和出口政策作為工具:誰可以購買運算資源,以及什麼條件。
中國 · 國務院
「AI+」行動,以及一份全球治理行動計劃
2025
向國內每個行業擴散,以及在海外提議一個國際合作機構。
這四份沒有一份是這房間裡的人寫的。但這四份,這房間裡的人都讀得到。
附錄二
這堂課的位置:AI 被當成基礎建設,而且有公開的時間表
附錄 · 71
2027
穿透,不是試點
六個關鍵行業的智慧終端與 AI 代理超過 70%——國務院目標。
2028
自己運行的網路
資訊和通信網路高級自主智能的初期階段——工信部計劃。
2030
全方位授權
AI 支援經濟全面高品質發展,智慧經濟核心產業成長。
2035
一個智慧經濟和社會
這份分階段計劃寫明的終點——今年 14 歲的孩子,將來就在這條地平線裡工作。
2026 年 4 月 2 日 · 工信部等
AI 的倫理審查措施——包括研究,不只是公共服務
2026 年 5 月 8 日 · 網信辦 · 發改委 · 工信部
AI 代理實施指南
2026–2028 · 工信部
AI+ICT 實施計劃:運算、網路、具身智能
附錄三附錄 · 72
前兩頁上的每一層地基,都會在你還在唸書的時候被重寫一次。
它們全都在試著回答的,就是第一幕交給你的那個問題: 為什麼是這樣,誰要為它負責? 學會回答那個問題,這些文件你都讀得懂——連取代它們的那些也一樣。
工具從來不是課綱。
參考 · 不是用來投影
如何執行這份簡報
參考 · 73
完整執行 · 90–110 分鐘
從冷開場到見證收尾的一切。全部 15 位大師,全部六個張力,全部十二個航程習慣。
簡介談話 · 45–60 分鐘(上限 70)
冷開場 · 霧板 · 兩個鏡像圖(詞元 + 無記憶) · 治理板 · 海洋牆 · 兩位大師(Torvalds、Armstrong) · 一個張力 · 兩個航程習慣 · 歸來 · 見證。
絕不用於簡介房間
所有十五位的等深導覽 · 評估權重 · 方法論講座。
如果太長就先刪
第三著陸 · 衝突圖遊戲 · PEAS 深度 · 第二個鏡像圖。
主持人態度 · 說一次
「我不是來教老師怎麼教書的。我是一個建造東西的人,陪你們最強的學生走一趟 AI 的世界。有用的儘管拿走;我那套架子不必理會。」 在純學生房間裡完全跳過。
先用學校框架
一個優質的補充,永遠不是學校框架的替代品。 作業是可選的野外工具包。
參考 · 不是用來投影
第一、二幕——圖後面的文字
參考 · 74
第一幕 · 到 2025–26 有什麼變了
授權: 代理式編程的研究顯示,人們真正完全交出去的任務只有大約 0–20%;高風險的工作仍然要人盯著、要人驗。
記憶體: AI 對 HBM 的需求重新分掉了晶圓產能;追蹤機構記錄到 DRAM 連續幾季漲價,一路到 2026 年,主要供應商也說 AI 記憶體整年賣光了。
下架: 2026-04-14 通知,2026-06-15 把 Claude Sonnet 4 與 Opus 4 從 API 下架;Mythos Preview 於 2026-06-30 下架。使用權在一個公告的日期結束——通知期就是你全部的預警。
代理安全: 2026 年的各方指引都收斂到同一組做法——最小權限、用硬性中止而不是軟性確認、把外部文字一律當成不可信。
航程守則
每一段都要能把「這件事,跟 AI 有什麼關係?因為……」講完。講不完:就只掛在海牆上,或者刪掉。 先碰壁,再給答案。先規格,後工具。先品味,後出貨。
第二幕 · 機制筆記
詞元: 以 BPE 這一類的方式切成子詞;字母埋在模型從來不會逐個拆開看的碎片裡——所以它數不好字母。
幾何: word2vec 那種類比運算,就是在內部座標上做向量算術;那個平行四邊形的把戲能適用到多廣,學界仍有真正的爭議。
圖塊: 14×14 的方格,每一格是一個向量加一個位置標籤,被當成句子裡的字來處理。
特徵: 先有稀疏自編碼器的特徵發現(2024),再有電路追蹤(2025);Golden Gate 那次示範把單一特徵推到遠超正常的激發程度;這套技術現在用來檢查未發佈的模型。
落地: 符號接地問題;JEPA 那一類的世界模型研究也坦承,光靠它並不能補上這道落差。
對抗樣本: 熊貓→長臂猿;雜訊利用的是一個被過度依賴的狹窄模式。有信心不等於有證據。
記憶: 只有上下文視窗;2026 年的代理記憶研究把這叫做「永久失憶」。
幻覺: 2026 年的講法是訓練誘因的問題——有自信地把話講完,勝過老實說不知道。
價值: RLHF 評分者的偏好,加上在某些實驗室裡,一份參考《世界人權宣言》等文件寫成的成文憲章。
參考 · 不是用來投影
第三幕——名單與護欄
參考 · 75
第一群 · 手藝與深度 Kapur——值得的失敗,兩個階段,要的是遷移而不是熟練。
Pocock——Grill-Me;他後來轉向以領域模型為主的做法,也自己把 Grill-Me 的用法收窄了。 Karpathy——會漏的抽象;Software 2.0(2017)與 3.0;Tesla 的整套系統被改寫成學出來的權重。
Gagné——DMGT;天賦、催化因子、才華;前 10% 這條線是刻意畫寬的。 第二群 · 核心手藝
Wirth——演算法+資料結構;Wirth 定律(1995,他自己把功勞歸給 Reiser)。 Torvalds——鏈結串列那段「好品味」;Git 本身就是品味的產物;2018 年的道歉與行為準則。
Matz——快樂;「最少讓『我』驚訝」;MINASWAN。 DHH——慣例優於設定;宏偉單體;撤出雲端;2021 年的公司政策。
第三群 · 進階 Dijkstra——goto 有害(1968);《謙卑的程式員》(1972);測試證明錯誤存在,證明不了錯誤不存在。
Knuth——TAOCP、TeX;那句 97%/3% 的完整原文;2023→2025 他對 AI 看法的修訂。
Hickey——簡單 vs 容易;把東西編在一起(complecting);吊床驅動開發。
參考 · 不是用來投影
第四、五幕——模組地圖
參考 · 76
M1 · 代理與搜尋
PEAS · BFS/DFS 的取捨 · 狀態設計(呼應 Wirth)。沒有表現測試的工具型代理,只是會產生副作用的聊天。
M2 · 約束
最小權限 · 結構描述 · 確定性的動作閘門 · 讓非法狀態根本表示不出來 · 外部輸入一律不可信。
M3 · 不確定
先驗 · 證據與它的雜訊 · 誤報與漏報各自的代價 · 不作答門檻:拒答、上報,或再去找資料。
M4 · 感知與成本
先看特徵再看示範 · 先做笨基線 · 說出函式庫藏起了什麼 · 詞元、延遲、記憶體層級、能源、評測預算。
M5 · 系統品味
預設就是產品倫理 · 垂直切片 · 四條品味規則(Wirth、Torvalds、Matz、DHH)——裝上去用,不是拿來拜。
M6 · 代理型系統
監督樹 · 逾時、壞結構、工具錯誤、注入、人的閘門、記憶被污染 · 學生當提問的人。
第五幕 · 歸來: 同一面霧板,這次每則底下都掛上機制 · 十項「做到了」檢查,安靜地自己核對 · 見證收尾(一個學到的東西、一個使用 AI 的改變、一個方向)· 主持人說出從全場學到的一件事 · 收尾的問題留在螢幕上。
資料來源與圖片出處
所有東西的出處
參考 · 77
課堂用到的資料
Anthropic——2026 年的代理式編程報導;模型下架公告頁(2026-04-14 通知,6 月 15 日與 30 日下架)。
記憶體市場——HBM 帶動的 DRAM 吃緊報導,2025–26。
代理規格與上線安全做法,2026(最小權限、硬性中止、輸入不可信)。
第二幕——可解釋性(特徵發現、稀疏自編碼器、電路追蹤)、詞元化、視覺圖塊、上下文視窗的記憶研究、RLHF 與 Constitutional AI。
第三幕——15 位思想者,取自課程的大師與冷知識兩條線。
治理——UNESCO 給學生與教師的 AI 能力框架(2024);UNESCO《人工智能倫理建議》(2021)。
手藝——Kapur(值得的失敗);Grill-Me 的意圖樹;PEAS 與搜尋取自 AIMA/CS188。
照片
大部分照片是即時取自 ,並在使用它的那一頁註明出處——作者與授權,依檔案頁上的記載。有四位在自由百科上沒有照片,改用當事人自己網站上公開的照片——Matt Pocock 與 Graydon Hoare 取自他們的 GitHub 個人頁,Manu Kapur 用他自己的新聞照,Françoys Gagné 的肖像取自他的 DMGT 網站——每一張都照實註明。
僅供內部分享。若要把照片用在對外或出版的材料上,請先到 Commons 的檔案頁確認授權條款。
需要照片的每一頁現在都有照片了。萬一某張載入失敗,框裡會顯示標了名字的佔位圖,也不會印出出處——放一個檔案進去,並註明你的來源。 圖表這份簡報裡的每一張圖都是為它量身做的——沒有圖庫素材,沒有裝飾性插圖。一頁上會出現圖,是因為不畫出來就看不見那個機制。 簡報 IITS 大結局 Masterclass · 版本 v1.2 · 霧 → 鏡 → 海 → 航程 → 歸來。作業是可選的野外工具包。
01 Kapur — Simons Foundation 2025(頭像裁切)
02 Pocock — GitHub @mattpocock
03 Karpathy — GitHub @karpathy(頭像)
04 Gagné — gagnefrancoys.wixsite.com
05 Wirth — Wikimedia Commons
06 Torvalds — Wikimedia Commons LinuxCon(頭像)
07 Matz — Wikimedia Commons EuRuKo 2011(彩色頭像)
08 DHH — Wikimedia Commons(RailsConf)
09 Dijkstra — Wikimedia Commons(頭像)
10 Knuth — Wikimedia Commons(頭像)
11 Hickey — Wikimedia Commons 舞台照(頭像)
12 Guido — Wikimedia Commons(頭像)
13 Ritchie — Wikimedia Commons
14 Graydon Hoare — GitHub 大頭照(內部)
15 Armstrong — Wikimedia Commons(頭像)
另:第二幕參考照片(狗、爐灶、熊貓/長臂猿、橋)— Wikimedia/紀錄片靜幀,見各頁標註。
IITS 大師班 · 終章 · 內部教學用 · 霧 → 鏡 → 海 → 航程 → 歸來
非公開定稿,請勿原樣對外發表