姚順雨談 Agent:先找值得解的問題,再設計能做事的系統
- 講者
- 姚順雨
- 來源
- 微信公眾號
- 原片日期
- 筆記日期
- 閱讀時間
- 約 22 分鐘
本文有 13 個章節
AI 模型已經會寫程式、解數學題,為什麼進了一家公司,仍常常比不那麼聰明的新同事更難把工作做好?當時在 OpenAI 任職的研究員姚順雨給的答案不是單純再把模型做大:新同事能在工作中取得文件沒寫下來的資訊,知道老闆怎麼做決定、同事怎麼合作、這個環境裡什麼才算完成,模型缺少的往往正是這些具體背景。他由此把研究選題、工作成效、產品交互與公司競爭連成一條主線:智能不只存在模型裡,還存在模型能接觸什麼環境、獲得什麼資訊、採取什麼行動,以及人怎麼使用它的整個系統裡。
這是他與張小珺、李廣密的對談,發生於 2025 年 5 月。關於模型能力、OpenAI、Manus、DeepSeek 與未來一兩年的判斷,都是姚順雨當時的個人觀點,不代表 OpenAI 的公司立場,也不是這些公司目前的狀態。
做 Agent,讓他從熱門方法轉向開放的行動
姚順雨的求學路徑相當規整:2015 至 2019 年在清華姚班,2019 至 2024 年在普林斯頓讀博士,畢業後加入 OpenAI。他形容自己前 28 年很乖,研究選擇卻有一條長期的非共識:想做 Agent,也就是能自己決定下一步、使用工具並與外部環境互動的智能體,而不只是回答問題的模型。
姚班偏重理論計算機科學。他逐漸覺得,一些已經十分成熟的理論問題,即使把演算法複雜度再改善一點,對現實未必有太大影響。2016 年接觸語義向量的展示,讓他第一次被深度學習處理意義的能力吸引;2018 年到 MIT 與吳佳俊交流,才系統地開始做深度學習。他最初研究電腦視覺,後來直覺認為,若目標是能處理許多不同問題的通用系統,語言可能更接近核心。
博士時,他找到研究自然語言的導師 Karthik Narasimhan。導師早年曾用簡單的循環神經網路,訓練模型在文字遊戲裡學習過橋、移動等行為。姚順雨提出:既然 GPT-2 比當年的模型強很多,讓它玩這些遊戲會怎樣?這個問題開啟了他此後六年的語言智能體研究。
第一年的重要發現,是應該用能接著輸入生成文字的 GPT 語言模型,而不只是用當時流行的 BERT。BERT 擅長把句子變成表示,再做情緒分類、選答案等任務;但文字遊戲需要自己產生行動,例如拿劍打怪、去第三個房間、用金鑰匙開門,不能永遠從固定按鈕裡選一個。他用這個差別說明:世界的行動空間是開放的,做智能體需要自由生成新動作的能力。這不是說分類任務不該用 BERT,而是他的研究目標與當時主流模型擅長的任務不同。
第二個發現更影響後面的工作:環境選得不好,分數刷得再高也不會得到真正有用的能力。Zork 這類文字遊戲比情緒分類有挑戰,但把一個遊戲練到通關,未必能遷移到其他事情。像把圍棋下好,不等於能在真實世界工作。問題因此從「如何在現有遊戲提高分數」,變成「什麼環境能逼出可帶到別處的能力」。
方法線與任務線,要一起前進
WebShop 是他對環境問題的一次回答:把網路購物變成能讓智能體搜尋、選擇並取得結果的任務。更早的 World of Bits 曾想把電腦和網際網路當作智能體環境,但當時受限於技術,沒有充分做成。姚順雨與導師在 2021 年重新考慮這條路,2022 年做出 WebShop。技術尚未完全成熟,在他看來反而可能是研究開始的好時機,不必等所有人都認為可以做。
接著,模型與思維鏈的進展帶來了新的方法機會,促成 ReAct。ReAct 是把推理與行動接在一起的方法:模型不只直接選下一步,而是先思考,再與環境互動,讀回結果,繼續決定怎麼做。
問到當時主流架構,他覺得多數仍接近這個簡單形式。各種任務可以另加工作流,但若求最通用、適應不同任務的方案,他仍偏好 ReAct。
他用文字遊戲說明它的動機。人進入新環境,不一定需要幾十萬次嘗試才知道怎麼走。看到燈沒亮,會推想黑暗可能有危險,先把燈點亮;再根據先前資訊,想起燈在後面,於是往後走。語言模型帶來的既有知識,加上這種推理,使系統有機會把在一個環境學到的思考方式帶到另一個環境。
當時,單純研究如何使用既有模型,很難被部分學術界視為夠硬的研究。傳統期待是新公式、新訓練方法、理論證明或大量工程。姚順雨的判斷是:如果大公司已在模型訓練上領先很多年,研究者未必應該在同一條路追趕;探索如何用好模型,可能更有新意。但他也沒有把 ReAct 的歷史地位說死,認為是否算研究方式的根本改變,要再過五年或十年回頭看。
他把智能體的歷史理解成三波。第一波是符號規則與專家系統,遇到規則列不完、難以換任務的限制。第二波是深度強化學習,它在有清楚獎勵、可以反覆嘗試的遊戲或模擬環境取得成功,但仍需要大量針對環境的工程,圍棋、Dota 等任務之間難以直接遷移。第三波把語言模型的既有知識與推理帶進編程、網路、電腦操作等數位環境。
這是他的概括。對他的研究判斷更重要的是兩條線同時改變:一條是使用什麼方法,一條是要解什麼任務。大家容易只看到方法進步,忽略了遊戲之外的新環境本身,也在打開可研究、可使用的問題。
程式碼像機器的手,但不必把所有道路都改成 API
程式碼不只是一個方便評分的題型。姚順雨把它比作人的手:人圍繞手製造筆、筷子、錘子;數位智能體則能透過程式碼操作工具、組合新行為。網頁、影片、小說大多是為人設計的,程式碼卻天然能交給機器執行。
這個觀點推動了 InterCode。當時常見的評測方式是給模型一道編程題,收下一段程式碼,最後評分。他們問的是:為什麼不把執行結果再交回模型,讓它繼續修改?於是單次生成變成多輪互動的環境,後來延伸到 SWE-bench 與 SWE-Agent。前者用真實軟體專案的問題和修復結果評估能力;後者讓智能體讀程式碼、修改並跑測試。
如果一件事看來重要、卻沒多少人做,他不把這直接視為否定。可能只是社群尚未開始。但「沒人做」本身也不是價值證明,仍要看它能解什麼問題。
至於智能體將來主要透過 API 還是 GUI 操作世界,姚順雨把它比成兩種選擇:改造車讓它能走所有路,或者把所有路改到符合現有的車。現實裡許多系統只有人類介面,並沒有現成 API;可以補做 API,也可以讓智能體學會讀畫面與操作。
他的預期是兩邊在中間相遇。程式碼很重要,但兼具程式操作與圖形介面操作,會比只適應一種環境更有機會完成廣泛工作。這是他對方向的樂觀判斷。
先問工作要哪種成功,才知道怎麼評估模型
2025 年 4 月的文章《The Second Half》提出,AI 主線正從訓練方法的「上半場」,轉向定義任務與環境的「下半場」。姚順雨在訪談裡把範圍限定在以語言為基礎的推理與智能體;音頻、多模態、機器人仍有許多方法問題未解。他認為語言智能體已有足夠通用的基本方法,接下來更難的是決定用它解什麼,而不是每次再造一把不同的武器。
他偏好的任務有兩個條件:獎勵看最後結果,而不只是看過程好不好看;結果能依明確規則計算,盡量不是人的喜好、另一個模型的喜好或難以解釋的黑盒分數。WebShop 最難的部分在他看來不是工程模擬,而是同時找到有難度、有實際價值、又能清楚給出獎勵的任務。
數學有答案,程式可以跑測試,這些特性解釋了它們為何較早適合強化學習。若只獎勵討喜的過程,系統可能學會投機:例如寫出非常漂亮、卻沒有解決問題的程式碼。SWE-bench 也延續了他的結果導向與規則式獎勵偏好。這是他篩選研究題目的標準。
不能把人的工作難度排名直接搬給 AI。客服在人類勞動市場裡,通常比軟體工程門檻低;但模型做軟體工作可能更容易,因為資料多、環境清楚、結果比較容易測。可靠的客服反而難:用戶問題、政策與情境複雜,而且不能常常出錯。
他因此區分了幾種不應混在一起的要求。一種要可靠,例如客服,一百次裡可能需要九十九次以上都不能出錯,而不是八十五次讓人滿意就夠。另一種重視創造,例如證明困難的猜想或探索新作品,允許失敗很多次,只要一次有重大成果。除此之外,工作還有時間長短與範圍大小:改一個檔案可能三秒;另一個任務需要三十分鐘、三小時甚至三天。修單一問題,和從零建立一個作業系統,也不是同一種協作要求。
這些差別可以落在評估指標上。Pass@k 問的是,同一任務嘗試 k 次,至少一次成功的機會有多高,適合可以挑出最好結果的探索。編程研究常報 Pass@100,也就是有一百次嘗試機會。TAU-bench 則為客服這類任務強調 Pass^k:重複做 k 次,是否每一次都成功。Pass@1 是一次就要完成。它們不能互換:一百次終於做成一次,不能證明一個客戶服務系統每次都可靠。
他批評的是,研究者仍常在設計好的考試或遊戲裡追分,沒有充分看待那些「看似簡單、卻不能出錯」的真實工作。這不是再加一個排行榜,而是先確認使用者究竟容許哪種失敗。
泛化有進展,但「為什麼變強」仍有反面解釋
姚順雨把語言視為人為了處理不同問題而發明的通用工具。學會攀岩,未必能幫你完成別的任務;學會語言,卻能讓你交流、學習、思考與推理。所以在他的理解裡,文字與圖像、音頻不只是幾種可互換的資料格式,語言還承載著人處理新問題的方式。
但主持人追問得很直接:強化學習真的開始泛化了,還是預訓練資料已經裝入許多能力,後面的訓練只是把它們叫出來?他承認後者可能成立。泛化也不是非零即一,而是程度問題。他以 DeepSeek 在數學與編程強化學習後,創意寫作也變好的觀察作例子。
他的立場仍是,能推理,就有機會把學到的思考技能帶到新環境。不過,邏輯推理從數學到編程的遷移,和處理人情世故所需的推理,可能不同;一個任務變強,不等於所有遊戲或工作一起變強。他對單一模型能處理很多任務抱有信心,但對談裡沒有提出足以排除資料重疊、證明普遍遷移的實驗。
數學與程式之所以先出成果,也未必因為它們是唯一能泛化的領域。他的解釋比較務實:它們先被研究,因為有好的獎勵、不需要太複雜的環境,而且本身就涉及推理。這留下了一個很重要的區別:方便研究的任務,不能自動代表最值得解的現實任務。
長期記憶的難題,不只是把更多字塞進模型
問到提升智能體最重視的能力,姚順雨並沒有說現成的能力分類已形成共識。可以按工具分,像編程、上網、操作電腦;也可以按模型能力分,像多模態、長上下文、推理。他當時最看重的是處理上下文與記憶,因為這是持續學習、進入新環境工作的前提。
這裡的上下文,指完成眼前工作需要的背景資訊,不只是一次輸入的文件或聊天視窗裡的一段文字。公司確實有 Google Docs、Notion 和各種紀錄,但很多重要資訊分散在人的腦中:老闆的習慣、工作關係、很難用一句規則寫清的判斷。普通人到一家公司工作七天,就會累積文件以外的背景。即使數學不如 o3,仍可能更會完成那家公司的工作。姚順雨把缺少完整背景,看作模型未充分創造經濟價值的重要原因,也承認不知道這到底主要是智能、產品還是別的問題。
這讓記憶兼具研究與產品意義。若只是比較誰的模型更強,用戶很容易換產品;若產品逐步累積了對這個用戶的了解,提供更貼切的體驗,就可能形成黏性。但被問到 ChatGPT 當時「記憶已更新」的具體改進,他明說最近沒怎麼用,細節並不清楚,只猜測記憶提煉或檢索可能變好。
他用「記憶層級」理解外部工具:電腦有快取、記憶體、硬碟,人有工作記憶與長期記憶,最外層還有筆記、文件和外部環境。他轉述閱讀馮諾依曼《計算機與大腦》受到的啟發:環境也屬於記憶的最外層。
主持人由此問 MCP 是否也可看作取得上下文的方法。他回答某種程度上可以。長上下文也是長期記憶的一條可能路徑,卻不是唯一方法;記憶可以用語言紀錄、向量表示,或其他機制。
在很長文字中藏一句話,再問模型能否找到,是一項必要但不充分的測試。他不願在缺少有價值任務的情況下,先比較線性、稀疏或混合架構誰最好。找得到藏在長文裡的資訊,還不能證明系統能長期維持真正工作需要的背景。評估停在這種前置能力,就容易把「能讀長」誤認為「會記得、會工作」。
創新需要內在回饋,協作需要另一套能力
OpenAI 的五級能力描述,從聊天、推理、智能體,走向創新者與組織者。姚順雨認為前三者有可理解的依存關係:先有語言知識,再能推理,才能與環境互動。但他不確定創新與組織一定要分成第四、第五級;科學家與大公司 CEO 哪個更難,沒有單一答案。兩個方向可以同時探索。
要讓智能體創造真正新事物,長期記憶還不夠。研究者可能在最終成果出來之前,長期沒有獎項、交付或外部回饋,仍靠自己的判斷前進。這引出內生獎勵:不是外面每一步給分,而是系統能透過自身的動機或評估繼續探索。
他用嬰兒反覆咬東西、玩玩具作類比。好奇、掌控感、安全感,會驅動沒有薪水或獎項的學習。但成人面對成立公司、升職、做成一件事的世界,更多是在語言和推理構成的空間裡行動。模擬機器人在迷宮裡的好奇心,不一定能直接回答這種語言世界的內在動機應怎麼定義。
他相信智能體會有自我提升能力,卻說不出時間表,也沒有指定必須改模型權重才算學習。累積語言記憶、向量記憶,同樣可能是路徑。另一條線是多智能體如何形成有效協作,從各自做事進到能組織更大工作;這不是把創新能力再提升一級就自然完成。
這些問題又回到真實世界:考試和遊戲在設計之初,往往就有清楚答案或獎勵。但現實不是為訓練模型設計的,許多事情沒有標準答案,也沒有現成的獎勵函數。模型變強之後,困難仍可能是找出值得解、可以合理描述的問題,而不是解一張已經出好的考卷。
大模型越強,應用公司的機會與威脅一起增加
應用創業者擔心模型公司吞掉自己,姚順雨把問題翻過來:如果模型沒有不斷溢出的新能力,許多新應用根本做不出來。真正的機會,是利用模型變強,創造一種不同的人與數位世界的交互方式。
這裡的交互方式,不只是把按鈕換成聊天框。ChatGPT 像助手,人用類似對人的方式向它提問、派工作。語音版的助手,像電影《Her》呈現的形式,很自然、有價值,但仍接近模型公司最先佔據的位置。Cursor 則像貼在編程環境中的副駕駛:人在寫程式時,系統即時提示或編輯,這不是兩個人平常聊天的方式。
如果應用只是做一個很像 ChatGPT 的助手,確實較難說明為什麼不被替代。反過來,若想做新交互,模型卻不再變好,也可能做不成。姚順雨把兩者看作需要同時存在的條件。根據當下任務,動態產生適合的前端畫面,例如 Canvas,是他認為值得探索但仍然很難的方向。
主持人提出的反對理由是:大公司也能跟進新交互。姚順雨沒有否認,而是指出成功產品本身會造成路徑依賴。Google 擁有資源與 Transformer,仍很自然把新能力用來改善搜尋;有了 ChatGPT,模型訓練、研究資源與組織也容易圍繞既有產品重排。超級應用帶來優勢,也把注意力拉回原本的成功方式,這可能留給新公司空間,卻不是不能被模仿的保證。
Manus 在對談裡是另一個例子。他試過,覺得團隊懂產品,但沒有對 GensPark 作使用後評價。創業公司可先發明交互,模型公司再借鑑;模型公司先創造能力,創業公司也可拿來用。相互學習並不是單向發生。
通用的產品感受與階段性的強項,也不必二選一。Manus 可以維持較通用的交互,同時把某一階段的簡報、研究或其他用途做好。他用 iPhone、iPad、ChatGPT、微信說明:一個有廣泛想像空間的產品形態,仍可由具體好用的應用推動成長。
資料飛輪要接到結果,成本要接到價值
應用有使用者、有資料,不代表自然有資料飛輪。在姚順雨看來,首先得能自己訓練模型,還得有一個與應用成效對齊的訊號,能分辨哪些資料好、哪些不好。
他舉 Midjourney 為例:人更喜歡哪張圖的訊號,能直接回到圖片產品與模型改進。這裡的偏好有意義,因為產品本來就要產生人喜歡的圖;並不等於「人喜歡」可以代替所有任務的完成結果。他還認為,飛輪較可能出現在不是通用模型主線重點的能力上;若是所有模型公司都在強化的主流能力,別人也可能透過預訓練、強化學習與泛化追上。當時多數應用公司,仍主要依賴基礎模型進步,而沒有這個閉環。
同樣不能只看智能體花了多少算力。一位創業者提出,單一用戶的 token 消耗可能是聊天機器人的五百至一千倍,這是提問者帶來的估計。姚順雨的回答是:先找值得做的應用。他舉了一組假設的數字:如果花五百美元,可以帶來一千美元價值,成本未必是最先要解的問題;如果花費說不出相應成效,瓶頸可能是尚未找到需求,而不是模型不夠便宜。
簡單而固定的任務,可能值得訓練較小、較便宜的模型;複雜研究、投資等工作,則可能需要更強模型。這不是不管成本,而是依工作價值決定能承受多少成本、用什麼方法。
他也不按研究員與非研究員兩類,判斷誰適合做 Agent 公司。Cursor 創辦人、Perplexity 創辦人的背景不同,重點都在找出真正需求。研究經驗若讓人太執著已有技術,反而可能變成拿著錘子到處找釘子。好的 AI 產品經理,仍是能理解變化較慢的人性與需要,再反推需要什麼技術的產品經理。
談 DeepSeek 時,他另外看重兩件事:展示較長的思維鏈,讓大眾感受原本累積的技術能力;以及讓矽谷重新看待開放模型的價值。他認為,強模型的建造需要集中人才與資源,不能簡單套用很多開源軟體由大量貢獻者分工的模式。DeepSeek 的組織、工程與基礎設施,在他的評價中有值得學習的部分。
智能的邊界,可能由許多系統共同構成
最強智能體未必能像排名最高的人一樣,用一個總分定義。不同任務、不同交互方式,會有不同的「好」。底層模型可以共用,但整個系統可能像網際網路:很難回答哪個網站最強,因為搜尋、交易、社交、創作各自解決不同問題。
因此,OpenAI 可能成為像 Google 一樣的重要公司,卻不必然壟斷所有新系統。例如有人要的不是最強數學家,而是一個有感情、會犯錯、不完全理性的朋友;它的能力需求和專業助手不同。也可能出現多智能體網路,每一方握有別人沒有的資訊,代表各自的人交換資訊、交易或協作。這仍是他的構想,還不是已經存在的制度。
大型節點有集中算力與建立平台的動機,持有特殊資訊與資源的個體,也有維持自己位置的動機。他不認為必然有一方完全壓倒另一方。主持人提到智能合約按工作價值分錢,他明說不太懂加密技術,沒有提出具體方案,而是轉向中心化與分散力量可能並存的討論。
他進一步區分兩個維度:資源是不是更集中,以及人從網路邊緣走到中心的機會是不是更多。在他的歷史理解裡,兩者可能一起增加,所以集中與多樣化不必然矛盾;但他也承認,未來不一定繼續如此。
對訪談之後十二至二十四個月,他預期兩種形態會並進:聊天產品更自然地成為能採取行動的智能體;既有軟體與本地工作環境,也會出現更多像 Cursor 的助手。前者可能在遠端環境做事,後者把能力帶進人原本就在用的軟體。他當時覺得兩年內仍較中心化,幾個主要應用建立各自基礎設施;再往後則明說難以預測。這些時間都從 2025 年 5 月的訪談起算。
應用公司即使不做預訓練,仍可設計智能體與工具的交互、人與智能體的交互,或更好地累積用戶背景與意圖。從零建立模型是否值得,則取決於不同應用所需能力的差異,能否大到抵過投入。狹窄、高價值、資料充足的封閉場景,可能主要依賴強化學習;需要適應新公司的長尾工作,則更需要預訓練帶來的廣泛知識。他把廣告與推薦系統當作封閉環境的類比,沒有說它們都用同一種強化學習做法。
從人能做到、機器做不到的差距出發,不必照抄人腦
2018 年在 MIT 接觸認知科學時,姚順雨曾接受一種很自然的研究思路:觀察人如何從少量例子學會新事物,再把人的機制搬到 AI。後來他注意到,真正奏效的許多訓練方式,與人類學習其實很不一樣,於是把兩個問題分開。
第一個是能力差距:哪些事人能做,機器仍做不好?例如入職七天的人能取得公司的背景資訊。第二個是實作方式:要彌補差距,是否必須依照海馬體、情節記憶等生物機制設計?他的答案是不一定。人的表現能幫研究者找出問題,但人腦究竟怎麼完成它,也仍有未解之處;即使知道某些細節,機器仍可用別的方式做成。
因此,他不是主張智能體越像人越好。圍棋和遊戲可以用不同於人的路徑做得更好;在公司取得背景、與人合作,人目前的優勢則提示需要補什麼能力。「像人」要回答的是對工作有沒有用,而不是外表、對話或內部構造是否更逼真。
不同的下注,與主管必須自己理解的事
回看 OpenAI 的路徑,姚順雨先說這是自己的總結與揣測。他把早年的公司描述為較自下而上的研究實驗室,同時嘗試很多方向。當強化學習是熱門路線、DeepMind 已佔領心智,要超越前面的公司,很難只做同一件事稍微更好;GPT 則是一個當時並未形成共識的不同下注。
他回憶,自己的導師是 GPT-1 作者之一,仍曾懷疑成績與算力投入是否值得。依他的轉述,Ilya(OpenAI 前首席科學家)很早就相信語言模型可以靠擴大規模推進。他把 Ilya 與 Dario(曾在 OpenAI 負責研究,後來共同創辦 Anthropic)的重要貢獻,放在敢讓組織投入資源、承擔一個尚不確定的方向,而不只是某項技術發明。公司不需要每個人都相信,只需要足夠多人與足夠資源能把工作做出來。
他也提醒,歷史不是完全丟掉強化學習、改做 GPT、然後再回來。不同路線一直共存,後來人類回饋與對齊,也讓語言能力能變成 ChatGPT 這樣的產品。未來記憶、多智能體,可能再打開不同的計算擴展維度;問題將包括,在特定應用裡怎麼分配,而不只是總算力越多越好。
如果一家大公司的 CEO 不懂 AI,第一件事是自己學。否則即使招到很強的人,也難判斷他們做的是否有價值。第二件事,是看已有場景、資源和優勢怎麼與新技術結合,而不是因為有錢,就一定要從頭做另一個 ChatGPT。
主持人假設給他五百億美元配置到通用人工智能,他沒有提出投資比例,而是談三種構成:智能、環境、用戶背景。模型公司可能有很大價值,能累積特殊背景或建立特殊環境的公司也可能受益。他把大平台已有的用戶資訊與關係,看作易守難攻的資源。這是他當場的推演。
如果是 Cursor 的 CEO,他會嘗試訓練模型,但是否做預訓練,要看編程這個主流方向上,開源、閉源能力還留下多大差距。若是微信負責人,他反而不急於進攻,會先學習、觀察:真正威脅可能是完全不同的交互,而不是另一個外觀相似的微信。
李廣密對這種耐心提出了反面理由:如果新的智能體網路不建立在微信上,舊網路也未必永遠有價值。姚順雨沒有解決這個風險,只指出要看人類關係將如何變化,人與人的社交、職業互動,會有多少轉為智能體之間的互動。安全問題同樣沒有得到制度性答案。他承認擔心,也認為產品安全有商業誘因,但當時更著眼於智能體尚未創造足夠價值。
研究品味,是找出能逼出通用方法的具體任務
姚順雨把自己做研究的偏好歸成兩條:簡單而通用的方法,以及能在真實數位世界產生價值的任務。ReAct 出現,不只是因為一個抽象好點子,而是他把自然語言處理與遊戲、強化學習的任務放在一起看。學科交界讓他能問出不同問題。
他說,研究最難的是方法與任務彼此適合,就像創業需要產品與需求契合。許多通用方法,最初都被一個具體問題逼出來。他舉 PPO 與 Transformer 為例;尤其注意力機制,受到翻譯任務很深的影響。不是先追求抽象的通用性,再隨便找個演示,而是選一個會暴露現有方法限制、又值得解的任務。
他的野心也在變。普林斯頓時,想像的是讓智能體創造下一個相對論;到矽谷後,開始對組織本身感興趣:股份制、組織方式也像通用方法,能讓許多不同成果出現。做出能有效組織智能體的系統,可能與造一個科學家同樣有意思。
這種品味部分來自他喜歡雜讀、跨學科,也知道一個人再有精力,能理解的仍只是人類知識的一小部分。他不只想自己變得通用,而想創造比自己更能處理不同事情的系統。說唱也是一個例子:節奏與好聽難量化,風格流行太多又不再獨特,真正好的作品還帶著對生活的理解。他曾用 GPT-3 試生成有內容的說唱,仍覺得這類能力困難;這又碰到了「如何定義好結果」的問題。
談學習材料,他推薦《智能簡史》,並不把反向傳播、Transformer、GPT 中的任何單一篇工作,封為唯一決定 AI 進程的論文。在他看來,能力是長期累積的結果。語言也不是每個專門領域最有效率的表示,但其既有知識與人類使用習慣,仍使它具有特殊位置。他甚至猜測,即使機器可以發明效率更高的新語言,最後仍可能大量使用英語,因為已累積的知識與人類想與它溝通的需要都在這裡。
他希望做一件形態真正不同的事,而不只是因為複製既有公司比較有機會賺錢。對於別人已能做的題目,導師的建議讓他印象很深:可以讓別人去做。但他也承認,沒有哪件發明在絕對意義上只有自己能完成。這不是把個人不可替代性當作選題標準,而是在探索空間很大時,選擇一條自己認為有價值、尚未被充分走過的路。
整場對談最後仍回到產品,而不是模型排行榜:他當時最重要的下注,是會出現不同於現有助手的主要產品形態。對 Agent 創業者,最簡單也最難的問題仍是,你究竟替使用者增加了什麼價值。