30 秒看重點
- 輝達 8 月 24 日宣布專攻 AI 推論的 Groq 3 LPX 進入全面量產,Artificial Analysis 實測在 10 萬 token 長脈絡下跑出每秒 3,400 個 token 的輸出速度。
- 湯森路透同一天推出自有大型語言模型 Thomson,兩年投入約 4,000 萬美元,但最後一次訓練跑只花了大約 45 萬美元。
- 小鵬汽車的機器人部門單輪募得超過 9 億美元,投後估值逾 63 億美元,由 IDG 資本領投,騰訊與阿里巴巴以戰略投資人身分進場。
輝達的 Groq 3 LPX 憑什麼快 4 倍?
因為它只負責 AI 回答問題時「一個字一個字吐出來」的那一段,把最吃延遲的工作從 GPU 手上接走,專心做這件事就快得起來。
這顆晶片是輝達花 200 億美元把 Groq 團隊整組挖進來之後的第一個成果,8 月 24 日在 Hot Chips 2026 宣布全面量產。Artificial Analysis 拿開源模型 Gemma 4 31B 實測,10 萬 token 長脈絡下每秒吐出 3,400 個 token;輝達說這比最接近的替代平台快 4 倍。首批客戶是 Nebius、CoreWeave 這類 neocloud(專做 AI 算力出租的新型雲端商)。
架構上它跟 Vera Rubin NVL72 是搭檔關係:Rubin GPU 先把你丟進去的長文件嚼完,LPX 再接手把答案吐出來。簡單來講就是一個讀題、一個寫答案。
對你我的差別在等待感。AI 代理人跑一串工具呼叫時,慢的通常不是「想」而是「講」,這段快 4 倍,原本要等好幾分鐘的任務會縮到幾十秒。
不過 The Register 跟 the-decoder 都提醒了一句:4 倍是拿誰、用什麼條件比出來的,官方沒有講得很清楚。畢竟球員兼裁判的數字,看看就好 何況那 200 億總要交代點成績。
名詞小教室:推論(inference) 是模型訓練完之後、真正拿去回答問題的階段。你可以想像成廚師學藝是訓練,出餐是推論。以前大家比誰學得快,現在客人排隊,比的是出餐速度。
前一天才傳出輝達 AI 伺服器要漲逾 15%,隔天就補上速度牌,節奏抓得滿準的。
湯森路透為什麼要自己養一個法律 AI 模型?
因為它要的不是更聰明的模型,是更懂法律的模型,而且要自己握著方向盤。
湯森路透 8 月 24 日推出 Thomson,這是它第一個自有的大型語言模型。做法不是從零開始練,而是拿開源模型當底,再用 Westlaw、Practical Law 這些累積數十年的法律與稅務內容,加上數百位主題專家去調教。官方也強調客戶資料不會拿去訓練。
最有意思的是帳單。兩年下來人力加運算大約燒掉 4,000 萬美元,可是最後那一次決定性的訓練跑,只花了大約 45 萬美元。你沒看錯,是 45 萬,不是 4,500 萬(兩年份的實驗才是大宗)。
第一個上場的功能是 CoCounsel Legal 裡的表格化分析,從成堆的合約、盡職調查與訴訟文件裡抽出結構化資訊。老實講這種活最痛苦也最不需要創意,交給機器剛剛好。
名詞小教室:垂直模型 就是只服務單一領域的 AI。你可以想像成一個已經會說中文的人,再送去專門學看病歷,通用能力沒變強,但在那個科別裡準得多。
有一點要誠實講:Thomson 的基礎模型到底是哪一個,各家報導說法不一致,有的指向阿里巴巴的 Qwen 系列,有的指向自家 2024 年併購來的團隊成果,目前沒有定論。
小鵬機器人募到 9 億美元,錢要花去哪?
拿去把 IRON 人形機器人真的量產出來,而不是繼續做展場明星。
小鵬汽車的機器人部門單輪拿下超過 9 億美元,投後估值逾 63 億美元,由 IDG 資本領投、高榕創投參與,騰訊跟阿里巴巴以戰略投資人身分進場。多家媒體形容這是中國具身智慧領域史上最大的單輪私募。
錢的用途講得很具體:軟硬體研發、實體 AI 模型的訓練與迭代、高品質資料生成,還有量產產線。時間表是 IRON 今年底量產,先擺自家門市與園區,2027 年才在中國與海外交付,目標年底月產 1,000 台。
規格面,IRON 有 76 個自由度,搭三顆自研圖靈 AI 晶片、算力最高 2,250 TOPS。自由度可以想成關節能獨立轉動的方向數,數字越高動作越像人。
「所以機器人真的要進家庭了嗎?」還早啦。先進門市當接待、進廠區搬東西,這才是接下來兩年會看到的畫面。上週宇樹科技掛牌首日暴漲 629%,這週小鵬拿到史上最大單輪,資金明顯在同一個方向堆。
編輯觀點:這三則沒有一則在比誰的模型更大
畫個重點吧:今天沒有任何一家公司宣布「我的模型參數更多」。輝達的新晶片只做吐字那一段、湯森路透的模型只懂法律、小鵬的錢全砸在把機器人做出來。三件事放一起看,訊號是產業把資源從「通用規模」挪去「特定用途的單位成本」。
其中我覺得被低估最嚴重的是那個 45 萬美元。它等於公開示範了一件事:只要你手上有夠深的專業資料,把開源模型調成領域專家,成本可以掉到一個中型專案的等級。台灣的法律、會計、醫療、製造業者手上其實都躺著這種資料,過去卡在「訓練模型太貴」的理由,這條線正在鬆動。
台灣還有另一個位置。Vera Rubin 機櫃的組裝與散熱大多落在台灣供應鏈,LPX 量產代表機櫃裡多一種要塞的東西,對代工是新料號、對電力是新負擔。順帶一提,過去講 AI 吃電幾乎都在講訓練,可是訓練是一次性的,推論是天天在跑的,那才是真正會長大的那一塊。
明天值得關注
Groq 3 LPX 的實際單價與供貨時程還沒公開,這會決定它是旗艦展示品還是真的能鋪量。另一條是湯森路透會不會把 Thomson 開放給企業自行調校,那會讓競爭從「誰買得起」變成「誰的資料乾淨」。
常見問題 FAQ
AI 推論晶片跟訓練用的 GPU 差在哪裡?
訓練 GPU 負責讓模型學會東西,推論晶片負責讓學好的模型快速回答問題。輝達 Groq 3 LPX 就是專攻推論裡的輸出階段,在 Artificial Analysis 的實測中,以 10 萬 token 長脈絡跑出每秒 3,400 個 token。
企業自己訓練 AI 模型現在要花多少錢?
看做法。湯森路透 Thomson 兩年總投入約 4,000 萬美元,但那是含人力與多次實驗的總帳;官方揭露最後一次訓練跑的成本大約 45 萬美元,代表以開源模型為底做領域特化,門檻已經比從零訓練低非常多。
小鵬的 IRON 人形機器人什麼時候買得到?
依照小鵬公布的時程,IRON 預計 2026 年底進入量產,初期部署在自家門市與園區,2027 年才會在中國與海外市場正式交付,目標是 2026 年底達到月產 1,000 台。
整理一下今天的重點:專用晶片、專用模型、專用機器人,AI 這次真的不是在比大,是在比誰把一件事做到最省。
希望這篇快報有讓你掌握今天的 AI 動向哩~如果這篇有幫到你,歡迎分享給同樣在追 AI 趨勢的朋友。
我們明天見囉~
本快報由 Array 報報 AI 編輯部根據上方引用來源整理,每日 08:00 自動發佈。