30 秒看重點

  • OpenAI 與 Broadcom 聯手推出首顆自研推論晶片 Jalapeño,從設計到投片只花 9 個月,預計 2026 年底開始部署,直接挑戰 NVIDIA 的 AI 晶片霸主地位。
  • Google 一週內連續失去至少 4 位頂尖 AI 研究員,包括諾貝爾獎得主 John Jumper,分別被 Anthropic 和 OpenAI 挖走,IPO 前景成為最大拉力。
  • Meta 正在開發代號「Arena」的 AI 預測市場 App,用自家 Llama 模型自動生成議題並裁定結果,搶進分析師預估可達兆元規模的預測市場。

OpenAI 為什麼要自己做 AI 晶片?

OpenAI 與 Broadcom 合作推出了 Jalapeño,這是 OpenAI 的第一顆自研推論晶片,目標是降低對 NVIDIA GPU 的依賴,讓 ChatGPT 等服務的運算成本和能耗大幅下降。

這顆晶片有幾個厲害的地方。據 CNN、CNBC 等多家媒體報導,Jalapeño 從初始設計到製造投片只花了 9 個月,這可能是高效能半導體史上最快的 ASIC 開發紀錄。OpenAI 還動用了自家的 AI 模型來協助晶片設計。它是一顆「光罩尺寸」等級的超大晶片,根據 OpenAI 研究團隊的實際使用模式,針對運算核心、記憶體搬移、網路通訊和模型服務模式做了深度客製。初步測試顯示,Jalapeño 的每瓦效能明顯優於目前最頂級的方案。Broadcom 執行長 Hock Tan 親自把第一批晶片交給了 Sam Altman 和 Greg Brockman。

對一般使用者來說,如果 OpenAI 能用自家晶片跑 ChatGPT,推論成本降下來,AI 服務的訂閱費用未來就有降價空間。我們之前報導過 AI 晶片領域的競爭正在白熱化,高通在洽購 Tenstorrent、新創 Tensordyne 也推出了挑戰 NVIDIA 的推論晶片。現在 OpenAI 自己跳下來做,NVIDIA 的獨霸格局正在被多方夾擊。

名詞小教室:ASIC(Application-Specific Integrated Circuit)中文叫「特殊應用積體電路」。你可以把 NVIDIA 的 GPU 想成一把瑞士刀,什麼都能做但不一定每件事都最快;ASIC 則是專門為切牛排打造的牛排刀,只做一件事,但做得又快又省力。Jalapeño 就是一把專門為 AI 推論打造的牛排刀。

Google 的 AI 人才為什麼一直在跑?

Google 在短短一週內再度失去至少 4 位重量級 AI 研究員,分別被 Anthropic 和 OpenAI 挖走,投資人對 Google 的 AI 競爭力開始產生疑慮。

據 Bloomberg 在 6 月 24 日報導,Jonas Adler 和 Alexander Pritzel 計畫離開 Google 加入 Anthropic。Adler 參與了 Google 的 AI 程式撰寫專案,Pritzel 負責 AI 系統訓練,兩人都被內部視為 Gemini 模型的核心貢獻者。更早幾天,諾貝爾獎得主 John Jumper 也宣布加入 Anthropic,資深研究工程師 Arthur Conmy 同樣跳槽到 Anthropic 做 AI 安全研究。加上上週 Transformer 論文共同作者 Noam Shazeer 才剛從 Google DeepMind 跳槽到 OpenAI,短短幾天的出走名單已經讓人看得觸目驚心。

這些人為什麼要離開?據 TechCrunch 和 Yahoo Finance 分析,Anthropic 和 OpenAI 都在準備 IPO,加入估值飆漲的新創等於在上市前拿到股票,潛在報酬遠超大廠的穩定薪資。對 Google 來說,問題不只是少了幾個人。市場的解讀更直接:連自家最優秀的人都認為新創的前景比 Google 更好,這對 Gemini 團隊的士氣和投資人信心都是不小的打擊。

Meta 的 AI 預測市場 App 是什麼?

Meta 正在開發一款獨立的 AI 預測市場 App,讓使用者對真實世界的事件下注預測,而 AI 負責出題、推薦和裁定結果。

據 NPR 和紐約時報報導,這款 App 內部代號為「Antwerp」和「FBForecast」,對外名稱定為「Arena」,是 Mark Zuckerberg 直接下令開發的。運作方式很特別:Meta 的 Llama 大型語言模型會自動從熱門話題中生成預測問題,並根據使用者偏好做個人化推薦。最關鍵的是,AI 還會負責裁定結果,也就是判斷某件事到底有沒有發生。Meta 要搶的是預測市場平台 Kalshi 和 Polymarket 在 2024 年美國大選期間爆紅後急速成長的市場,據 CNBC 報導,消息一出相關公司股價應聲下跌。

但讓 AI 來當裁判真的妥當嗎?講真的,預測市場的核心是結果裁定的公正性,如果 AI 判錯了或出現爭議,使用者的錢就直接受影響。Meta 過去在隱私保護上的紀錄算不上出色,要使用者同時把錢和信任交出來,這條路不會太好走。

名詞小教室:預測市場(Prediction Market)是讓人針對未來事件下注的平台,你可以想像成「用真金白銀投票」。比如「2028 年奧運主辦城市是哪裡?」你覺得是某個城市就買進那個選項,猜對了就賺錢。跟賭博不同的是,預測市場的價格會反映群體對事件發生機率的判斷,準確度有時比專業民調還高。

編輯觀點:AI 競爭的戰場正在從模型轉向基礎建設

把今天三則新聞攤開來看,會發現一個主流媒體沒有點出的共同訊號:AI 競爭的核心戰場正在從「模型誰比較聰明」悄悄轉向「基礎建設誰比較扎實」。

OpenAI 做晶片,不是想轉行賣硬體,而是發現模型再強,推論成本降不下來、算力被 NVIDIA 一家掐著脖子,商業模式就沒辦法規模化。Google 人才外流的本質也不只是薪資問題,是研究員用腳投票,表達他們認為創新的速度在新創而非大廠。Meta 做預測市場看似在搶新地盤,但底層動機是替 Llama 模型找到更多能直接產生營收的應用場景。

我覺得對台灣最值得關注的是晶片這條線。OpenAI 跟 Broadcom 合作做 ASIC、高通要買 Tenstorrent、Tensordyne 用台積電 3 奈米做推論晶片,這些案例都指向同一件事:AI 推論專用晶片的需求正在爆發,而這些晶片最後幾乎都要找台積電代工。對台灣半導體供應鏈來說,這不是壞事,但也意味著地緣政治的壓力只會越來越大。

明天值得關注

OpenAI Jalapeño 晶片的更多技術規格預計這幾天陸續釋出,特別值得觀察它跟 NVIDIA 最新的 Vera Rubin 平台在推論效能上怎麼比。另外,Google 會不會端出新的留才措施止血,也是短期內的觀察焦點。


常見問題 FAQ

Jalapeño 晶片跟 NVIDIA GPU 有什麼不同?

Jalapeño 是 OpenAI 與 Broadcom 合作開發的特殊應用晶片(ASIC),專門針對大型語言模型的推論工作最佳化,追求特定任務上最高的每瓦效能。NVIDIA GPU 則是通用加速器,能同時處理 AI 訓練和推論等多種工作負載,彈性較高但在單一任務上的效率不一定最好。Jalapeño 預計 2026 年底開始部署。

Google 流失 AI 人才對一般使用者有什麼影響?

短期內一般使用者不會有明顯感受,Google 仍然擁有龐大的 AI 研究團隊。但中長期來看,持續流失頂尖研究人才可能拖慢 Gemini 模型的迭代速度,而 Anthropic 和 OpenAI 則會因為吸納這些人才而加速產品改進。對使用者來說,AI 工具的競爭格局可能因此進一步洗牌。

預測市場是什麼?跟賭博有什麼不同?

預測市場是讓使用者針對未來事件的結果進行交易的平台,例如「某家公司下季營收會不會超過 100 億?」。跟賭博的差異在於,預測市場的合約價格會即時反映群體對事件發生機率的判斷,因此被學術界視為一種有效的資訊匯集工具。目前最大的兩家平台是 Kalshi 和 Polymarket,Meta 計畫用 Llama 模型切入這個市場。


覺得這篇快報有幫助嗎?歡迎分享給同樣關注 AI 趨勢的朋友,我們每天更新,讓你不錯過任何重要的 AI 動態。