一句話定義
深度學習(Deep Learning)是機器學習的一個分支,用很多層的人工神經網路,讓電腦從大量資料中一層一層自己學出該看哪些特徵。
30 秒看重點
- 是什麼:深度學習是用「多層神經網路」做機器學習的方法,「深」指的是網路的層數多,不是指它想得很深。
- 為什麼重要:ChatGPT、Claude、Gemini 這類大型語言模型,還有影像辨識、語音辨識、機器翻譯,現在幾乎都是深度學習模型。
- 跟誰相關:想看懂 AI 新聞的一般人、評估 AI 投資或導入的主管、準備入門 AI 的學生與工程師都會碰到它。
- 最常見的誤解:以為深度學習是一種跟機器學習平行的新技術,其實它是機器學習裡面的一塊。
- 記住這件事就夠了:傳統機器學習要人先決定「看哪些特徵」,深度學習連特徵都讓電腦自己學。
深度學習到底是什麼?
深度學習是機器學習的一個子集,專門用「很多層」的神經網路來學習,每一層把資料轉換一次,層數疊得越多,模型能抓到的規律就越複雜。
開源教科書《Dive into Deep Learning》(D2L)的定義很乾脆:深度學習是機器學習裡,處理「以多層神經網路為基礎的模型」的那個分支。它還特別解釋了名字:之所以叫「深」,正是因為這些模型會學習很多層的轉換。
所以,「深」講的是結構,不是智慧程度(這個名字真的很會讓人誤會)。
那神經網路又是什麼?微軟在 GitHub 上的免費課程《AI-For-Beginners》說,神經網路是模仿大腦的數學模型。每個人工神經元做的事情其實很單純:把收到的幾個輸入各自乘上一個權重、加總起來,再丟進一個非線性的「激活函數」得到輸出。
一顆神經元很笨,可是一大堆接成好幾層,就不一樣了。
生活比喻:你可以想像一條手搖飲的出餐流水線。第一個人只負責判斷「是茶還是奶」,第二個人看「甜度冰塊」,第三個人負責封膜,最後一個人才決定這杯要交給哪位外送員。每個人只做一件小事,但整條線串起來,就能處理一天上千杯客製化訂單。深度學習的每一層就是線上的一個人,層數越多,處理得了的訂單就越刁鑽。
為什麼會有深度學習?
深度學習出現,是為了解決傳統機器學習最累人的一件事:特徵要靠人手工設計。
在機器學習的年代,工程師得先決定電腦該看什麼。D2L 提到,以前電腦視覺會用 Canny 邊緣偵測、SIFT 這類人工設計的特徵擷取方法,先把照片轉成一堆數字,再交給模型判斷。
這套做法常卡在兩個地方:
- 特徵設計靠老師傅:要辨識一隻貓,你得先想好「耳朵的角度」「鬍鬚的線條」該怎麼量化。換成辨識車牌、辨識語音,又要從頭設計一套。
- 有些規律人根本講不出來:《AI-For-Beginners》舉過一個例子,從照片估一個人的年紀,很難寫成清楚的規則。
深度學習的解法是:把特徵擷取也交給模型自己學。D2L 說,深度學習方法最大的共同點就是「端對端訓練」,整個系統一起調整,不用把每個零件拆開各調各的。那些人工設計的濾鏡,被自動調整出來的濾鏡取代了。
說白了,就是把老師傅的工作也外包給電腦。
深度學習是怎麼運作的?
先講結論:深度學習就是「資料從第一層傳到最後一層得出答案,再比對錯多少,從最後一層往回調整每個權重」,反覆做幾百萬次。
拆成三步:
- 往前傳,猜一個答案:資料進入輸入層,經過一層又一層的「隱藏層」,最後由輸出層給出預測。例如丟一張照片進去,輸出「這是貓的機率 70%」。
- 算錯多少:把預測拿去跟正確答案比,算出誤差有多大,這個數字叫損失(loss)。
- 往回調權重:用一種叫**反向傳播(backpropagation)**的方法,從損失出發往回推,算出每個權重該往哪個方向調、調多少。《AI-For-Beginners》說,實務上會每次抽一小批資料來算,這叫隨機梯度下降(SGD)。
這邊真的關鍵是「非線性」。D2L 解釋過:如果每一層都只是線性運算,疊再多層,數學上都會塌縮成一層,等於白疊。所以每層之間要放激活函數,最常見的是 ReLU,規則簡單到不行,正數照原樣通過,負數一律變 0。
「那一層就夠了吧?」D2L 也提到,理論上只要一層隱藏層、神經元夠多,就能模擬任何函數,但真的要把它訓練出來非常困難。實務上,疊多層通常比較好學。
名詞小教室:你常聽到模型有「幾千億參數」,指的就是這些權重的數量。像 Transformer 就是一種深度學習的網路架構,現在主流的大型語言模型幾乎都是用它疊出來的。
深度學習跟機器學習差在哪?
一句話:深度學習是機器學習的一部分,最大差別在於傳統機器學習要人決定看哪些特徵,深度學習讓多層神經網路自己學出特徵。
| 比較項目 | 傳統機器學習 | 深度學習 |
|---|---|---|
| 關係 | 機器學習的大範圍 | 機器學習的子集 |
| 特徵從哪來 | 多半由人手工設計 | 由多層神經網路自己學 |
| 資料需求 | 資料少也能做 | 通常需要大量資料 |
| 運算需求 | 一般電腦就跑得動 | 大型模型高度依賴 GPU |
| 擅長的資料 | 表格類資料,例如交易紀錄 | 圖片、聲音、文字這類雜亂資料 |
| 常用工具 | scikit-learn | PyTorch、TensorFlow |
| 我會在什麼情況選它 | 資料不多、要解釋得清楚 | 資料很多、規律人講不出來 |
從這張表可以看出來,深度學習不是比較「高級」的機器學習,而是比較「吃資源」的機器學習。
我的判斷是:如果你手上只有幾千筆 Excel 表格,硬上深度學習多半是殺雞用牛刀 但簡報上寫深度學習比較好募資。要處理照片、語音、大量文字,才是它真正發揮的地方。
為什麼深度學習 2012 年後突然爆紅?
深度學習爆紅靠的是三樣東西同時到位:大量資料、GPU 運算力、更好的訓練方法,引爆點是 2012 年的影像辨識比賽。
神經網路的概念其實很老。《AI-For-Beginners》提到,1943 年 Warren McCulloch 與 Walter Pitts 就描述了早期的神經元模型。D2L 則說,神經網路研究在 1995 到 2005 年左右陷入停滯,冷了整整十年。
轉捩點在 ImageNet 這個約 1,400 萬張標註圖片的資料集。根據《AI-For-Beginners》,2012 年卷積神經網路第一次用在這個比賽的影像分類,錯誤率從將近 30% 一口氣降到 16.4%。多個搜尋來源都指出,這個模型就是 AlexNet,有 8 層,用兩張 NVIDIA 顯示卡訓練。
之後的進展快到誇張:
- 2015 年:微軟研究院的 ResNet 在影像分類上達到人類水準(AI-For-Beginners)。
- 2017 年:ImageNet 的 top-5 錯誤率,從 2010 年的 28% 降到 2.25%(D2L)。
- 2018 年:Geoffrey Hinton、Yann LeCun、Yoshua Bengio 三人因深度神經網路的貢獻,獲頒 2018 年 ACM 圖靈獎,ACM 在 2019 年 3 月宣布,獎金 100 萬美元。
D2L 把原因講得很直白:資料量大爆發,運算能力主要靠 GPU 大幅進步,再加上 dropout 這類防止過度擬合的方法,以及注意力機制與 Transformer 架構。
題外話,我覺得這也是台灣半導體跟伺服器供應鏈老是跟著 AI 新聞一起被點名的原因,深度學習吃算力吃得很兇,晶片就是它的糧食。
你會在哪些 AI 工具看到深度學習?
先講結論:你現在用的 AI 產品,背後幾乎都是深度學習模型。
- ChatGPT、Claude、Gemini:大型語言模型是用超深的神經網路,經過預訓練讀了海量文字練出來的。
- 語音助理:D2L 舉的應用包含語音辨識,以及 Siri、Alexa、Google Assistant 這類智慧助理。
- 翻譯與影像:《AI-For-Beginners》列出機器翻譯在 2018 年、看圖說話在 2020 年陸續達到人類水準。
- 自駕車:D2L 提到,深度學習在自駕車上主要負責「看」的部分,也就是辨識路況。
- 手機上的 AI 功能:手機和筆電裡的 NPU,就是專門在裝置上跑神經網路的晶片。
如果你是工程師,最常碰到的兩個框架是 PyTorch 跟 TensorFlow。PyTorch 的官方 README 寫著它提供「有 GPU 加速的張量運算」與「建構在自動微分系統上的深度神經網路」,採 BSD 風格授權。TensorFlow 最早由 Google Brain 團隊開發,採 Apache 2.0 授權。
學深度學習最常見的 3 個誤解
深度學習最大的誤解是把「深」當成「深思熟慮」,其實它只是層數多。
- 誤解一:深度學習是跟機器學習不同的東西 — 真相是它就是機器學習的子集。說深度學習一定是在講機器學習,反過來就不一定。
- 誤解二:神經網路就是在模擬人腦 — 真相是它只借了大腦的概念。《AI-For-Beginners》說它是大腦的「數學模型」,每顆神經元就是加權加總再過一個函數,跟真的腦細胞差很遠。
- 誤解三:層數越多一定越強 — 真相是疊越多層越難訓練,還容易背答案。D2L 提到 dropout 這類方法,就是專門用來壓住過度擬合的。
老實講,深度學習很強,但它擅長的是找規律,沒有真的懂道理,這也是 AI 會一本正經講錯話的原因之一。
想多了解深度學習,從哪開始?
沒有技術背景的話:先讀本站的機器學習百科,先搞懂「AI ⊃ 機器學習 ⊃ 深度學習」的大小圈關係就夠了。
有技術背景的話:微軟的《AI-For-Beginners》從感知器、多層網路一路教到反向傳播,用 PyTorch 跟 TensorFlow 兩套都有範例。想更扎實就讀 D2L,作者包括 Aston Zhang、Zachary C. Lipton、Mu Li、Alexander J. Smola,官方說已有 70 個國家、500 所大學拿來上課,而且免費(真的佛心)。
常見問題 FAQ
深度學習跟 AI 有什麼關係?
深度學習是人工智慧底下機器學習的一個子集。人工智慧是最大的範圍,機器學習是其中靠資料學習的方法,深度學習則是機器學習裡用多層神經網路的那一塊。現在主流的 AI 產品,例如 ChatGPT 這類大型語言模型,都是深度學習模型。
為什麼深度學習突然這麼紅?
神經網路的概念 1940 年代就有了,但直到大量資料、GPU 運算力與更好的訓練方法同時到位才爆發。2012 年卷積神經網路在 ImageNet 影像分類比賽大幅降低錯誤率,成為引爆點,之後語音辨識、機器翻譯與大型語言模型陸續突破。
我不是工程師也需要懂深度學習嗎?
需要懂基本觀念,但不用會寫程式。如果你常用 AI 工具,知道深度學習是從大量資料裡找規律,就能理解為什麼 AI 需要那麼多晶片和電力,也能理解為什麼它有時會講得很有自信卻是錯的。
深度學習的中文翻譯有沒有統一?
有,台灣與中國大陸都普遍使用「深度學習」,英文是 Deep Learning,常縮寫為 DL。差別在相關用詞,例如台灣說「神經網路」「資料」,中國大陸常說「神經網絡」「數據」。本站採用台灣用語。
學會深度學習之後,下一個該學什麼?
建議接著了解 Transformer,它是現代大型語言模型的核心架構;再讀預訓練,了解模型怎麼用海量資料練出來;最後可以看推論,理解模型訓練好之後是怎麼回答你的問題。
延伸閱讀
- 機器學習是什麼?Machine Learning 跟深度學習差在哪 — 深度學習的上一層大圈圈。
- Transformer 是什麼?中文意思與原理 — 現在最主流的深度學習架構。
- 預訓練(Pre-training)是什麼? — 深度學習模型放大到極限怎麼訓練。
- NPU 是什麼?中文叫神經處理單元 — 手機筆電裡專門跑神經網路的晶片。
- 微軟 Maia 300 挑戰輝達 — 大廠搶做 AI 晶片,背後就是深度學習的算力需求。
參考來源
- Dive into Deep Learning:Introduction|d2l-ai GitHub — 深度學習定義、「深」的意思、端對端訓練、ImageNet 錯誤率與發展脈絡。
- Dive into Deep Learning:Multilayer Perceptrons|d2l-ai GitHub — 隱藏層、非線性的必要、ReLU 與單層近似的說法。
- Dive into Deep Learning 專案首頁|d2l-ai GitHub — 作者、支援框架與採用規模。
- AI-For-Beginners:Introduction to AI|Microsoft GitHub — ImageNet 規模、2012 年錯誤率、ResNet 與各項人類水準里程碑。
- AI-For-Beginners:Neural Networks|Microsoft GitHub — 神經網路定義、人工神經元運作、1943 年早期模型。
- AI-For-Beginners:Multi-Layered Perceptron|Microsoft GitHub — 多層網路、反向傳播與隨機梯度下降。
- PyTorch|GitHub — PyTorch 功能描述與授權。
- TensorFlow|GitHub — TensorFlow 起源與授權。
查證限制:2018 年 ACM 圖靈獎得主與獎金,以及 AlexNet 的層數與訓練用顯示卡數量,原始網站在撰寫環境無法開啟,以多個獨立搜尋結果交叉比對一致後才寫入,未列入參考來源。
整理一下重點:深度學習說穿了就是「把很多層神經網路疊起來,連特徵都讓電腦自己學」,「深」講的是層數,搞懂這點再看 AI 新聞真的會清楚很多。
希望這一篇有讓你對深度學習有比較具體的理解哩~如果發現事實錯誤、定義不準、或翻譯卡卡的,歡迎透過聯絡頁指正,看到我們會盡快修。
我們下篇文章見囉~
本條目由 Array 報報 AI 編輯部根據上方「參考來源」整理,文末已揭露 AI 生成 + 公開資料引用。