一句話定義

深度學習(Deep Learning)是機器學習的一個分支,用很多層的人工神經網路,讓電腦從大量資料中一層一層自己學出該看哪些特徵。

30 秒看重點

  • 是什麼:深度學習是用「多層神經網路」做機器學習的方法,「深」指的是網路的層數多,不是指它想得很深。
  • 為什麼重要:ChatGPT、Claude、Gemini 這類大型語言模型,還有影像辨識、語音辨識、機器翻譯,現在幾乎都是深度學習模型。
  • 跟誰相關:想看懂 AI 新聞的一般人、評估 AI 投資或導入的主管、準備入門 AI 的學生與工程師都會碰到它。
  • 最常見的誤解:以為深度學習是一種跟機器學習平行的新技術,其實它是機器學習裡面的一塊。
  • 記住這件事就夠了:傳統機器學習要人先決定「看哪些特徵」,深度學習連特徵都讓電腦自己學。

深度學習到底是什麼?

深度學習是機器學習的一個子集,專門用「很多層」的神經網路來學習,每一層把資料轉換一次,層數疊得越多,模型能抓到的規律就越複雜。

開源教科書《Dive into Deep Learning》(D2L)的定義很乾脆:深度學習是機器學習裡,處理「以多層神經網路為基礎的模型」的那個分支。它還特別解釋了名字:之所以叫「深」,正是因為這些模型會學習很多層的轉換。

所以,「深」講的是結構,不是智慧程度(這個名字真的很會讓人誤會)。

那神經網路又是什麼?微軟在 GitHub 上的免費課程《AI-For-Beginners》說,神經網路是模仿大腦的數學模型。每個人工神經元做的事情其實很單純:把收到的幾個輸入各自乘上一個權重、加總起來,再丟進一個非線性的「激活函數」得到輸出。

一顆神經元很笨,可是一大堆接成好幾層,就不一樣了。

生活比喻:你可以想像一條手搖飲的出餐流水線。第一個人只負責判斷「是茶還是奶」,第二個人看「甜度冰塊」,第三個人負責封膜,最後一個人才決定這杯要交給哪位外送員。每個人只做一件小事,但整條線串起來,就能處理一天上千杯客製化訂單。深度學習的每一層就是線上的一個人,層數越多,處理得了的訂單就越刁鑽。

為什麼會有深度學習?

深度學習出現,是為了解決傳統機器學習最累人的一件事:特徵要靠人手工設計。

在機器學習的年代,工程師得先決定電腦該看什麼。D2L 提到,以前電腦視覺會用 Canny 邊緣偵測、SIFT 這類人工設計的特徵擷取方法,先把照片轉成一堆數字,再交給模型判斷。

這套做法常卡在兩個地方:

  • 特徵設計靠老師傅:要辨識一隻貓,你得先想好「耳朵的角度」「鬍鬚的線條」該怎麼量化。換成辨識車牌、辨識語音,又要從頭設計一套。
  • 有些規律人根本講不出來:《AI-For-Beginners》舉過一個例子,從照片估一個人的年紀,很難寫成清楚的規則。

深度學習的解法是:把特徵擷取也交給模型自己學。D2L 說,深度學習方法最大的共同點就是「端對端訓練」,整個系統一起調整,不用把每個零件拆開各調各的。那些人工設計的濾鏡,被自動調整出來的濾鏡取代了。

說白了,就是把老師傅的工作也外包給電腦。

深度學習是怎麼運作的?

先講結論:深度學習就是「資料從第一層傳到最後一層得出答案,再比對錯多少,從最後一層往回調整每個權重」,反覆做幾百萬次。

拆成三步:

  1. 往前傳,猜一個答案:資料進入輸入層,經過一層又一層的「隱藏層」,最後由輸出層給出預測。例如丟一張照片進去,輸出「這是貓的機率 70%」。
  2. 算錯多少:把預測拿去跟正確答案比,算出誤差有多大,這個數字叫損失(loss)。
  3. 往回調權重:用一種叫**反向傳播(backpropagation)**的方法,從損失出發往回推,算出每個權重該往哪個方向調、調多少。《AI-For-Beginners》說,實務上會每次抽一小批資料來算,這叫隨機梯度下降(SGD)。

這邊真的關鍵是「非線性」。D2L 解釋過:如果每一層都只是線性運算,疊再多層,數學上都會塌縮成一層,等於白疊。所以每層之間要放激活函數,最常見的是 ReLU,規則簡單到不行,正數照原樣通過,負數一律變 0。

「那一層就夠了吧?」D2L 也提到,理論上只要一層隱藏層、神經元夠多,就能模擬任何函數,但真的要把它訓練出來非常困難。實務上,疊多層通常比較好學。

名詞小教室:你常聽到模型有「幾千億參數」,指的就是這些權重的數量。像 Transformer 就是一種深度學習的網路架構,現在主流的大型語言模型幾乎都是用它疊出來的。

深度學習跟機器學習差在哪?

一句話:深度學習是機器學習的一部分,最大差別在於傳統機器學習要人決定看哪些特徵,深度學習讓多層神經網路自己學出特徵。

比較項目傳統機器學習深度學習
關係機器學習的大範圍機器學習的子集
特徵從哪來多半由人手工設計由多層神經網路自己學
資料需求資料少也能做通常需要大量資料
運算需求一般電腦就跑得動大型模型高度依賴 GPU
擅長的資料表格類資料,例如交易紀錄圖片、聲音、文字這類雜亂資料
常用工具scikit-learnPyTorch、TensorFlow
我會在什麼情況選它資料不多、要解釋得清楚資料很多、規律人講不出來

從這張表可以看出來,深度學習不是比較「高級」的機器學習,而是比較「吃資源」的機器學習。

我的判斷是:如果你手上只有幾千筆 Excel 表格,硬上深度學習多半是殺雞用牛刀 但簡報上寫深度學習比較好募資。要處理照片、語音、大量文字,才是它真正發揮的地方。

為什麼深度學習 2012 年後突然爆紅?

深度學習爆紅靠的是三樣東西同時到位:大量資料、GPU 運算力、更好的訓練方法,引爆點是 2012 年的影像辨識比賽。

神經網路的概念其實很老。《AI-For-Beginners》提到,1943 年 Warren McCulloch 與 Walter Pitts 就描述了早期的神經元模型。D2L 則說,神經網路研究在 1995 到 2005 年左右陷入停滯,冷了整整十年。

轉捩點在 ImageNet 這個約 1,400 萬張標註圖片的資料集。根據《AI-For-Beginners》,2012 年卷積神經網路第一次用在這個比賽的影像分類,錯誤率從將近 30% 一口氣降到 16.4%。多個搜尋來源都指出,這個模型就是 AlexNet,有 8 層,用兩張 NVIDIA 顯示卡訓練。

之後的進展快到誇張:

  • 2015 年:微軟研究院的 ResNet 在影像分類上達到人類水準(AI-For-Beginners)。
  • 2017 年:ImageNet 的 top-5 錯誤率,從 2010 年的 28% 降到 2.25%(D2L)。
  • 2018 年:Geoffrey Hinton、Yann LeCun、Yoshua Bengio 三人因深度神經網路的貢獻,獲頒 2018 年 ACM 圖靈獎,ACM 在 2019 年 3 月宣布,獎金 100 萬美元。

D2L 把原因講得很直白:資料量大爆發,運算能力主要靠 GPU 大幅進步,再加上 dropout 這類防止過度擬合的方法,以及注意力機制與 Transformer 架構。

題外話,我覺得這也是台灣半導體跟伺服器供應鏈老是跟著 AI 新聞一起被點名的原因,深度學習吃算力吃得很兇,晶片就是它的糧食。

你會在哪些 AI 工具看到深度學習?

先講結論:你現在用的 AI 產品,背後幾乎都是深度學習模型。

  • ChatGPT、Claude、Gemini:大型語言模型是用超深的神經網路,經過預訓練讀了海量文字練出來的。
  • 語音助理:D2L 舉的應用包含語音辨識,以及 Siri、Alexa、Google Assistant 這類智慧助理。
  • 翻譯與影像:《AI-For-Beginners》列出機器翻譯在 2018 年、看圖說話在 2020 年陸續達到人類水準。
  • 自駕車:D2L 提到,深度學習在自駕車上主要負責「看」的部分,也就是辨識路況。
  • 手機上的 AI 功能:手機和筆電裡的 NPU,就是專門在裝置上跑神經網路的晶片。

如果你是工程師,最常碰到的兩個框架是 PyTorch 跟 TensorFlow。PyTorch 的官方 README 寫著它提供「有 GPU 加速的張量運算」與「建構在自動微分系統上的深度神經網路」,採 BSD 風格授權。TensorFlow 最早由 Google Brain 團隊開發,採 Apache 2.0 授權。

學深度學習最常見的 3 個誤解

深度學習最大的誤解是把「深」當成「深思熟慮」,其實它只是層數多。

  1. 誤解一:深度學習是跟機器學習不同的東西 — 真相是它就是機器學習的子集。說深度學習一定是在講機器學習,反過來就不一定。
  2. 誤解二:神經網路就是在模擬人腦 — 真相是它只借了大腦的概念。《AI-For-Beginners》說它是大腦的「數學模型」,每顆神經元就是加權加總再過一個函數,跟真的腦細胞差很遠。
  3. 誤解三:層數越多一定越強 — 真相是疊越多層越難訓練,還容易背答案。D2L 提到 dropout 這類方法,就是專門用來壓住過度擬合的。

老實講,深度學習很強,但它擅長的是找規律,沒有真的懂道理,這也是 AI 會一本正經講錯話的原因之一。

想多了解深度學習,從哪開始?

沒有技術背景的話:先讀本站的機器學習百科,先搞懂「AI ⊃ 機器學習 ⊃ 深度學習」的大小圈關係就夠了。

有技術背景的話:微軟的《AI-For-Beginners》從感知器、多層網路一路教到反向傳播,用 PyTorch 跟 TensorFlow 兩套都有範例。想更扎實就讀 D2L,作者包括 Aston Zhang、Zachary C. Lipton、Mu Li、Alexander J. Smola,官方說已有 70 個國家、500 所大學拿來上課,而且免費(真的佛心)。


常見問題 FAQ

深度學習跟 AI 有什麼關係?

深度學習是人工智慧底下機器學習的一個子集。人工智慧是最大的範圍,機器學習是其中靠資料學習的方法,深度學習則是機器學習裡用多層神經網路的那一塊。現在主流的 AI 產品,例如 ChatGPT 這類大型語言模型,都是深度學習模型。

為什麼深度學習突然這麼紅?

神經網路的概念 1940 年代就有了,但直到大量資料、GPU 運算力與更好的訓練方法同時到位才爆發。2012 年卷積神經網路在 ImageNet 影像分類比賽大幅降低錯誤率,成為引爆點,之後語音辨識、機器翻譯與大型語言模型陸續突破。

我不是工程師也需要懂深度學習嗎?

需要懂基本觀念,但不用會寫程式。如果你常用 AI 工具,知道深度學習是從大量資料裡找規律,就能理解為什麼 AI 需要那麼多晶片和電力,也能理解為什麼它有時會講得很有自信卻是錯的。

深度學習的中文翻譯有沒有統一?

有,台灣與中國大陸都普遍使用「深度學習」,英文是 Deep Learning,常縮寫為 DL。差別在相關用詞,例如台灣說「神經網路」「資料」,中國大陸常說「神經網絡」「數據」。本站採用台灣用語。

學會深度學習之後,下一個該學什麼?

建議接著了解 Transformer,它是現代大型語言模型的核心架構;再讀預訓練,了解模型怎麼用海量資料練出來;最後可以看推論,理解模型訓練好之後是怎麼回答你的問題。


延伸閱讀


參考來源

  1. Dive into Deep Learning:Introduction|d2l-ai GitHub — 深度學習定義、「深」的意思、端對端訓練、ImageNet 錯誤率與發展脈絡。
  2. Dive into Deep Learning:Multilayer Perceptrons|d2l-ai GitHub — 隱藏層、非線性的必要、ReLU 與單層近似的說法。
  3. Dive into Deep Learning 專案首頁|d2l-ai GitHub — 作者、支援框架與採用規模。
  4. AI-For-Beginners:Introduction to AI|Microsoft GitHub — ImageNet 規模、2012 年錯誤率、ResNet 與各項人類水準里程碑。
  5. AI-For-Beginners:Neural Networks|Microsoft GitHub — 神經網路定義、人工神經元運作、1943 年早期模型。
  6. AI-For-Beginners:Multi-Layered Perceptron|Microsoft GitHub — 多層網路、反向傳播與隨機梯度下降。
  7. PyTorch|GitHub — PyTorch 功能描述與授權。
  8. TensorFlow|GitHub — TensorFlow 起源與授權。

查證限制:2018 年 ACM 圖靈獎得主與獎金,以及 AlexNet 的層數與訓練用顯示卡數量,原始網站在撰寫環境無法開啟,以多個獨立搜尋結果交叉比對一致後才寫入,未列入參考來源。


整理一下重點:深度學習說穿了就是「把很多層神經網路疊起來,連特徵都讓電腦自己學」,「深」講的是層數,搞懂這點再看 AI 新聞真的會清楚很多。

希望這一篇有讓你對深度學習有比較具體的理解哩~如果發現事實錯誤、定義不準、或翻譯卡卡的,歡迎透過聯絡頁指正,看到我們會盡快修。

我們下篇文章見囉~

本條目由 Array 報報 AI 編輯部根據上方「參考來源」整理,文末已揭露 AI 生成 + 公開資料引用。