深度學(xué)習(xí)革命正在由 Apple Intelligence 和 Gemini 等人工智能平臺(tái)推動(dòng)，影響著從汽車到金融等各個(gè)行業(yè)。工程師們學(xué)習(xí)深度學(xué)習(xí)以解決復(fù)雜的問題。本文為深度學(xué)習(xí)項(xiàng)目提供指導(dǎo)，著重于五個(gè)基本要素：數(shù)據(jù)、模型架構(gòu)、損失函數(shù)、優(yōu)化器和評(píng)估過程。它介紹了常見問題和最佳實(shí)踐，以避免在構(gòu)建深度學(xué)習(xí)模型時(shí)常見的陷阱，并提供策略來確保模型的準(zhǔn)確性、效率和泛化能力。

我們的世界正在經(jīng)歷一場(chǎng)由深度神經(jīng)網(wǎng)絡(luò)驅(qū)動(dòng)的人工智能革命。隨著 Apple Intelligence 和 Gemini 的出現(xiàn)，人工智能已經(jīng)普及到每個(gè)擁有手機(jī)的人。除了消費(fèi)者人工智能之外，我們還將深度學(xué)習(xí)模型應(yīng)用于汽車、金融、醫(yī)療、制造業(yè)等多個(gè)行業(yè)。這促使許多工程師學(xué)習(xí)深度學(xué)習(xí)技術(shù)并將其應(yīng)用于解決項(xiàng)目中的復(fù)雜問題。為了幫助這些工程師，必須制定一些指導(dǎo)原則，以防止在構(gòu)建這些黑盒模型時(shí)出現(xiàn)常見的陷阱。 

任何深度學(xué)習(xí)項(xiàng)目都涉及五個(gè)基本要素：數(shù)據(jù)、模型架構(gòu)、損失函數(shù)、優(yōu)化器和評(píng)估過程。設(shè)計(jì)和配置每個(gè)要素以確保模型正確收斂至關(guān)重要。本文將介紹與每個(gè)要素相關(guān)的一些推薦做法和常見問題及其解決方案。

數(shù)據(jù)

所有深度學(xué)習(xí)模型都需要大量數(shù)據(jù)，至少需要數(shù)千個(gè)示例才能充分發(fā)揮其潛力。首先，重要的是確定不同的數(shù)據(jù)源，并設(shè)計(jì)適當(dāng)?shù)臋C(jī)制來選擇和標(biāo)記數(shù)據(jù)（如果需要）。這有助于建立一些啟發(fā)式數(shù)據(jù)選擇方法，并仔細(xì)考慮平衡數(shù)據(jù)以防止無意的偏差。例如，如果我們正在構(gòu)建一個(gè)用于人臉檢測(cè)的應(yīng)用程序，重要的是確保數(shù)據(jù)中沒有種族或性別偏見，以及在不同的環(huán)境條件下捕獲數(shù)據(jù)以確保模型的穩(wěn)健性。亮度、對(duì)比度、照明條件、隨機(jī)裁剪和隨機(jī)翻轉(zhuǎn)的數(shù)據(jù)增強(qiáng)也有助于確保適當(dāng)?shù)臄?shù)據(jù)覆蓋范圍。 

下一步是小心地將數(shù)據(jù)分成訓(xùn)練集、驗(yàn)證集和測(cè)試集，同時(shí)確保沒有數(shù)據(jù)泄漏。數(shù)據(jù)分割應(yīng)具有相似的數(shù)據(jù)分布，但訓(xùn)練集和測(cè)試集中不應(yīng)存在相同或非常密切相關(guān)的樣本。這很重要，因?yàn)槿绻?xùn)練樣本存在于測(cè)試集中，那么我們可能會(huì)看到高測(cè)試性能指標(biāo)，但生產(chǎn)中仍有幾個(gè)無法解釋的關(guān)鍵問題。此外，數(shù)據(jù)泄漏幾乎不可能知道模型改進(jìn)的替代想法是否帶來了任何真正的改進(jìn)。因此，代表生產(chǎn)環(huán)境的多樣化、防泄漏、平衡的測(cè)試數(shù)據(jù)集是提供強(qiáng)大的基于深度學(xué)習(xí)的模型和產(chǎn)品的最佳保障。

模型架構(gòu)

為了開始模型設(shè)計(jì)，首先要確定手頭任務(wù)的延遲和性能要求。然后，可以查看類似這樣的開源基準(zhǔn)，以確定一些合適的論文。無論我們使用 CNN 還是 transformer，一開始就有一些預(yù)先訓(xùn)練好的權(quán)重會(huì)有所幫助，以減少訓(xùn)練時(shí)間。如果沒有可用的預(yù)訓(xùn)練權(quán)重，那么對(duì)每個(gè)模型層進(jìn)行合適的模型初始化對(duì)于確保模型在合理的時(shí)間內(nèi)收斂非常重要。此外，如果可用的數(shù)據(jù)集非常?。◣装賯€(gè)樣本或更少），那么訓(xùn)練整個(gè)模型就沒有意義了，而應(yīng)該只對(duì)最后幾個(gè)特定于任務(wù)的層進(jìn)行微調(diào)。

現(xiàn)在，是否使用 CNN、Transformer 或兩者的組合取決于具體問題。對(duì)于自然語言處理，Transformer 已被確定為最佳選擇。對(duì)于視覺，如果延遲預(yù)算非常緊張，CNN 仍然是更好的選擇；否則，應(yīng)該嘗試使用 CNN 和 Transformer 以獲得所需的結(jié)果。

損失函數(shù)

分類任務(wù)中最流行的損失函數(shù)是交叉熵?fù)p失，回歸任務(wù)中最流行的損失函數(shù)是 L1 或 L2 (MSE) 損失。但是，為了在模型訓(xùn)練期間保持?jǐn)?shù)值穩(wěn)定性，可以使用某些變體。例如，在 Pytorch 中，BCEWithLogitsLoss 將 S 型層和 BCELoss 合并為一個(gè)類，并使用對(duì)數(shù)和指數(shù)技巧，這使其比 S 型層后跟 BCELoss 更具有數(shù)值穩(wěn)定性。另一個(gè)示例是 SmoothL1Loss，它可以看作是 L1 和 L2 損失的組合，并使 L1 損失平滑接近于零。但是，使用平滑 L1 損失時(shí)必須小心，以適當(dāng)設(shè)置 beta，因?yàn)槠淠J(rèn)值 1.0 可能不適合在正弦和余弦域中回歸值。下圖顯示了 L1、L2 (MSE) 和平滑 L1 損失的損失值以及不同 beta 值下平滑 L1 損失值的變化。

優(yōu)化器

動(dòng)量隨機(jī)梯度下降法傳統(tǒng)上是研究人員針對(duì)大多數(shù)問題非常流行的優(yōu)化器。然而，在實(shí)踐中，Adam 通常更易于使用，但存在泛化問題。Transformer 論文推廣了 AdamW 優(yōu)化器，它將權(quán)重衰減因子的選擇與學(xué)習(xí)率分離開來，并顯著提高了 Adam 優(yōu)化器的泛化能力。這使得 AdamW 成為當(dāng)今優(yōu)化器的最佳選擇。 

此外，沒有必要對(duì)整個(gè)網(wǎng)絡(luò)使用相同的學(xué)習(xí)率。通常，如果從預(yù)訓(xùn)練的檢查點(diǎn)開始，最好凍結(jié)或保持初始層的低學(xué)習(xí)率，并為更深的任務(wù)特定層保持較高的學(xué)習(xí)率。

評(píng)價(jià)與概括

開發(fā)適當(dāng)?shù)哪Ｐ驮u(píng)估框架是防止生產(chǎn)中出現(xiàn)問題的關(guān)鍵。這不僅應(yīng)涉及完整基準(zhǔn)數(shù)據(jù)集的定量和定性指標(biāo)，還應(yīng)涉及特定場(chǎng)景的定量和定性指標(biāo)。這樣做是為了確保性能在每種情況下都是可接受的，并且不會(huì)出現(xiàn)倒退。 

應(yīng)謹(jǐn)慎選擇性能指標(biāo)，以確保它們能夠恰當(dāng)?shù)卮硪獙?shí)現(xiàn)的任務(wù)。例如，在許多不平衡的問題中，精度/召回率或 F1 分?jǐn)?shù)可能比準(zhǔn)確率更好。有時(shí)，我們可能有多個(gè)指標(biāo)來比較替代模型，那么通常有助于提出一個(gè)可以簡(jiǎn)化比較過程的單一加權(quán)指標(biāo)。例如，nuScenes 數(shù)據(jù)集引入了 NDS（nuScenes 檢測(cè)分?jǐn)?shù)），它是 mAP（平均精度）、mATE（平均平移誤差）、mASE（平均尺度誤差）、mAOE（平均方向誤差）、mAVE（平均速度誤差）和 mAAE（平均屬性誤差）的加權(quán)和，以簡(jiǎn)化各種 3D 物體檢測(cè)模型的比較。

此外，還應(yīng)盡可能可視化模型輸出。這可能涉及在輸入圖像上繪制邊界框（用于 2D 物體檢測(cè)模型）或在激光雷達(dá)點(diǎn)云上繪制長(zhǎng)方體（用于 3D 物體檢測(cè)模型）。這種手動(dòng)驗(yàn)證可確保模型輸出合理，并且模型錯(cuò)誤中沒有明顯的模式。 

此外，密切關(guān)注訓(xùn)練和驗(yàn)證損失曲線有助于檢查是否存在過度擬合或欠擬合。過度擬合是一種問題，其中驗(yàn)證損失與訓(xùn)練損失不同并開始增加，表示模型的泛化能力不佳。通常可以通過添加適當(dāng)?shù)恼齽t化（如權(quán)重衰減、drop-out 層）、添加更多數(shù)據(jù)增強(qiáng)或使用早期停止來解決此問題。另一方面，欠擬合表示模型沒有足夠的容量來擬合訓(xùn)練數(shù)據(jù)的情況。這可以通過訓(xùn)練損失下降不夠和/或在整個(gè)時(shí)期內(nèi)保持或多或少平坦來識(shí)別?？梢酝ㄟ^向模型添加更多層、減少數(shù)據(jù)增強(qiáng)或選擇不同的模型架構(gòu)來解決此問題。下圖展示了通過損失曲線的過度擬合和欠擬合的示例。

深度學(xué)習(xí)之旅

與傳統(tǒng)軟件工程不同，深度學(xué)習(xí)更具實(shí)驗(yàn)性，需要仔細(xì)調(diào)整超參數(shù)。但是，如果上述基本原則得到照顧，這個(gè)過程會(huì)更易于管理。由于模型是黑匣子，我們必須利用損失曲線、輸出可視化和性能指標(biāo)來了解模型行為并相應(yīng)地采取糾正措施。希望本指南可以讓您的深度學(xué)習(xí)之旅不那么費(fèi)力。

路由網(wǎng)(www.lu-you.com)您可以查閱其它相關(guān)文章！