什么是機(jī)器學(xué)習(xí)中的模型部署？
在機(jī)器學(xué)習(xí)中，模型部署是將機(jī)器學(xué)習(xí)模型集成到現(xiàn)有生產(chǎn)環(huán)境中的過(guò)程，在該環(huán)境中，模型可以接受輸入并返回輸出。目標(biāo)是讓其他人可以使用經(jīng)過(guò)訓(xùn)練的機(jī)器學(xué)習(xí)模型的預(yù)測(cè)。
大多數(shù)在線資源側(cè)重于機(jī)器學(xué)習(xí)生命周期的前期步驟，例如探索性數(shù)據(jù)分析(EDA)、模型選擇和模型評(píng)估。然而，模型部署是一個(gè)似乎很少討論的話題，因?yàn)樗赡芎軓?fù)雜。沒(méi)有軟件工程或DevOps背景的人很難理解部署。本文將詳細(xì)概述，什么是模型部署、模型的高級(jí)架構(gòu)、部署模型的不同方法，以及確定部署方法時(shí)要考慮的因素。
什么是模型部署？
部署機(jī)器學(xué)習(xí)模型，也稱(chēng)為模型部署，簡(jiǎn)單來(lái)說(shuō)就是將機(jī)器學(xué)習(xí)模型集成到現(xiàn)有的生產(chǎn)環(huán)境中，在該環(huán)境中，模型可以接受輸入并返回輸出。部署模型的目的是讓其他人（無(wú)論是用戶(hù)、管理人員還是其他系統(tǒng)）可以使用訓(xùn)練有素的機(jī)器學(xué)習(xí)模型進(jìn)行預(yù)測(cè)。
模型部署與機(jī)器學(xué)習(xí)系統(tǒng)架構(gòu)密切相關(guān)，機(jī)器學(xué)習(xí)系統(tǒng)架構(gòu)是指系統(tǒng)內(nèi)軟件組件的排列和交互，以實(shí)現(xiàn)預(yù)定義的目標(biāo)。
模型部署標(biāo)準(zhǔn)
在部署模型之前，機(jī)器學(xué)習(xí)模型需要滿足幾個(gè)標(biāo)準(zhǔn)才能準(zhǔn)備好部署：
可移植性：這是指軟件從一臺(tái)機(jī)器或系統(tǒng)轉(zhuǎn)移到另一臺(tái)機(jī)器或系統(tǒng)的能力。便攜式模型是一種響應(yīng)時(shí)間相對(duì)較短，且可以輕松重寫(xiě)的模型?？蓴U(kuò)展性：這是指模型可以擴(kuò)展的規(guī)模?？蓴U(kuò)展模型是一種無(wú)需重新設(shè)計(jì)即可維持其性能的模型。這一切都將在生產(chǎn)環(huán)境中進(jìn)行，生產(chǎn)環(huán)境是一個(gè)術(shù)語(yǔ)，用于描述軟件和其他產(chǎn)品實(shí)際投入運(yùn)行以供最終用戶(hù)使用的環(huán)境。
用于模型部署的機(jī)器學(xué)習(xí)系統(tǒng)架構(gòu)
從高層次來(lái)看，機(jī)器學(xué)習(xí)系統(tǒng)有四個(gè)主要部分：
數(shù)據(jù)層：數(shù)據(jù)層提供對(duì)模型所需的所有數(shù)據(jù)源的訪問(wèn)。特征層：特征層負(fù)責(zé)以透明、可擴(kuò)展和可用的方式生成特征數(shù)據(jù)。評(píng)分層：評(píng)分層將特征轉(zhuǎn)換為預(yù)測(cè)。Scikit-Learn是最常用的，也是評(píng)分的行業(yè)標(biāo)準(zhǔn)。評(píng)估層：評(píng)估層檢查兩個(gè)模型的等效性，可用于監(jiān)控生產(chǎn)模型。它用于監(jiān)控和比較訓(xùn)練預(yù)測(cè)與實(shí)時(shí)流量預(yù)測(cè)的匹配程度。需要了解的3種模型部署方法
部署ML模型有三種常用方法：一次性、批量和實(shí)時(shí)。
1、一次性
并不總是需要持續(xù)訓(xùn)練機(jī)器學(xué)習(xí)模型來(lái)進(jìn)行部署。有時(shí)，模型僅需要一次或定期需要。在這種情況下，可以簡(jiǎn)單地在需要時(shí)對(duì)模型進(jìn)行臨時(shí)訓(xùn)練，然后將其投入生產(chǎn)，直到其性能惡化到需要修復(fù)為止。
2、批量
批量訓(xùn)練，能夠不斷擁有最新版本的模型。這是一種可擴(kuò)展的方法，一次獲取數(shù)據(jù)的子樣本，從而無(wú)需每次更新都使用完整的數(shù)據(jù)集。如果在一致的基礎(chǔ)上使用模型，但不一定需要實(shí)時(shí)預(yù)測(cè)，這是不錯(cuò)的方法。
3、實(shí)時(shí)
在某些情況下，需要實(shí)時(shí)預(yù)測(cè)，例如確定交易是否欺詐。這可以通過(guò)使用在線機(jī)器學(xué)習(xí)模型來(lái)實(shí)現(xiàn)，例如使用隨機(jī)梯度下降的線性回歸。
需要考慮的4個(gè)模型部署因素
在決定如何部署機(jī)器學(xué)習(xí)模型時(shí)，應(yīng)該考慮許多因素和影響。這些因素包括以下內(nèi)容：
預(yù)測(cè)生成的頻率以及需要預(yù)測(cè)結(jié)果的迫切程度。預(yù)測(cè)應(yīng)該單獨(dú)生成還是批量生成。模型的延遲要求、擁有的計(jì)算能力以及所需的服務(wù)級(jí)別協(xié)議(SLA)。部署和維護(hù)模型所需的運(yùn)營(yíng)影響和成本。了解這些因素，有助于在一次性、批量和實(shí)時(shí)模型部署方法之間做出選擇。
- 蜜度索驥：以跨模態(tài)檢索技術(shù)助力“企宣”向上生長(zhǎng)
- 天音移動(dòng)：將100個(gè)虛商號(hào)段交還中國(guó)聯(lián)通
- 長(zhǎng)沙電信員工反映加班嚴(yán)重 公司回應(yīng)：避免無(wú)謂加班
- 中國(guó)移動(dòng)11月5G網(wǎng)絡(luò)客戶(hù)凈增143萬(wàn)戶(hù)，累計(jì)達(dá)5.47億戶(hù)
- 5G-A無(wú)源物聯(lián)：夯實(shí)數(shù)字化底座，助力萬(wàn)物智聯(lián)發(fā)展
- Wi-Fi7：6GHzWi-Fi如何支持醫(yī)療保健新時(shí)代
- 未來(lái)最值得關(guān)注的人工智能和機(jī)器學(xué)習(xí)趨勢(shì)是什么？
- 物聯(lián)網(wǎng)實(shí)現(xiàn)智能農(nóng)業(yè)的五大方式
- 人工智能在網(wǎng)絡(luò)安全中的作用
- 光迅科技：自研光芯片沒(méi)有直接對(duì)外銷(xiāo)售，主要滿足自用需求
- 中國(guó)電信11月5G套餐用戶(hù)凈增184萬(wàn)戶(hù)，累計(jì)3.4937億戶(hù)
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。
