部署與生產(chǎn)
你的安裝，部署模型和實(shí)驗(yàn)都是“一鍵式”的。使用SKIL的集群感知系統(tǒng)，模型可以通過(guò)整個(gè)集群或單個(gè)機(jī)器上的API進(jìn)行部署和訪問，具體取決于你的設(shè)置。
部署在SKIL中有一個(gè)特殊的空間，可以通過(guò)單擊左側(cè)導(dǎo)航中的“部署（Deployments）”來(lái)訪問該空間。部署獨(dú)立于工作間運(yùn)行，以確保生產(chǎn)環(huán)境中沒有意外中斷或錯(cuò)誤。
創(chuàng)建部署
導(dǎo)航到部署屏幕后，單擊右角的“新建部署（New Deployment）”按鈕。這將打開一個(gè)提示，可以在其中輸入新部署組的名稱。
你可能希望根據(jù)操作方式邏輯地分離部署。例如，你可能有多個(gè)產(chǎn)品團(tuán)隊(duì)使用相同的SKIL實(shí)例，或者正在使用一組與特定功能相關(guān)的模型。因此，你可以創(chuàng)建“部署A-產(chǎn)品推薦者”和“部署B(yǎng)-欺詐檢測(cè)器”。
創(chuàng)建部署后，你將看到一個(gè)屏幕，允許你上傳深入學(xué)習(xí)模型、KNN模型和數(shù)據(jù)轉(zhuǎn)換。
向部署添加轉(zhuǎn)換和模型有兩個(gè)選項(xiàng)：
- 用戶界面文件上傳
- HTTP POST 請(qǐng)求到API
另外還有一個(gè)方便的工作間部署功能，將在下一節(jié)中介紹。
也可以從工作間進(jìn)行部署
如果你已經(jīng)從SKIL中的工作間訓(xùn)練并選擇了一個(gè)模型，下一節(jié)將描述如何部署已經(jīng)存儲(chǔ)在SKIL中的模型。
直接從用戶界面部署新模型或轉(zhuǎn)換時(shí)，單擊“導(dǎo)入（Import）”按鈕。例如，當(dāng)單擊“導(dǎo)入”以獲取深度學(xué)習(xí)模型時(shí)，將看到以下屏幕：
為模型命名并選擇具有存儲(chǔ)權(quán)重的本地文件。此外，如果你不確定文件類型或是否兼容，請(qǐng)閱讀導(dǎo)入模型頁(yè)面。
如果你的模型特別大，那么你需要提供一些JVM參數(shù)。JVM參數(shù)與Oracle Java或OpenJDK運(yùn)行時(shí)中使用的典型的JVM參數(shù)相同。例如，如果要使用具有數(shù)百萬(wàn)參數(shù)的模型，如VGG-16，則需要提供參數(shù)-xmx15g。
如果你正在通過(guò)編程將模型部署到SKIL，可能是作為自定義管道的一部分，那么你將向/deployment/：deploymentid/model發(fā)出一個(gè)HTTP POST請(qǐng)求，其中請(qǐng)求的主體是你希望上傳的模型文件。
如果你的SKIL節(jié)點(diǎn)是集群的一部分，并且你希望該模型在多個(gè)節(jié)點(diǎn)上可用，請(qǐng)將scale設(shè)置為等于并發(fā)節(jié)點(diǎn)數(shù)的值。
從工作間部署
假設(shè)你已經(jīng)訓(xùn)練了你的模型，并進(jìn)行了實(shí)驗(yàn)以確定最佳候選，那么你可以直接從特定工作區(qū)的“模型（Models）”選項(xiàng)卡部署。
你可以部署任何工作區(qū)間模型
無(wú)論你是否選擇了最佳模型，部署選項(xiàng)都適用于你訓(xùn)練過(guò)的任何模型。
單擊模型“詳細(xì)信息（Details）”窗格右上角的“部署（Deploy）”按鈕啟動(dòng)部署向?qū)?。向?qū)⒁龑?dǎo)你完成為模型設(shè)置API端點(diǎn)的步驟，這些端點(diǎn)可由外部用戶和服務(wù)使用。如果尚未創(chuàng)建部署，向?qū)椭阍O(shè)置部署。
完成后，你將被重定向到模型的部署屏幕，在那里你可以進(jìn)行進(jìn)一步的修改，包括REST端點(diǎn)的名稱。
多節(jié)點(diǎn)集群
如果你計(jì)劃使用集群中的SKIL，請(qǐng)確保你已成功設(shè)置了ZooKeeper，滿足多服務(wù)器要求，并選擇了適當(dāng)?shù)募軜?gòu)，如Docker集群。
