前沿拓展:
安裝程序正在啟動(dòng)服務(wù)器并安裝您
用來編程的系統(tǒng)需要純凈版的安裝盤
在前面的文章中,已經(jīng)帶著讀者創(chuàng)建好 Triton 的模型倉、安裝并執(zhí)行 Triton 推理服務(wù)器軟件,接下來就是要
由于 Python 是目前在深度學(xué)習(xí)領(lǐng)域中最重要的編程語言之一,NVIDIA 為 Triton 提供可直接安裝的 Python 庫,只要執(zhí)行以下指令就能輕松安裝:
pip3 install tritonclient[all] attrdict -i https://pypi.tuna.tsinghua.edu.cn/simple
這個(gè)過程會(huì)安裝以下內(nèi)容:
httpgrpc [ service_pb2, service_pb2_grpc, model_config_pb2]utils [ Linux 發(fā)行版將包括 shared_memory 和 cuda_shared_memory]
如果您在前面下載第 2 部分的壓縮文件并且解壓縮,在該目錄之下的 clients/python 里就提供 30 多個(gè) Triton 的 Python 用戶端腳本;如果沒有下載前面的壓縮文件,現(xiàn)在可以執(zhí)行以下指令去** Triton 項(xiàng)目的 client 開源倉:
git clone https://github.com/triton-inference-server/client
第二在 client 開源倉下的 src/python/examples 里有 30 多個(gè) Triton 的 Python 用戶端腳本。
現(xiàn)在進(jìn)到 Python 用戶端腳本的目錄里,執(zhí)行以下指令:
python3 image_client.py -m inception_graphdef -s INCEPTION
${HOME}/triton/server/qa/images/mug.jpg
執(zhí)行后會(huì)顯示如下的結(jié)果:
得到推理的結(jié)果為“COFEE MUG”為正確的,表示 Triton 的 Python 用戶端使用環(huán)境是正確的。
以上介紹 4 種安裝 Triton 用戶端軟件的方式,本文只使用 image_client 這個(gè)最簡(jiǎn)單的圖像分類用戶端工具,另外還有幾個(gè)比較重要的用戶端工具,后面會(huì)有針對(duì)性的深入講解與示范。
拓展知識(shí):
安裝程序正在啟動(dòng)服務(wù)器并安裝您
不知你使用的是哪種權(quán)限的用戶,低權(quán)限用戶在安裝軟件過程會(huì)發(fā)生一些問題;安裝軟件建議以系統(tǒng)管理員權(quán)限的用戶來進(jìn)行。
再就是SQL版本的問題:Enterprise版本除了Windows 2003/2008服務(wù)器版本外,其它的**作系統(tǒng)無法安裝,
安裝程序正在啟動(dòng)服務(wù)器并安裝您
根據(jù)個(gè)人經(jīng)驗(yàn)判斷:
1、是不是裝機(jī)的時(shí)候直接就裝的ghost版本的xp系統(tǒng)?
如果是,則基本裝不上,包括裝IIS也一樣,需要重裝系統(tǒng)。
2、SQL安裝程序文件本身就有問題。
原創(chuàng)文章,作者:九賢生活小編,如若轉(zhuǎn)載,請(qǐng)注明出處:http:///8555.html