我们像部署推理到云端,但是访问频次不高,每天几次,每次不到一分钟,请问有何解决方案?

0

我们要做深度学习应用的云部署加上Web界面,要能保持随时访问,但是每天可能只会访问几次,每次一分钟之内,会有什么比较好的解决方案吗?比如说靠Lambda?

profile picture
ESPECIALISTA
feita há 2 meses17 visualizações
1 Resposta
0

Lambda可以。如果是已经训练好的模型,直接上云部署,可以考虑把模型放到EFS,在Lambda里面调用。或者封装成docker,用Lambda调用。如果还没训练,可以考虑用SageMaker训练,SageMaker有Serverless的部署方式,类似Lambda。 Lambda没有GPU,部署模型的机器是否需要GPU看您的要求。SageMaker Serverless Inference的话,是不带GPU的。内存需要自己测一下需要多少。

profile picture
ESPECIALISTA
respondido há 2 meses

Você não está conectado. Fazer login para postar uma resposta.

Uma boa resposta responde claramente à pergunta, dá feedback construtivo e incentiva o crescimento profissional de quem perguntou.

Diretrizes para responder a perguntas