NLP性能需求及租用地区的建议。

Question

请问NLP用什么型号实例比较合适？ 我主要是NLP训练，如果100G，租用地区在东南亚，例如新加坡或则马来西亚。

Answer

1. 您是否在本地做过训练测试，使用的是什么gpu 
2. 根据不同需求，对于AIML类型的workload 实例类型的选择，可以参考：
3. 对于100G需求我们推荐使用[EC2 Inf2类型实例](https://aws.amazon.com/cn/ec2/instance-types/inf2/)。
4. 如果您的region可以选择美东（N.Virginia）和美西(Oregon)，也可以考虑Trn1类型的实例，可以支持800G的带宽，提供更好的性能。具体请参考：https://aws.amazon.com/cn/about-aws/whats-new/2022/10/ec2-trn1-instances-high-performance-cost-effective-deep-learning-training/?nc1=h_ls

NLP性能需求及租用地区的建议。

Relevanter Inhalt