使用 AWS re:Post 即表示您同意 AWS re:Post 使用條款
AWS re:Postre:Post

inf2 vs inf1 difference in bert output

0

Hi,

I have some code which generates a shape of torch.Size([1, 512, 1024] when calling bert on inf1. I have compiled the model for inf2. However the same code on inf2 produces a shape of torch.Size([1, 2]) . What could be the issue? Has anyone faced anything similar?

主題
機器學習與 AI運算
標籤
AWS InferentiaAWS Neuron
語言
English
rePost-User-6132983
已提問 1 年前檢視次數 297 次
1 個回答
0

This really is not enough information to get going with, please share the test code that produces this result

AWS
mrnikwaws
已回答 10 個月前

您尚未登入。 登入 去張貼答案。

一個好的回答可以清楚地回答問題並提供建設性的意見回饋，同時有助於提問者的專業成長。

回答問題指南

相關內容