Inferência - não realmente, com uma ressalva (veja abaixo). A maioria dos modelos não precisa disso. O "padrão" da indústria é 48GB, o que significa que a maioria dos modelos assume pelo menos isso. Você poderá fazer até os maiores modelos funcionarem com esses com menos parâmetros. A maioria dos modelos de imagem e vídeo tem 48GB.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
Inferência - não realmente, com uma ressalva (veja abaixo). A maioria dos modelos não precisa disso. O "padrão" da indústria é 48GB, o que significa que a maioria dos modelos assume pelo menos isso. Você poderá fazer até os maiores modelos funcionarem com esses com menos parâmetros. A maioria dos modelos de imagem e vídeo tem 48GB.