Sulit untuk mengatakan seberapa besar dampaknya terhadap hasil akhir mereka, tetapi prosesor baru AMD "Halo Strix" sekarang adalah sistem terbaik bagi siapa saja yang ingin menjalankan LLM lokal.
Bisa mendapatkan salah satu dari ini dengan 128GB RAM seharga sekitar $1,5k semuanya dan ini akan menjalankan model menengah/besar seperti gpt-oss 120B dengan sempurna.
Sebagai referensi, sebuah Nvidia 5090 ( tanpa sisa PC) harganya $2-3k dan tidak dapat menjalankan model penuh itu.
Sebuah mac mini dengan 64GB RAM harganya $2k dan juga tidak bisa menjalankan model penuh itu
Sebuah mac studio dengan 128GB RAM dapat menjalankannya tetapi harganya $3.7k
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Sulit untuk mengatakan seberapa besar dampaknya terhadap hasil akhir mereka, tetapi prosesor baru AMD "Halo Strix" sekarang adalah sistem terbaik bagi siapa saja yang ingin menjalankan LLM lokal.
Bisa mendapatkan salah satu dari ini dengan 128GB RAM seharga sekitar $1,5k semuanya dan ini akan menjalankan model menengah/besar seperti gpt-oss 120B dengan sempurna.
Sebagai referensi, sebuah Nvidia 5090 ( tanpa sisa PC) harganya $2-3k dan tidak dapat menjalankan model penuh itu.
Sebuah mac mini dengan 64GB RAM harganya $2k dan juga tidak bisa menjalankan model penuh itu
Sebuah mac studio dengan 128GB RAM dapat menjalankannya tetapi harganya $3.7k