Quantcast
Channel: 黑暗執行緒
Viewing all articles
Browse latest Browse all 2311

用入門級顯卡 RTX 3050 + Ollama 跑小模型,會比 CPU 快多少倍?

$
0
0
學會用 Ollama 有一陣子了,受限於迷你工作機只有內顯,至今都是用 CPU 跑模型,據說只要有 GPU,即便是人門款顯卡都能把 CPU 壓在地上摩擦,了解 GPU 並行運算架構就知道這是想當然爾的結果,但沒親手體驗過,總覺得少了點什麼。 趁著週末向小木頭借了他的 RTX 3050 獨顯 11 代... Read More

Viewing all articles
Browse latest Browse all 2311

Trending Articles