Quantcast
Channel: 黑暗執行緒
Viewing all articles
Browse latest Browse all 2311

無獨顯 i5 也能順跑的迷你語言模型 - Gemma 2 2B 體驗

$
0
0
之前試玩過台灣在地版 13B LLaMA 2 地端模型,我這台沒有獨顯立顯卡的迷你工作機,12 代 i5 CPU 跑起來大約一秒一個字,效能勉強可接受。 Google 在 7 月底釋出了開源模型 Gemma 2 的最迷你版本,參數量只有 2B,號稱在 LMSYS 聊天機器人競技場表現亮眼,打敗 GP... Read More

Viewing all articles
Browse latest Browse all 2311

Trending Articles