謝謝資訊。
看來叫做行得到,起碼多 system RAM,都可以行大模型。
或者這是一個可取的做法,例如我唔打機 ...
chingkit 發表於 2025-3-23 12:57


呢個係我喜歡 AMD 既原因
Intel 而家只有 N100 果啲有吸引力

TOP

如果係用chrome 或chrouium engine嘅web browser, 可以裝呢個chrome extension 做ollama web ui

https://chromewebstore.google.co ... bkinehhfdhndo?hl=en

TOP

呢個係我喜歡 AMD 既原因
Intel 而家只有 N100 果啲有吸引力
tomming 發表於 25-3-2025 14:17

一直只留意煙條CPU,但覺得其產品無乜明顯進步,還推出那個大細核,簡直不倫不類。期望AMD能在AI方面有突破發展,唔使只有人講用Mac Studio行AI。

via HKEPC IR 5.1.14 - Android(5.1.2F)

TOP

出了DeepSeek V3 新模型,等蒸餾版出場

via HKEPC IR 5.1.14 - Android(5.1.2F)

TOP

回覆 23# chingkit


    Mac Studio M3 Ultra 512GB RAM  Local 行 Deepseek 最大 Model 成十皮嘢

TOP

本帖最後由 s84292 於 2025-6-10 01:25 編輯
回覆  chingkit


    Mac Studio M3 Ultra 512GB RAM  Local 行 Deepseek 最大 Model 成十皮嘢  ...
fred2088 發表於 2025-4-8 01:20


10皮野咪平
8皮野一張RTX6000 PRO 96GB,至少買4張,再配個pci-e 16x 5.0 4全速的平台
冇30皮你行唔到

當然快2-3倍同多人吞吐量就一定冇得比
但電費多5-8倍都係一個問題

我乖乖地買CLOUD API算數

TOP

Cloud API 就唔用 deepseek 啦,貪佢夠慢咩,大把好過佢快過佢,貴的咁解。

TOP

回覆 15# ckyuen2


    暫時未見影,希望7月會見到

TOP

回覆 28# Jackywongkk


上個月吹6月有
但thinking都算
我想佢搞掂個認圖/OCR先

TOP