tomming

謝謝資訊。
看來叫做行得到，起碼多 system RAM，都可以行大模型。
或者這是一個可取的做法，例如我唔打機 ...
chingkit 發表於 2025-3-23 12:57

呢個係我喜歡 AMD 既原因
Intel 而家只有 N100 果啲有吸引力

hker2021

如果係用chrome 或chrouium engine嘅web browser, 可以裝呢個chrome extension 做ollama web ui

https://chromewebstore.google.co ... bkinehhfdhndo?hl=en

chingkit

呢個係我喜歡 AMD 既原因
Intel 而家只有 N100 果啲有吸引力
tomming 發表於 25-3-2025 14:17

一直只留意煙條CPU，但覺得其產品無乜明顯進步，還推出那個大細核，簡直不倫不類。期望AMD能在AI方面有突破發展，唔使只有人講用Mac Studio行AI。

via HKEPC IR 5.1.14 - Android(5.1.2F)

chingkit

出了DeepSeek V3 新模型，等蒸餾版出場

via HKEPC IR 5.1.14 - Android(5.1.2F)

fred2088

回覆 23# chingkit


    Mac Studio M3 Ultra 512GB RAM  Local 行 Deepseek 最大 Model 成十皮嘢

s84292

回覆  chingkit


    Mac Studio M3 Ultra 512GB RAM  Local 行 Deepseek 最大 Model 成十皮嘢  ...
fred2088 發表於 2025-4-8 01:20

10皮野咪平
8皮野一張RTX6000 PRO 96GB，至少買4張，再配個pci-e 16x 5.0 4全速的平台
冇30皮你行唔到

當然快2-3倍同多人吞吐量就一定冇得比
但電費多5-8倍都係一個問題

我乖乖地買CLOUD API算數

javacomhk

Cloud API 就唔用 deepseek 啦，貪佢夠慢咩，大把好過佢快過佢，貴的咁解。

Jackywongkk

回覆 15# ckyuen2


    暫時未見影，希望7月會見到

ckyuen2

回覆 28# Jackywongkk


上個月吹6月有
但thinking都算
我想佢搞掂個認圖/OCR先