作者: usei 時間: 2025-5-23 20:48 標題: AI max 測試
本帖最後由 usei 於 2025-5-23 22:45 編輯
https://www.youtube.com/watch?v=-1kuUqp1X2I
某些 AI 應用顯存超過 30G
真的跑 AI 才有價值
雖然不能同幾千 TOPS 專業卡相比 , 但夠 ram 跑得到
作者: latali 時間: 2025-5-24 01:35
某些 AI 應用顯存超過 30G
真的跑 AI 才有價值
雖然不能同幾千 TOPS 專業卡相比 , 但夠 ram 跑得到 ...
usei 發表於 2025-5-23 12:48
其實沒N卡很多AI跑不了。
作者: rfdingo 時間: 2025-5-24 12:53
剩cpu 120w
功耗計/錶200w
望埋個價...
咁無佢既事啦
作者: sk2k 時間: 2025-5-24 22:31
vram 多了, 的確是可以跑比較大的 model, 可惜 gpu 速度又跟不上, 30B 都只有幾 token/s..... 變得實用性大減..