英文12
CanIRun.ai:检测设备能运行哪些本地大模型
资源推荐
作者: CanIRun
发表时间:
CanIRun.ai通过浏览器API检测或让用户选择GPU、显存、带宽、RAM与CPU核心数,自动评估本地设备对开源大模型的可运行性并按六级评分与预估token速度展示,覆盖聊天、编程、推理、视觉等任务及多机构多许可0.8B-480B模型,示例显示M4 16GB可流畅跑8B-9B而70B以上普遍无法运行。
浏览作者 CanIRun 的公开文章、摘要与延伸阅读。肖恩子的知识花园
英文CanIRun.ai通过浏览器API检测或让用户选择GPU、显存、带宽、RAM与CPU核心数,自动评估本地设备对开源大模型的可运行性并按六级评分与预估token速度展示,覆盖聊天、编程、推理、视觉等任务及多机构多许可0.8B-480B模型,示例显示M4 16GB可流畅跑8B-9B而70B以上普遍无法运行。