site stats
对用Mac Mini组建AI集群的可以关注一下这个M4 Mac Mini AI 集群测试使用 的 Thunderbolt 5 互连技术(80Gbps 带宽)在 4 台 M4 Pro Mac Mini 上分布运行大语言模型(LLM)。该集群体积很小(图片中有 iPhone 作为参考)。它目前以 8 个 token/秒的速度运行 Nemotron 70B,并且可以扩展到
发布时间:
1
数据加载中
Markdown支持
评论加载中...
您可能感兴趣的: 更多