摘要： 本文介绍了基于NVIDIA RTX 6000 Pro Blackwell Max-Q GPU的四GPU工作站。该工作站具有384GB VRAM（每张卡96GB），支持高带宽、高性能计算，并具备企业级存储和内存配置。文章详细介绍了工作站的设计亮点，包括全PCIe 5.0带宽、高速存储、高效能和实用性。此外，还讨论了该工作站的适用场景，如训练大型AI模型、进行密集的多模态推理等。
讨论： 该内容主要讨论了个人构建高性能AI计算系统与租赁H100集群之间的优缺点。用户mips_avatar提出了构建本地AI工作站与租赁H100集群的对比问题。marcusb提供了构建一个类似系统的成本估算，总成本约为41,000美元。其他用户对系统的配置、性能、散热和噪音等方面进行了讨论，并提出了对系统实际用途的疑问。一些用户认为，如果只是想要一个多GPU系统，购买NVIDIA设计的系统会更合适。还有用户提到，随着AI技术的发展，个人工作站可能会像游戏一样成为家庭的一部分。
原文标题：Building A16Z’s Personal AI Workstation
原文链接：https://a16z.com/building-a16zs-personal-ai-workstation-with-four-nvidia-rtx-6000-pro-blackwell-max-q-gpus/
讨论链接：https://news.ycombinator.com/item?id=44996892