LLM Hardware Lab 面向本地大语言模型部署的硬件决策工具

LLM Hardware Lab

LLM Hardware Lab 是一个面向本地大语言模型部署的硬件决策工具。它把模型容量、量化方式、上下文长度、内存需求、推理速度、硬件兼容性和整机预算放在同一个决策流程中，帮助用户回答一个更实际的问题：

不只是“能不能跑”，而是“跑得值不值”。

项目已部署为公开网站：

https://llm-hardware-lab-2026.orcgo0514.chatgpt.site

项目功能

模型与量化选择

• 支持选择不同本地模型。
• 根据模型架构和参数规模估算资源需求。
• 支持选择不同量化格式，并将量化方式纳入平台适配判断。
• 根据所选模型显示适用场景和基础说明。

部署目标设置

• 调整上下文长度，用于估算上下文带来的额外内存需求。
• 设置整机预算，筛选符合预算范围的硬件平台。
• 选择部署优先级，例如更关注成本、速度或综合适配度。
• 按硬件平台类型筛选候选项。

平台推荐与对比

• 根据模型需求和硬件能力计算候选平台的匹配结果。
• 将平台标记为舒适、临界或卸载等适配状态。
• 展示模型总需求、平台可用内存、预估速度和整机规划价。
• 默认整理排名靠前的平台，并支持进一步查看候选项。
• 提供横向对比表，方便用户在多个平台之间做最终选择。

交互与分享

• 支持恢复默认配置。
• 支持复制或分享当前决策页面。
• 支持键盘焦点操作和移动端响应式布局。
• 页面不依赖登录即可访问，适合直接分享给其他人。

技术实现

项目采用轻量的前端实现，核心决策页面位于 public/llm-hardware-lab.html，其中包含页面结构、样式和交互逻辑。Sites 工程通过 app/page.tsx 将该页面接入站点路由，并负责统一的页面容器和站点元信息。

主要组成如下：

• public/llm-hardware-lab.html：硬件决策器的完整页面、样式和客户端逻辑。
• app/page.tsx：Sites 首页容器，加载决策器页面。
• app/layout.tsx：站点标题、描述、图标和 Open Graph 元信息。
• app/globals.css：首页容器和全屏页面布局样式。
• public/og.png：用于链接分享预览的社交卡片。
• vite.config.ts 和 worker/：提供 vinext 与 Cloudflare Workers 兼容的构建入口。
• .openai/hosting.json：Sites 项目部署配置。

Codex 和 GPT-5.6 的使用方式

本项目是在 Codex 环境中，使用 GPT-5.6 协作生成和完成的。两者承担的角色不同：GPT-5.6 负责理解问题和形成方案，Codex 负责把方案落实到本地工程、验证并发布。

GPT-5.6 的具体使用方式

GPT-5.6 主要用于以下工作：

1. 提炼产品目标

   将“比较本地大模型硬件”转化为清晰的产品目标：同时考虑容量、速度、兼容性和成本，而不是只展示单一跑分。

2. 设计决策流程

   规划模型、量化、上下文、预算、优先级和平台筛选之间的关系，确定这些输入如何影响推荐结果。

3. 组织页面信息

   生成页面标题、说明文案、结果解释、适配状态提示和方法说明，让复杂的硬件信息更容易理解。

4. 辅助交互逻辑设计

   分析筛选、排序、平台对比、恢复默认和分享等交互需求，并将其转化为可实现的前端行为。

5. 生成项目说明材料

   协助编写 README、项目简介、英文介绍、项目标签和展示用文案。

Codex 的具体使用方式

Codex 主要用于工程执行和交付：

1. 创建 Sites 工程

   使用 Sites 工程模板初始化 vinext 项目结构，准备 app/、public/、构建配置和部署配置。

2. 迁移和接入页面

   将原始 llm-hardware-lab.html 接入 Sites 首页，保留页面原有的模型筛选、推荐计算、对比表和分享交互。

3. 完善站点元信息

   更新站点标题、描述、favicon 和 Open Graph 信息，并生成与页面视觉一致的分享预览图。

4. 安装依赖和构建验证

   安装项目依赖，运行 npm run build，确认 vinext 可以生成 Cloudflare Workers 兼容的部署产物。

5. 发布网站

   创建 Sites 项目、保存版本、部署生产环境，并将访问策略切换为公开访问。

6. 上传 GitHub

   初始化 Git 版本记录，配置 SummerDogg/llm-hardware-lab 远程仓库，并将项目推送到 agent/upload-llm-hardware-lab 分支。

本地运行

环境要求

• Node.js >=22.13.0
• npm

安装依赖

npm install

启动开发服务

npm run dev

构建项目

npm run build

运行测试

npm test

项目限制与注意事项

• 当前推荐结果属于决策预估，不等同于统一测试环境下的实际跑分。
• 实际速度会受到驱动、后端、并发量、上下文长度、散热和系统配置影响。
• 页面当前使用静态内置数据，不包含用户账号、数据库或云端持久化配置。
• 公开访问意味着任何拿到链接的人都可以打开页面；页面本身不应放入密钥或敏感数据。

后续计划

• 增加更多模型、量化格式和硬件平台。
• 引入真实设备的基准测试数据。
• 增加功耗、噪音、散热和长期运行成本维度。
• 支持保存和分享具体配置。
• 根据用户的实际用途提供更细分的个性化推荐。