很多人分不清服务器GPU和游戏显卡，二者底层原理一致，都依靠大规模并行计算。但放到机房环境里，承载的任务完全不一样。游戏显卡主要负责画面渲染输出，服务器GPU用来跑模型训练、推理运算、科学计算以及视频转码这类工作，它不需要接显示器，不会输出图像，只做纯数据运算。一块A100或者H100的价格堪比一辆汽车，功耗也十分惊人，所以服务器内部的安装方式、安放位置，和家用主机插显卡完全不是一回事。
拆开一台机架式服务器的机盖，主板横向固定在机箱内部，CPU位于靠前位置，主板后方排布一排竖向PCIe插槽。服务器GPU大多就安装在这些插槽上。插槽规格长短不一，x16插槽长度最长，最适配GPU。PCIe形态的GPU外观像一块厚重的板卡，金手指插入插槽，尾部挡板用螺丝固定在机箱后侧挡板。这类显卡重量很大，服务器机箱一般配有专用支架或者压条，把显卡前端也固定住，如果只靠尾部一颗螺丝悬挂，运输或者震动时很容易压坏插槽。
还有一类是SXM规格。这种卡没有金手指，不是插拔式安装，依靠螺丝固定在GPU基板托盘上，基板再和主板建立连接。SXM方案最大优势是GPU之间支持NVLink高速互联，八块卡互联之后，带宽远高于PCIe通道。这种设计大量用在DGX、HGX这类高密度AI服务器。安装位置一般在机箱中部或者靠前区域，整块基板可以抽拉取出，GPU就像积木一样固定在基板之上。SXM模块拆装难度比PCIe显卡高很多，需要拆卸散热器、重新涂抹导热硅脂，对准连接器时操作要小心，操作失误很容易损坏针脚。
不管是PCIe还是SXM规格，GPU在服务器内部摆放都要遵循一个原则：靠近CPU，但不能阻挡风道。服务器散热依靠机箱前后贯通的强气流，GPU大多布置在主板后半段。机箱前部风扇吸入冷风，先吹过CPU散热器，再流经GPU散热鳍片，热风从机箱尾部排出。GPU不能无限制叠加，加装数量过多会增大风阻，靠后的显卡无法获得足够冷风，温度会急剧升高。部分服务器专门设计GPU托盘，让显卡竖向放置，或是加装导风罩单独给GPU区域导流。
PCIe规格GPU手动安装流程不算复杂，但细节需要留意。首先关机，拔掉电源线，长按电源键五秒释放主板残余静电。佩戴防静电手环，没有手环就触摸机箱金属外壳释放静电。打开机箱顶盖，找到空闲PCIe x16插槽。插槽后方如果有金属挡片，拧下螺丝取下挡片。从防静电袋取出显卡，金手指对准插槽，双手托住显卡两端垂直下压，听到卡扣咔嗒锁死，代表完全就位。不要暴力按压，插歪会直接烧毁金手指。之后用螺丝固定尾部挡板。显卡带有辅助供电接口的，把服务器电源对应的6pin或8pin供电线插紧，听到卡扣咬合声才算插牢。多卡部署场景，还要加装NVLink桥接器，把相邻显卡相连。整理线缆，避免线材垂落卷入风扇。合上机箱盖板，接通电源开机。进入系统执行nvidia-smi命令，确认显卡识别正常、驱动加载完成、待机温度处于正常区间，安装才算完成。
SXM模块一般不会交由普通用户自行拆装。整块基板抽出之后，GPU倒扣安装在基板上，需要先拆除散热组件，露出连接器，对准位置下压GPU，拧紧固定螺丝。导热界面材料必须更换全新的，螺丝拧紧扭矩有严格标准，拧得过紧或者不足都会影响散热接触。装配完成还要做压力测试，排查过热、降频问题。这类操作基本由服务器厂商或者集成服务商负责。
这里有几个容易踩的坑需要提前留意。服务器电源的辅助供电接口和家用电源接口不通用，不要强行插入家用电源线。购买显卡前要测量机箱内部可用深度，显卡长度超出空间就无法装入。风道方向一旦装反，GPU温度会升高二十摄氏度左右。很多服务器固件只识别厂商认证过的GPU型号，插入非认证显卡，会出现风扇满速运转，甚至整机无法点亮的情况。装机前查阅服务器硬件兼容列表，能省去大量调试麻烦。