你需要知道的AI内存知识
自己在家运行 AI 模型,可以选择两种硬件。一种是独立显卡,目前最顶级的消费级显卡是英伟达的 RTX 5090,带有 32GB 显存,售价3万元人民币左右。另一种是采用板载芯片组(CPU + 板载显卡 + 板载内存)的家用电脑,比如采用 AMD 公司 Strix Halo 芯片组(具体型号 Ryzen AI Max+ 395)的迷你电脑,自带 128GB 内存,售价2万元人民币左右。我问大家,哪种硬件更好?大部分人可能不假思索,就会选择独立显卡,毕竟独立显卡的算力远大于板载芯片组。根据我查到的资料,下面是两者的单精度32位浮点数算力(FP32)。独立显卡(RTX 5090):104.8 TFL...