AI硬件投入预算参考
-
人工智能模型硬件需求到底大不大,多少钱?
AI模型硬件需求大不大,结论是:训练阶段需求极大,推理阶段需求适中,端侧部署需求很小,问这个问题的人之所以得到五花八门的答案,是因为大家讨论的根本不是同一个阶段——有人想从零训练一个模型,有人只想把现成模型跑起来,还有人打算在手机或树莓派上玩一玩,这三件事对硬件的需求差异,比家用轿车和F1赛车的差距还要悬殊,接……
AI模型硬件需求大不大,结论是:训练阶段需求极大,推理阶段需求适中,端侧部署需求很小,问这个问题的人之所以得到五花八门的答案,是因为大家讨论的根本不是同一个阶段——有人想从零训练一个模型,有人只想把现成模型跑起来,还有人打算在手机或树莓派上玩一玩,这三件事对硬件的需求差异,比家用轿车和F1赛车的差距还要悬殊,接……