相较英伟达H100实，AI推理芯片LPU新催化——LEAP2025
新催化！美国时间2.9下午2:55，groq创始人要在leap2025展示高速AI推理。2024年，AI推理市场迎来历史性拐点。Groq公司公布的LPU（Language Processing Unit）实测数据引发行业震动：在Llama 2-70B推理任务中，其LPU系统实现每秒近300 token的吞吐量，相较英伟达H100实现10倍性能提升，单位推理成本降低达80%。
这波操作，直接把业内人士都看懵了。之前大家都在说英伟达一家独大，现在看来，这局面要变了。超评助手网站观察到Groq这一下算是给AI算力市场扔了个**。以前大家觉得GPU是推理领域的霸主，现在看来，专用芯片也开始发力了，而且性能还这么猛。
接下来，大家肯定都在琢磨，这LPU到底是个什么玩意儿？能这么快？其实说白了，就是专门为AI推理设计的芯片，架构和GPU不一样，所以速度能快这么多。而且，这成本还低，简直就是完美。
这消息一出，相关的公司股价肯定要跟着涨了。像西测测试这种做芯片测试的公司, 超评助手网站认为他们肯定要沾光。毕竟, LPU芯片多了, 测试的需求也多了。此外，还有大为股份，他们做存储的，而LPU也需要存储芯片，这生意也能跟着火起来。对于像芯原股份这样的做芯片设计公司来说，更是直接受益，因为他们可以提供LPU的设计服务。
总之，这LPU的出现，对整个AI行业来说都是个大事件，也让超评助手网站设想未来 AI 推理芯片竞争会越来越激烈，我们拭目以待吧。目前就看其他公司怎么应对Groq的挑战，这是绝对值得关注的一场好戏。
