在第五届RISC-V中国峰会刚刚落幕之际,RISC-V芯片在人工智能及大模型推理领域的应用受到了广泛关注,成为讨论的焦点。这一技术不仅显现出庞大的发展前景,同时也遭遇了众多挑战,这一情况引起了业界的极大关注。
RISC - V潜力受认可
在会议进程中,与会专家们共同指出,人工智能在推理环节对计算能力的依赖正显现出新的动向,这一发展态势为RISC-V芯片在复杂模型推理领域的应用带来了新的机遇。中国科学院计算技术研究所副所长包云岗进一步强调,RISC-V技术与人工智能的结合有望成为未来技术领域的一个重要创新组合。孟建熠,担任知合计算公司的CEO,同时强调,RISC-V芯片在通用计算和AI推理这两个关键领域均展现出卓越性能。
独特优势凸显
RISC-V技术具备多方面优势,包括更高效的统一地址寻址、存储访问的优化以及出色的计算效率,这些特点使得它能够实现传统AI计算所不能及的功能。中兴微电子的副总经理石义军指出,RISC-V在大模型推理领域展现出巨大的应用潜力,而新型MOE架构的辅助作用,不仅能显著降低大模型推理的成本,还能提升其工作效率。
大模型发展趋势
在分享会上,石义军讨论了大模型领域的最新动态。他指出,随着DeepSeek等MOE模型的问世,计算的核心焦点已从算力转向了效率。据预测,未来的模型将展现出稀疏化的趋势,整体参数数量预计将显著增加,同时,每次推理所需的算力需求也将相应减少。除此之外,模型架构的持续改进迫切需要新型AI算力的支撑,此外,对于超长上下文信息的处理也对存储管理技术提出了新的挑战。
架构技术挑战
RISC-V技术展现出明显的发展前景,然而,它也遭遇了一系列挑战。在多核同步性能方面,其架构尚需进一步完善,与ARM LSE等扩展技术相比,尚有差距。对于大型模型芯片来说,多核扩展技术的应用对于适应不同模型尺寸至关重要,而降低同步成本则是架构创新的核心。在超大规模参数的情境下,芯片间通信的效率问题将成为一个关键的制约因素;此外,RISC-V技术的融入对于现代人工智能通信体系也扮演着不容小觑的角色。
标准尚待完善
RISC-V架构在人工智能领域的应用标准化尚待完善,其架构和技术成熟度有待提高。矩阵指令的解决方案尚未达成共识,同时人工智能软件栈的标准也迫切需要进一步优化。因此,行业内的参与者需要加强协作,共同促进标准的优化和技术成熟度的提升。
应用与未来展望
石义军透露,他正努力推进RISC-V技术在人工智能领域的应用进程。目前,该技术方案已在中兴微电子的AiCube训练与推理一体机中得到应用。此外,它还与DeepSeek等大型模型实现了兼容性。这一进展有助于企业减少人工智能部署的成本。RISC-V在处理大规模模型推理任务上取得的显著进展,得益于技术创新和生态系统的共同进步。这一成就引发了人们的思考:RISC-V是否有可能在未来的大规模模型推理领域中占据主导地位?欢迎读者点击点赞、分享本文,并留下您的宝贵建议。