活动概况
HiFloat大模型共创行动即日开启,GCC招募AI开发者对主流大模型开展量化创新,打造低位宽计算全球示范案例。
HiFloat是智算时代面向大模型高能效计算设计的低位宽(<=8比特)浮点数据格式,GCC HiFloat开放社区汇聚产业伙伴共同推动其商用落地和技术演进。为充分发掘这一新型数据格式的计算潜力,激发广大智算伙伴的创新应用,GCC智算产发委即日启动HiFloat大模型共创行动,并开启第一季--HiF8模型量化创新活动。
活动简介
本次活动邀请AI开发者对最有影响力的主流大模型基于HiF8数据格式进行量化验证,并鼓励开发者通过量化策略等创新实现大模型在实际任务上运算的更高精度、更低资源消耗。
任务列表
基于NPU或GPU对以下指定的开源模型进行推理场景的W8A8 HiF8量化验证,要求:
- Attention + Linear都量化成HiF8
- 下游任务精度损失均值<0.5%,下游任务列包括:ARC / BoolQ / HellaS / Piqa / WinoG /Gsm8K /MMLU /Math500 /CMMLU等
- 作为对比,要求同时给出基线精度
任务模型
- Qwen3.5-9B
- (更多模型任务将陆续发放)
技术资源
仿真工具包
技术文档
开发者将获得
- 技术成长:入选开发者将与该技术的发明人及技术团队深入交流其设计思想与应用算法,并在验证开发中得到他们的指导、积累开发大模型前沿技术的宝贵经验。
- 组织背书:GCC智算产发委对完成交付的开发者提供全球可查询的完成证明,有创新性贡献的开发者,其成果将收录至相关技术创新案例。
- IP打造:优秀的开发者将被推荐/邀请至相关活动做成果分享。
- 资源支持:达成挑战任务的开发者将得到研发经费支持。
开发者报名说明
开发者报名参加活动即订阅任务发放通知邮件,详细的任务说明、技术资源、后续操作说明等信息将通过邮件通知报名者。同时欢迎扫码加入"GCC HiFloat大模型共创营",及时获取活动信息,与主办方和其他开发者互动。
欢迎扫码加入"GCC HiFloat大模型共创营"
活动报名应知
- 因任务具有一定挑战性,建议报名开发者有基于NPU/GPU多卡的大模型量化、调优经验,并具备一定的投入时间。
- 本活动将根据任务的难易程度予以算力和研发经费支持。开发者在充分了解任务后,须提交「个人简介+开发计划」进行任务申请,通过者将与GCC签约启动后续开发工作。
- 任务完成需提交验证报告、模型代码等,专家评审通过的将发放研发经费和完成证明。
- 通过验收的作品会须分享到指定的开源社区,报名者应确保在申请参加本次活动前已获得所有必要的内部批准(如机构、公司或法律层面的批准)。
感谢您对本次活动的支持!
附:报名链接https://www.wjx.top/vm/YfWkR8E.aspx