HiFloat大模型共创行动

HiFloat大模型共创行动 进行中

活动时间: 2026年9月 - 2026年12月
活动地点: 线上

活动简介

HiFloat 大模型共创行动第二季面向开发者和技术团队,围绕主流大模型持续发布 HiF8 量化任务。参与者将在 NPU 或 GPU 平台完成模型量化、精度验证与优化,形成可复用的低位宽计算实践。本次活动邀请AI开发者对最有影响力的主流大模型基于HiF8数据格式进行量化验证,并鼓励开发者通过量化策略等创新实现大模型在实际任务上运算的更高精度、更低资源消耗。

HiFloat 是面向智能计算场景设计的低位宽(不高于 8 bit)浮点数据格式。GCC-HiFloat 社区联合产业伙伴推动其技术演进、模型适配和应用落地,并为入选项目提供技术资料、专家指导和相应资源支持。

任务列表

开发者须对指定模型开展推理场景下的 W8A8 HiF8 量化验证。具体指标和交付范围以各期正式发布的任务说明为准。

01 计算平台 基于 NPU 或 GPU 完成开发与验证。

02 量化范围 Attention 和 Linear 等核心计算部分采用 HiF8 数据格式。

03 精度指标 完成指定 Benchmark 测试,量化后下游任务平均精度损失原则上低于 0.5%。参考测试集包括 ARC、BoolQ、HellaSwag、PIQA、WinoGrande、GSM8K、MMLU、Math500、CMMLU 等,并可按模型特点调整。

04 基线对比 同步提供原模型或指定基线的测试结果,完整对比量化前后的精度表现。

05 成果交付 提交量化验证报告、Benchmark 与精度对比结果、模型及量化实现代码,以及任务说明要求的其他技术材料。

任务模型

  • Qwen: Qwen3.5‑9B、Qwen3.8-27B等
  • DeepSeek: DeepSeek-V4-Flash
  • 智谱AI: GLM-4-9B、GLM-4-32B、GLM‑4.7‑Flash
  • 讯飞Spark: Spark-X2.5-1.7B、Spark-X2.5-4B
  • OpenPangu: openPangu-Embedded-7B、openPangu-2.0-Flash
  • Kimi: Kimi-K2 、Kimi-Linear-48B
  • MiniMax: MiniMax M2.7

(注:Kimi-K2,MiniMax M2.7模型参数比较大,适合资源较多的开发者)

技术资源

仿真工具包

👉 HiFloat8 仿真工具包(GitHub)

技术文档

👉 HiFloat8浮点数据格式综述

👉 HiFloat8高性能训练

👉 HiFloat8高效低比特推理

👉 HiFloat8技术白皮书

时间安排

时间安排
2026 年 9 月第二季启动,开放报名并发布模型任务
2026 年 9 月至 2026 年 11 月分批开展开发、验证、成果提交与专家评审
2026 年 12 月汇总优秀成果与示范案例

开发者将获得

  • 技术成长:入选开发者将与该技术的发明人及技术团队深入交流其设计思想与应用算法,并在验证开发中得到他们的指导、积累开发大模型前沿技术的宝贵经验。
  • 组织背书:GCC智算产发委对完成交付的开发者提供全球可查询的完成证明,有创新性贡献的开发者,其成果将收录至相关技术创新案例。
  • IP打造:优秀的开发者将被推荐/邀请至相关活动做成果分享。
  • 资源支持:达成挑战任务的开发者将得到研发经费支持。

开发者报名说明

01 活动报名 提交个人或团队基本信息,选择拟参与的模型任务方向。

02 开发计划 提交个人或团队介绍、相关经验及初步开发计划。

03 评估确认 社区组织专家评估技术能力和计划,通过后确认正式任务。

04 协议与资源 涉及算力或研发经费支持的项目按要求完成实名认证和协议签署。

05 开发验证 完成 HiF8 量化、Benchmark 测试、基线对比和技术验证。

06 成果提交 提交验证报告、测试结果、模型代码及相关技术材料。

07 专家评审 通过验收后获得相应支持与完成证明,优秀成果择优展示。

开发者报名参加活动即订阅任务发放通知邮件,详细的任务说明、技术资源、后续操作说明等信息将通过邮件通知报名者。同时欢迎扫码加入"GCC HiFloat大模型共创营",及时获取活动信息,与主办方和其他开发者互动。

欢迎扫码加入"GCC HiFloat大模型共创营"

活动报名应知

  • 个人开发者、高校及科研团队、企业技术团队均可报名,建议具备 NPU 或 GPU 大模型部署、多卡推理、模型量化与压缩、性能调优、AI 框架开发、Benchmark 评测或底层优化经验,以及拥有足够算力资源的团队报名参加。
  • 本活动将根据任务的难易程度予以研发经费支持。开发者在充分了解任务后,须提交「个人简介+开发计划」进行任务申请,通过者将与GCC签约启动后续开发工作。
  • 任务完成需提交验证报告、模型代码等,专家评审通过的将发放研发经费和完成证明。
  • 通过验收的作品会须分享到指定的开源社区,报名者应确保在申请参加本次活动前已获得所有必要的内部批准(如机构、公司或法律层面的批准)。

感谢您对本次活动的支持!

附:报名链接https://www.wjx.top/vm/YfWkR8E.aspx