自定义 : 1.基本要求：原厂正品保证 2.高度：≤6U机架式服务器 3.处理器：配置≥2颗X8 (略) 理器， (略) 理器≥56核，基本主频≥2.0GHz，最大睿频频率≥3.80 GHz 4.内存：配置≥24条64GB #内存，可扩展≥32个内存插槽； 5.硬盘：配置≥2块960G SSD硬盘，≥8块7.68T NVME SSD硬盘，要求NVME SSD数据盘MTBF可靠性≥#小时，可扩展≥16块NVME SSD硬盘； 6.RAID卡：配置≥1块16通道RAID卡，缓存≥8GB； 7.网络：配置≥ (略) 络接口（含SFP+光模块）； 8.GPU卡：配置≥8块GPU卡，单卡要求显存≥96GB HBM3、FP8算力≥290TFlops、显存带宽≥4TB/s、P2P卡间互联带宽≥900GB/s；； 9.GPU卡性能要求：要求在满足不少于30张所投GPU卡的环境下要求不低于8*7B MoE参数模型基于FP16精度的实测单卡 token值不低于1100tokens/s； 10.I/O扩展槽：可扩展≥10个PCIe 5.0 x16插槽，每个PCIe Switch需至少通过2个PCIe Gen5 x16通道连接CPU, 提升数据交互能力。 11. (略) ：配置与服务器同品牌 (略) ， (略) 技术，实现离线资产管理，包括线下库房的整机、整箱散件、单散件、配置、合同、的统一管理；支持CPU温度、GPU使用率、GPU显存使用率、核心频率、SWAP使用率，TCP重传率，UDP连接数，硬盘读写次数及读写时速率，出入风口温度，风扇转速及风扇占空比，网络发送速率、接收速率、系统进程数等监控；支持服务器BMC、BIOS、硬盘、RAID卡、网卡批量升级，服务器BIOS、BMC、RAID批量配置；支持服务器硬盘故障预测、内存故障预测功能；支持流程管理功能，包括设备上架流程、设备下架流程、 (略) 理流程、测试环境变更流程、设备位置变更流程等； 12. (略) ：配置与服务器同品 (略) ；提供从多种格式的文档提取文字 (略) 理能力，获取的文本可用于大模型训练或知识库构建，支持提取的格式包括pdf、docx、pptx、xlsx、md、HTML、xml等，提取后保存的格式为txt；支持从文本文档数据，进行问答知识数据抽取，获得基于既有文档的高质量微调数据；针对用户已有的微调数据，根据self-instruct、evol-instruct等生成方法进行数据衍生，获得与既有微调数据同类型的高质量微调数据；提供数据缓存加速机制，数据集可高速并行缓存到计算节点本地，并提供缓存数据的生命周期管理；支持用户对大语言模型进行微调，支持主流的SFT任务，提供图形化界面；支持用户选择内置数据和用户数据，平台应内置alpaca、llama、oaast、glaive、identity等数据集；支持用户以表单的形式设置微调参数，基础参数包括学台内置chat应用，支持选择大模型、选择知识库、选择插件，可设定参数，方便用户调用大模型进行交互，支持选择部署好的大模型推理服务进行chat交互， (略) 内直接使用模型应用、平台外API/SDK调用使用； 13.大模型：设备制造商具备大模型性能优化经验，能够提供集群优化、模型开发相关技术支持，并配置1套自研国产100B（千亿）及以上规模的大语言模型，上下文长度≥4K，需交付大模型源代码和架构解析咨询服务，模型具备文本生成、知识问答、数学推理、编程和复杂逻辑理解的能力。 14.运行环境： 为保障大模型稳定运行，提供与大模型同品牌且兼容的运行依赖环境，要求具备自主知识产权，版权中心可查；支持基于软件包管理器的模块安装与更新；支持安全框架，支持强制访问控制，并可提供多种强制访问控制联合加载，包括SELINUX、APPARMOR等；支持基于模板的基线检测、修复和回退功能，具备供应链安全能力，运行环境提供一年原厂技术支持服务。 15.安全要求：配置主机安全防御系统，支持对病毒、间谍软件、木马、勒索软件、挖矿软件等恶意程序进行查杀；支持漏洞检测功能，匹配系统和应用的新型漏洞；支持实时检测SSH、RDP、SMB服务的快速和慢速暴力破解行为；具备Wndows和Linux系统的安全基线检测与自动修复功能；内置合规性检测知识库，检测类别包括身份鉴别、访问控制、安全审计、入侵防范、恶意代码防范等；实时监控内核层用户进程行为，实时发现反弹 Shell 行为并告警；在系统关键目录放置诱饵文件，当病毒加密到诱饵文件时，立即杀掉加密进程阻止加密；支持对主机重要资源（文件/目录、系统服务、注册表、驱动完整性）进行完整性检测；采用操作系统内核级的强制访问控制技术和主动防御机制，支持对系统文件/目录、进程、注册表等保护功能，对于信任的进程可添加信任列表；支持虚拟业务域防护功能，为正常的业务访问建立信任通道；自动化采 (略) 络访问关系，支持多视图方式展示访问关系（应用、端口等信息）详情和安全策略覆盖关系，支持通过可视化访问关系和异常日志便捷地生成白名单访问控制策略；支持移动存储设备管控，支持对已注册的移动存储设备设置只读、读写权限控制，防止恶意程序通过U盘进行传播。 16.电源：配置8个钛金级电源； 17.应用与调优：为保证大模型场景下应用效果，要求制造商具备千亿参数大模型在千卡集群上的调优能力，包含详细的测试模型介绍、并行训练策略、集群性能和扩展性，要求千卡集群实测性能扩展性大于90% 18. 并行加速：制造商进行过AI多机并行加速性能测试，测试至少两种深度学习框架，使用ImageNet图片集，测试模型采用AlexNet等从1个GPU卡到16个GPU卡的性能，加速比≥14x。;

自定义 : 1.基本要求：原厂正品保证 2.高度：≤6U机架式服务器 3.处理器：配置≥2颗X8 (略) 理器， (略) 理器≥56核，基本主频≥2.0GHz，最大睿频频率≥3.80 GHz 4.内存：配置≥24条64GB #内存，可扩展≥32个内存插槽； 5.硬盘：配置≥2块960G SSD硬盘，≥8块7.68T NVME SSD硬盘，要求NVME SSD数据盘MTBF可靠性≥#小时，可扩展≥16块NVME SSD硬盘； 6.RAID卡：配置≥1块16通道RAID卡，缓存≥8GB； 7.网络：配置≥ (略) 络接口（含SFP+光模块）； 8.GPU卡：配置≥8块GPU卡，单卡要求显存≥96GB HBM3、FP8算力≥290TFlops、显存带宽≥4TB/s、P2P卡间互联带宽≥900GB/s；； 9.GPU卡性能要求：要求在满足不少于30张所投GPU卡的环境下要求不低于8*7B MoE参数模型基于FP16精度的实测单卡 token值不低于1100tokens/s； 10.I/O扩展槽：可扩展≥10个PCIe 5.0 x16插槽，每个PCIe Switch需至少通过2个PCIe Gen5 x16通道连接CPU, 提升数据交互能力。 11. (略) ：配置与服务器同品牌 (略) ， (略) 技术，实现离线资产管理，包括线下库房的整机、整箱散件、单散件、配置、合同、的统一管理；支持CPU温度、GPU使用率、GPU显存使用率、核心频率、SWAP使用率，TCP重传率，UDP连接数，硬盘读写次数及读写时速率，出入风口温度，风扇转速及风扇占空比，网络发送速率、接收速率、系统进程数等监控；支持服务器BMC、BIOS、硬盘、RAID卡、网卡批量升级，服务器BIOS、BMC、RAID批量配置；支持服务器硬盘故障预测、内存故障预测功能；支持流程管理功能，包括设备上架流程、设备下架流程、 (略) 理流程、测试环境变更流程、设备位置变更流程等； 12. (略) ：配置与服务器同品 (略) ；提供从多种格式的文档提取文字 (略) 理能力，获取的文本可用于大模型训练或知识库构建，支持提取的格式包括pdf、docx、pptx、xlsx、md、HTML、xml等，提取后保存的格式为txt；支持从文本文档数据，进行问答知识数据抽取，获得基于既有文档的高质量微调数据；针对用户已有的微调数据，根据self-instruct、evol-instruct等生成方法进行数据衍生，获得与既有微调数据同类型的高质量微调数据；提供数据缓存加速机制，数据集可高速并行缓存到计算节点本地，并提供缓存数据的生命周期管理；支持用户对大语言模型进行微调，支持主流的SFT任务，提供图形化界面；支持用户选择内置数据和用户数据，平台应内置alpaca、llama、oaast、glaive、identity等数据集；支持用户以表单的形式设置微调参数，基础参数包括学台内置chat应用，支持选择大模型、选择知识库、选择插件，可设定参数，方便用户调用大模型进行交互，支持选择部署好的大模型推理服务进行chat交互， (略) 内直接使用模型应用、平台外API/SDK调用使用； 13.大模型：设备制造商具备大模型性能优化经验，能够提供集群优化、模型开发相关技术支持，并配置1套自研国产100B（千亿）及以上规模的大语言模型，上下文长度≥4K，需交付大模型源代码和架构解析咨询服务，模型具备文本生成、知识问答、数学推理、编程和复杂逻辑理解的能力。 14.运行环境： 为保障大模型稳定运行，提供与大模型同品牌且兼容的运行依赖环境，要求具备自主知识产权，版权中心可查；支持基于软件包管理器的模块安装与更新；支持安全框架，支持强制访问控制，并可提供多种强制访问控制联合加载，包括SELINUX、APPARMOR等；支持基于模板的基线检测、修复和回退功能，具备供应链安全能力，运行环境提供一年原厂技术支持服务。 15.安全要求：配置主机安全防御系统，支持对病毒、间谍软件、木马、勒索软件、挖矿软件等恶意程序进行查杀；支持漏洞检测功能，匹配系统和应用的新型漏洞；支持实时检测SSH、RDP、SMB服务的快速和慢速暴力破解行为；具备Wndows和Linux系统的安全基线检测与自动修复功能；内置合规性检测知识库，检测类别包括身份鉴别、访问控制、安全审计、入侵防范、恶意代码防范等；实时监控内核层用户进程行为，实时发现反弹 Shell 行为并告警；在系统关键目录放置诱饵文件，当病毒加密到诱饵文件时，立即杀掉加密进程阻止加密；支持对主机重要资源（文件/目录、系统服务、注册表、驱动完整性）进行完整性检测；采用操作系统内核级的强制访问控制技术和主动防御机制，支持对系统文件/目录、进程、注册表等保护功能，对于信任的进程可添加信任列表；支持虚拟业务域防护功能，为正常的业务访问建立信任通道；自动化采 (略) 络访问关系，支持多视图方式展示访问关系（应用、端口等信息）详情和安全策略覆盖关系，支持通过可视化访问关系和异常日志便捷地生成白名单访问控制策略；支持移动存储设备管控，支持对已注册的移动存储设备设置只读、读写权限控制，防止恶意程序通过U盘进行传播。 16.电源：配置8个钛金级电源； 17.应用与调优：为保证大模型场景下应用效果，要求制造商具备千亿参数大模型在千卡集群上的调优能力，包含详细的测试模型介绍、并行训练策略、集群性能和扩展性，要求千卡集群实测性能扩展性大于90% 18. 并行加速：制造商进行过AI多机并行加速性能测试，测试至少两种深度学习框架，使用ImageNet图片集，测试模型采用AlexNet等从1个GPU卡到16个GPU卡的性能，加速比≥14x。;