自定义 : 1.基本要求：原厂正品保证 2.高度：≤6U机架式服务器 3.处理器：配置≥2颗X86架构处理器，单颗处理器≥56核，基本主频≥2.0GHz，最大睿频频率≥3.80 GHz 4.内存：配置≥24条64GB DDR5-4800内存，可扩展≥32个内存插槽； 5.硬盘：配置≥2块960G SSD硬盘，≥8块7.68T NVME SSD硬盘，要求NVME SSD数据盘MTBF可靠性≥250万小时，可扩展≥16块NVME SSD硬盘； 6.RAID卡：配置≥1块16通道RAID卡，缓存≥8GB； 7.网络：配置≥4个万兆网络接口（含SFP+光模块）； 8.GPU卡：配置≥8块GPU卡，单卡要求显存≥96GB HBM3、FP8算力≥290TFlops、显存带宽≥4TB/s、P2P卡间互联带宽≥900GB/s；； 9.GPU卡性能要求：要求在满足不少于30张所投GPU卡的环境下要求不低于8*7B MoE参数模型基于FP16精度的实测单卡 token值不低于1100tokens/s； 10.I/O扩展槽：可扩展≥10个PCIe 5.0 x16插槽，每个PCIe Switch需至少通过2个PCIe Gen5 x16通道连接CPU, 提升数据交互能力。 11. 管理平台：配置与服务器同品牌基础设施统一管理平台，支持物联网技术，实现离线资产管理，包括线下库房的整机、整箱散件、单散件、配置、合同、的统一管理；支持CPU温度、GPU使用率、GPU显存使用率、核心频率、SWAP使用率，TCP重传率，UDP连接数，硬盘读写次数及读写时速率，出入风口温度，风扇转速及风扇占空比，网络发送速率、接收速率、系统进程数等监控；支持服务器BMC、BIOS、硬盘、RAID卡、网卡批量升级，服务器BIOS、BMC、RAID批量配置；支持服务器硬盘故障预测、内存故障预测功能；支持流程管理功能，包括设备上架流程、设备下架流程、问题处理流程、测试环境变更流程、设备位置变更流程等； 12.大模型应用开发平台：配置与服务器同品牌大模型应用开发平台；提供从多种格式的文档提取文字内容的处理能力，获取的文本可用于大模型训练或知识库构建，支持提取的格式包括pdf、docx、pptx、xlsx、md、HTML、xml等，提取后保存的格式为txt；支持从文本文档数据，进行问答知识数据抽取，获得基于既有文档的高质量微调数据；针对用户已有的微调数据，根据self-instruct、evol-instruct等生成方法进行数据衍生，获得与既有微调数据同类型的高质量微调数据；提供数据缓存加速机制，数据集可高速并行缓存到计算节点本地，并提供缓存数据的生命周期管理；支持用户对大语言模型进行微调，支持主流的SFT任务，提供图形化界面；支持用户选择内置数据和用户数据，平台应内置alpaca、llama、oaast、glaive、identity等数据集；支持用户以表单的形式设置微调参数，基础参数包括学习率、量化等级、提升模板、加速方式，支持配置高级参数，包括截断长度、计算类型、梯度累积、学习率调节器、验证集比例、预热步数等；提供模型部署和镜像部署两种方式；支持对大模型服务的统一管理操作，包括服务上线、下线、更新、删除、在线测试、AB测试和服务评估；支持以OpenAI和软件接口规范两种方式引入大模型服务；支持多个行业领先基础大模型，包括Qwen2，Yuan2.0，Yuan2.0-M32，GLM4，Baichuan2，Llama3；支持基础知识库、行业知识库、私有知识库三类知识库构建、删除和编辑操作；支持jsonl、epub、mobi等至少12种格式的文档上传和解析；支持关键词检索、语义检索和混合检索三种检索方式；支持3+种向量编码模型进行知识编码；支持但不限于敏感词检测、知识库检索（支持展示检索结果引用、检索结果回溯）、网络检索、文档阅读等插件；平台内置chat应用，支持选择大模型、选择知识库、选择插件，可设定参数，方便用户调用大模型进行交互，支持选择部署好的大模型推理服务进行chat交互，支持平台内直接使用模型应用、平台外API/SDK调用使用； 13.大模型：设备制造商具备大模型性能优化经验，能够提供集群优化、模型开发相关技术支持，并配置1套自研国产100B（千亿）及以上规模的大语言模型，上下文长度≥4K，需交付大模型源代码和架构解析咨询服务，模型具备文本生成、知识问答、数学推理、编程和复杂逻辑理解的能力。 14.运行环境： 为保障大模型稳定运行，提供与大模型同品牌且兼容的运行依赖环境，要求具备自主知识产权，版权中心可查；支持基于软件包管理器的模块安装与更新；支持安全框架，支持强制访问控制，并可提供多种强制访问控制联合加载，包括SELINUX、APPARMOR等；支持基于模板的基线检测、修复和回退功能，具备供应链安全能力，运行环境提供一年原厂技术支持服务。 15.安全要求：配置主机安全防御系统，支持对病毒、间谍软件、木马、勒索软件、挖矿软件等恶意程序进行查杀；支持漏洞检测功能，匹配系统和应用的新型漏洞；支持实时检测SSH、RDP、SMB服务的快速和慢速暴力破解行为；具备Wndows和Linux系统的安全基线检测与自动修复功能；内置合规性检测知识库，检测类别包括身份鉴别、访问控制、安全审计、入侵防范、恶意代码防范等；实时监控内核层用户进程行为，实时发现反弹 Shell 行为并告警；在系统关键目录放置诱饵文件，当病毒加密到诱饵文件时，立即杀掉加密进程阻止加密；支持对主机重要资源（文件/目录、系统服务、注册表、驱动完整性）进行完整性检测；采用操作系统内核级的强制访问控制技术和主动防御机制，支持对系统文件/目录、进程、注册表等保护功能，对于信任的进程可添加信任列表；支持虚拟业务域防护功能，为正常的业务访问建立信任通道；自动化采集东西向网络访问关系，支持多视图方式展示访问关系（应用、端口等信息）详情和安全策略覆盖关系，支持通过可视化访问关系和异常日志便捷地生成白名单访问控制策略；支持移动存储设备管控，支持对已注册的移动存储设备设置只读、读写权限控制，防止恶意程序通过U盘进行传播。 16.电源：配置8个钛金级电源； 17.应用与调优：为保证大模型场景下应用效果，要求制造商具备千亿参数大模型在千卡集群上的调优能力，包含详细的测试模型介绍、并行训练策略、集群性能和扩展性，要求千卡集群实测性能扩展性大于90% 18. 并行加速：制造商进行过AI多机并行加速性能测试，测试至少两种深度学习框架，使用ImageNet图片集，测试模型采用AlexNet等从1个GPU卡到16个GPU卡的性能，加速比≥14x。 19.售后服务：提供六年原厂售后服务，六年原厂介质保留服务，维保期内每年12次原厂巡检，要求官方保修信息必须与采购要求一致；为保证设备故障的响应时效性，供应商需常备本次涉及产品的备品备件，巡检期间需携带便携配件及工具等；同时，成交供应商应提供客户现场网络环境的安全检测服务，并排除安全风险；为提升后期项目科研方案的精准性，成交供应商需要在两年内随时免费提供同型号、同配置设备租赁服务，单次租赁期不超过60天，到期后返还。 注：投标人报价时满足需求清单中主要参数的同时参考附件采购需求标准内容。其他商务要求： 20.其他商务需求：供应商所投产品必须是原装正品，并需要开具增值税专用发票；成交供应商所供应商品须和报价产品详细参数一致，必须满足所有技术参数要求；不接受委托第三方送货，必须是全新未拆封的正品，拒绝拆改配及二手产品；到货后硬件厂商实施软件部署等；如项目成交，则成交供应商依据成交确认书在10个工作日内与采购人签订协议供货合同；合同签订后，10个工作日内免费完成运输、安装、调试，达到验收标准；保修信息必须与采购要求一致，验货时需供货商拆包装箱，一机一验原则，同时拨打官方400/800核实配置，确保整机的稳定性和安全性如查验异常，则为验收不合格，甲方有权拒收货物；验收参照合同及相关法律、法规要求，验收达不到设备技术参数要求的，无条件退换不合格产品，涉及风险由供货商全部承担；成交供应商如不能按时、按需、按质供货，导致废标，影响采购单位使用，将根据《内蒙古自治区政府采购电子卖场管理办法》承担相应违约责任，同时将此行为投诉给政府采购中心和财政厅，视为恶意竞标及虚假应标，按照相关规定拉入政府采购黑名单。;