大模型数据处理平台

内容
 
发送至邮箱

大模型数据处理平台

项目名称 大模型数据处理平台 项目编号 XJD*
公告开始日期 2024-03-15 14:19:19 公告截止日期 2024-03-19 12:00:00
采购单位 西安交通大学 付款方式 货到安装、调试、验收合格后，付全款。
签约时间要求 发布竞价结果后7天内签订合同 到货时间要求 发布竞价结果后7天内送达
预算总价 币种 人民币
收货地址 (略) 碑林区
供应商资质要求 无
采购清单 1
采购商品 采购数量 计量单位 附件
大模型数据处理平台 1.00 套 大模型数据处理平台0312(1)+-+副本.pdf
品牌 丽科星
型号 X6426-G10
预算单价
规格参数 1、 大模型数据处理平台一套，整体外观为 4-6U 标准结构，提供多种冗余供电系统，配备 LKS-GUE2.10 专用散热套件;平台支持基于双因子认证的动态口令（OTP）远程登录： 处理器：配置≥2 颗 Intel 最新至强处理器，单颗 16 核心 32 线程， 185W; 配置内存容量≥最新一代 512GB Rdimm 内存;配置系统盘≥Intel 960GB 企业级， 配置数据盘≥32TB SATA 企业级硬盘， 配备一种服务器存储硬盘扩展装置（专利号： ZL 2022 2 *.3）。 配置 2 块高性能 GPU 算力单元， GPU 算力单元共可提供 CUDA 核心数:*，双精度浮点峰值性能 19.4TFLOPS，单精度浮点峰值性能 39TFLOPS， GPU 显存(160GB)，显存带宽 1935 GB/秒，互连带宽 PCIE 64GB/秒，算力单元NVLINK 桥接互连带宽 600 GB/秒； 13-PCI-E 5.0 x16， 最大支持 10 张 A100 80GB 扩展。配备一种高密度服务器的高效散热装置（专利号： ZL 2022 2 *.0）。配置≥2 个 1GB 网络接口;双端口 200G 网卡MCX*AAS-HEAT，配置 4 个 NV NVLink Bridge 2 Slot 显卡桥接器，支持 RDMA 特性，提供高带宽低延迟的数据转发特性，同时满足 AI 和 HPC 场景下的复杂数据交换；系统:预装 Ubuntu20.04,支持 BMC 远程管理，用户 管理员可实现远程开机、关机、重启、更新 Firmware、虚拟光驱、虚拟文件夹等操作，提供服务器健康日记、服务器控制台录屏/回放功能，支持安卓和 IOS 平台手机 APP 监控，可监控服务器健康状态，提供预警及告警日志信息。支持 IPMI、 SOL、 KVM Over IP、虚拟媒体等管理应用； 基于 OpenPGP、 OATH TOTP/HOTP 和 PIV 证书的会话加密方式，非对称加密支持 Challenge-Response 应答；支持二次硬件指纹加密认证，操作系统内合规信息不可克隆； 2、集群软件： LKSCSM 集群管理系统 V2.0，含三年期 license 授权， 安装调试完毕现场核验， 集群软件需要与主机厂家为同一品牌。具体功能如下：（1） .资源虚拟化：采用轻量级容器虚拟化技术，实现对 CPU、内存、磁盘等资源的虚拟化和统一管理。针对人工智能领域的特定需求，提供异构计算资源管理接口，实现异构计算资源的虚拟化统一管理，支持为容器以直通方式挂载异构计算资源；（2） .容器管理：支持将创建的容器在线进行镜像打包，并支持将打包好的镜像上传镜像仓库，实现镜像版本的持续更新；（3） .模型训练：允许用户上传自定义的代码程序和数据文件，通过在线提交计算资源需求即可启动训练任务，支持单机多卡和多机多卡的训练任务。支持在 Web 界面通过 jupyterlab、 VNC 客户端直接访问虚拟环境。支持通过 pycharm、 VScode 等工具进行远程调试；（4） . 作业监控：支持输出损失率、准确率等动态可视化监控图表，同时支持输出训练过程日志，并提供日志查看功能。（5）版权：管理软件必须是国产，且为保证集群系统运行的稳定兼容性，必须与计算节点硬件品牌一致，提供计算机软件著作权登记证书证明。 3、配置大模型 AI 加速模组，支持主流大语言模型 Llama 2、 Moss、 Stable Diffusion、 ChatGLM-6B 的训练和推理，能达到模型的快速收敛效果；预装支持多模态 AI 模型的运行库，可快速启动训练和推理任务；离线预装载完整版主流大语言模型库，保证模型完整的前提下可以进行百亿参数规模的模型训练和推理；预装专业 AI 加速库，在不影响快速收敛的前提下可以对 Transformer 模型中的参数进行精度优化；提供定制的 WEB UI 调参界面，支持浏览器中对模型做参数微调； AI 对话内容支持流式输出，并保存为文本文件；
售后服务 1、 投标时请标明产品的品牌及型号， 并提供原厂项目授权及三年期售后服务承诺函。 2、提供原厂出具的《X6426-G10 产品手册-V1.0》及《ZL 2022 2 *.0》 和《ZL 2022 2 *.3》专利证书，加盖原厂公章并以附件形式上传； 3、 为保证产品质量，避免因质量问题造成运行过热导致频繁宕机， 需提供设备原厂出具的《LKSHP 大模型数据处理平台系统测试报告 V1.0》 ； 4、 中标当日原厂技术人员免费送货上门安装部署联调， 为保证服务及时有效，要求西安本地供货商， 品牌型号不符将做拉黑处理。
,陕西, (略) ,碑林区,西安
项目名称 大模型数据处理平台 项目编号 XJD*
公告开始日期 2024-03-15 14:19:19 公告截止日期 2024-03-19 12:00:00
采购单位 西安交通大学 付款方式 货到安装、调试、验收合格后，付全款。
签约时间要求 发布竞价结果后7天内签订合同 到货时间要求 发布竞价结果后7天内送达
预算总价 币种 人民币
收货地址 (略) 碑林区
供应商资质要求 无
采购清单 1
采购商品 采购数量 计量单位 附件
大模型数据处理平台 1.00 套 大模型数据处理平台0312(1)+-+副本.pdf
品牌 丽科星
型号 X6426-G10
预算单价
规格参数 1、 大模型数据处理平台一套，整体外观为 4-6U 标准结构，提供多种冗余供电系统，配备 LKS-GUE2.10 专用散热套件;平台支持基于双因子认证的动态口令（OTP）远程登录： 处理器：配置≥2 颗 Intel 最新至强处理器，单颗 16 核心 32 线程， 185W; 配置内存容量≥最新一代 512GB Rdimm 内存;配置系统盘≥Intel 960GB 企业级， 配置数据盘≥32TB SATA 企业级硬盘， 配备一种服务器存储硬盘扩展装置（专利号： ZL 2022 2 *.3）。 配置 2 块高性能 GPU 算力单元， GPU 算力单元共可提供 CUDA 核心数:*，双精度浮点峰值性能 19.4TFLOPS，单精度浮点峰值性能 39TFLOPS， GPU 显存(160GB)，显存带宽 1935 GB/秒，互连带宽 PCIE 64GB/秒，算力单元NVLINK 桥接互连带宽 600 GB/秒； 13-PCI-E 5.0 x16， 最大支持 10 张 A100 80GB 扩展。配备一种高密度服务器的高效散热装置（专利号： ZL 2022 2 *.0）。配置≥2 个 1GB 网络接口;双端口 200G 网卡MCX*AAS-HEAT，配置 4 个 NV NVLink Bridge 2 Slot 显卡桥接器，支持 RDMA 特性，提供高带宽低延迟的数据转发特性，同时满足 AI 和 HPC 场景下的复杂数据交换；系统:预装 Ubuntu20.04,支持 BMC 远程管理，用户 管理员可实现远程开机、关机、重启、更新 Firmware、虚拟光驱、虚拟文件夹等操作，提供服务器健康日记、服务器控制台录屏/回放功能，支持安卓和 IOS 平台手机 APP 监控，可监控服务器健康状态，提供预警及告警日志信息。支持 IPMI、 SOL、 KVM Over IP、虚拟媒体等管理应用； 基于 OpenPGP、 OATH TOTP/HOTP 和 PIV 证书的会话加密方式，非对称加密支持 Challenge-Response 应答；支持二次硬件指纹加密认证，操作系统内合规信息不可克隆； 2、集群软件： LKSCSM 集群管理系统 V2.0，含三年期 license 授权， 安装调试完毕现场核验， 集群软件需要与主机厂家为同一品牌。具体功能如下：（1） .资源虚拟化：采用轻量级容器虚拟化技术，实现对 CPU、内存、磁盘等资源的虚拟化和统一管理。针对人工智能领域的特定需求，提供异构计算资源管理接口，实现异构计算资源的虚拟化统一管理，支持为容器以直通方式挂载异构计算资源；（2） .容器管理：支持将创建的容器在线进行镜像打包，并支持将打包好的镜像上传镜像仓库，实现镜像版本的持续更新；（3） .模型训练：允许用户上传自定义的代码程序和数据文件，通过在线提交计算资源需求即可启动训练任务，支持单机多卡和多机多卡的训练任务。支持在 Web 界面通过 jupyterlab、 VNC 客户端直接访问虚拟环境。支持通过 pycharm、 VScode 等工具进行远程调试；（4） . 作业监控：支持输出损失率、准确率等动态可视化监控图表，同时支持输出训练过程日志，并提供日志查看功能。（5）版权：管理软件必须是国产，且为保证集群系统运行的稳定兼容性，必须与计算节点硬件品牌一致，提供计算机软件著作权登记证书证明。 3、配置大模型 AI 加速模组，支持主流大语言模型 Llama 2、 Moss、 Stable Diffusion、 ChatGLM-6B 的训练和推理，能达到模型的快速收敛效果；预装支持多模态 AI 模型的运行库，可快速启动训练和推理任务；离线预装载完整版主流大语言模型库，保证模型完整的前提下可以进行百亿参数规模的模型训练和推理；预装专业 AI 加速库，在不影响快速收敛的前提下可以对 Transformer 模型中的参数进行精度优化；提供定制的 WEB UI 调参界面，支持浏览器中对模型做参数微调； AI 对话内容支持流式输出，并保存为文本文件；
售后服务 1、 投标时请标明产品的品牌及型号， 并提供原厂项目授权及三年期售后服务承诺函。 2、提供原厂出具的《X6426-G10 产品手册-V1.0》及《ZL 2022 2 *.0》 和《ZL 2022 2 *.3》专利证书，加盖原厂公章并以附件形式上传； 3、 为保证产品质量，避免因质量问题造成运行过热导致频繁宕机， 需提供设备原厂出具的《LKSHP 大模型数据处理平台系统测试报告 V1.0》 ； 4、 中标当日原厂技术人员免费送货上门安装部署联调， 为保证服务及时有效，要求西安本地供货商， 品牌型号不符将做拉黑处理。
,陕西, (略) ,碑林区,西安
    
查看详情》
相关推荐
 

招投标大数据

查看详情

附件

收藏

首页

搜索

最近搜索

无

热门搜索

无