交通运行监测与应急指挥系统(二期)工程(第一批)4标段(数据工程及道路运输运行监测系统)招标变更

内容
 
发送至邮箱

交通运行监测与应急指挥系统(二期)工程(第一批)4标段(数据工程及道路运输运行监测系统)招标变更






说明:点击查看>> =20 height=20 src=http:/ 点击查看>>

公告内容


项目名称

 四略监测与应急指挥系统(二期)工程

招标文件名称

 四略监测与应急指挥系统(二期)工程(第一批)4标段(数据工程及略监测系统)的招标文件

变更后招标文件下载截止时间

  ## 10:30:00

变更后投标质疑截止时间

  ## 18:00:00

变更后开标时间

  ## 10:30:00

变更后保证金递交截至时间

  ## 10:30:00

变更后投标有效期天数

 90

变更后开标地点

 X市X区人民中路3段35号

澄清次数

 12

填报人企业名称

X精略有限公司

填报人名称

X精略有限公司

澄清说明

四略监测与应急指挥系统(二期)工程(第一批) 4标段(数据工程及略监测系统)补遗书08 一、补遗说明 本补遗书对大数据平台及数据略了修改,招标文件及1-7号补遗书中如有与本补遗中相关内容描述不一致的以本补遗为准。 投标文件递交的截止时间(投标截止时间,下同)变更为2018年2月?6日10时30分,投标人质疑截止时间变更为2018年1?月26日18时00分,投标保证金递交截止时间顺延。 略有要求提供第三方评测机构出具的检测报告复印件解释如下:略要求相同,但测试报告中功能点的描述须包含指标要求的功能。 二、详细修改内容 5.2.2交通运输大数据平台 5.2.2.1交通运输大数据平台技术要求 本工程将构建统一的大数据平台,利用大数据分析技术,实现交通运输领域的专题数据统计、数据趋势分析、交通流量流向预测、客货运输态势预测、略等方面开展深度应用,充分发掘数据资源的潜在价值。同略门预留相应的资源,开展大数据分析应用。本工程构建的大数据平台要实现与省级政务云交通云整合的对接,配合云整合平台服务商完成相关接口的开发工作,接收交通云整合平台的统一纳管。 本项目将基于Hadoop架构以及相关技术构建大数据平台,同时还需考虑以下特性: 1.开放性 (1)大数据平台采用面向服务的架构,以标准化的方式汇聚多种类型的相关数据,不断的充实大数据平台的数据规模及服务规模。 (2)大数据平台提供算法模型的统一管理,采用标准化的应用集成、部署、运行方式,快速将已有的算法模型应用集成到大数据平台中,用户可以按需略基于大数据分析、挖掘,分享开发接口和服务接口。 (3)大数据平台的系统开发与建设应做到工作标准统一、数据统一、业务流程统一、服务程序统一。在业务、软件产品、通信技术等略业、国家和国际标准化组织制定的有关标准与技术规范,并且在此基础上,提供开放的开发接口,保证信息流转的快速顺畅,略安全可靠,最大程度的保障项目的开放性。 (4)大数据平台在设计上要充分考虑用户界面的方便、X、灵活,用户应能够方便地在权限范围内在各模块之间切换。系统在使用过程中,遵循人机交互原则,对错误的操作、输入略提示,对复杂的操作流程提供X的操作向导。 2.稳定性 (1)大数据平台的架构设计应具有良好的稳定性。各模块/应用可略升级更新,替换大数据平台中的某一模块,略平台架构的调整。 (2)具有高可用性,在服务器出现故障时,集群服务可以自动将服务从故障节点切换到另一个备用节点,保证业略。对节点提供可扩展性,可以动态加入一个或多个服务节点,满足应用的需要,增强集群的整体性能。支持错误恢复机制,略失败的略任务的接洽,通过错误的重定向,略任务的有效完成。 (3)大数据平台应提供完善的监控运维体系,可以端到端监控底层集群、网络及数据库,降低平台应用故障率。 (4)大数据平台的稳定需要较长时间观察、分析、调试、改善。因此,在大数略期间,应支持对软、略合理的调整优化。 3.兼容性 支持云平台、Windows、Linux、Unix等主略环境,能够支持国产操作系统;平台可移植性高,并可对多终略同步和协调。支持传统的JDBC,ODBC方式数据库连接,支持HAWQ,兼容常见的SQL查询语句。 交通运输大数据平台基本要求: ▲1、大数据略商具有核心大数据平台软件和技术实力,在大数据平台产品方面,具有自主知识产权和研发能力。大数据领域相关产品软件著作权登记证书或发明专利证书≥15个(提供软件著作权登记证书或发明专利证书复印件略商鲜章,略发布日期之前,原件开标备查); ★2、大数据平台产品提供≥30个物理服务器节点数全功能授权;自签发交工验收证书之日起五年内,略人业务需求,根据招标人业务需要免费补足授权; 3、配略业完成相关数据抽取和分析展现。 5.2.2.2功能要求 交通大数据平台略数据汇聚操作,略理算法库,略存储,并对外提供数据服务以及开发环境,以接口的方式将数据开放。略理的过程中,处理任务可以根据资源管理自动调度和分配基础资源,可实时监控平略状态,满足多租户的需求,满足运维管理的需求。 5.2.2.2.1数据ETL能力 数据汇聚系统的主要功能是对结构化、非结构化及半结构化异构数据的整合,实现海量数据资源的存储。其中结构化数据主要从新建设略进行采集,保证数据的正确性和标准性,符合省厅对数据质量的要求,采集后存储到分布式文件存储系统中。而非结构化数据和半结构化数据主要从业务系统中直接采集,采集后存储到分布式对象存储系统中。 1.基本数据汇聚 数据汇聚系统应支持以下基本功能: (1)结构化数据采集 支持主流关系型数据库,包括Oracle、MySQL、SQL Server、DB2等,支持主流的数据抽取协议,包括JDBC、ODBC、Oracle OCI等,支持对数据表的全量抽取和增量抽取,数据加载支持完全覆盖、合并覆盖、不覆盖等选项,支持数据源的元数据管理,包括数据源的位置、协议、数据库类型、字段类型、字段约束关系等。 (2)半结构化数据采集 支持主流的半结构化数据,数据类型包括日志、网页、XML、JSON文件,支持主流的数据抽取协议:HTTP(S)、FTP(S)、SCP、对象存储访问,支持全量、增量的数据抽取,数据加载支持完全覆盖、合并覆盖、不覆盖等选项,支持数据源的元数据管理,包括数据源的文件类型、文件大小、字数统计等。 (3)非结构化数据采集 支持图片、音频、视频等文件格式,支持主流文件传输协议:HTTP(S)、FTP(S)、SCP、RTSP、对象存储访问,支持数据源的元数据管理,以视频为例,元数据包括创建时间、格式、作者、大小、码流等。 (4)多源数据采集 支持从主流关系型数据库(oracle, MYSQL, SQL Server, DB2, sydbase,informix),webservice接口,文件服务器等多种存储设备中采集数据。支持HBase/Hive等Hadoop数据库和MPP/Oracle/SQL Server等关系型数据库之间统一SQL查询 2.数据ETL能力 (1)支持定制数据汇聚策略 要求平台的数据抽取功能可根据预定的数据汇聚策略,对不同数据源的略分别汇聚,分别存储,也可以根据数据量大小、运算要求通过数据直连或数据服务总线接入。 (2)数据ETL能力 支持通过web图形化ETL 工具Kettle 以及 Sqoop将数据导入到Hadoop,并提供数据清洗转换功能(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),略商鲜章)。 3.其他方面 (1)大数据环境数据采集 全面支持大数据存储和访问,支持大数据环境的数据采集。支持大数据存储载体Hadoop/HDFS和Avro,支持访问HDFS内的文件内容。支持主流NoSQL数据库,包括:HBase, mongodb等。 (2)支持图形化作业 支持从图形化界面创建数据采集作业,具备可视化操作界面。 (3)支持文件断点续传 支持G级别大小的文件断点续传,传输过程中被中断后,在重新传输时,通过检测文件长度和断点位置,从略开始传输,可节省时间和其它资源。 略络数据交换,略络情况下,可通过某个中间节点做路由连通的情况,可通过节点的管理代理功能,来实现节略数据交换。 (4)实时日志采集 支持Flume实时采集日志信息,高可用的,高可靠的,分布式的海量日志采集、聚合和传输,支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提略理,并写到各种数据接受方的能力。 5.2.2.2.2数据存储计算 要求大数据平台的数据存储能力中主要采用多种分布式存储技术来存储从数据源抽取到的数据,从而建立大数据资源池,便于实现快速查询、快速摸排分析,数据关系分析与挖掘,热点、人、事、物的分析功能,统一对应用提供数据服务。平台的数据存储功能应提供多种分布式文件存储和分布式对象存储系统。 1.数据存储 (1)基本数据存储 ①提供分布式数据存储平台,略、Java API、C API、RESTFUL API、JDBC、ODBC方式写入和读取数据; ②在一个平台内,支持多种类型的数据存储,包括结构化数据、半结构化数据、非结构化数据 ③支持超过PB尺寸大文件的读写,支持海量(百亿以上)小文件在统一命名空间的读写; ④支持多种存储介质混合使用,用户可以配置存储策略,使文件可以根据冷热不同,存储在不同的介质上; ⑤基于分布式数据存储平台,提供存储及服务能力,用户可以通过访问略文件读写。 (2)分布式文件存储 要求满足包括键值存储(Key-Value)、文本存储(File)、列式存储(Columar)、索引存储(Full Text Search)。针对照片、音视频等非结构化数据,要求大数据平台提供统一的对象存储方式。 (3)数据存储能力 提供对E略落地保存,支持数据库及Hadoop大数据平台等数据存储能力,并具有数据归档管理能力;支持通用关系型数据库接口及MPP数据库接口(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),略商鲜章)。 2.数据计算 (1)基本计算 ①支持内存复用技术,支持基于DAG的任务编排,支持基于规则和成本的查询优化器,提高查询性,加速大规模数据查询的速度; ②系统内置常用的分析算法, 包括聚类、分类、回归、图算法等; ③分析算法支持分布式文件系统,支持在分布式计略; ④略理框架略理作业管理功能。略理框架管略理、略理的计算框架和SQL分析引擎,略理作业管理中提供对作业的调度和监控管理能力; (2)数据计算能力 提供数据模型构建工具,模型库管理和模型展厅,基略业应用特征构建数据分析模型,提供MapReduce、Spark、Storm等多种计算框架,离线计算、内存计算和流式计算并存,满足高吞吐、大数据量和略理等多方面的数据计算要求。 (3)部署模式 基于主流开放式Hado略计算基础架构和混合式架构,系统可实现基于略络和云计算平台略署,支持Hive on MapReduce、Hive on Spark。 5.2.2.2.3数据治理 要求大数据平台将汇聚的数据,按照其属性分为几略存储,建立统一的资源目录,基于专题的数据关系更清晰、使用更简易。用户可以在需要的专题目录下,使用平台提供的数据视图,略数据浏览、导入、检索和使用,这样也便于建立用户与数据的访问权限,以达到按需浏览、按需查询、按需使用等功能。大数据平台提供资源目录的标准化服务接口,第三方应用程序可以通过资源目录服务接口,来对不同目录略浏览、查询和使用。 数据管理系统主要包含元数据管理、略分。 1.元数据管理 (1)要求基略业数据标准体系、资源目录、数据质量体系和元数据库,大数据平台通过SQL数据同步方式与其保持一致性,并基于大数据业务的特点提供可检索列表展现平台(非)结构化数略元数据视图(metadata),资源目录将汇略分类存储,通略的元数据信息建立的大数据平台元数据目录,提供增强性的元数据关联关系的分析和建模应用,形成功能强大的大数据元数据管理模块。满足以下三种主要业务需求:元数据分类,检索,构建元数据模型。 (2)支持基于主题的数据台账与基于元数据的信息管理,提供数据资源检索功能。 2.数据视图 (1)大数据平台提供数据视图,使得用户可以与大略交互,略理数据,如操作HDFS上的数据,略理任务,执行文本存储中的SQL语句,浏览分布式数据库等; (2)支持数据集管理:描述对象的相关特征,采用业务领域的划分,略门共享数据的详细信息和数据项内容,确保对象描述的唯一性,以避免在不同环境以及不同视角下对同一对象的差异化描述。 3.数据治理能力 (1)支持如下数据清洗规则:过滤、去重、去空等; (2)支持如下数据转换规则:值映射、列拆分、增加常量、增加序列、字段选择、字符串替换、拆分字段、设置字段值、笛卡尔记录关联、记录集选取等; (3)在数据转换中支持统计规则,包括分组、单变量统计、数据采样等; (4)支持自定义清洗和转换规则,采用代码脚本的方式,脚本类型包括Java、JavaScript、SQL等。 4.数据质量 (1)支持可视化数据质量规则定义:提供可视化界面,配置数据的清洗、校验规则。支持空值填充、大小写转换、金额清洗、去除不合理值、组合规则清洗、空值校验、大小写校验、金额格式校验、不合理值校验、组合规则校验等; (2)支持数据质量探查:支持对数据的合法性,略验证。校验方式支持数据库中已经存在的单表以及存在关联关系的多张表验证; (3)支持问题数略理:支持问题数据综合治理,提供邮件,短信的方式通知数据略理。 5.2.2.2.4数据挖掘分析 大数据平台要求以Hadoop生态体系为主(包括:MapReduce、Storm、Spark)集成多种计算框架和算法库,并基于这些内容,构建分布式计算框架,提供了略理能力。 1.略理框架 (1)分布式算法框架主要负略维护和管理,略理算法的上传、添加、读取、更新和删除基本操作。分布式算法框架提供用户基于平台数据,开发特定业务算法的能力,支持算法上传、维护、管理功能。 (2)支持基于Hadoop/MapRedu略理实现。可以通过MapRedu略理组件活动配置,定义数据输入输出略理流程,并自动在Hadoop/MapRe略,以支持高并发和高效率略理需求。 (3)利用MapReduce、Spark、Tez等分布式计算框架,为上层应用提供大数据分布式计算的支撑,提供Mahout,MLlib等算法库支撑,提供数据存储访问及分布式计算任务的调度、运行支撑环境能力。 (4)分布式算法框架提供略理、略理和略理三种框架供用户选择。 2.算法库 略理模型管理对海量的数据资源的略统一管理,描述数据的属性以组织数据,定义数据的类型、内容、性质以及数据间的关联关系。 (1)支持大数据分析建模过程中的完整数据抽取功能,支持文件数据,包括但不限于:excel等。支持各种数据库数据,包括但不限于:MYSQL、ORACLE、Postgresql、HIVE等。 (2)略理类算法,包括但不限于:数据读取、数据视图、全表统计、相关系数矩阵、皮尔森系数、协方差矩阵、卡方拟合性检验、卡方独立性检验、分词器、去除停词器、二值化、主成分分析、类型转换、类型转换数值、数值转换字符串、特征哑编码、略理、数据归一化、数据标准化、最小最大值标准化、绝对值最大标准化、特征离散、Hadamard乘积、SQL语义转换、分位数离散化、略理、随机抽样、数据分割。 (3)支持文本分析类算法,包括但不限于:TF-IDF、Word2Vec、计数矢量化、语言模型。 (4)支持机器学习类算法,包括但不限于:分类、回归、聚类、关联分析或关联规则。 (5)▲具备模型评估类算法,包括但不限于:回归、分类。具备对模型略图表可视化查看,包括但不限于:表格、折线图或曲线图(提供第三方评测机构出具的检测报告复印件略商鲜章)。 5.2.2.2.5数据服务 大数据平台能够汇聚多个数据源的数据,能够提供多种数据服务能略系统使用,包括元数据服务、数据服务、内容服务、挖掘分析服务等;大数据平台能够将数据获取能力、数据检索能力、数据分析能力接口注册到数据服务总线,进行封装,形成标准化的API接口开放出去,以便应用系统可以基于这些接口来快速开发应用和支略。主要满足以下服务能力: 1.元数据服务 针对大数据平台中的两类元数据提供服务,一类是针对数据内容本身的元数据,另一类是针对数据存储信息的元数据。 (1)提供数据服务管理能力和数据服务消费功能。将数据以服务形式发布供用户使用,提供以订阅方式使用数据服务的能力;并对数据服务的发布过程、控制策略和服务略管理,提供对访问流量的监控和分级控制能力; (2)提供申请资源能力,计算资源申请,存储资源申请,服务资源申请,申请HDFS文件访问权限等; (3)提供服务调用能力,基于平台提供的服务接口,访问数据;基于平台提供的算法,做数据挖掘; (4)支持数据服务注册管理功能,包括数据服务注册、数据服务授权管理、数据服务发布流程管理; (5)支持数据服务使用管理,包括使用者证书管理、数据服务在线测试、试用、发布管理、数据服务调用控制、数据服务鉴权管理、支持数据服务能力可视化编排,数据一键开发功能、数据服务负载均衡、数据安全加解密管理。 2.内容服务 内容服务主要包括全文检索服务和对象存储服务两类。 (1)全文检索服务 ①支持常见文档格式,包括doc/docx、xls/xlsx、ppt/pptx、pdf; ②支持文档检索管理,包括上传、修改、文档索引管理、文档预览等; ③支持结构化数据、半结构化数据联合搜索; ④支持第三方基于全文检索服务接口开发应用; ⑤支持符合汉语习惯的搜索功能。 (2)对象存储服务 ①略对象存储监控,包括存储容量、容器数量、对象数量等; ②支持单用户对象存储监控,包括存储容量、容器数量、对象数量等; ③支持多种数据可靠性机制,包括多副本、纠删码; ④提供秘钥管理功能,支持对象的加密存储。 3.挖掘分析服务 提供挖掘分析服务,利用多种标准化或者自定义的数据算法,对导入大数据平略挖掘分析,从而提供用户关注的数据。挖掘分析服务能够依托大数据平台的算法库,构建大数据分析方法,为用户提供二维、三维的大数据分析能力。 4.数据视图服务 (1)提供平台数据的统一视图,在统一视图内用略有的权限内的数据,包括表格、对象、文件等; (2)支持数据的自助分析,以可视化的方式展示数据实体和数据内容,支持用户用拖拽的方式构建过滤、分组、排略数据查询; (3)支持编略数据查询,SQL脚本编写过程中,可以根略智能提示; (4)支持SQL脚本管理,包括新增、编辑、删除、模糊搜索; (5)支持动态数据可视化的能力,提供管理数据源和定义数据集的能力,支持配置可视化的数据视图,支持以自定义图表的方式展示数据,提供Hive JDBC访问接口方式。 5.数据服务能力 (1)支持通过web界面即可完成数据服务接口的服务发布、审核、共享,无需编程人员开发代码。 (2)基于微服务架构,提升服务开发效率,使服务注册,服务调用等工作变得简单,操作简洁易用;服务接入规范、简单,可灵活扩展,新的服务可以快速接入。 (3)支持通过门户申请服务,设置推送频率,可自动向申略需要的数据。 (4)支持对大数据略关键内容检索,可配置、可扩展,并对略优化。支持多维索引,可实略深度搜索,支持全文检索功能,搜索结果展示形态多样化,支持3D方式呈现。 5.2.2.2.6开发环境及工具 1.开发环境 (1)提供丰富的可视化组件,通过拖拽式操作快速编辑可视化分析页面,展现数据分析结果; (2)支持基于B/S的大数据分析挖掘建模环境,提供X的系统访问和使用界面; (3)提供可视化建模设计,支持Oracle数据库建模设计;支持基于Hadoop的分布式存储系统的数据建模; (4)▲支持数据表拖拽,能够根据略景,自定义组合数据,实现多业务状态的数据融合(提供第三方评测机构出具的检测报告复印件略商鲜章); (5)支持基于基础存储与计算平台的集;开发能力,支持基于web图形化方式操作,包括元数据管理、HBase、文件管理、检索设计、实时采集、节点任务、流程任务、采集调度、任务调度、运行监控、全文检索等功能;支持流程任务的新增、删除、修改、查询、运行、保存;支持设置流程略。 2.开发工具 (1)提供ETL工具,支持图形化的流程设计,实现快略理流程。 (2)提供数据治理工具,支持元数据管理、数据标准管理、质量规则管理、数据资产管理、数据共享管理等功能。 (3)▲提供数据挖掘分析工具,支持分析工具对数据的访问,访问协议包括RestFul API、JDBC、ODBC、Java API等;支持上述分析工具略算法,支持对这些算法的管理、调用(提供第三方评测机构出具的检测报告复印件略商鲜章)。 (4)提供丰富的可视化组件,通过拖拽式操作快速编辑可视化分析页面,展现数据分析结果。 5.2.2.2.7安全保障 1.基础安全 大数据平台的基础安全基于省政务云监管平台的统一要求实现。 (1)大数据平台应提供良好的安全性设计,保障数据安全,并对各类故障都具有良好的隔离性,一旦出现模块故障,平台的监控系统应根据预略报警,若配置了隔离策略,也会将模块从服务总线中暂时注销,禁止其他上层模块调用故障模块提供的API接口。 (2)大数据平台还应具有灾备能力。通过各种备份、冗余的设计和相关的恢复机制,确保在出现宕机、误操作等严重情况下仍然能够恢复数据,确保平台能够在灾难发生后恢复到正常提供服务的状态,保证业务的连续性和数据的安全。 2.数据安全 (1)支略加密存储,支持对用户的数据略控制,略存储、分析,并略安全审计(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),略商鲜章); (2)支持消息传输数据加密机制,同时支持用户通过安全出口使用自定义的或第三方的安全算法略加密,保证数据的安全性。通过在数据传输过程中对数据加密,达到数据安全传输的目的; (3)数据加密:提供专门的加密组件,数据在HDFS上采用加密存储,避免敏感数据泄漏,提升数据安全性,对于HIVE和HBASE采用专门的加密区域存储数据;提供对国密算法的支持; (4)支持数据安全规范和策略,识别并标记敏感数据,可制定针对敏感数据的使用权限以及用户对敏感数据的访问权限,确保数据资产在使用过程中具有适当的认证、授权、访问和审计等控制措施; (5)备份恢复:支持对HDFS、HBa略备份与恢复,包含增量、全量两种方式。 3.平台访问控制和权限管理 (1)大数据平台需对接应用支撑系统中的“统一权限管理平台”,实现大数据平台的开发用户自服务管理和管理者对于开发用户的统一化管理。用户登录到平台后,略有授权使用的服务菜单,可以在一个页面对略诸如访问密钥的获取和管理、服务的使用情况统计等。管理者则可对略平台功能服务的权限配置管理和各服略监控。 (2)支持基于用户和角色的统一安全管理,支持单点登录能力,支持Kerberos安全协议。支持基于安全认证的数据资源管理和访问管理。 (3)支持基于用户和角色的认证统一体系,遵从帐户/角色模型,实现略权限管理,略批量授权管理(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),略商鲜章)。 4.日志审计 大数据平台为业务应用提供统一的日志采集、检索服务。略日志、用户访问记录、略集中存储和管理。通过分析异常日志发现系略中的问题,略审计。 5.2.2.2.8运营管理能力 1.平台运维管理 (1)模型管理 ①支持基于数据略模型的训练; ②支持多种模型评价方法,包括混淆矩阵、Lift图、ROC曲线; ③提供WEB UI的方式,略管理,支持模型的训练、应用、发布、模糊检索、修改、删除; ④支持可视略理,用表格的形式提供丰富的可视化操作,略有的操作记录为脚本,供略; ⑤支持模型的可视化展示,包括人物画像、分类预测、主成分提取、聚类分析; ⑥略,客户可略上下载符合略业模型,经过参数调整后即可直接使用。 (2)数据流向监控 ①略有的数据集成、分析、服务等任务,提供统略监控; ②支持异常告警,异常的规则可由数据管理员定义,常见的异常情况包括任务失败、数据量异常波动、执行时间超长、任务数目异常等。 (3)监控报警 ①提供可视化监控告警功能。通过界面,用户可以配置监控策略、查看性能指标、评测健康状态; ②监控的指标包括节点参数、大数据作业参数、数据源参数、数据集成参数、略理参数、数据服务参数、日志采集参数等。 ③集群管理 ④提供向导式的界面,协助管理员完成大数据各个集群的扩容、缩容、补丁安装、集群升级等操作; ⑤提供自动检查服务,实现自动健康度巡检; ⑥提供集群修复功能,在集群出现问题的时候,在不影响数据安全和服务可用性的情况下,略修复操作; 2.运维管理能力 (1)支持基础架构集群动态扩展。为Hadoop、Spark提供系统性能横向扩展(Scale Out)的能力,可灵活快捷的通过新增计略系统扩展而非通过对单个计算节略升级实现,能够充分纳入各种x86的设备,实现在线平滑的性能扩展,且系统性能可按照节点数量线性增长; (2)支持大数据基础架构平台的统一管理运维能力,略的系统状态,略资源规模监控,节点告警等功能; (3)支持服务管理,支持对各项资略添加、删除、启停、重启、配置、维护等操作; (4)支略涉及组件、略实时不间断的7x24小时的监控和管理,可合理设定告警阈值,确保任何服务、主机等状态异常的及时通报和展示,并支持短信、邮件方式通知运维人员,确保略理问题。 3.多租户 (1)支持多用户对略交互略理;支持多种资源调度策略。支持租户建立、删除、修改操作,支持多租户资源分配与隔离,支持设置用户资源管理权限(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),略商鲜章)。 (2)租户委托管理员能且仅能管理租户及其子租户,包括创建子租户、删除子租户、修改子租户、查看租户己及子租户的作业、资源使用情况,无法管理(包括查看)其他租户的作业、资源使用情况。 (3)支持存储资源分配,即支持给租户分配存储资源(文件系统的存储空间),可控制租户在文件系统上可以创建的最大文件数量和使用的最大存储空间。 (4)支持计算资源分配,即支持给租户分配计算资源(包括CPU和内存),可配置使用的最大(上限)、最小(预留)系统资源百分比。 (5)支持服务资源分配,即支持给租户分配系统服务,至少包括:Hive、HBase,绑定该租户的用户可使用该服务。 (6)支持将一个用户关联到租户,只有关联到租户的用户才可以使用该租户(资源)。一个用户可以关联到多个租户,一个租户也可以关联多个用户。 (7)支持对租户的资源(CPU、内存、存储)使用情况,包括租户资源配额、已使用资源、略实时监控,并提供可视化的监控结果的展示。 4.任务调度与监控 (1)提供Web UI的任略监控管理功能,发布与创建任务支持“年、季度、月、旬、日、小时”等多种周期的调度,略、略、依赖触发、外界事件触发等调度机制; (2)支持任务链调度,满足单个订阅来自多个略到达后启动任务调度,在监控界面中略任务操作,如暂停任务、继续任务、停止任务等; (3)可灵活设定监控任务的状态,包括“检查启动条件、排除中、略、挂起、完成、运行出错、忽略错误、略、运行成功、等待中”等种状态。并能根据业务需要可定制其它监控状态; (4)提供异常情况的运维管理功能,对于出现差错的流程支持异常控制、错误告警; (5)略统计,略钻取相应子任务略结果、日志等信息;支持日志搜索引擎,可快速搜索定位日志。 5.2.3数据库管理系统 采购成熟的商用数据库系统,略署交付各市州,并完成相关测试、培训、维护,以及全流程质保服务。 具体数据库管理系统技术要求如下: 1★授权许可数量≥36个CPU(须满足本项目略署要求),企业版,必须提供完整使用版的授权;要求对用户并发数无授权数限制; 2支持当前主流数据库技术标准,ANSI/ISO SQL89、ANSI/ISO SQL92、ANSI/ISO SQL99、ODBC3.0、JDBC等,支持对象的存储管理; 略投数据库产品TPC-C的测试值,tpmC成绩 ≥ 100万;提供权威测试机构www.tpc.略站的测试成绩截图及截图链接,并加盖投标人鲜章; 4数据库具略处理的能力,支持基于共享数略集群数据库,数据库集群无需依赖操作系统集群即可实现负载均衡;无须额外管理服务器即可实现集群环境下节点间的缓存融合技术,无须手动干预数据分布即可融合使用集群节点的计算资源和内存资源; 5支持大型数据库自动存储管理功能,支持节点间自动的负载均衡和出错转移,如果一个节点服务器故障,客户端能自动连接到其他节点服务略; 6数据库应支持单个实例虚拟多个资源隔离型子数据库,对于承载的多个子数据库可以做统一的管理,包括备份,灾难恢复,数据库升级和补丁,而无需逐个的对单个实略操作; 7多个子数据库之间具备良好的隔离性,针对单个实例数据库的启动停止,数据模型修改对其它实例数据库没有影响。可以通过动态的资源管理来即时控制各实例数据库之间对于CPU、会话、IO等资源的争用; ▲8为了保障兼容性,数据略商的底层集群软件,集群软件与数据库软件支持的操作系统范围一致,如:AIX、HP-UX、Solaris 、Windows、Linux。(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),并加盖投标人鲜章); 9提供企业级的基于浏览器访问的图形化数据库管理工具,略络上不同硬件平台、不同版本略集中式的统一管理(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),并加盖投标人鲜章); 10支持多种数据表分区技术,包括范围分区、列表分区、散列分区及复合分区(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),并加盖投标人鲜章); 11能自动识别影响系统性能最多的应用,占用资源最多的SQL语句,略分析,通过自动调整功能提出性能优化解决方案,而不略工具采用某些预定义的试探方法生成; 12支持数据库集群的扩展功能, 所有节点略,任意一个或多个节点失效,不会影响其他服务器,也不会中断整个集群的数略(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),并加盖投标人鲜章); 13数据加载应不影响对数据的同时访问,数据加载操作支持多CPU 并行; 14在软件架构设计上兼容多租户数据库(多个租户数据库共享数据库容器的内存和后台进程,以提高资源利用率和降低成本)功能,且无需修改应用程序即可透明使用; ▲15不借助额外工具软件辅助即可实现数据库闪回技术(即数据恢复技术或回退机制),保障数据库能准确恢复到以前的某个时间点,支持库级、表级和事务级(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),并加盖投标人鲜章)。 (六)实质性指标响应表 四略监测与应急指挥系统(二期)工程四略监测与应急指挥系统(二期)工程(第一批)4标段(数据工程及略监测系统) 序号 招标文件章节 名称 招标文件要求 招标文件要求提供的证明材料 是否满足 投标响应内容 证明材料在投标文件中的章节、页码 1 技术标准及要求 ★4、要求投标人针对略有产品及系统提供从交工验收证书签发之日起不少于三年的免费质保和免费升级。 若提供的产品及系统为购买第三方商用产品及系统,则要求略商针对本项目的授权书原件及三年免费售后服务承诺函原件,并略商鲜章。 □ 满 足 □ 不满足 2 5.2.2 交通运输大数据平台 ★2、大数据平台产品提供≥30个物理服务器节点数全功能授权[无节点授权限制];自签发交工验收证书之日起五年内,略人业务需求,根据招标人业务需要免费补足授权; □ 满 足 □ 不满足 3 5.2.3 数据库管理系统 ★授权许可数量≥36个CPU(须满足本项目略署要求),企业版,必须提供完整使用版的授权;要求对用户并发数无授权数限制; □ 满 足 □ 不满足 4 5.2.4 大数据平台服务器(1、大数据平台应用服务器(5台)) (2)★CPU:≥2*E5 2680 v4; □ 满 足 □ 不满足 5 (4)★配置≥36个热插拔硬盘,类型全为SSD硬盘,总容量≥90T; □ 满 足 □ 不满足 6 大数据平台服务器(大数据平台管理服务器(2台)) (2)★CPU:≥2*E5 2640 v4; □ 满 足 □ 不满足 注:1、投标人必须据实逐项填写。 2、本表指标项中要求的相关证明材料统一在附表(八)中提供,以供查验,如发现有虚假响应,将取消其中标资格。 投标人名称: (盖单位章) 法定代表人或其委托代理人: (签字) 投标日期: (七)重要技术指标响应表 四略监测与应急指挥系统(二期)工程(第一批)4标段(数据工程及略监测系统) 序号 指标项 招标文件要求 招标文件要求提供的证明材料 是否满足 投标响应 证明材料在投标文件中的章节、页码 1. 大数据平台(5.2.2) ▲1、大数据略商具有核心大数据平台软件和技术实力,在大数据平台产品方面,具有自主知识产权和研发能力。大数据领域相关产品软件著作权登记证书或发明专利证书≥15个; 提供软件著作权登记证书或发明专利证书复印件略商鲜章,略发布日期之前,原件开标备查 □ 满 足 □ 不满足 2. ▲具备模型评估类算法,包括但不限于:回归、分类。具备对模型略图表可视化查看,包括但不限于:表格、折线图或曲线图。 提供第三方评测机构出具的检测报告复印件略商鲜章 □ 满 足 □ 不满足 3. ▲支持数据表拖拽,能够根据略景,自定义组合数据,实现多业务状态的数据融合; 提供第三方评测机构出具的检测报告复印件略商鲜章 □ 满 足 □ 不满足 4. (3)▲提供数据挖掘分析工具,支持分析工具对数据的访问,访问协议包括RestFul API、JDBC、ODBC、Java API等;支持上述分析工具略算法,支持对这些算法的管理、调用; 提供第三方评测机构出具的检测报告复印件略商鲜章 □ 满 足 □ 不满足 5. 数据库管理系统(5.2.3) ▲8为了保障兼容性,数据略商的底层集群软件,集群软件与数据库软件支持的操作系统范围一致,如:AIX、HP-UX、Solaris 、Windows、Linux。 提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),并加盖投标人鲜章 □ 满 足 □ 不满足 6. ▲15不借助额外工具软件辅助即可实现数据库闪回技术(即数据恢复技术或回退机制),保障数据库能准确恢复到以前的某个时间点,支持库级、表级和事务级。 提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),并加盖投标人鲜章 □ 满 足 □ 不满足         7. 5.2.4大数据平台服务器(大数据平台应用服务器(5台)) ▲配置≥512GB DDR4内存; □ 满 足 □ 不满足 8. 5.2.4大数据平台服务器(大数据平台管理服务器(2台)) ▲内存:≥256GB DDR4 □ 满 足 □ 不满足       9. ▲配置≥2块480GB SSD硬盘,≥4块2TB 7.2krpm SATA硬盘; □ 满 足 □ 不满足   注:1、投标人必须据实逐项填写。 2、本表后应附指标项中要求提供的相关证明材料(如产品彩页、资质证书、产品截图、检测报告、鉴定证书、许可证等证明文件),供招标人发中标通知书前查验,如发现有虚假响应,将取消其中标资格。 投标人名称: (盖单位章) 法定代表人或其委托代理人: (签字) 投标日期: (八)非重要技术指标要求提供的相关证明材料响应表 四略监测与应急指挥系统(二期)工程(第一批)4标段(数据工程及略监测系统) 序号 招标文件章节 产品名称 招标文件要求提供证明材料 是否提供证明材料 证明材料在投标文件中的章节、页码 1 5.2.2 交通运输大数据平台(5.2.2.2功能要求-5.2.2.2.1数据ETL能力-2数据ETL能力) (2)数据ETL能力 支持通过web图形化ETL 工具Kettle 以及 Sqoop将数据导入到Hadoop,并提供数据清洗转换功能(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),略商鲜章)。 □ 是 □ 否 2 交通运输大数据平台(5.2.2.2功能要求-5.2.2.2.2数据存储计算 -1数据存储) (3)数据存储能力 提供对E略落地保存,支持数据库及Hadoop大数据平台等数据存储能力,并具有数据归档管理能力;支持通用关系型数据库接口及MPP数据库接口(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),略商鲜章)。 □ 是 □ 否 3 交通运输大数据平台(5.2.2.2功能要求-5.2.2.2.7安全保障-2数据安全) (1) 支略加密存储,支持对用户的数据略控制,略存储、分析,并略安全审计(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),略商鲜章); □ 是 □ 否 4 交通运输大数据平台(5.2.2.2功能要求-5.2.2.2.7安全保障-3平台访问控制和权限管理) (3) 支持基于用户和角色的认证统一体系,遵从帐户/角色模型,实现略权限管理,略批量授权管理(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),略商鲜章)。 □ 是 □ 否 5 交通运输大数据平台(5.2.2.2功能要求-5.2.2.2.8运营管理能力 -3多租户) (1) 支持多用户对略交互略理;支持多种资源调度策略。支持租户建立、删除、修改操作,支持多租户资源分配与隔离,支持设置用户资源管理权限(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),略商鲜章)。 □ 是 □ 否 6 5.2.3 数据库管理系统 9提供企业级的基于浏览器访问的图形化数据库管理工具,略络上不同硬件平台、不同版本略集中式的统一管理(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),并加盖投标人鲜章); □ 是 □ 否 7 10支持多种数据表分区技术,包括范围分区、列表分区、散列分区及复合分区(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),并加盖投标人鲜章); □ 是 □ 否 8 12支持数据库集群的扩展功能, 所有节点略,任意一个或多个节点失效,不会影响其他服务器,也不会中断整个集群的数略(提供第三方评测机构出具的检测报告复略功能截图证明材料(略页链接),并加盖投标人鲜章); □ 是 □ 否 9 略投数据库产品TPC-C的测试值,tpmC成绩 ≥ 100万;提供权威测试机构www.tpc.略站的测试成绩截图及截图链接,并加盖投标人鲜章; □ 是 □ 否 10 5.4.2 略理 数据汇聚策略:数据抽取功能可根据预定的数据汇聚策略,对不同数据源的略分别汇聚,分别存储,也可以根据数据量大小、运算要求通过数据直连或数据服务总线接入。数据汇聚策略的属性有:数据源数据类型(结构化、半结构化、非结构化),数据源表(多个),数据源表关系(组织、连接),数据存储类型(HBase、HDFS、对象存储)。(须提供详细方案说明)。 □ 是 □ 否 四略监测与应急指挥系统(二期)工程(第一批) 4标段(数据工程及略监测系统)答疑书05 一、质疑内容:“所投大数据平台产品通过中略的评测并获得中国大数据产业生态联盟颁发的认证证书的,得1分;” 回复意见: 工略计算机与微电略(简称中略),作为国内权威的第三方软、硬件产品及系统质量安全与可靠性检测机构,是直属于工略的一类科研事业单位。中国大数据产业生态联盟是在工略指导下,从行业管理、业内交流、技术研发、产融X等多个方面为中国大数据产业提供支持。目前,略商的大数据产品通过中略的评测并获得中国大数据产业生态联盟颁发的认证证书。所提认证证书要求不存在唯一指向性。 二、质疑内容:略公布的测试结果作为标书的技术要求。 回复意见: TPC-C作为一种评估信略理性能的技术标准和测试方法,是数据库产品成熟度的重要评价标准,略业普遍接受和认可,主流的数据库产品均有测试。提出此项指标,是为充分保证系统性能的必要且合理要求,不存在明确指向。 三、质疑内容:“▲15不借助额外工具软件辅助即可实现数据库闪回技术(即数据恢复技术或回退机制),保障数据库能准确恢复到以前的某个时间点,支持库级、表级和事务级。提供第三方测评机构出具的检测报告复印件或产品功能性截图、略页链接地址,并加盖投标人鲜章。” 回复意见: 数据库闪回技术(即数据恢复技术或回退机制),是数据库系统里很重要的一项基本功能。略调研,略商数据库产品具备该项功能。数据库管理系统是本工程的核心产品,提出上述指标项是基于业务功能需要而设定,符合项目建设要求。要求投标人提供相关证明材料,略要求且真实有效,略人的合法利益,防止可能出现虚假、强行应标的情况,是合理且必要的,不存在限制性,倾向性问题。


 

 


最近搜索

热门搜索