本项目以建设我校“数据中台”和“综合教学管理系统”建设为主要部分,通过对校园信息化基础进行调研摸排,构建一个全量的数据资源中心,为我校数据分析提供数据支撑,建立多维度、多场景、智能化的大数据分析模型和多场景智能预警等模块,为全校师生及提供全面、准确、实时的综合信息,为我校的长远发展和管理提供辅助数据决策支持。 我校对于数据中台整体技术要求如下,需要具备以下内容: 一、数据看板 1、概览 1.1数据概览统计管理 需要支持实时更新数据总量的监控结果,以及显示最新的数据变动情况; 需要支持记录历史每天的数据概览情况; 需要支持采用图表或可视化方式展示数据总量的监控结果,使我校领导能够直观地理解数据变化; 需要支持我校领导选择不同时间查询数据总量概览; 1.2、数据总量监控 需要支持展示中台存储的总数据量,包括所有数据类型和来源的总数量; 需要支持将多个数据源的总量进行汇总和监控,以获得全局的数据总量情况; 需要支持记录并显示中台内表的所有来源系统; 结合数据总量监控,可以验证数据的完整性,确保总量统计的准确性; 提供历史数据总量的对比分析,并可视化展示增减数量,帮助我校领导了解数据变化的情况; 1.3、新增数据量情况监控 需要支持列出当日内数据变动数量最大的数据表前五名,提供排行榜形式的展示,以便我校领导关注和处理较为活跃的数据变动; 系统需支持自动追踪并记录表中的新增数据,包括新增的记录数和时间戳; 系统需支持实时计算和更新表的新增数据量,以确保获取最新的结果; 系统需支持以折线图或曲线图的形式提供表新增数据量的趋势分析,包括增长率、波动情况等,展示数据表近7日数据量变化趋势,用于分析数据的变动情况; 1.4、数据集数据量监控 系统需支持通过列表展示不同数据集合之间的数量分布,帮助我校领导了解数据的组成和变动情况; 系统需支持展示不同主题数据集的总记录数,包括总表数量和总数据量; 系统需支持提供不同主题集历史数据总量的对比分析,并可视化展示增减数量,帮助我校领导了解数据变化的情况; 系统需支持实时计算和更新主题数据集的数据统计及变动情况,确保获取最新的结果; 系统需支持提供主题数据集不同数据表的分布情况统计,帮助我校领导了解数据的分布特征; 系统需支持对比不同日期的主题数据集统计结果,以分析数据变动的差异和趋势; 2、接口监控 2.1、数据概览统计管理 系统需支持能够实时更新接口响应监控结果和接口数量监控,以及显示最新接口数量和响应结果变动情况; 系统需支持记录历史每天的接口变动情况; 系统需支持采用图表或可视化方式展示接口使用情况总量的监控结果,使我校领导能够直观地理解接口变化; 系统需支持允许我校领导选择不同时间查询接口监控总览概览; 2.2、接口总运行情况监控 系统需支持实时监控接口的调用情况和接口总数,展示当前的接口异常情况; 系统需支持统计接口异常频率,帮助发现异常情况并进行处理; 系统需支持统计接口的总访问量,了解接口的受欢迎程度和负载情况; 系统需支持使用图表或其他可视化方式展示接口流入和流出流量的实时情况,方便我校领导直观观察和分析; 系统需支持实时监控流入接口运行异常情况,统计异常次数; 系统需支持实时监控流出接口运行异常情况,统计异常次数; 2.3、接口流入情况监控 系统需支持监控接口的运行状态,如运行中、执行成功、等待执行、执行失败等,并及时进行展示; 系统需支持统计接口成功调用的比例,衡量接口的可用性和稳定性; 系统需支持统计接口执行失败出现次数,帮助发现异常情况并进行处理; 系统需支持监控接口的流入效率,即请求到达和处理的时间间隔,以便识别瓶颈和进行性能优化; 系统需支持生成接口流入量的报表,包括不同时间段、来源、接口版本等多维度的统计数据,方便数据分析和决策; 2.4、数据集接口调用情况监控 系统需支持列出当日内接口调用次数前五名的数据集,提供排行榜形式的展示,以便我校领导关注和处理较为活跃的接口变动,了解接口的受欢迎程度和负载情况; 系统需支持展示不同主题数据集的总接口数,包括调用总数量和调用总次数; 系统需支持实时计算和更新主题数据集的接口统计及调用情况,确保获取最新的结果; 系统需支持对比不同日期的主题数据集统计结果,以分析数据变动的差异和趋势; 支持主题集下接口具体明细和关联表信息; 支持主题集下接口具体调用次数和成功失败次数; 2.5、接口耗时监控 系统需支持展示接口性能的变化趋势,如响应时间的增长或下降情况,帮助发现性能问题并进行优化; 系统需支持对每个接口的耗时进行统计和记录,包括请求到响应的总时间、平均耗时等; 系统需支持根据接口耗时排名,识别并展示耗时最长的5个接口,以便快速定位性能问题; 系统需支持实时监控接口的耗时情况,包括当前耗时最长的接口及其详细信息,以便快速响应和解决问题; 比较不同接口的耗时情况,识别性能突出和有待优化的接口,以便优化资源分配和性能改进; 将接口耗时数据进行存档,以便回溯分析和长期性能趋势观察; 不仅统计总体耗时,还能对接口进行细分,以便更具体地了解每个接口的性能情况; 生成接口耗时的报表,包括TOP 5耗时接口的详细数据、趋势图等,方便数据分析和决策; 2.6、接口异常监控 系统需支持对每个接口的失败次数进行统计和记录,包括请求失败的总次数、平均失败次数等; 根据接口失败次数排名,识别并展示失败次数最多的5个接口,以便快速定位问题接口; 分析接口失败次数的变化趋势,包括增长率、峰值时间等,以便发现潜在的问题和瓶颈; 实时监控接口的失败情况,包括当前失败次数最多的接口及其详细信息,以便快速响应和解决问题; 比较不同接口的失败次数情况,识别存在问题的接口,以便优化资源分配和性能改进; 将接口失败次数数据进行存档,以便回溯分析和长期趋势观察; 生成接口失败次数的报表,包括TOP 5失败次数最多的接口的详细数据、趋势图等,方便数据分析和决策; 不仅统计总体失败次数,还可以对接口进行细分,以便更具体地了解每个接口的失败情况; 二、数据中心 1、分组管理 1.1添加分组 系统需支持对基础数据进行分类编码,创建多个同级分组及子级分组,形成数据目录; 系统需支持分组管理命名,从图表库选择图标,上传分组图标,删除分组; 1.2搜索表 系统需支持按表名和表描述搜索当前分组下对应表 1.3表统计 系统需支持该分组下所有表总数 1.4分组标签管理 系统需支持通过切换父级子级分组标签快捷分组内表资源 2、数据录入 2.1数据录入 系统需支持提供复杂网络环境下、丰富的异构数据源之间高效稳定的数据汇聚融合能力 2.2添加空表 系统需支持输入表名,表描述创建一张空表; 系统需支持通过表单、Excel、DB、SQL、API、Kafka、自主配置的方式导入数据表; 2.3表预览 系统需支持显示数据总数并预览数据表前5w条数据 2.4表筛选导出 系统需支持按条件筛选出目标数据并导出为excel 2.5添加表单应用数据表 系统需支持一键全选该分类下所有数据表进行导入; 系统需支持按表名搜索精准表单和审批表; 系统需支持预览表单内数据表数据; 系统需支持获取表单列表(含搜索)接口; 系统需支持获取表单数据接口; 系统需支持注册表单推送接口; 系统需支持获取表单详细信息接口; 2.6excel数据表导入 系统需支持按文件夹或数据表两种方式本地上传excel数据表到中台; 系统需支持本地excel表上传到云盘接口; 系统需支持从云盘下载数据表到中台接口; 系统需支持上传中支持监测表上传状态及表大小; 2.7DB数据库导入 系统需支持MySQL、PostgreSQL、StarRocks、SQL Server、Oracle五种数据库类型导入; 系统需支持记录用户已输入的数据库,快速登录; 系统需支持对数据库中的数据进行清理和净化,去除冗余、重复和不合规的数据; 系统需支持选择数据库类型输入主机、端口、用户名、密码、数据库名称字段链接数据库; 系统需支持设置DB数据表更新策略,支持全量更新、实时更新、增量更新数据库表内容; 系统需支持过滤数据库中重复的数据表; 系统需支持全量更新支持设置数据自动更新规则,包括按分钟、小时、天3种维度设置更新频率; 系统需支持增量更新支持设置数据自动更新规则,包括按分钟、小时、天3种维度设置更新频率,并选择字段设置为更新依据; 系统需支持大规模数据的导入处理,处理海量数据时不会影响系统性能和稳定性; 系统需支持实现数据的校验和验证功能,确保导入数据的精确性和可靠性; 系统需支持预览DB库数据表数据; 系统需支持按表名、表描述搜索精准数据表导入; 系统需支持批量导入和增量导入数据,能够根据需求自由设置; 系统需支持编辑数据表名称及描述; 2.8SQL导入 系统需支持输入SQL语句创建数据表; 系统需支持导入SQL文件创建数据表; SQL语句校验; 系统需支持解析SQL语句,预览相应数据表内容; 2.9API导入 系统需支持填写表名和URL接口地址; 系统需支持GET、POST两种请求类型; 系统需支持可依据接口说明设置基础参数、头信息参数、分页参数; 系统需支持基础参数支持添加普通参数、实时参数、加密参数,保证数据安全; 系统需支持实时获取--添加接口地址、GET POST请求类型; 系统需支持实时获取--Basic Auth验证; 系统需支持实时获取--添加多个参数值; 系统需支持实时获取--预览并选择需要的参数值; 系统需支持支持动态参数;可按天(yyyyMMdd)、天(yyyy-MM-dd)、小时(yyyyMMddHH) 系统需支持10位时间戳 精度为秒、13位时间戳 精度为毫秒以及自定义方式生成对应动态参数; 系统需支持加密获取方式--DES、MD5两种加密方式; 系统需支持DES加密--选择参数,输入密钥主动加密并展示加密结果; 系统需支持MD5加密--32位[大]、32位[小]、16位[大]、16位[小]4种位数设置; 系统需支持MD5加密通过添加参数、输入加密内容形式主动加密并预览加密结果; 系统需支持头参数--添加普通参数、实时参数、加密参数,保证数据安全; 系统需支持分页参数--普通分页或偏移分页2种类型; 系统需支持普通分页包含:页码字段名、页码起始值、页大小字段名、页大小值4个字段信息; 系统需支持偏移分页可设置:偏移字段名、偏移参数名、偏移字段默认值、第二偏移字段名、第二偏移参数名、第二偏移字段默认值; 系统需支持解析并可视化预览数据结构及字段; 系统需支持创建多层级结构数据表,以多张表的格式导入中台; 系统需支持预览的表结构,修改字段类型,编辑字段名称; 系统需支持预览的表结构按需要选择字段,剔除臃肿数据; 系统需支持数据同步有全量更新、增量更新(中台接受推送)、增量更新(中台定时拉取) 三种方式; 系统需支持动态采集数据,按分钟、小时、天3种维度设置api更新频率; 系统需支持增量更新(中台接受推送)自动生成更新密钥保证数据安全; 系统需支持增量更新(中台接受推送)下载接口说明文档; 系统需支持增量接收推送; 系统需支持增量定时拉取; 系统需支持增量更新(中台定时拉取)输入接口地址按设置的更新频率定时拉取数据; 2.10Kafka导入 系统需支持允许我校领导在数据中台中创建、删除和管理Kafka主题; 系统需支持提供参数设置,以连接到Kafka集群,包括服务器地址、端口号等; 系统需支持允许我校领导配置和管理消费者组,以实现数据的并行处理; 2.11添加自助配置 系统需支持创建、管理数据流; 系统需支持数据源可选择表单、审批、Excel、DB、SQL、API、Kafka、自助配置数据,对数据进行再加工处理,形成高质量的有效的可利用的基础数据库,为后续数据应用提供基础; 系统需支持设置数据自动更新规则,包括不更新和按分钟、小时、天3种维度全量更新和级联更新; 系统需支持数据节点包括:选择字段、筛选、排序、添加列、分组汇总、字段设置、多表合并、删除重复行; 系统需支持数据节点实时预览结果数据,并展示结果条目数; 系统需支持选择字段,可剔除重复字段或无用字段; 系统需支持从分组列表进行选择数据源,选择父级子级分组下对应数据表; 系统需支持筛选--添加且、或关系(且: 满足所有条件、或: 满足任意条件); 系统需支持筛选且或关系支持复杂层级,可以同时添加多个且或关系; 系统需支持筛选且或关系同一层级支持添加多个条件或公式; 系统需支持筛选--添加公式; 系统需支持筛选--选择字段添加添加条件、公式、且或关系生成结果数据; 系统需支持选择字段按升序降序规则生成结果数据; 系统需支持添加多个排序依据构成复杂条件结果数据; 系统需支持选择当前表字段及其他数据源表进行函数计算生成结果数据并创建新字段列; 系统需支持输入字段名称和相应函数创建新列; 系统需支持添加函数支持逻辑函数,包含:CASE WHEN、IF、IFNULL等; 系统需支持添加列添加数字函数,包含:ABS、CEIL、FLOOR、RAND、SIGN、PI、TRUNCATE、ROUND、POW、SQRT、EXP、MOD等; 系统需支持添加列添加日期函数,包含:NOW、DATEDIFF、ADDDATE、SUBDATE、DATE_FORMAT、FROM_UNIXTIME、MINUTE、HOUR、DAY、MONTH、YEAR等; 系统需支持添加列添加文本函数,包含:CHAR_LENGTH、LENGTH、CONCAT、CONCAT_WS、UPPER、LOWER、SUBSTR、UUID、REPLACE、SPLIT_PART、SUBSTRING、RIGHT、TRIM等; 系统需支持添加函数支持高级函数,包含:ROW_NUMBER等; 系统需支持函数公式提示公式说明,并显示相应示例; 系统需支持函数输入框,可以自定义输入函数和运算符号,计算出结果内容; 系统需支持分组汇总--添加多个分组字段条件; 系统需支持分组汇总--多个汇总字段条件; 系统需支持分组汇总汇总字段--设置求和条件; 系统需支持分组汇总汇总字段--设置求平均条件; 系统需支持分组汇总汇总字段--设置最大值条件; 系统需支持分组汇总汇总字段--设置最小值条件; 系统需支持分组汇总汇总字段--设置计数条件; 系统需支持分组汇总汇总字段--设置去重计数条件; 系统需支持分组汇总汇总字段--设置字符串拼接条件; 系统需支持字段设置--调整数据表字段顺序; 系统需支持字段设置--编辑数据表字段名称; 系统需支持字段设置--修改字段类型,包含:文本、日期时间、日期、时间、小数、整数; 系统需支持字段设置--按字段名称搜索对应字段; 系统需支持从分组内选择数据源表进行合并操作; 系统需支持选择的数据源表支持分列选择字段,剔除多余字段; 系统需支持选择两张数据表的字段作为合并依据组成新表; 系统需支持添加多个合并依据条件; 系统需支持设置去重字段,快速进行删除重复行操作; 系统需支持撤销和前进操作; 3、管理数据表 3.1表详情管理 系统需支持正常表创建人、数据量、存储空间、更新时间、更新策略信息; 预览及导出数据表数据,方便管理和备份; 系统需支持数据更新日志; 3.2编辑数据表 系统需支持已在中台的数据表支持重新编辑表名、描述、更新策略、更新频率、字段设置; 系统需支持对数据表进行行列转换操作,通过设置x轴y轴数据列构建一张新数据表; 系统需支持预览编辑结果数据; 系统需支持数据表移动到其他分组; 3.3表更新 需要支持自助配置、DB、API、表单导入中台内的表支持手动立即更新同步数据; SQL、Excel导入到中台内的表支持追加和替换数据内容; 3.4表监控 需要支持以数据集为监控对象,对数据表和实时数据流进行监控; 3.5表备份 中台数据库支持主库从库的备份和系统信息制,以保证系统的正常使用。避免了失效时出现的软件瘫痪、数据丢失等问题; 3.6字段脱敏 支持对各种数据类型进行脱敏,包括文本、数字、日期、邮件地址等; 需要支持允许我校定义自定义脱敏规则,并应用于特定字段或数据集,以确保满足特定需求; 需要支持提供部分脱敏功能,使敏感信息的一部分保持原样,保证关键信息的可用性和可追溯性; 需要支持支持多个脱敏层级,根据数据敏感程度进行不同级别的脱敏处理,确保敏感数据的安全性; 需要支持提供数据掩码功能,将敏感数据替换为特定字符或模板,以保护数据隐私; 需要支持对于动态更新的数据,支持增量脱敏处理,确保新数据也能得到及时的脱敏保护; 支持对指定字段进行脱敏,保护特定数据的隐私,而不影响其他字段的可用性; 需要支持在进行脱敏时,保持数据之间的关联关系,以便在后续分析中仍然能够准确地进行数据关联; 对数据脱敏操作进行安全审计和授权,确保只有授权人员能够访问和操作敏感数据; 优化脱敏算法和处理流程,以保证脱敏过程的高效性和低延迟; 提供数据备份和恢复功能,以便在需要时还原原始数据或重新脱敏处理; 需要支持记录每次脱敏操作的日志,以便追踪操作历史和排查潜在问题; 需要支持在脱敏后对数据进行标识,以便在数据处理和分析中能够识别敏感数据; 需要支持对已进行数据脱敏的数据进行验证,以确保脱敏后的数据仍保持关键信息的准确性和一致性; 3.7数据字典 需要支持记录和描述每个数据字段的名称、类型、长度、格式等信息,以便对数据进行一致的解释和使用; 需要支持提供对每个数据字段的解释,包括业务含义、定义和用途,以便用户能够理解和正确使用数据; 需要支持定义和记录每个数据字段的质量规则,包括完整性、准确性、一致性等,以便监控和维护数据的质量; 支持附加文档、补充说明和示例数据,以帮助我校更好地理解和应用数据字典; 需要支持记录数据字段之间的关系和连接方式,包括主键、外键、关联关系等,以帮助我校进行数据关联操作和分析; 需要支持提供直观易懂的数据字典可视化展示方式,如图表、关系图等,以帮助我校理解和使用数据字段; 支持多使用人员协同编辑和审批数据字典的变更,以确保数据字典的准确性和一致性; 支持自动化更新数据字典,例如通过脚本或定时任务从源系统中获取最新数据字段信息; 支持数据字典导出pdf; 3.8数据血缘 需要支持自动识别不同数据源之间的关联关系,包括数据表、文件、数据库等,以建立数据血缘关系; 需要支持通过跟踪数据的产生、转换和使用过程,提供对数据血缘关系的追溯功能; 需要支持识别数据字段的变更情况,包括新增、更新和删除等操作,以及变更的源头和目标; 需要支持记录数据的加工操作,包括数据清洗、转换、计算等过程,以便追溯数据的加工历史; 需要支持以图表或图形的方式展示数据血缘关系,使用户能够直观地理解数据的流向和关系; 需要提供数据血缘的跳转功能,使用户能够快速定位和查找相关的数据血缘关系; 需要支持对数据血缘关系进行验证和校验,以确保血缘关系的准确性和完整性; 需要提供数据血缘访问权限的控制,以确保只有授权的用户能够和分析数据血缘关系; 支持实时或近实时地更新数据血缘关系,以保持数据血缘的最新状态; 需要支持检测数据血缘关系中可能存在的缺失或异常情况,以提醒用户进行必要的修复和调整; 需要支持监控和记录数据血缘关系的变化和访问情况,提供审计和监控功能; 支持对不同类型和规模的数据进行血缘关系建模和分析,具备良好的扩展性和灵活性; 需要支持将数据血缘关系与业务工作流程集成,以实现自动化的数据血缘追溯和分析; 4、回收站 4.1表删除 需要支持从数据库内删除数据表,释放储存空间; 4.2表还原 需要支持还原回收站内数据表,移出到指定位置; 4.3表管理 需要支持管理回收站内数据表时,支持:表名称、创建人、删除人、路径、删除时间; 4.4表预览 需要支持预览回收站内数据表结构字段; 4.5表搜索 需要支持按表名搜索、创建人、删除人精准搜索数据表; 三、系统管理 1、API推送 1.1创建管理API接口 将中台内数据表配置生成API接口,管理已创建的接口; 对于大部分简单增删改查接口,无需编写代码,通过平台的接口配置功能即可生成,对于复杂的接口,可以通过接口间的关联调用进行处理; 实时预览接口配置结果数据; 接口说明文档,内容包括:接口名称、接口描述、URL地址、格式、HTTP请求方式、请求参数、请求示例、返回参数说明、示例代码 接口加密、授权,生成appid可以通过添加:单位名称、单位ID、使用人、联系电话、授权IP、KEY字段信息进行加密; 同一个接口支持授权多个不同单位,创建多个不同加密KEY; 对设置好的接口进行资源权限分配,设置每个接口对应的用户可访问权限; 接口监控,实时接口状态,检查接口参数是否异常; 接口文档支持word下载到本地; api删除记录; 1.2、接口管理 支持按接口名称和接口描述精准搜索对应接口; 支持控制接口状态,开启关闭; 支持查询接口状态; 支持查询接口响应时间; 支持查询接口请求人; 支持查询接口调用时间; 2、推送管理 2.1推送集合管理 支持创建并管理推送集合; 需要支持创建推送集合支持选择推送平台类型,进行参数配置; 支持管理推送集合推送状态; 2.2推送主题管理 系统需支持创建并管理单个推送主题; 系统需支持创建推送主题支持设置修改推送平台类型; 系统需支持设置推送策略,设置单个主题推送频率; 系统需支持创建推送主题对数据表进行个性化自助配置; 系统需支持创建推送主题,支持做物理字段名映射,将中台内物理字段名和目标库需要的物理字段名快速映射; 系统需支持创建推送主题添加创建数据模版,方便快速编写推送内容; 系统需支持创建推送主题设置数据推送模式为逐条推送、批量推送或增量推送; 推送平台:全国职业教育智慧大脑院校中台【中高职】、国家公共文化云、自定义; 系统需支持推送监控,管理单个推送主题推送状态,及时处理异常情况; 系统需支持手动立即推送单个推送主题; 系统需支持推送日志,记录推送的详细信息,包括推送时间、推送对象、推送内容等; 检查数据推送结果; 3、数据标准 3.1标准库管理 需要支持定义和管理数据的类别和分类体系,用于组织和查找数据; 需要支持管理数据模型的定义、设计、变更和维护; 3.2数据标准规则定义 需要支持管理数据词汇和元数据的定义,包括字段、表、模型等; 需要支持定义数据标准化规则,如命名规范、数据格式、数据类型等; 需要支持定义和管理数据的扩展属性和补充标准,满足特定需求; 需要支持管理数据编码规范,确保数据的编码一致性和标准化; 需要支持提供数据规范和最佳实践的指导、文档和模板; 需要支持定义和管理数据标准化的协议、规范和约定; 需要支持定期维护和更新数据标准化内容,保持其与业务需求的一致性; 需要支持管理数据标准化的数据资产,包括数据集合、表、字段等; 需要支持定义数据的唯一标识符,通常是一个字段或多个字段的组合,用于唯一地识别数据记录; 需要支持定义数据的类型,例如整数、字符串、日期等,以确保数据的一致性和正确性; 需要支持定义数据字段的最大长度,以限制数据的输入范围并避免数据溢出或截断; 需要支持定义数据字段的验证规则,例如必填字段、范围检查、正则表达式等,以确保数据的有效性; 需要支持定义数据字段的说明和注释,以提供对数据含义的解释和参考 需要支持定义数据变更的追踪规则,例如记录修改时间、修改人等,以追溯数据的修改历史; 3.3数据标准校验 需要支持监控和管理数据质量,包括数据完整性、一致性、准确性等方面; 管理数据的版本信息,跟踪和比较不同版本的数据定义和结构; 审核和验证数据的标准化规则和定义,确保数据的一致性和符合性; 管理数据的变更请求和变更流程,确保变更的控制和可追溯性; 对数据进行审核和合规性检查,提高数据的合规性和可信度; 对数据进行审查和验证,确保数据的准确性和一致性; 提供自动化工具来支持数据标准化和元数据管理的任务; 生成数据规范化的报告和可视化图表,方便我校了解和分析数据;评估数据标准化的成果和效果,并进行持续改进; 制定和执行数据标准化的治理策略和流程; 与数据质量管理模块集成,检查和维护数据标准化的质量; 与数据模型管理模块集成,管理数据标准化的数据模型; 与数据字典管理模块集成,管理数据标准化的数据字典; 与数据扩展管理模块集成,管理数据标准化的补充和扩展属性; 与数据标准化审核和验证模块集成,对数据标准化进行审核和验证; 4、模版管理 4.1创建管理模版 创建并管理velocity模板引擎,用于配置大屏门户或其他应用场景; 支持创建模板分组用于分类管理模板; 支持模板库,内置大屏配置常用模板; 5、权限管理 5.1创建管理中台权限 添加并管理人员在中台的数据权限和功能权限; 5.2登录权限 校验中台人员权限用于登录; 微服务角色权限接口; 5.3权限验证 验证人员的权限是否符合要求,确保我校人员只能访问到自己有权限的数据和功能; 5.4角色权限管理 定义不同的数据角色,并为每个角色分配相应的数据权限,以实现数据权限的模块化管理; 控制我校人员对数据中台功能的访问权限,包括读、写、执行等操作权限; 控制我校人员对数据中台数据的访问、修改、删除、下载等操作权限; 支持权限的继承和维护机制,使得权限的管理和调整更加灵活和高效; 允许管理员根据具体需求,自定义设置数据权限的规则和策略; 支持权限分配,将权限分配给不同的用户、角色,方便管理权限和授权; 5.5用户管理 创建,管理用户,赋予用户一个或多个角色权限; 具有丰富的用户属性设置功能,支持设置用户的用户名、手机号、角色、状态、密码等各种属性; 监控和记录用户对数据的访问权限变更情况,包括权限的授予、修改和撤销等操作; 支持多租户环境下的数据权限管理,使不同租户之间的数据访问得到隔离和保护; 在用户访问数据时实时验证权限,确保用户只能访问其具有权限的数据; 实现多级授权,确保权限只能由上级授权给下级; 5.6数据权限 设置用户或用户角色对数据字段的可见性和编辑权限,以限制敏感数据的访问和修改; 管理数据的共享策略和权限,包括共享范围、共享目标和权限限制等设置; 确保数据权限的即时生效,即在权限设定或修改后,用户立即受到权限限制; 支持对数据权限的回滚和撤销操作,当权限变更出现问题时能快速恢复到之前的状态; 控制用户或用户角色对不同数据维度的访问权限,以限制数据的可见性和使用范围; 6、任务中心 6.1任务监控 需要支持实时监控当前进行中的导入或导出数据集任务执行情况,包括成功、失败、超时等状态; 6.2历史任务管理 需要支持管理员查看已完成导入或导出任务; 需要支持任务结果,分析失败原因; 1w+数据量数据表导出到云盘,从云盘下载接口; 需要支持区分平台所有任务留痕和个人任务留痕; 7、语言管理 7.1切换平台语言 需要支持切换中台语言,支持:老挝语、中文; 8、数据监控 8.1数据运行监控 需要支持监控任务执行状态,监控所有数据处理任务的实时状态,包括成功、失败、运行中等; 需要支持记录每个任务的开始时间和结束时间,计算实际运行时长,用于性能分析; 需要支持数据一致性检查,确认数据在不同系统间的一致性,避免信息差异; 需要支持检查数据传输过程中的网络稳定性; 需要支持监控异常任务,自动报警; 需要支持自定义报警任务接收人,支持对多个管理员发送告警信息; 需要支持短信和移动端等多种方式接收报警信息; 需要支持监控记录任务执行人,方便定位和跟踪确认问题; 9、日志管理 9.1资源监控 需要支持监控数据中台的系统性能,包括CPU利用率、内存利用率、磁盘空间利用率等,及时发现系统性能问题,做出调整,以确保系统的正常运行; 需要支持监控系统的进程,进程的状态、CPU和内存占用情况,发现进程意外退出或异常占用资源的情况; 需要支持检测系统的负载情况,防止系统负载过高导致系统崩溃或响应时间变慢; 需要支持实时监测系统的可用性,发现服务停机或故障事件,并及时修正异常事件; 需要支持实现部署机器的节点负载实时监控,例如监测节点的平均负载、最低负载、最高负载、平均负载、当前负责等指标,确保机器能够正常运行; 需要提供丰富的报表和可视化工具,帮助运维人员直观地了解系统性能的数据和趋势,以便进行优化和改进; 9.2运维日志 需要支持监测应用程序中的资源占用情况,例如Server、PowerJob、Nginx、StarRocks等,可以进行统计和分析,实现性能优化和异常问题的排查; 需要支持Server日志:后台服务组件日志,记录BI server 处理前端请求以及后台任务的全链路执行情况; 需要支持PowerJob日志:任务执行日志,记录PowerJob任务执行情况; 需要支持Nginx日志:网关代理服务系统日志,记录用户访问BI系统的每一个请求情况; 需要支持StarRocks审计日志:数据库审计日志,记录数据库查询语句和慢查询情况; 日志需要支持按之间导出,进行备份保存; 9.3审计日志 监控数据中台的日志信息,需要支持包括系统日志、错误日志、访问日志等,及时发现系统问题、错误信息等,做出调整,以确保数据中台的正常运行; 实现对日志数据的归档和存储,便于长期保存和回溯分析; 监测日志信息的实时流,及时发现错误信息、异常情况和警告信息; 需要支持实现日志分析和统计功能,帮助管理员了解系统的异常情况、服务质量、趋势分析等; 能够对用户登录的日志进行处理和监控,例如对登录IP、操作系统、网页浏览器日志等进行记录和分析; 实现对重要资源的审计,记录管理凭据等重要资源的所有操作,确保数据和日志的安全性; 提供日志分析报表等可视化工具,帮助管理员进行更直观的性能分析和趋势展现; 自定义日志过滤和检索功能,给IT管理员提供更方便的快速检索日志; 10、数据源管理 10.1数据源管理 需要支持添加、编辑、删除和停用关系型(MySQL、Oracle、SQL Server、PostgreSQL等)、非关系型(Kafka、MongoDB等)、API数据源; 需要支持数据源配置的业务系统关联关系; 需要支持快速数据源下所有的表和视图,支持数据表或视图中的数据情况,支持关键词搜索,快速数据源信息; 需要支持当前数据源运行异常监测情况,支持连接异常的数据源数量、异常数据源明细; 需要支持批量导入导出或自动生成数据表的数据字典,方便完成数据表、字段的注释补充工作; 11、通知管理 11.1通知设置 需要支持用户指定哪些通知事件在完成后触发通知; 需要支持用户可以开启或关闭通知功能; 需要支持提供预定义的通知模板,用户可以选择适合的模板,模板可能包含任务名称、执行时间、状态等基本信息; 需要支持用户创建自己的通知模板,自定义通知的布局、样式和包含的信息; 通知接收方式可设置为移动端通知或短信通知; |