mysql修改表结构的命令 数据仓库权限架构思路?

[更新]
·
·
分类:互联网
2910 阅读

mysql修改表结构的命令

数据仓库权限架构思路?

数据仓库权限架构思路?

1、数据仓库所处环节
在一个成体系、结构化的数据应用场景下,数据和处理有四个层次: 操作层、数据仓库层、部门/数据集市层、个体层。
操作层
操作层是指为具体业务提供实时响应的各个业务系统,比如常见的订单系统、ERP、用户中心等等具体业务系统,这些系统中的数据一般都是存入关系型数据库。它们是数据的来源。
数据仓库
数据仓库收集操作层各个业务系统中的数据,进行统一格式、统一计量单位,规整有序地组织在一起,为数据分析、数据挖掘等需求提供数据支持。
数据集市
部门/数据集市层是各个部门根据自己的数据分析需求,从数据仓库中抽取自己部门所关心的数据报表。
个体层
个体层中的不同角色个体有读取不同数据的权限。
2、数据仓库概念
数据仓库是一个面向主题的、集成的、非易失的、随时间变化的,用来支持管理人员决策的数据集合,数据仓库中包含了粒度化的企业数据。
面向主题的
数据仓库不同于传统的操作型系统,传统的操作型系统中的数据是围绕功能进行组织的,而数据仓库是针对于某一个主题进行分析数据用的,比如针对于销售主题、针对于客户主题等等。
集成的
不同产品或者系统中的数据是分散在各自系统中的,并且格式不一致、计量单位不一致。而数据仓库必须将多个分散的数据统一为一致的、无歧义的数据格式后,并解决了命名冲突、计量单位不一致等问题,然后将数据整合在一起,才能称这个数据仓库是集成的。
随时间变化的
数据仓库要体现出数据随时间变化的情况,并且可以反映在过去某一个时间点上数据是什么样子的,也就是随时间变化的含义。而传统的操作型系统,只能保存当前数据,体现当前的情况。
非易失的
非易失是指:数据一旦进入数据仓库,就不能再被改变了,当在操作型系统中把数据改变后,再进入数据仓库就会产生新的记录。这样数据仓库就保留了数据变化的轨迹。
3、一般架构
1、 STAGE层
业务系统的数据接入到数据仓库时,首先将业务数据仓储到STAGE层中,Stage层作为一个临时缓冲区,并屏蔽对业务系统的干扰。
STAGE层中的表结构和数据定义一般与业务系统保持一致。
Stage中的数据可以每次全量接入也可以每次增量接入,一般都有会数据老化的机制,不用长期保存。
Stage的数据不会对外部开放。
2、 ODS层
ODS才是数据仓库真正意义上的基础数据,数据是被清洗过的,ODS层的数据是定义统一的、可以体现历史的、被长期保存的数据。
ODS层的数据粒度与Stage层数据粒度是一致的。
Stage层中的数据是完全形式的源数据,需要进行清洗才能进入ODS层,所以说ODS层是数据仓库格式规整的基础数据,为上层服务。
3、 MDS层
MDS是数据仓库中间层,数据是以主题域划分的,并根据业务进行数据关联形成宽表,但是不对数据进行聚合处理,MDS层数据为数据仓库的上层的统计、分析、挖掘和应用提供直接支持。
MDS层的数据也可以执行一定的老化策略。
4、 ADS层
ADS层是数据仓库的应用层,一般以业务线或者部门划分库。这一层可以为各个业务线创建一个数据库。
ADS层的数据是基于MDS层数据生成的业务报表数据,可以直接作为数据仓库的输出导出到外部的操作型系统中(MySQL、MSSQL、Hbase、Elasticsearch等)。
5、 DIM层
DIM层是数据仓库数据中,各层公用的维度数据。比如:省市县数据。
6、 ETL调度系统
对接入数据仓库的数据进行清洗、数据仓库各层间数据流转都需要大量的程序任务来操作,这些任务一般都是定时的,并且之间都是有前后依赖关系的,为了能保证任务的有序执行,就需要一个ETL调度系统来管理。
7、 元数据管理系统
描述数据的数据叫做元数据,元数据信息一般包括表名、表描述信息、所在数据库、表结构、存储位置等基本信息,另外还有表之间的血缘关系信息、每天的增量信息、表结构修改记录信息等等。
数据仓库中有大量的表,元数据管理系统就是用来收集、存储、查询数据仓库中元数据的工具,这个系统为数据使用方提供了极大的便利。

JeecgBoot低代码开发平台,如果配置树形数据表页面?

JeecgBoot是一个低代码开发平台,优秀的国产开源项目,基于代码生成器,支持无代码配置化快速开发,功能非常完善,前后端分离架构,技术栈使用主流的Java Spring Boot MyBatis,前端使用node Ant Design。
代码托管在Github和Gitee,star数量超14.7K,fork数量超5.7K,获得多个奖项,连续五年中国最火TOP5、十大优秀开源项目、2014年微信开发商大会第一名。
JeecgBoot支持在线表单开发,下面介绍如何定义树形数据表,分分钟完成CRUD功能页面。
一,Docker一键部署JeecgBoot最新发布版本2.2.1,支持Docker镜像快速构建,Docker-compose资源编排,一键部署。
Docker镜像构建只需执行一次,启动运行直接跳到第六步,执行docker-compose up
1)拉取项目代码,Github或者Gitee。
2)配置{jeecg-boot}/application.yml,指向docker,引用MySQL和Redis容器hostname。
3)编译后台服务{jeecg-boot},mvn package,得到target目录下的jar包文件。
4)编译Admin管理系统{ant-design-vue-jeecg},yarn run build,得到dist目录下的发布文件。
5)本地构建Docker镜像,docker-compose build
6)运行Docker容器实例,docker-compose up
二,Admin后台管理系统,配置化快速开发浏览器打开localhost,默认用户admin或者jeecg,默认密码123456
进入菜单:在线开发 -gt Online表单开发
1,新增表单,输入表名和描述,配置树形表
表类型,选择【单表】;
是否树,选择【是】,然后配置新出现的两个参数;
树表单父ID,默认字段名pid;
树开表单列,指的是树形展开时,子数据锚定在哪个数据列上,示例中使用label_data。
2,配置数据库属性
增加两个数据字段,标签label_data,备注note,其他选项使用默认配置。
3,配置页面属性
勾选【表单显示】、【列表显示】、【是否查询】,控制字段出现的功能场景。
控件类型常用文本框、日期、下拉框等。
4,查询配置
选择控件类型,勾选是否启用。注意配置下拉框等需要数据源的控件。
5,同步数据库
完成数据表配置后,此时【同步状态】显示未同步,也就是说,还没有创建对应的数据表。
点击菜单项“同步数据库”,将自动完成数据表创建。
6,功能测试
同步数据库成功后,将出现”功能测试“菜单,点击进入数据表功能页面。
新增数据,
新增子数据,
查询数据,
导出和导入Excel文件。
7,配置地址,得到菜单链接
圆满快速完成了一个完整的数据表CRUD功能和页面,支持树形结构展示。
三,常见问题1,可能存在的控件类型配置不一致
在配置页面属性时,字段”标签“的控件类型应该是文本框,对应出现在新增表单数据页面中。
查询配置时,字段”标签“期望的是下拉框选择。
2,修改数据表时,同步数据库失败
如果表结构改动无法做到兼容已有数据,普通同步将会出现失败,这时可以使用强制同步,也就是删除数据表重新生成。