案例精选

case
精选优质数据可视化案例展示
首页 > 案例精选 > 正文内容

基于关系型数据库和ES搜索引擎,实现多源百亿级数据的大数据分析方案

案例精选5255年前 (2019-08-27)大数据

背景:

随着公司各项业务的快速发展与扩张,服务器和各种应用系统随之而增加,同时对应用系统、服务器的稳定性,可持续性提出了更高的要求,公司希望搭建一套综合的分析与监控系统,为各个部分提供决策支持。

需要解决的问题:

(1)数据孤岛问题,数据分散在不同的业务系统当中;

(2)服务器日志信息如何有效搜集与存储;

(3)业务部门分析需求不固定,经常有新的需求提出,如何满足各部门的需求;

(4)基于上面的问题如何快速搭建多源的可视化分析系统;

技术选型与整体架构设计:


方案一:业务数据ETL,基于数仓架构模式


方案二:采用数据直接模式

(1)日志采集主要通过logstash来采集,然后存储到搜索引擎中;

(2)业务系统数据可以采用两种方案架构第一种是建设数仓,将不同数据汇集到数仓中;第二种:采用直连的方式直接对接大数据分析平台;

(3)大数据可视化分析采用NBI大数据可视化分析平台,可以实现多源数据分析,能很好的支持Elasticsearch,关系型数据库,大数据存储平台的数据接入;通过拖拽式和高度灵活的布局模式,可以快速构建各类可视化分析报告应用;通过权限控制,设置编辑与访问权限,保障企业数据资产的安全有效利用;

(4)最终通过NBI大数据可视化分析平台构建各类数据分析应用,输出给对应部门人员使用。

注意事项:

(1)Elasticsearch需要安装一个sql插件elasticsearch-sql,根据es对应版本下载插件,便于做交互式分析;

(2)NBI大数据平台中,目前对Elasticsearch支持的建模方式为SQL建模

操作步骤:

(1)在NBI大数据平台中,通过数据管理模块,添加Elasticsearch数据源;


数据源连接

(2)测试连接,检验是否能正常连接到Elasticsearch


连接测试

(3)连接成功,通过SQL建立工作表模型


创建数据工作表模型

(4)构建数据报告:


可视化报告构建

(5)设置访问权限:


权限设置

扫描二维码推送至手机访问。

版权声明:本文由策意data发布,如需转载请注明出处。

转载请注明出处http://dsj.ceyicm.cn/reed/29.html

分享给朋友:

相关文章

企业数字化转型遇到的困境,数据化运营如何解决

企业数字化转型遇到的困境,数据化运营如何解决

公司决策者意识到成功的数字体验越来越重要。调查受访者表示,这种成功的衡量标准是,用户体验和满意度提高(53%),市场敏捷性提高(49%),收入和盈利能力增加(49%),员工生产力提高(49%),以及更...

策意data大数据可视化分析效果图展示

策意data大数据可视化分析效果图展示

策意data大数据可视化分析效果图展示离网分析用户流失情况分析故障报修服务能力用户画像生产能耗分析水质分析高校师资情况分析设备监控与生命周期监测策意data企业数据分析专家,释放数据价值,助力构建智慧...

基于分布式关系型数据库,实现轻松应对百亿级数据分析场景解决方案

基于分布式关系型数据库,实现轻松应对百亿级数据分析场景解决方案

MyCat是什么?从定义和分类来看,它是一个开源的分布式数据库系统,是一个实现了MySQL协议的服务器,前端用户可以把它看作是一个数据库代理,用MySQL客户端工具和命令行访问,而其后端可以用MySQ...

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。
每一次合作都多一位朋友

体验账号:administrator 密码:administrator

  • 7X12小时
    7X12小时

    专家1V1服务

  • 业务保障
    业务保障

    扎实数据根基

  • 合作伙伴
    合作伙伴

    NBIDataVis

  • 强大交付
    强大交付

    实现客户价值