20000节点数仓集群在大型商业银行的落地实践演讲简介:
数据仓库在商业银行有着几十年的建设发展历程,在过去的十年中,大多数商业银行普遍选择MPP架构的数据库来进行数据库仓库的底层搭建。不过,随着银行数字化的快速发展,传统MPP架构的数据库慢慢开始无法满足日益增长的海量数据的存储和计算需求。为了满足在云化数仓建设中,对于底层数据仓库集群数据互通共享、并发线性扩展、资源动态伸缩、运维自动智能等方面的需求,中国建设银行在2018年启动新一代MPP数据库的研发工作,并与2019年底正式上线。经过几年的研究和打磨,目前建行的云化数仓集群已经超过20000个节点。本次分享,聚焦于超大规模MPP数据库的技术架构设计,以及该架构对于商业银行数据仓库建设所带来的全新变革和提升。同时也总结了建设过程当中所遇到的一些问题,和对于未来发展方向的一些思考。演讲重点内容提纲:1)数仓集群建设现状(规模、运行现状等)2)技术架构和特征(为什么要建设新一代MPP数据库,云原生架构和计算与存储分离架构)3)各组件核心能力4)应用全新体验(对于上层应用以及运维使用带来什么样的变革和提升)5)未来规划和思考
陈晓新 建信金融科技 基础技术中心,龙趺MPP DB产品负责人嘉宾介绍:
10年MPP架构数据库工作经验;4000台Greenplum集群规划、搭建、运维和优化;建信金科自研云原生MPP架构数据库,20000节点龙趺MPP DB产品负责人。
中国银联分布式数据库在金融场景下的技术探索与实践演讲简介:
1).概要介绍:UPDRDB是中国银联基于金融业务需求对混合关系型分布式架构数据库系统的探索。UPDRDB实现了中间件与分布式存储引擎的结合,该混合架构同时具有中间件低成本、分布式存储引擎高兼容性的优势。其中中间件负责根据命令类型、SQL语句特征对用户的请求加以区分,并进行分类处理。分布式存储引擎主要负责处理其中的复杂操作。银联的核心系统在早期使用的是运行于小型机的商业数据库,随着业务的快速发展,开始逐步选用基于通用硬件的分布式数据库。在本次技术实践主题中,将介绍UPDRDB作为一个分布式在线联机处理数据库,如何满足银联核心系统的业务关键诉求,承载银联核心系统的云迁移。特别是在对稳定性和可靠性要求严苛的金融业,如何配合核心系统设计数据库的部署架构和高可用方案,维护系统的稳定性。后再从性能、时延、稳定性等多方面对实践进行结果评估。2).内容大纲:1. 数据库产品介绍1.1银联数据库发展历程1.2产品架构1.3产品特性2. 核心系统云迁移数据库选型2.1业务背景2.2 业务模型2.3业务关键诉求3.云迁移数据库关键技术实践3.1部署架构3.2高可用方案3.2.1现状分析3.2.2核心策略3.2.3影响性分析3.3 实践效果「性能、时延、可扩展性、持久性等方面」
赵智慧 中国银联有限公司 产品架构师嘉宾介绍:
毕业后就职于中国银联有限公司,专注于分布式数据库、云计算等方向。主要负责主持银联自研分布式数据库服务化上云的完整落地,包括但不限于内部路由网关、用户体系的设计,管理服务平台0~1建设,业务应用等。参与银联自研分布式数据库的研发,包括但不限于后端连接池优化,分布式密码缓存机制优化,统一前后端账户后的账户校验等内容。同时在内网研发环境引入持续集成CI提升研发效能,定制自动化部署测试环境和案例,收集汇总数据并在线展示,开发人员和评审人员可直观快速确认代码质量,保障产品的高质量。
中国工商银行分布式缓存架构及实践经验分享演讲简介:
随着互联网和信息产业的快速发展,计算机存储的信息量呈爆炸增长态势,在金融科技领域尤为如此。随着业务交易量不断增长,并出现了如秒杀、会话、路由信息,计数器等高频访问的热点数据,传统基于磁盘存储的关系型数据库已无法较好的支撑上述业务场景,为满足中国工商银行在IT架构转型及智慧银行ECOS工程建设过程中各应用对业务数据的高并发、低延迟、简单易用、高效稳定的访问需求,我行于2015年正式成立了分布式缓存研发团队,经过几年的打磨与完善,目前已建成较为完善的企业级分布式缓存服务平台。本次分享,聚焦于大规模分布式缓存架构设计、部署模式以应对金融场景下对不死可监控的严苛要求,并总结了建设过程中遇到的一些典型问题,分析思路和解决方案等经验分享,可供同行参考作为前车之鉴,保证生产的运行稳定。演讲内容重点提纲:1)架构及部署模式(讲为何要建设这几种架构,分别解决哪些业务场景)2)各组件核心能力(对于我行自研的几大组件目前建设的成果进行介绍)3)租户接入自服务能力(讲原来线下管理接入的痛点,然后介绍是如何打通开发、测试、生产环境,自动化完成相关服务环境的搭建部署,可用性验证)4)自动化运维能力(介绍在我行大体量集群规模下,复杂的投产及运维痛点有哪些,介绍我行如何实现自动化投产,一键式运维)5)平台建设过程中遇到的一些典型问题分享(分享缓存平台建设过程中遇到过哪些坑,如何分析和解决,供同业参考借鉴)。6)未来规划与思考
武文斌 中国工商银行 分布式缓存团队技术负责人嘉宾介绍:
现任中国工商银行分布式缓存团队负责人。