星环科技助力中化集团大数据平台建设
一、项目背景
为响应国资委在《关于2019年进一步加强中央企业集团管控信息化工作有关事项的通知》中对央企提出的“大系统、大平台、大数据”信息化要求,同时为了推进集团“数字中化”的战略目标,助力集团各业务单位实现数字化转型,业务应用事业部提出由信息公司自主建设集团大数据基础服务平台,作为集团数字基础设施支撑集团各级次的数据应用。
二、大数据平台建设需求
中化集团目标建立一个以数据驱动为核心,以技术支撑为基础,赋能企业一体化协同、管理创新和业务创新的大数据平台。
技术先进:先进的技术能够保证整个大数据系统的稳定性与兼容性,同时能够合理利用资源,避免有限的资源浪费。集团需要建立一个结合先进技术一体化的大数据和人工智能应用基础软件平台。
自主可控:大数据是企业核心资产,应自主建设,遵循先进适用、稳定安全、灵活开放的原则设计。平台借助多租户的模式,可以满足集团及各个板块对数据和权限的管理要求,使得集团建设统一数据中台成为可能。
行业先进:依托广泛的客户群体、成熟的使用模式、多案例和经验借鉴,信息公司通过提供BI+AI服务,以覆盖数据领域通用场景、满足各类应用场景的存储和计算要求,提供行业先进的数据服务。
快速落地:通过外部厂商实施,快速建立平台,支持多元化数据应用搭建,使得集团能够及时把握市场机会。星环大数据平台提供强大兼容能力,大大降低平台的使用门槛,用户可以结合通用数据技术快速上手。
三、项目实施
1. 大数据平台架构
1)大数据平台全景
数据原层:底层数据原层分为三类,包括内部生产、经营数据和外部社会数据。
基础层:通过集团建立统一的数据湖,满足离线、实时、外部数据采集相关功能。
规则层:一部分依靠星环科技的Incepter建立的统一SQL防御引擎,另一部分依托星环Sophon部分功能实现的统一科学计算平台。
应用开发层:面向整个中化集团,应用开发层包含各类相关应用,包括战略分析类、风险管控类、经营分析类等各类应用开发。
客户层与展现层:中化集团涵盖五大核心板块,包括化工、能源、农业、地产、金融,数据通过服务接口平台接入应用层。中化集团大数据平台定位于为集团总部以及下属五大板块提供相关服务。可以说,客户侧是整个平台中最重要的部分。
2)大数据平台功能架构
基于Transwarp一站式大数据平台实现的六大功能,能够应用到主题报表、自助分析、量化交易、权限管理、领导驾驶舱、资产目录、一站式搜索、图像识别、日志分析等各类应用场景之中。
3)大数据平台软件架构
中化大数据平台基于星环数据云平台TDC,构建分析Paas、数据Paas、应用Paas为一体的数据共享交换体系,通过数据接口、安全接口、资源接口、微服务接口对接业务,实现平台云+数据云+应用云三云融合。
2. 大数据平台的能力实现
1)多租户能力
大数据平台按照租户的形式提供服务,能够快速响应用户的大数据应用需求,降低用户建设成本,具有平台稳定、技术先进、数据安全、运维及时等特点。平台运用应用隔离、资源隔离、数据隔离、运行隔离等手段保障数据隐蔽性。中化集团下属五个板块均需要租户能力来提供相关服务,租户能力是平台选型过程中最看中的能力。
图 大数据平台的多租户模式
a)星环TDC构建平台层
首先,最底层是整个集团的数据湖区,包括原始数据采集,轻度数据加工和相关备份数据。其次,中间为租户区,是实现租户能力最重要的区域,以租户模式提供给总部以及下属各个板块相关的应用服务,星环TDC为中化大数据平台架构起多租户能力,实现包括多租户权限划分,相关权限管理等功能。最后,右侧为平台管理区,结合租户特点实现规范化的数据管理和流程管理。
b)星环TDC完善计费体系
以资源划分方式,根据每一个TCU对应的相关CPU内存以及磁盘的资源使用情况,给各租户提供相关服务,并进行相关计费,构建出一个以TDC为基础的计费体系。
2)大数据服务能力
中化大数据平台依赖TDH的基础能力,可接入各项多源异构应用数据,构建成一个完整的数据计算和业务分析系统,平台可将实时数据和离线数据打通,使数据可以实现更大规模的关联计算,挖掘出数据更大的数据价值,进而实现数据驱动业务。目前已经接入了包括党建、科技项目、久其报表以及人力资源在内的12个业务系统数据。
3)人工智能服务能力
平台通过人工智能系统进行数据统计,从而发现业务规律,最后利用规律对未来的数据进行分类和预测,使系统呈现出智能化的特性,同时也为客户的数据分析、建模、精准营销等功能实现提供有力支持。目前在中化金融事业部门内,完成了审计部门金融客户流失预警的模型构建及使用。
4)数据治理服务能力
中化大数据平台提供了数据资产目录的功能,基于数据资产目录Transwarp Catalog实现多系统元数据资产目录,实现对数据的集成、融合、安全、共享,包含数据血缘分析、跨租户数据自动下发、报表管理、数据资产可视化等方面,有效提升客户的数据治理能力。
3、大数据平台支持不同业务场景
辅助领导战略管控与决策:这是面向整个中化集团及其整个领导层的能力,能够为领导提供清晰、系统的数据视图,总体掌握战略目标的完成情况,及时洞察各级业务动态,辅助决策。
支持灵活的经营分析:平台基于星环TDH中BI/报表工具Pilot的可视化能力为管理者展现关键的经营信息,对经营指标数据进行监控和预警。发挥数据联通作用,集成“横向到边、纵向到底”的各项经营管理数据,完善数据覆盖范围,提高数据准确性和及时性。
助力监管,防范化解重大风险:平台能够满足国资监管的要求,实现报送数据的集中、处理、统一报送的数据服务。同时为风险评价、HSE、审计、纪检等监管部门等提供大数据监管手段,通过风险画像、主动预警、事件监控等方式,助力开展企业风险管理,提升监管效能。
应用服务案例
集团数据共享平台
整个数据共享对接统建系统,全部通过离线、实时、外部数据采集到整个平台之上,面向各个板块汇总各类数据。整个数据共享交换分为三大层面,首先是技术层主要面向数据采集以及相关存储,搭建整个数据存储平台;其次是功能侧,功能侧开发了一些相关模型和应用;最后,以大屏方式去展现整个中化集团的数据和管理层应用。最终构建了一个系统、多元、庞大的集团级数据共享交换平台。
中化石油大屏
石油公司贸易展示大屏项目基于星环平台和BI产品,通过大屏形式对原油成品油等能源相关贸易数据进行可视化展示,特别是中化石油公司整个贸易流向型号,船舶动态监控型号。石油大屏兼具顶级视觉效果以及高性能操控,为各级领导及时了解贸易流向和船舶动态提供直接明了的量化支撑,有效赋能石油公司管控数字化的发展。
平台累计接入集团总部和五大事业部,数百家公司,7万余员工和承包商每日填报数据342万条,累计开通管理用户1700名,实现日均检索访问11000余次。平台累计迭代版本53个,开发功能板块26项。
总结:中化大数据平台提供一站式的大数据解决方案,能够充分整合和管理企业各个系统全生命周期数据,快速挖掘数据背后的价值,落地丰富的数据应用场景,形成数据驱动的闭环迭代生态,赋能业务,综合提升企业管理和运营能力。