众为Portfolio | D2iQ助力三一重工洞察海量工业大数据,实现工业物联网转型
19/12/2019

上海华兴数字科技是三一集团的一个全资子公司,主要向三一集团的重机事业部提供智能服务,同时也向业内提供涵盖LM系统、控制系统和Witsight平台的工业互联网的整体解决方案。近期,上海华兴数字科技工业大数据部的研发总监黄健先生接受了D2iQ的专访,并介绍了DC/OS如何助力三一重工实现工业互联网战略。

“挖掘机又称作工程机械的一个明珠,它的技术性复杂性非常的高”,黄总介绍道,“2016年,三一集团就已经觉察到工业大数据和工业互联网对产业升级的一个重要作用,开始打造Witsight的平台和EVICloud应用。”

D2iQ和三一集团的合作也正是从这里开始。

Witsight的平台起源于2016年三一集团的智慧风场项目,中文名为“慧眼”,寓意“对工业大数据进行洞察” 。截至目前,该平台已经成功管理集团24万台挖掘机。随着D2iQ的Mesosphere DC/OS在Witsight平台的成功应用,DC/OS正在三一集团发挥更大价值。黄总在采访中提到:“现在我们不光是在跑EVICloud的项目,还在跑EVIApp项目,Mesos系统以及数字矿山项目等。”

以下内容整理自采访花絮实录。

Q1分布式和云计算技术对三一工业互联网战略有哪些意义?

A:此前,我们用的数据库产品是一个垂直升级的概念。但随着社会规模的扩大,已经无法应对当前的业务场景。Cassandra支持水平扩展、无中心化,非常适合互联网场景应用。另外,我们的前代产品用的Hadoop技术去做报表计算,非常的复杂且漫长,现在通过Spark,我们可以把计算过程缩短到几分钟。

Q2:为什么选择SMACK架构来处理大数据?

A:SMACK(Spark、Mesos、Akka、Cassandra、Kafka)可以说是一套比较成熟的工业互联网的范式。我们基本上使用SMACK的软件栈,除了其中的Akka,我觉得SMACK的主要优势是分布式解耦、水平扩展、高速数据处理。

Q3:为什么选择D2iQ DC/OS?

A:我们在以前的工作里面曾用到Mesos,所以在2016年我们去调研产品平台的时候,就考虑到了DC/OS这个产品,经过调研之后发现很适合我们的场景。

DC/OS使用户不再去关注单台机器的资源,而是把整个计算中心当做一个资源池,实现计算资源、存储资源的统一管理。所以我们的运维人员只需要关注自己的业务,这个理念对我们来说非常重要。另外DC/OS还可以避免云运营商的锁定,我觉得对一个公司来说,我们必须考虑这样的策略。

Q4:在使用DC/OS之前如何管理分布式技术?

A:原先,我们是通过人工去管理Cassandra和Spark等服务的安装、启动、运维。需要运维人员去规划计算资源、存储资源,还要监控它们的运行状态,随时保证不要宕机,确实非常麻烦。

Q5:如何应用DC/OS?

A:我们现在有两套DC/OS集群和四个环境,其中一个集群适用于我们的研发测试和集成测试,另外一套适用于我们的生产环境。使用的服务包括Cassandra、Spark、Kafka、Redis、Marathon。

现在,我们的研发人员在做完自己的测试之后,会用容器部署到我们的研发DC/OS集群里面,然后测试人员拿到研发人员提交的软件包,会在测试系统里面做功能测试和性能测试,然后再发布到我们的预发布环境。稳定运行三天以上,再发布到生产环境。

整个过程都是在DC/OS环境里实现的,所以我们的开发、测试、运维人员都不需要再关注单台机器的性能和资源规划,只需要关注自身业务即可。

Q6:通过DC/OS部署、运行哪些大数据和IIoT应用?

A:除了刚才讲的SMACK软件栈之外,我们大部分都是部署自己的应用,例如我们有一个网关应用,来管理20多万台机器的接入。我们部署了Spark Streaming Job,用于实时的数据清洗和数据解析; EVICloud业务系统,去提供EVICloud的应用; EVIApp的后台应用,去向前端的APP提供服务等。

随着DC/OS在Witsight平台的成功应用, 现在我们不光是在跑EVICloud的项目,还在跑EVIApp项目,Mesos系统以及数字矿山项目等。

我们现在稳定接入了24万台挖掘机,每天的工况数据大约有3亿条,一年的数据量有30TB。我们打通了工况数据和公司内部的销售数据、服务数据,所以我们提供了一个完整的BI分析通道。

我们支持了20万EVIApp的用户,包括我们的机主,还有机手。另外,现在我们不仅仅服务于我们公司内部,还有代理商,我们现在像行业客户提供服务,比如数字矿山的管理系统。

Q7:目前取得了哪些技术优势和实践成果?

A:数字化、智能化现在是三一集团的一个公司策略。随着DC/OS和Witsight平台以及EVICloud应用的成功,现在上海华兴数字科技形成了三一集团内部数字化智能化的一个标杆。另外也支撑着我们三一集团在全国挖掘机市场占有率的第一,我们的市场占有率达到第二名和第三名的总和,也支撑了我们三一集团在全球现在正在挑战小松卡特这样的巨头。就Witsight的平台来说,DC/OS帮我们大大降低了构建系统的难度,也帮我们降低了资源的消耗和运维资源。

Q8:未来规划?

A:我们跟D2iQ的合作非常愉快,从2016年底就开始接触D2iQ,当时还叫Mesosphere。D2iQ一直很好的支持我们的工业互联网的发展。

随着业务发展,我们现在不仅仅局限于我们内部,明年还有计划去拓展更多的行业客户,也计划做跨云多云的融合方案,所以我们希望跟D2iQ一起把事业做好。

本文来源于D2iQ公众号