大数据工程师就业前景
大数据是眼下非常时髦的技术名词,与此同时自然也催生出了
一些与大数据处理相关的职业,通过对数据的挖掘分析来影响企业
的商业决策。大数据工程师就是其中的一种。下面一起来了解一下
大数据工程师的就业前景吧。
大数据是眼下非常时髦的技术名词,与此同时自然也催生出了
一些与大数据处理相关的职业,通过对数据的挖掘分析来影响企业
的商业决策。
这人在国外被叫做数据科学家(Data Scientist),这个头衔
最早由D.J.Pati和Jeff Hammerbacher于xx年提出,他们后来分
别成为了领英(LinkedIn)和数据科学团队的负责人。而数据科学家
这个职位目前也已经在美国传统的电信、零售、金融、制造、物流、医疗、教育等行业里开始创造价值。
不过在国内,大数据的应用才刚刚萌芽,人才市场还不那么成熟,“你很难期望有一个全才来完成整个链条上的所有环节。更多
公司会根据自己已有的资源和短板,招聘能和现有团队互补的人才。”领英(LinkedIn)中国商务分析及战略总监王昱尧说。
于是每家公司对大数据工作的要求不尽相同:有的强调数据库
编程、有的突出应用数学和统计学知识、有的那么要求有咨询公司
或投行相关的经验、有些是希望能到懂得产品和市场的应用型人才。正因为如此,很多公司会针对自己的业务类型和团队分工,给
这与大数据打交道的人一些新的头衔和定义:数据挖掘工程师、
大数据专家、数据研究员、用户分析专家等都是经常在国内公司里
出现的Title,我们将其统称为“大数据工程师”。
由于国内的大数据工作还处在一个有待开发的阶段,因此能从
其中挖掘出多少价值完全取决于工程师的个人能力。已经身处这个
行业的专家给出了一些人才需求的大体框架,包括要有计算机编码
能力、数学及统计学相关背景,当然如果能对一些特定领域或行业
有比拟深入的了解,对于其快速判断并抓准关键因素那么更有帮助。
虽然对于一些大公司来说,拥有硕博学历的公司人是比拟好的
选择,不过阿里巴巴集团研究员薛贵荣强调,学历并不是最主要的
因素,能有大规模处理数据的经验并且有喜欢在数据海洋中寻宝的
好奇心会更适合这个工作。
除此之外,一个优秀的大数据工程师要具备一定的逻辑分析能力,并能迅速定位某个商业问题的关键属性和决定因素。“他得知
道什么是相关的,哪个是重要的,使用什么样的数据是最有价值的,如何快速到每个业务最核心的需求。”联合国百度大数据联合实
验室数据科学家沈志勇说。
学习能力能帮助大数据工程师快速适应不同的工程,并在短时
间内成为这个领域的数据专家;沟通能力那么能让他们的工作开展地
更顺利,因为大数据工程师的工作主要分为两种方式:由市场部驱
动和由数据分析部门驱动,前者需要常常向产品经理了解开发需求,后者那么需要运营部了解数据模型实际转化的情况。
你可以将以上这些要求看做是成为大数据工程师的努力方向,
因为根据万宝瑞华管理合伙人颜莉萍(Nicole Yan)的观察,这是一
个很大的人才缺口。目前国内的大数据应用多集中在互联网领域,
有超过56%的企业在筹备开展大数据研究,“未来5年,94%的公司
都会需要数据科学家。”颜莉萍(Nicole Yan)说。因此她也建议一
些原本从事与数据工作相关的公司人可以考虑转型。
《第一财经周刊》采访了BAT这3家国内互联网公司,以及相
关领域的人力资源专家,他们从职场角度为我们解读如何成为大数
据工程师以及这类岗位的职场现状。
用阿里巴巴集团研究员薛贵荣的话来说,大数据工程师就是一
“玩数据”的人,玩出数据的商业价值,让数据变成生产力。大
数据和传统数据的最大区别在于,它是在线的、实时的,规模海量
且形式不规整,无章法可循,因此“会玩”这些数据的人就很重要。
沈志勇认为如果把大数据想象成一座不停累积的矿山,那么大
数据工程师的工作就是,“第一步,定位并抽取信息所在的数据集,相当于探矿和采矿。第二步,把它变成直接可以做判断的信息,相
当于冶炼。最后是应用,把数据可视化等。”
因此分析历史、预测未来、优化选择,这是大数据工程师在
“玩数据”时最重要的三大任务。通过这三个工作方向,他们帮助
企业做出更好的商业决策。
大数据工程师一个很重要的工作,就是通过分析数据来出过
去事件的特征。比方,腾讯的数据团队正在搭建一个数据仓库,把
公司所有网络平台上数量庞大、不规整的数据信息进行梳理,总结
出可供查询的特征,来支持公司各类业务对数据的需求,包括广告
投放、游戏开发、社交网络等。
出过去事件的特征,最大的作用是可以帮助企业更好地认识
消费者。通过分析用户以往的行为轨迹,就能够了解这个人,并预
测他的行为。“你可以知道他是什么样的人、他的年纪、兴趣爱好,是不是互联网付费用户、喜欢玩什么类型的游戏,平常喜欢在网上
做什么事情。”腾讯云计算北京研发中心总经理郑立峰说。下一步
到了业务层面,就可以针对各类人推荐相关效劳,比方手游,或
是基于不同特征和需求衍生出新的业务模式,比方的电影票业务。
通过引入关键因素,大数据工程师可以预测未来的消费趋势。在阿里妈妈的营销平台上,工程师正试图通过引入气象数据来帮助淘宝卖家做生意。“比方今年夏天不热,很可能某些产品就没有去年畅销,除了空调、电扇,背心、游泳衣等都可能会受其影响。那么我们就会建立气象数据和销售数据之间的关系,到与之相关的品类,提前警示卖家周转库存。”薛贵荣说。
在百度,沈志勇支持“百度预测”局部产品的模型研发,试图用大数据为更广泛的人效劳。已经上线的包括世界杯预测、高考预测、景点预测等。以百度景点预测为例,大数据工程师需要收集所有可能影响一段时间内景点人流量的关键因素进行预测,并为全国各个景点未来的拥挤度分级—在接下来的假设干天时间里,它究竟是畅通、拥挤,还是一般拥挤?
根据不同企业的业务性质,大数据工程师可以通过数据分析来到达不同的目的。
以腾讯来说,郑立峰认为能反映大数据工程师工作的最简单直接的例子就是选项测试(AB Test),即帮助产品经理在A、B两个备选方案中做出选择。在过去,决策者只能依据经验进行判断,但如今大数据工程师可以通过大范围地实时测试—比方,在社交网络产品的例子中,让一半用户看到A界面,另一半使用B界面,观察统计一段时间内的点击率和转化率,以此帮助市场部做出最终选择。
作为电商的阿里巴巴,那么希望通过大数据锁定精准的人,帮助卖家做更好的营销。“我们更期待的是你能到这样一批人,比起现有的用户,这些人对产品更感兴趣。”薛贵荣说。一个淘宝
的实例是,某人参卖家原来推广的目标人是产妇,但工程师通过
挖掘数据之间的关联性后发现,针对孕妇体投放的营销转化率更高。
就我们采访过的BAT三家互联网大公司来说,对于大数据工程
师的要求都是希望是统计学和数学背景的硕士或博士学历。沈志勇
认为,缺乏理论背景的数据工作者,更容易进入一个技能上的危险
区域(Danger Zone)—一堆数字,按照不同的数据模型和算法总能捯
饬出一些结果来,但如果你不知道那代表什么,就并不是真正有意
义的结果,并且那样的结果还容易误导你。“只有具备一定的理论
知识,才能理解模型、复用模型甚至创新模型,来解决实际问题。”沈志勇说。
实际开发能力和大规模的数据处理能力是作为大数据工程师的
一些必备要素。“因为许多数据的价值于挖掘的过程,你必须亲自
动手才能发现金子的价值。”郑立峰说。
举例来说,现在人们在社交网络上所产生的许多记录都是非结
构化的数据,如何从这些毫无头绪的文字、语音、图像甚至视频中
攫取有意义的信息就需要大数据工程师亲自挖掘。即使在某些团队中,大数据工程师的职责以商业分析为主,但也要熟悉计算机处理
大数据的方式。
在颜莉萍(Nicole Yan)看来,大数据工程师这个角很重要的
统计学就业前景一点是,不能脱离市场,因为大数据只有和特定领域的应用结合起
来才能产生价值。所以,在某个或多个垂直行业的经历能为应聘者
积累对行业的认知,对于之后成为大数据工程师有很大帮助,因此
这也是应聘这个岗位时较有说服力的加分项。
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论