搜索

你好我想问一下大数据技术与应用具体工作会干嘛

发布网友 发布时间:2022-04-21 11:18

我来回答

5个回答

热心网友 时间:2022-04-30 20:15

大数据项目实施工程师、大数据平台运维工程师、大数据平台开发工程师等。

大数据技术被渗透到社会的方方面面,医疗卫生、商业分析、*、食品安全、金融安全等方面。2014年,从大数据作为国家重要的战略资源和加快实现创新发展的高度,在全社会形成“用数据来说话、用数据来管理、用数据来决策、用数据来创新”的文化氛围与时代特征。

大数据科学将成为计算机科学、人工智能技术(虚拟现实、商业机器人、自动驾驶、全能的自然语言处理)、数字经济及商业、物联网应用、还有各个人文社科领域发展的核心。

扩展资料:

大数据应用应用概况:

大数据价值创造的关键在于大数据的应用,随着大数据技术飞速发展,大数据应用已经融入各行各业。大数据产业正快速发展成为新一代信息技术和服务业态,即对数量巨大、来源分散、格式多样的数据进行采集、存储和关联分析,并从中发现新知识。

创造新价值、提升新能力。我国大数据应用技术的发展将涉及机器学习、多学科融合、大规模应用开源技术等领域。

参考资料来源:百度百科-大数据应用

参考资料来源:百度百科-大数据技术与应用

热心网友 时间:2022-04-30 21:33

1 写 SQL (很多入职一两年的大数据工程师主要的工作就是写 SQL )

2 为集群搭大数据环境(一般公司招大数据工程师环境都已经搭好了,公司内部会有现成的大数据平台,但我这边会私下搞一套测试环境,毕竟公司内部的大数据系统权限*很多,严重影响开发效率)

3 维护大数据平台(这个应该是每个大数据工程师都做过的工作,或多或少会承担“运维”的工作)

4 数据迁移(有部分公司需要把数据从传统的数据库 Oracle、MySQL 等数据迁移到大数据集群中,这个是比较繁琐的工作,吃力不讨好)

5 应用迁移(有部分公司需要把应用从传统的数据库 Oracle、MySQL 等数据库的存储过程程序或者SQL脚本迁移到大数据平台上,这个过程也是非常繁琐的工作,无聊,高度重复且麻烦,吃力不讨好)

6 数据采集(采集日志数据、文件数据、接口数据,这个涉及到各种格式的转换,一般用得比较多的是 Flume 和 Logstash)

7 数据处理
7.1 离线数据处理(这个一般就是写写 SQL 然后扔到 Hive 中跑,其实和第一点有点重复了)
7.2 实时数据处理(这个涉及到消息队列,Kafka,Spark,Flink 这些,组件,一般就是 Flume 采集到数据发给 Kafka 然后 Spark 消费 Kafka 的数据进行处理)

8 数据可视化(这个我司是用 Spring Boot 连接后台数据与前端,前端用自己魔改的 echarts)

9 大数据平台开发(偏Java方向的,大概就是把开源的组件整合起来整成一个可用的大数据平台这样,常见的是各种难用的 PaaS 平台)

10 数据中台开发(中台需要支持接入各种数据源,把各种数据源清洗转换为可用的数据,然后再基于原始数据搭建起宽表层,一般为了节省开发成本和服务器资源,都是基于宽表层查询出业务数据)

11 搭建数据仓库(这里的数据仓库的搭建不是指 Hive ,Hive 是搭建数仓的工具,数仓搭建一般会分为三层 ODS、DW、DM 层,其中DW是最重要的,它又可以分为DWD,DWM,DWS,这个层级只是逻辑上的概念,类似于把表名按照层级区分开来的操作,分层的目的是防止开发数据应用的时候直接访问底层数据,可以减少资源,注意,减少资源开销是减少 内存 和 CPU 的开销,分层后磁盘占用会大大增加,磁盘不值钱所以没什么关系,分层可以使数据表的逻辑更加清晰,方便进一步的开发操作,如果分层没有做好会导致逻辑混乱,新来的员工难以接手业务,提高公司的运营成本,还有这个建数仓也分为建离线和实时的)

总之就是离不开写 SQL ...

热心网友 时间:2022-04-30 23:08

首先,必须要肯定的一点是:大数据技术与应用专业或相关专业就业前景相当广阔。原因是:近几年来,互联网行业发展风起云涌,而移动互联网、电子商务、物联网以及社交媒体的快速发展更促使我们快速进入了大数据时代。截止到目前,人们日常生活中的数据量已经从TB(1024GB=1TB)级别一跃升到PB(1024TB=1PB)、EB(1024PB=1EB)乃至ZB(1024EB=1ZB)级别,数据将逐渐成为重要的生产因素,人们对于海量数据的运用将预示着新一波生产率增长和消费者盈余浪潮的到来。大数据时代,专业的大数据人才必将成为人才市场上的香饽饽。因此,当下大数据从业人员的两个主要趋势是:1、大数据领域从业人员的薪资将继续增长;2、大数据人才供不应求。另外,大数据专业毕业生就业岗位非常多,比如:Java大数据分布式程序开发、大数据集成平台的应用与开发、大数据平台运维、Java海量数据分布式编程、大数据架构设计、大数据分析、Java大数据分布式开发、基于大数据平台的程序开发、数据可视化、大数据挖掘、Java海量数据分布式编程、大数据架构设计等。

热心网友 时间:2022-05-01 01:16

这个工作的实际岗位的话,一个是对数据的清洗和整理,另外一个是对数据报告的深度研究和发布也就意味着一个工作岗位是运用于数据的处理,另外一个作用是报告的生存。

热心网友 时间:2022-05-01 03:41

研发设备,比如我们平时买票用的机子,还有研发某系统,例如互联网系统,人工智能系统等等,总之跟工程师差不多吧!
声明:本网页内容为用户发布,旨在传播知识,不代表本网认同其观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
E-MAIL:11247931@qq.com
Top