首页 >

大数据方面核心技术有哪些 – 数据库 – 前端|

怎么删除笔记本设置wifi热点,好友已达上限怎么办,220v整流桥怎么测好坏大数据方面核心技术有哪些 - 数据库 - 前端|大数据方面核心技术有哪些

这个问题提问的很有深度,目前大数据是个比较广义的概念,涉及的方方面面很大,若要给个很官方的说法是比较难,简单说一下偶知道的理解:

一是数据采集与预处理,也就是说你不管是任何的大数据分析,首先要有数据支撑,但是数据是很广的,你需要的数据得按关键词或者一定的分类把数据进行预处理,以便分析时提供调用。数据采集分很多很多种,可以是网络资源抓取、硬件采集、人工录入、数据对接、购买第三方资源等等,技术很多种Flume NG、NDC、Logstash、Sqoop、Strom、Zookeeper等。

二是数据存储,这是个很消耗硬件资源的本质问题,既然是大数据,说明是一个大型量化的过程,随着你分析需求,数据会随着时间的推移变得庞大,应用多技术方法有Hadoop、HBase、Phoenix、Yarm、Mesos、Redis、Atlas、Kudu等。

三是数据清洗,你的数据庞大会让你的整体响应速度受到极大考验,读写分离,负载均衡等等问题就需要你去想应对方案,应用到的查询引擎工作流调度引擎技术有MapReduce、Oozie、Azkaban等。

四是数据查询分析,这个依据你的业务数据需求,比如现在应用比较广泛成熟的有商城产品信息推送、头条新闻推送、广告推送等等,都是以收集用户历史信息唯独去分析,应用到的技术有Hive、Impala、Spark、Nutch、Solr、Elasticsearch等,当然还有一些机器学习语言,机器学习算法如贝叶斯、逻辑回归、决策树、神经网络和协同过滤等等。

五是数据可视化,这也是数据分析的最终目的,如何去更好的呈现你的数据,使你的数据变得有价值是你做这个分析平台的制高点,当下应用比较成熟的技术有BI Tableau、Qlikview、PowrerBI、SmallBI等。

总结起来就是你需要实现分析,首先要有来源,然后要有方法,其次要有目的,最后你要面向用户,这可能是个漫长而又考验技术的过程,人力物力环境时间都将可能是你面临的难题。

以下图片来源于网络


大数据方面核心技术有哪些 - 数据库 - 前端|
  • mysql查询含有某个值,mysql怎样查看可允许的最大线程数 - 数据库 - 前端,mysql 5.6 压缩版 安装
  • mysql查询含有某个值,mysql怎样查看可允许的最大线程数 - 数据库 - 前端,mysql 5.6 压缩版 安装 | mysql查询含有某个值,mysql怎样查看可允许的最大线程数 - 数据库 - 前端,mysql 5.6 压缩版 安装 ...

    大数据方面核心技术有哪些 - 数据库 - 前端|
  • mysql 查询 速度,MySQL如何优化大分页查询 - 数据库 - 前端,status mysql
  • mysql 查询 速度,MySQL如何优化大分页查询 - 数据库 - 前端,status mysql | mysql 查询 速度,MySQL如何优化大分页查询 - 数据库 - 前端,status mysql ...

    大数据方面核心技术有哪些 - 数据库 - 前端|
  • SQL如何设置主键 - 网络|
  • SQL如何设置主键 - 网络| | SQL如何设置主键 - 网络| ...