大数据时代:如何正确认识大数据?

怎么看待大数据? 关于大数据,目前业界并没有统一定义,只有几个比较一致的观点。 一个观点是来自高德·纳咨询公司梅尔夫·阿德里安的描述:大数据是超出了常用硬件环境和软件工具,在可接受时间内为用户收集、管理和处理数据的能力,讲的是一种能力。 另一个观点,则是来自麦肯锡全球数据分析研究所的一篇论文,其中谈到:大数据是指大小超出了典型数据库软件工具收集、存储、管理和分析能力的数据集,讲的是数据的集合。 那么,该如... 阅读详情

言必称大数据的时代,让我们多少有些“审美疲劳”。但如果严格按照大数据的定义来判断,相信大多数公司是根本不存在大数据问题的。你也许有很多数据,但那并不意味着就是大数据。数据库即服务公司MongoHQ的@Codepope最近在博客上探讨了这个问题,以及为何我们要存储这么多的数据,但无法从中获取相应的价值。

大数据实际上是范围极广、数量极大的,超乎你的想象。你也许认为维基百科的数据很大,但它也只是冰山一角而已。人们往往认为“很多的”数据就是所谓的“大”,因此他们无时无刻不在于大数据打交道。这种想法是不对的,我们从很早以前就已经有海量的数据了,那时候甚至还没有大数据的概念。那么大数据究竟是从哪里来的呢?为什么我们需要大数据呢?


时间倒退到上世纪90年代,人们开始认识到以数位的方式存储各种数据是非常便宜的,要比把它们保存在纸上便宜的多。而当某种事物变得足够便宜的时候,它就成为了一种标准。将所有信息都保存起来似乎成为了人类的一种本能,以便我们能够在未来需要的时候找到它。特别是在成本低廉的情况下,何乐而不为?

尤其是在科学领域,科学家们从很早以前就梦想能够把实验中的所有数据都妥善地保存起来。几十年前,美国的Peter Denning就阐述了NASA在保存哈勃空间望远镜的数据时所面对的难题:它每天生成的数据就需要2500张光盘来存储,这不仅对对网络和存储设备造成了极大压力,甚至已经超出了人类能够理解的范围。随着存储技术以及经济的飞速发展,现在想一想,要存储2500张光盘大小的数据,只需要几百元的普通硬盘就可以实现。

大数据与“热”数据

还有一种常见的错误观点,即你不仅拥有很多数据,而且用户访问这些数据的频率很高,因此就需要我们用“大数据思维”来处理这些数据。

这些数据其实不一定是大数据,而是所谓的“热数据”,它们并不适用于处理大数据的方式。热数据是纯粹的扩展性问题,你需要把系统的性能调整到最佳,降低系统的延迟同时确保它能够被所有提出访问需求的用户访问到。

大数据与它正相反,我们可以说它是“冷数据”。也就是说,大数据并不是你频繁访问的数据,除了作为分析之用,甚至你从来不会去用到它。事实上,除了分析之外,我们可以把大数据“冷冻”起来。尽管有时候我们会把大数据与新鲜快速的记录一起进行分析,但大数据池至少需要从概念上与活动的热数据隔离开来。否则二者会互相造成不良的影响。将冷热数据分开存储是公认的最佳实践,无论是存储还是应用,它们都是完全不同的数据。

很不幸的是,有很多人并没有认清这一点,他们还在将大数据处理方式应用到各种各样的数据类型当中。最终的结果也就可想而知。

大数据价值有限

现如今,我们已经能够保存下每个业务流程当中的数据,甚至已经可以保存下用户访问页面的数据或者观众观看哪些节目的数据。物联网的出现改变了游戏规则,为我们开启了一扇门。然而每一条数据、每一条记录的价值却在下降。

可以这样说,一条信用卡的交易记录是相对丰富的数据,它包含了人、地点、时间以及更多附加在数据上的价值,因此很自然我们想要收集这些数据,用来促进销售的循环。然而相比而言,一条用户在网上的浏览点击行为数据就没有那么“值钱”了。这些数据也许包含了用户的行为习惯信息,但单独拿出一条记录也许是没有任何价值的。你只有在想要分析用户的行为时,才会大量收集这样的数据。

而现在的情况是,存储这些数据的成本是比较低的,而且你收集越多的数据,通过比对不同的趋势,你就可能获得更多的价值。拿观众观看电视的数据来说,大量收集这些记录,然后与节目表和广告数据整合在一起进行分析,就能更好地理解观众喜欢什么样的节目,爱看什么样的电视剧,客户也可以更精准地投放广告。这时候大数据的价值就会凸显出来,就像最近火的一塌糊涂的《纸牌屋》。

因此我们可以判断,当应对大量的记录时,如果每一条单独记录越小(数据量,关联性),那么它是大数据的可能性就越大。而“大数据分析”所面临的挑战是,从这些信息的小小元素中提炼出意义,我们可能要把它们与上述的丰富的数据放到一起来提供上下文,识别其中隐藏着的模式。这算不上是大海捞针,更准确的说法应该是从一堆针头中找到你所需要的那一个。

其他数据的价值不要轻视

现在,你需要从大数据的狂热中退一步思考,你现在最重要的数据也许并不是那些大数据,而是我们所说的热数据。你也许已经建立了大数据系统,时刻准备从大数据金矿上挖掘潜在的价值,但一定不要忽视其他数据的价值。你还有业务数据,它需要你快速、高效、一致地交付这些数据,同时要解决扩展性的问题。记住,大数据的最佳实践并不适合这些数据。你的数据也许这是一些重要的有价值的数据,它们并不是大数据。

Bingdata优网助帮汇聚多平台采集的海量数据,通过大数据技术的分析及预测能力为企业提供智能化的数据分析、运营优化、投放决策、精准营销、竞品分析等整合营销服务。

北京优网助帮信息技术有限公司(简称优网助帮)是以大数据为基础,并智能应用于整合营销的大数据公司,隶属于亨通集团。Bingdata是其旗下品牌。优网助帮团队主要来自阿里、腾讯、百度、金山、搜狐及移动、电信、联通、华为、爱立信等著名企业的技术大咖,兼有互联网与通信运营商两种基因,为大数据的算法分析提供强大的技术支撑。

 

大数据和人工智能到来的问题,主要有哪些? 大数据和人工智能是今年最热门的话题,在司法领域更是如火如荼,司法在大数据时代的范式革命已经到来。但利之所在弊亦随之,如果对大数据和人工智能的风险缺乏充分认识,不能在热情之余做一番冷思考,则可能会产生许多难以预料的后果。 首先,是大数据和人工智能的安全性问题。该问题虽属老生常谈,但在互联网犯罪模式从攻击计算机和网络本身转向彻底的虚拟犯罪的时代背景下,可能历久弥新。当前,在互联网犯罪中,已经大量出现了... 阅读详情

相关推荐

大数据时代,数据仓库究竟是干嘛的?

无论你是否专门从事大数据开发,作为一个开发人员,应该都听说过数据仓库的概念,那你知道为什么会出现数据仓库?数据仓库究竟是干嘛的吗?有什么价值和意义呢?那么本文就带到入门,揭开数据仓库的面纱。本文通过例子讲清楚了数据仓库的来源,以及在企业应用中的必要性,主要是为了构建一个面向分析的集成化数据环境,分析结果可以为企业提供决策支持,真正实现数据驱动决策的目的。实际上数据仓库的建设远比上面提到的复杂,需要花费很大的成本,因此需要考虑清楚。如果本文对你有帮助的话,请留下一个赞吧。

程序员旭阳的专栏 2120

大数据的认知

对大数据的简单认识 大家好我是皈心,是个刚刚走上大数据这个领域的标题萌新,希望各位大佬多多指教。 这是我的第一个博客来说说自己对大数据的认识,对大数据创意环境的构想以及自己在第一次实训中的感受有些不对的地方还请见谅。 一,对大数据的认识 “大数据”的由来 2008年9月4日,英国《自然》杂志刊登了一个名为“Big Data”的专辑,首次提出大数据概念,该专辑对如何研究PB级容量的大数据流,以及目前正在制订的、用以最为充分地利用海量数据的最新策略进行了探讨。2011、2012年达沃斯世界经济论坛将大数据作为

NilEcho2333的博客 5690

中科院 | 大数据的力量来自“大成智慧”信息时代大数据的再认识

大数据已成为媒体与大众关注的新技术,大数据的应用也预示着信息时代将进入一个新阶段,但人们对大数据的认识有一个不断加深的过程。首先从“信息时代新阶段”、数据文化和认识论的高度阐述了对大数据的理解;接着通过对驱动效益和大成智慧的解释,探讨了如何正确认识大数据的价值和效益,并从复杂性的角度分析了大数据研究和应用面临的挑战;最后对发展大数据应避免的误区提出几点看法。

探索地理之源 分享GIS价值 2967

如何正确认识大数据技术

  所谓大数据就是是互联网发展到一定阶段出现的一种现象和表征,我们没有必要觉得它很神秘,它就是一个客观存在。大数据原本是很难收集的,但是在云计算等代表的技术创新下,大数据开始很容易被我们利用起来,并且在各行各业的不断创新下,大数据的价值逐渐被人们利用起来。也为人类带来了很多意想不到的惊喜。许多人和企业都想蹭一波大数据的热潮,今天我们就一起来了解一下如何正确认识大数据技术。   一、数据仓库不需要大数据   数据仓库是一种架构,而大数据纯粹是一种技术。因此,人们不能在技术上取代其他人。像大..

中琛魔方大数据 2041

深入理解大数据技术:正确认识与应用

希望通过本文的阐述,读者能够更好地理解和应用大数据技术,从而在处理和分析海量数据时取得更好的效果。本文将深入探讨大数据技术的本质,并提供相应的源代码示例,帮助读者更好地理解和应用大数据技术。数据查询和分析:大数据技术需要提供强大的查询和分析功能,以便用户可以从海量数据中快速提取有用的信息。数据量大:大数据技术主要应对的是海量的数据,这些数据可能包含结构化数据(如数据库中的表格数据)和非结构化数据(如文本、图像、音频等)。高速度:大数据技术要求能够在较短的时间内处理和分析大量数据,以便及时提取有用的信息。

2301_79366435的博客 351

告别Modern Standby!Win10/11强制S3睡眠的终极指南(含BIOS设置避坑)

本文是针对Windows 10/11用户因Modern Standby(S0低电量待机)导致睡眠耗电、发热问题的终极解决方案。文章详细对比了Modern Standby与传统S3睡眠(Suspend to RAM)的本质区别,并提供了从系统诊断、注册表修改、BIOS/UEFI设置避坑到驱动优化的完整步骤,旨在帮助用户强制启用稳定、省电的S3睡眠模式,彻底告别睡眠噩梦。

n7o8p的博客 797

对大数据的简单认识

对大数据的简单认识一:自我介绍二:对大数据的简单认识三:创意情景四:大数据认知实习收获与感想 一:自我介绍 你好,陌生人,我是一名来自兰州文理学院数据科学与大数据专业的在校大学生,你可以叫我小V。 二:对大数据的简单认识 接下来,我就对大数据的认识简单的聊一下,首先,我们要知道什么是大数据。通俗的讲就是海量的数据信息,麦肯锡全球研究所曾给出大数据的定义是:一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合,它具数据规模大、处理速度快、数据种类多和价值密度低特征,也就是我们

weixin_49471910的博客 7651

ZYNQ:【1】深入理解PS端的TTC定时器(Part1:原理+官方案例讲解)

基于UG585详细讲解其中TTC的原理和使用案例。

Alex的技术博客 7887

大数据时代,我们都是透明人!

随着互联网技术的强大,手机已经是现代生活中不可或缺的工具。低头族在生活中随处可见,他们万事都离不开手机,一心沉溺在手机的世界里,不太关心现实世界的变化。 殊不知,你在盯着手机的时候,手机里也有眼睛在盯着你! 01 大数据时代,我们都是透明人! 这绝对不是笔者的危言耸听! 随着互联网技术的渗透,我们的生活变得更加便捷的同时,个体的独特性和神秘性也仿佛不堪一击。技术层面上,个体在这个时代就等...

spark798的博客 4360

直线电机驱动技术原理与应用解析

直线电机作为直接电能-直线运动转换装置,其核心原理基于电磁感应定律和洛伦兹力公式。通过三相交流电在定子绕组中产生行波磁场,与动子永磁体相互作用实现精准推力控制。相比传统旋转电机传动系统,直线电机具有零传动间隙、高动态响应(加速度可达10g)和微米级定位精度等技术优势,这使其成为半导体光刻机、精密数控机床等高端装备的关键驱动部件。现代直线电机驱动单元通常采用三环控制架构(电流环、速度环、位置环),配合SiC功率器件和高分辨率光栅反馈,实现纳米级运动控制。随着模块化设计和直接冷却技术的发展,直线电机正朝着更高功

weixin_26802933的博客 259

oracle ebs form 10g安装教程

这个窗口需要想想,你要安装的类型,不要盲目点击“下一步”,因为一旦Oracle安装后,重新安装之前,需要卸载Oracle干净才能重新安装,有时还会出现错误。到了该窗口后,需要耐心等待安装,安装到一大半后,自动弹出一个窗口,让我们选择Oracle安装第2部分磁盘的路径,继续安装,然后坐等安装结束。自定义安装Oracle根目录,点击“下一步”按钮后,耐心等待几秒钟,工具自动加载产品列表,加载完后,自动跳转到“选择安装类型”窗口。注:等待几秒钟后,关闭dos窗口,不必惊慌,自动调转到安装界面。

XIELIUHAI001的博客 473

大数据时代下的管理创新

“大数据”时代并不是掌握数据,而是利用数据。因此,构建企业信息化仅仅只是一个方面。更重要的是企业应该寻求管理模式的创新。 对于大数据,更重要的含义是指处理这些海量数据的技术——如何挖掘出这些数据蕴含的巨大的商业价值,如何实现本行业的价值增值。作为适应“大数据”时代到...

chenxin031624的博客 543

A B C三个气象站的小波分析结果解读

在小波分析的过程中,信号的不同频率分量会在不同的尺度上显现,而纵轴上的数值表示信号在相应尺度上的强度或能量。2. **小波方差的横轴(水平轴)**:横轴上的尺度表示用于分析的小波函数的尺度。1. **共同趋势:** 在所有三个点的小波方差图中,随着尺度的增加,方差逐渐增大,尤其是在较大的时间尺度上。3. **尺度30的特殊性:** 在所有点的小波方差图中,尺度30似乎是一个特殊的点,对应着一个较长的时间尺度上的波动或变化。2. **方差的大小:** 方差的大小反映了在相应尺度下信号的波动强度。

weixin_44259522的博客 859

大数据时代下的网络安全与数据隐私论文

关键词:大数据时代;网络安全;隐私保护   目前,世界已经进入大数据时代。提高大数据的安全性,从而更好地发挥大数据的应用价值,这些 早已成为人们的共识。然而,由于种种原因,大数据时代下的网络安全问题始终存在,甚至呈现出愈演 愈烈的趋势。为了更好地应对这一问题,首先要做的就是正确认识大数据及其特征。   1大数据的内涵   大数据就是一种获取规模、存储规模、管理规模以及分析规模等,此类规模均远远超出传统数据库 软件能力范围的数据集合。大数据具有十分显著的特征:(1)数据规模极其庞大,并且与日俱增。 (2)数据

weixin_44227741的博客 4648

手把手教你学Simulink--基于Simulink的高增益DC-DC变换器仿真建模

特点高电压增益:可以在不使用变压器的情况下实现较大的电压升压比。适用于低电压源:如太阳能电池板、燃料电池等提供的低压直流电源。效率问题:设计时需特别注意提高效率,减少能量损失。挑战电路复杂性:通常涉及多个电感和电容,以及复杂的开关模式。元件选择:合适的元件参数对于达到理想性能至关重要。控制策略:确保高效稳定运行的同时,适应负载变化。首先明确要模拟的任务内容。实现特定的电压增益比(例如从24V升至380V)。根据预期的输入输出电压确定合适的电路拓扑和元件值。

MHD0815的博客 173

深度学习特征融合(feature fusion)操作详解

特征融合是指在深度神经网络中,将来自不同来源(如不同网络分支、不同模态、不同时间步、不同空间尺度或不同抽象层级)的特征表示进行有策略地整合,以生成更具判别性、鲁棒性和语义丰富性的联合特征表示。其核心目标是最大化信息互补性,最小化信息冗余与噪声干扰。关键问题:如何“有效”融合?——这取决于任务需求、数据特性、计算资源和融合机制的设计。✅ 是否对齐了空间/通道/模态?✅ 融合方式是否与任务匹配?(检测需定位+语义 → 多尺度融合)✅ 是否引入可学习机制提升适应性?✅ 是否控制了计算开销?

浩瀚之水的专栏 793

如何正确认识大数据分析

  大数据代表了以指数速度增长的大量多样的信息。不幸的是,大数据是如此之大,以至于传统的数据管理工具都无法存储或有效地对其进行处理。组织利用数据的方式比数据量更重要。可以对大数据进行分析,以获取有助于制定更好决策和战略业务举措的见解。人类每天产生2千亿的数据。   大数据的特征   数量:业务组织中的数据流入量成倍增长。商业交易,物联网设备,社交媒体,工业设备,视频等各种来源的数据都是造成这一原因的原因。由于无法将其存储在物理空间中,因此存储问题在早期就很重要。但是,由于采用了诸如数据湖和H..

中琛魔方大数据 602

第 1 章 Prometheus 监控 | Prometheus 入门

了解 Prometheus 监控系统,学会安装及了解页面功能。

甘蓝的专栏 486

信息时代大数据的再认识

大数据已成为媒体与大众关注的新技术,大数据的应用也预示着信息时代将进入一个新阶段,但人们对大数据的认识有一个不断加深的过程。在当下的信息时代,我们对大数据应有新的再认识。 大数据兴起预示信息时代进入新阶段 中国已开始进入信息时代,但许多人的思想还停留在工业时代。经济和科技工作中出现的许多问题,其根源是对时代的认识不到位。经济新常态意味着中国进入了以信息化...

weixin_34258782的博客 314

锂电池充电器电路设计 里面有电路

锂电池充电器电路设计 里面有电路 3.7V升压到5V电路设计。

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

大数据时代下,普通人生活的变革与挑战提纲

以清晨醒来,手机推送符合个人习惯的资讯、音乐 APP 自动播放熟悉旋律等日常场景为例,引出大数据在生活中无处不在的现状。阐述大数据定义,说明其如何通过收集、分析海量数据影响人们生活。

yueyuebaobaoxinx的博客 1195

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

2015年《大数据》高被引论文Top10文章No.5——对大数据的再认识

2015年《大数据》高被引论文Top10文章展示【编者按】本刊将陆续发布2015年《大数据》高被引论文Top10的文章,欢迎大家关注!本文为高被引Top10论文的No.5...

weixin_45585364的博客 863

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

《大数据》第1期“聚焦”——对大数据的再认识

对大数据的再认识李国杰中国科学院计算技术研究所 北京 100190摘 要:大数据已成为媒体与大众关注的新技术,大数据的应用也预示着信息时代将进入一个新阶段,但人们对大数据...

weixin_45585364的博客 135

对大数据的再认识

摘 要:大数据已成为媒体与大众关注的新技术,大数据的应用也预示着信息时代将进入一个新阶段,但人们对大数据的认识有一个不断加深的过程。首先从“信息时代新阶段”、数据文化和认识论的高度阐述了对大数据的理解;接着通过对驱动效益和大成智慧的解释,探讨了如何正确认识大数据的价值和效益,并从复杂性的角度分析了大数据研究和应用面临的挑战;最后对发展大数据应避免的误区提出几点看法。 1  大数据兴起预示“信

sdulibh的专栏 2258

论大数据的十大局限

 “忽如一夜春风来,千树万树梨花开”,似乎在一夜之间,大数据就红遍了南北半球,,大数据被神化得无处不在,无所不包,无所不能。这里面有认识上的原因,也有故意忽悠的成份。笔者以为,越是在热得发烫的时候,越是需要有人在旁边吹吹冷风。在这里谈大数据的十大局限性,并非要否定其价值。相反,只有我们充分认识了大数据的特点和优劣势,才能更加有效地对其进行采集、加工、应用,充分挖掘和发挥其价值。         ...

weixin_34235457的博客 772

聚焦大数据:洞察价值与企业应用落地

  现在人人都知道“大数据”这三个字,但是它对于企业到底有什么样的价值和意义?现在企业信息化建设相对比较完善,我们熟知的ERP系统,CRM系统,OA办公系统,财务管理系统等等,这些系统产生的数...

congkeyi5865的博客 320
上一篇: 大数据,新一轮技术革命的“支点”
下一篇: 大数据知识科普:中国数据量有多大?
bingdata123
博客等级 码龄9年 187粉丝 12原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值