阿里云飞天技术总架构师唐洪:飞天技术与应用

阿里云弹性计算首席架构师分享云上应用架构演进三大方向 从基础设施和应用层出发,依托云计算构建更可靠、更敏捷和更智能的IT架构,将为企业释放巨大技术红利。 阅读详情

一年一度的阿里技术论坛(Alibaba Technology Forum)已走进第7个年头,4月15日,阿里众多技术领军人走进清华校园。通过特设的三大技术论坛,参会人员近距离接触了阿里巴巴在云计算、大数据、金融、电商等方面的技术创新。

在云计算与大数据论坛上,来自阿里云飞天技术总架构师唐洪带来了以《飞天技术与应用》为主题的深度分享。下面是精彩内容内容整理。

eb499f00bb6e48fbd6b6e3f90c1e45695d77ae30

图:阿里云发展历程飞天是阿里云自主研发的大规模分布式云操作系统

飞天设计原则

在开始介绍飞天技术前,唐洪和现场观众分享了当初判断要做云计算需要解决的三个本质问题,而这三个本质问题决定了飞天系统设计的基本原则。

第一个本质问题,大规模。云计算本质上是随着互联网诞生并且为了解决互联网的问题产生出来的。根据2012年10月份数据统计,互联网每天产升2.5EB的数据,并且这个数字每40个月就会翻一番,处理这样大的数据一定要解决大规模计算的问题。拿淘宝为例,淘宝上每天完成上百亿元规模交易,同时要在6小时内(早晨6点以前)完成所有交易数据的统计。当然规模是相对的,但规模增加了时间限制,绝对值本身不是很大数据量的计算在本质上也是大规模计算的问题。

第二个本质问题,低成本。也就是说我们不单要解决规模计算的问题,而且要想办法让大家算得起。低成本不单单是简单的降低价格,而是像电话一样改变人们的习惯。同时,也能够像“电网”做到对资源的调度。

第三个本质问题,服务运营。真正能够提供大规模廉价的计算,唯一的方式是卖计算而不是卖计算机,像公共服务一样做到按量付费,这对很多创业公司来说是非常有益的。服务运营也意味着弹性扩展,当用户需要使用更多资源的时候可以很快开动资源,而不是等着再跟供应商下单,等计算机运到机房里。最后,服务运营也要解决安全问题,大家在使用自然资源、在使用云计算的时候不用担心安全问题。

正是基于上述对云计算要解决的三个本质问题的理解,在飞天系统设计开始就定下了两个基本原则。第一个原则,以大规模通用计算平台为基础,用同一套系统支持离线和在线服务,能够做到资源共享。第二个原则,以Web API的方式提供服务,也就是说希望提供线上服务,而不是到门市部填申请单交银行卡才能提供服务,让用户感觉不到地域的边界。

图解飞天架构

339e408476bd1ef0ffd8fadc37664803b09dd7a2

飞天开放平台架构

飞天最底层是全球部署的12个地区和几十个数据中心,这些数据中心里是安装了Linux操作系统的通用高端服务器。橙色组件组成了大规模通用计算平台,最底下四个橙色块(夸父远程过程调用、安全管理、女娲分布式协同和伏羲资源管理)代表构建分布式系统最基本的组件。唐洪着重指出,在整个飞天设计里面第一就把安全作为一个功能来设计。盘古分布式存储,简单来说,就是把所有集群中的硬盘组织成一个单个的文件系统。同时,两侧分别是天基的数据中心管理、分布式部署,以及神农分布式监控。唐洪说,大家觉得部署和监控是很简单的事,但做成7×24小时不间断就没有那么容易了,这时需要非常大的监控系统,秒级监控所有指标判断是否有问题并且实时修复。

中间蓝色一层是核心的资源型服务组件,大概分为三类:一是弹性计算,简单理解就是将物理机切分成虚拟服务器的概念。二是海量存储的数据库,其中OSS是存储无结构的数据比如视频、照片、音乐之类的,Table Store可以认为是半结构化存储,RDS则是关系型数据库服务。第三类是数据计算,它则分为多维度准实时数据的查询服务、实时流计算处理服务和大规模批量计算服务。

在上面还有一些端到端、基于云的应用所需要的核心服务,比如内容分发CDN、网络服务、安全服务、数据服务等。网络服务,包括VPC、域名服务和VPN。中间件服务,包括消息队列、工作流等。数据服务,则包括比如人工智能、语音识别、翻译、图象识别之类。

最上层则是生态支撑,容器服务可以支持那些基于容器的微服务架构,或者是编排服务帮助开发者在云上开展资源的编排。还有云市场,可以认为是云上的AppStore,开发者可以把他们的应用注册在云市场里面,使用者直接注册使用。还有开发者服务,开发者很容易监控诊断他们的应用并且发现问题和调试。

飞天技术特色

谈到飞天的技术特色,共六个方面。其中第一点,飞天同一个平台同时支持离线在线服务,这是飞天的通用性特色。如阿里巴巴集团子公司神马搜索就是建在飞天上,他们会进行千亿级别网页的离线处理,索引所有网页,大概每一两个月把整个索引翻一遍,此外拥有这么多网页的同时同样拥有整个网页之间关联的连接图,也是千亿级别的节点,并且有百亿级别的索引可以在线查询;在线方面,基于飞天平台的邮箱服务每天处理亿量级的邮件,日发送邮件达到千万量级,所有发送和接收在10毫秒级别完成。

其他几点包括:规模,飞天单集群达到了万台规模、百PB级别存储、10万级别的CPU合数;整个架构设计里面没有单点,确保了整个系统可用性达到99.95%;飞天应用设有默认等级,通过多副本冗余算法,数据可靠性达到10个9的可靠性;完全分布式的部署、监控和诊断。关于第六点安全方面,唐洪指出,飞天安全管理嵌入在飞天内核最底层,并且使用基于权能的安全管理框架,真正有效实施“最小化权限”原理。

e64e696bd2169f0d52c7d60446d6aa7d1c82ec2b

2013年8月15号,阿里巴巴集团已经拥有了中国范围最大的集群,达到五千台规模。现在,飞天已经成为阿里巴巴所有核心业务数据处理的平台,包括广告、搜索、个性化推荐、信用分析、风险管理等,并且飞天现在已有多个万台规模的集群,每天处理上百PB数据。

2014年7月1号MaxCompute(原ODPS服务)正式对外开放,这也标志着阿里巴巴成为世界上第一家对外公开提供5K处理能力的公司。很多公司可能有这样一个计算能力但从来没有把它当作公共服务开放给大家。在MaxCompute平台上线之前,组织了一场“天池大数据算法大赛”,当时有七千多个团队,主要是高校团队报名参加,在没有任何推广的情况下还有350多个来自海外的团队。

2015年10月,飞天打破了世界排序竞赛的记录,当时打破了4项,最有名的是用377秒完成100TB排序工作。之前这个成绩是1400多秒,也就提高了三倍还不止。

飞天之上

除了介绍飞天平台技术方面的内容,唐洪还分享了云计算如何实践技术拓展商业边界。

05d312e761d86a186355cb2727deadf81ed48954

阿里云帮助它们降低创业门槛

在降低互联网创业门槛方面,移动APP中的小咖秀就是一个典型。移动App天然就是长在云计算上的,移动设备本身的计算能力、存储能力非常有限,所以必须把大量计算和存储转换到云上去。并且很多移动创业公司面临着启动资金少、迭代周期快的问题,并且如果他们真正设计了一款非常流行的产品,业务增长非常快,所以要抵抗快速增长的压力,都对应到云计算的几个本质特征。小咖秀利用阿里云多媒体解决方案,开发第一版仅用了2天时间,2015年5月上线后两个月下载量位列App Store全榜前十,娱乐榜前五,日活跃用户超过5000万。然而,小咖秀后端服务团队仅有三个后台工程师,一个运维工程师。

在赋能业务创新方面,经典案例是天弘基金和《小门神》动画电影。天弘基金在10个月内管理资产从零增长到890亿美元,从一个无名小卒变成中国最大的货币基金。在产品发布后,天弘基金从IOE架构迁移到了阿里云,处理能力提升11倍、清算速度提升16倍。

《小门神》是追光动画打造的3D动画电影,其总渲染量达八千万核小时,超过《工夫熊猫2》、《超能陆战队》等好莱坞大片,《小门神》每秒钟影片渲染量超过一万核小时。阿里云提供了三万CPU核的弹性资源,缩短整体渲染周期几十倍。

在支持传统产业升级方面,经典案例比如12306。12306在2014年底上云,承接2015年春运高峰75%的余票查询流量,2014年12月19日达到春运火车票售卖高峰,PV297亿次,平均每秒PV 30万次,共发售火车票956.4万张,互联网售票占比59%。12306案例真正体现了云计算的优势——弹性扩容、秒级交付、按量付费。

最后在问答环节,唐洪再次强调了阿里云和其他开源系统和云计算公司的区别:“云计算的本质之一是服务运营。与开源相比,我们提供的是服务而不是软件。所以在提供服务的时候,我们想到的是怎么能够最高效、提供最好性能来完成用户的计算。在架构设计方面,阿里云不用虚拟机可以做到多租户,这和亚马逊提供的EMR之类的一个本质区别。”

本文转载自云栖社区:https://yq.aliyun.com

人工势场法在自动驾驶避障中的实践与优化 本文深入探讨了人工势场法在自动驾驶避障中的核心原理与实践优化。通过解析引力与斥力模型,揭示了经典算法在局部最优和目标不可达等问题上的局限性,并重点介绍了改进斥力场函数、引入道路边界斥力及动态参数调整等关键优化策略,有效提升了该局部路径规划算法在复杂动态场景下的实用性与鲁棒性。 阅读详情

相关推荐

mos管结电容等效模型_MOS管的防冲击防反接电路

MOS管的反接和抑制冲击一:原理分析MOS管由于生产工艺等因素,会产生相应的寄生电容,体二极管等。Mos管的寄生电容如图1所示,可以看到其具有三个寄生电容:G和S的电容Cgs;G和D的电容:Cgd,也称为反向传输电容、米勒电容、Crss;D和S的电容Cds。D和S之间的体二极管D1.图 1:MOS管等效模型寄生电容的数值可以从元器件的datasheet中得到,如图2,图3:Ciss(输入电容)=C...

weixin_29179583的博客 1858

阿里云首席架构师唐洪:拥抱开源的云端更具生命力

近日, 国际开源界顶级会议LC3(LinuxCon + ContainerCon + CloudOpen)首次在国内举行,阿里云首席架构师唐洪作为特邀嘉宾出席并发表主题演讲。唐洪首先从一组数字开始,回顾了阿里云历史及重大技术突破时间点;第二部分主要分享了阿里云目前的技术架构和亮点,以及在此基础上形成的广泛的阿里云产品生态;第三部分重点讲述了阿里云和开源社...

weixin_34319640的博客 1051

半导体物理-Si晶体生长方向<2>

Si(硅)晶体的生长方向是一个重要的概念,尤其在半导体工业中。这个概念涉及到晶体在生长过程中原子排列的方向,对晶体的性质和应用有重大影响。让我为您详细解释:理解Si晶体的生长方向对于半导体材料的研究和应用非常重要,它直接影响了最终器件的性能和制造工艺。在实际应用中,选择适当的生长方向可以优化器件性能,提高产品质量。

m0_37606066的博客 2996

阿里巴巴技术论坛总结


 技术展区:
 实时美颜
 后视镜结合车载记录仪
 利用Femtocell家庭基站改造伪基站群发短信,群发短信,窃听短信,窃取数据流量
 GPS位置篡改 笔记本电脑和无线电设备
 app漏洞 静态污点技术 动态模糊测试技术
 Intel RealSensor 菜鸟物流 Kinect
  
 大规模实时计...

早春的树 311

ROS入门(一)——ROS安装(vmware16+ubuntu20.04+ROS-Noetic)

嵌套:ROS可以在Ubuntu上运行,Ubuntu在虚拟机Vmware中安装。 从 虚拟机vmware安装→ubuntu安装→ros安装,逐步介绍安装ROS环境的过程。整个过程是我一步步跟着各种博客安装实现的,亲测可行。 版本: Vmware :Vmware Workstation16 Ubuntu :20.04 ROS :Noetic 其中vmware直接载当前最新版本就好,而ubuntu的版本要注意一下。 在ROS官网(cn - ROS Wiki),我们进入到ROS安装的步骤界面,可以看..

Netceor的博客 9740

ArcGIS中的Python入门知识点整理

关于Arcpy大家应该都比较熟悉,Python用的好,数据处理快又好!在ArcGIS中ArcPy是一个以成功的arcgisscripting模块为基础并继承了arcgisscripting功能进而构建而成的站点包。目的是为以实用高效的方式通过Python执行地理数据分析、数据转换、数据管理和地图自动化创建基础。ArcPy提供了丰富纯正的Python体验,具有代码自动完成功能。今天我们就看看关于Arcpy相关处理的使用,通过一些简单代码与大家一起认识Arcpy。

xjt921122的博客 1771

【云栖大会】阿里云唐洪:飞天,向世界要一个答案

2016杭州云栖大会已经圆满闭幕。业内有很多精彩报道。特别转载,共享给大家。 本文转载自雷锋网科技 作者:史中原文链接。全文如下: 写在前面的话 在刚刚结束的2016杭州·云栖大会上,阿里云首席架构师唐洪以《飞天操作系统:中国科技的创新理论》为题进行了主题演讲。雷锋网科技记者史中会后对他进行了专访。 精彩全文 你知道向左是灯红酒绿,向右是...

weixin_34067102的博客 409

CMake入门教程【基础篇】CMake+Visual Studio2022构建C++项目

CMake+Visual Studio2022搭建C++环境

小鱼酱的博客 4971

【​观察】晋级CNCF白金会员背后,阿里云为何如此看重开源?

美国当地时间12月6日,在“KubeCon + CloudNativeCon”峰会上,阿里云正式成为云原生计算基金会Cloud Native Computing Foundation(CNCF)的最高等级会员——白金会员。同时,阿里云首席架构师唐洪正式加入CNCF管理委员会。 今年5月23日,在云栖大会·成都峰会上,CNCF刚刚宣布阿里云正式成为金牌会员。一年两度晋级,让阿里云不仅在CN

申耀的科技观察 1048

河洛理数【陈抟】先天命卦大运

首先我们把前文提及的天干和地支进行上下划分,那么每一年的年份都是使用一天干和一地支进行组合,即如上的甲子、癸亥,那么下一年就是天干和地支都进行顺延一位进行组合,如甲子年下一年就是乙丑年,但是由于天干是十个、地支有十二个,所以要遍历一遍的话,就正好是 60 年。1924 年 ~ 1983 年(中元) 1984 年 ~ 2043 年(下元) 2044 年 ~ 2103 年(上元)2、找到卦中第一个(从下往上,也就是初爻、二到五爻、上爻)对应时辰的阴阳爻。5、也就是所属的元堂爻。

Daniel专栏 2073

解密阿里云之飞天平台内核

发布时间: 2013-07-30 17:59  阅读: 2465 次  推荐: 3   原文链接   [收藏]     本文节选自《飞天开放平台编程指南——阿里云计算的实践(双色)》   周憬宇,李武军,过敏意编著   电子工业出版社出版   阿里云计算有限公司(简称“阿里云”)成立于2009年9月10日,致力于打造云计算的基础服务平台,注重为中小企业提供大规模、低成本、高可靠的云

novelly的专栏 2272

Vue - 简约大气 404 页面

效果图 实现代码 复制即可。 <template> <div> <div class="error"> <!-- 图片可保存到本地 --> <img src="https://img-blog.csdnimg.cn/20210715111039922.png"> <p>抱歉!你访问的页面不存在或已删除 :( </p> <span class="back" @click="go(

🏆 前端领域优质创作者 3370

阿里飞天平台总架构师唐洪:飞天开放平台

摘要:2013中国大数据技术大会首日全体大会上,阿里飞天平台总架构师唐洪带来了“飞天开放平台”的演讲,大数据和云计算可以说是硬币的两面,阿里云自2009年成立就将云计算作为唯一业务,目前阿里云的日访问量可达数十亿。 【优快云现场报道】中国最具影响、规模最大的大数据领域盛会——2013中国大数据技术大会(Big Data Technology Conference,BDTC)于2013年

Daemon的专栏 3613

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

【云栖大会】阿里云首席架构师唐洪:飞天,互联网规模的操作系统

10月13日,2016杭州·云栖大会主论坛上,阿里云首席架构师唐洪以《飞天,互联网规模的操作系统》为题进行了主题演讲。在他看来,飞天,通过与数据密集型学科的紧密合作重新定义人们对计算的认知界线。 以下是演讲全文: 唐洪:各位尊敬的领导,各位尊敬的来宾,各位在互联网上观看大会的朋友们,大家中午好,很高兴今天有机会跟大家聊一聊飞天,大家也知道,从20...

weixin_33889245的博客 820

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

阿里云首席架构师唐洪:下一个技术飞跃是将应用程序的特性与适合的计算模型动态匹配...

阿里云正在加大对客户自有环境下的容器服务支持。近日,阿里云首席架构师唐洪在接受国际容器技术垂直媒体《containerjournal》采访时表示,下一个伟大的技术飞跃是将应用程序的特性与适合的计算模型动态匹配。 据了解,近日,阿里云新推出了一个专有云产品:客户可以在自己的物理服务器上运行Docker企业版。这被称之为阿里云飞天专有云敏捷版(Apsara...

weixin_34037515的博客 322

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

上云十年:阿里云的奇幻漂流

现代人的生活是不缺乏刺激的。我们总能在电影院或化身“沙发土豆”,作为旁观者,与凤凰社、夜魔侠、蜘蛛侠等诸多主角们经历了一场场“安全的冒险”,体会他们挣脱束缚的破釜沉舟,欣...

脑极体 1630

上海站丨飞天技术沙龙 Serverless + AI 专场开启报名!

Serverless 和AI大模型都是当前云上最火的技术方向,本次活动期望通过Severless+AI 技术的强强联合期为客户提供基于 Serverless 技术实现AI 推理部署平台的技术思路,降低 GPU的使用成本、减少企业或个人创业的试错成本、简化开发运维,让人人都可以拥有自己“专属”的AIGC环境成为可能。议题简介:本议题将介绍 AI场景下,Serverless 和 AI 的结合如何帮助企业提效降本,当前有哪些落地场景方案、以及最佳实践,帮助企业快速探索验证 AIGC 业务场景、优化使用成本。

Serverless 社区 597

全方位解析阿里云核心技术竞争力,优快云 独家在线峰会来了!

作者 | 屠敏责编 |唐小引出品 | 优快云(ID:优快云news)看不见、摸不着、说不清、道不明,在云计算一词家喻户晓之际,很多人仍有这样的感受,更别说“云计算”成型前的早期了。...

云布道师 1254

专访阿里云游戏首席架构师李刚:如何解决云服务技术两大痛点?

原文链接:点击打开链接 摘要: 对于阿里云来说,游戏相关的项目合作一直在增加。 对于如今的游戏行业来说,云服务早已不是什么新鲜的话题。一定程度上,不论是近期兴起的手游,还是曾经的端游和页游,如今都会或多或少地运用到云计算功能。在众多“云厂商”中,如果从技术角度来看,阿里云无疑是经验资历最老的团队之一。据悉今年上半年,阿里云已占据将近50%的云服务市场份额。 来

qq_40954115的博客 1102

阿里云发布飞天敏捷版 支持Docker企业版

阿里云在美国奥斯汀投下了容器技术领域的一枚“重磅炸弹”。 美国中部时间 4月19日,在容器技术领域年度风向标------DockerCon 2017上,阿里云飞天敏捷版(Apsara Stack Agility)正式对外发布。 Docker公司首席执行官Ben Golub 在大会上宣布Docker在阿里云平台的Apsara Stack Agility中落...

weixin_34220179的博客 219

阿里云发布飞天敏捷版,支持Docker企业版

4月19日,在容器技术领域年度风向标------DockerCon 2017上,阿里云飞天敏捷版(Apsara Stack Agility)正式对外发布。 Docker公司首席执行官Ben Golub在大会上宣布Docker在阿里云平台的Apsara Stack Agility中落地,这是国内第一个支持Docker官方企业版(Enterprise Ed...

weixin_33994444的博客 291

阿里云智能技术战略架构师陈绪:透视2019云计算酣战

戳蓝字“优快云云计算”关注我们哦!技术头条:干货、简洁、多维全面。更多云计算精华知识尽在眼前,get要点、solve难题,统统不在话下!作者: 陈绪博士,阿里云智能技术...

优快云业界要闻 1426

罗小飞:阿里云边缘云,从资源到场景的产品演进

7月8日在GIDC全球互联网数据大会上,阿里云边缘云首席产品架构师罗小飞分享了阿里云在边缘云领域的探索和思考,如何从产品演进、技术创新、场景应用等方面帮助企业提升价值。国家“十四五”规划纲...

边缘计算社区 512
上一篇: 王坚清华夜话:未来不是阿里和谷歌的竞争 而是清华和斯坦福的竞争
下一篇: 阿里研究员玄难:如何做电商中台
云栖社区
博客等级 码龄11年 121粉丝 6原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值