- ?
云化架构平台化能力分解
凝天
展开
现有互联网企业主要实现“薄前台、厚中台、强后台”的原则,中台的强大的能力成为云化建设的核心关键环节,因此如何有效进行强中台的能力成为云化建设的关键。
一、与IaaS层的资源联动,实现弹性伸缩
中台服务的高效、稳定、敏捷、弹性、共享能力,需要快速进行资源调度,构建资源镜像库,直接实现IaaS的快速联动。
PaaS与IaaS联动
1、应用容器全部部署在IaaS层节点之上,再由云平台进行统一管控,云管理平台提供自有的操作系统镜像供IaaS层使用。
2、PaaS层动态扩容需要IaaS层分配虚拟机,由接口管理层通知IaaS层分配相应的虚拟机,并在这些虚拟机上拉起相关操作系统镜像,实现联动扩缩容。
二、镜像仓库,实现快速部署上线
通过构建应用的镜像仓库,在云运维平台的统一调度下,可实现应用的快速部署,开发、测试、生产环境的统一;通过镜像仓库,不同平台间的应用可以实现快速的迁移,实现应用服务能力的共享。
镜像仓库
三、技术服务组件
在PaaS层构建技术服务组件,通过租户实现技术服务能力共享,如共享大数据的智能搜索能力,如共享消息中间件能力等。因此在此需要提供一个统一的技术服务目录。
技术服务组件
四、业务服务能力
中心服务的流程快速串接。并提供的业务流程生命周期管理,实现业务资产知识沉淀,做到业务资产可见可管可控,实现业务灵活快速的组装与能力发布。
服务能力
1.可见——无形业务有形化 n业务调用图形化展示,支持展示服务上下游关系、服务耗时与瓶颈、网络传输量、中间件调用明细等关键内容; 2.可控——异常监控智能化 n服务调用链可提供异常快速定位、监控报警、应用调用分析、服务质量分析等智能化监控能力; 3.可管——服务管理简易化 n提供基于服务生命周期(分为注册、上线、下线、注销)的一键式简易化管理能力。
中台能力主要承载业务服务、技术服务、弹性伸缩能力,你认为呢?
- ?
Linux云计算系统架构师前景解读
雪莉尔
展开
随着我国经济体量的不断增长和互联网技术的迅速发展,我们已快速进入了DT时代。
一、什么是“DT”?
它是以服务大众、激发生产力为主的技术。DT是数据处理技术(Data Technology)的英文缩写。马云曾经在一次演讲中说道:“人类正从IT时代走向DT时代”。
二、云计算人才的需求量有多大?
云计算产业人才需求量保持高速增长。我国云计算市场即将进入产业规模高速增长阶段,届时对满足产业发展的人才需求将呈现空前增长态势,尤其是对优秀产业人才的需求将不断扩大。
据工信部统计预测,未来三年将是我国云计算产业人才需求相对集中的时期,对于云计算产业人才的需求每年将呈现数十万的产业人才缺口。
三、造成云计算产业人才需求数量迅猛增长的原因主要是:
1.我国云计算产业市场规模快速增长,与云计算行业风口正盛不相称的是,云计算人才需求和供给出现了很大程度的失衡。从猎聘网发布的《互联网行业人才紧缺指数(TSI)报告》来看,IT互联网的TSI指数高达2.798% 其中前端开发(云计算行业)工程师的稀缺指数达到了12.719%,而国内大学教育在课程体系内容、教学实践到硬件,都难以满足实际需求。
2.相关云计算企业加大了对核心技术的投入,提高了客户端的服务及推广,越来越多的企业和个人接受并很好的运用大数据云计算来协助工作,导致近年来云计算客户量和市场需求迅猛增长。
3.随着云计算新市场、新业务、新应用的不断出现,国内外各大知名软件企业加速占据国内云计算产业高地,在全国加速建立分公司和研究中心。
四、公有云的市场前景
作为整个云计算产业的关键组成部分,公有云市场近年来发展迅猛。如今伴随着技术的进一步完善,公有云的安全性与可靠性得到了越来越多的企业信赖;同时其特有的灵活配置、低成本、无需一次性大额投资等优势,将吸引更多中小企业采用公有云,这都使得其市场空间加速扩大。预计到2021年,我国公有云市场服务规模将达到570.3亿元。
五、从事大数据云计算行业人员的薪酬待遇?
作为新兴行业,优秀的云计算专业人才在业内屈指可数,对云计算职位的基础岗位,一般大专以上应届生经过系统专业的培训即可胜任,月薪在1万元左右。而高端的云计算架构师等岗位,薪资水平一般在20万~50万。
六、怎样成为一名快速成长为一名Linux云计算系统架构师
相比较高校培养,纵横动力课程更贴近企业需求,紧跟市场更新速度,可实现零基础教学,注重夯实基础,厚积薄发;将理论学习与上机实训课融为一体,强调学员的实际动手操作能力;
分阶段学习,各阶段以项目贯穿学习过程,同时以新的项目课程作为各阶段学习的节点;项目难度由浅入深,项目规模由小到大,同时项目库不断扩展让学员轻松积累项目经验学员;毕业设计课程由合作企业提供企业真实项目需求,并为学员提供项目完成的资源支持。
优秀的教学,纵横动力的师资队伍成员,全部由行业高端云计算系统架构师组成,拥有丰富的工作经验,课程体系每年升级并根据市场动态定期微调,培养体系严谨、实用。引用教师评价考核机制,学员匿名为讲师打分,好不好你说了算!
纵横承诺
1.提供业内真实“大数据云主机”实训环境
2.零距离参与大数据企业项目实战
3.企业实战云计算总架构师亲临指导授课
4.客户需求逆向定制课程
5.学员可为讲师考核打分,保证授课质量
6.全国近万家大数据企业订单式人才培养,考核合格即上岗
7.终身免费复训,学会为止
七、如何确保优质就业?
纵横动力依托优越控股集团优质的行业资源,不断探索和创新校企合作培养IT专业人才模式,入驻成都以来,获得了成都市政府和经信委的认可,同时公司承接了工信部考试中心业务,毕业学员通过认证考试后可获得国家认可的相关专业认证证书。
纵横动力致力于提升学员价值,学员价值的提升是我们孜孜以求的目标。
纵横动力成立于2015年 隶属于优越国际控股集团,是国内第一家以研带教的高端IT培训机构,位于成都市高新区天府四街长虹科技大厦B座4楼,先后在北京、沈阳、西安、贵阳、兰州、福州、长沙等8座城市投资建设了数千米的实训基地。
- ?
求真务实:企业云计算平台的基础框架和技术标尺(1)
最后,
展开
在企业云计算平台(以下简称云平台)的建设过程中,IaaS平台(基础设施即服务,Infrastructure as a Service)是IaaS和Paas建设的前提和基础,其规划设计和具体实施是至关重要的。
那么,当企业进行IaaS平台建设时,如何去有效评估既有的IT基础设施架构?基于实际评估结果,如何设定IaaS平台建设的各个渐进阶段?对这些渐进阶段又如何去进行客观评估?这些问题,企业用户和相关的云计算服务提供商必须面对并作出契合实际的准确回答。
IaaS平台规划:务实和细节
目前,云计算的主流公司都有各自的云平台参考模型,这些模型的底层原理和相关组件大同小异,对云平台的框架性结构进行了规划和定义。研究这些参考模型,对理解云平台的各组件固然是大有裨益的,但是,在企业的云平台建设中,需要解决的关键问题不仅仅是整体结构的规划和定义,更为重要和现实的问题是进行具体而微的细节设计。
作为云平台基础的IaaS平台建设,其路线图规划绝不是大而化之的务虚工作,而是建立在全面掌握实际情况基础上的核心设计工作,可以说“处处需务实、步步要落实”。这些工作包括:对现有IT基础设施的“云化”程度进行评估,在此基础上,对构建IaaS平台所需的具体模块进行技术细节规划,进而设定建设相应模块的先后次序,最终,完成具备完善云计算服务能力的IaaS平台。
Iaas平台成熟度模型和CCRA
在业界具有相当知名度的Iaas平台成熟度模型和CCRA(Cloud Computing Reference Architecture,云计算参考框架),是建立在云计算领域的实际服务经验之上的云平台建设标准。这些经验包括:为企业用户提供云计算平台咨询服务、主导云平台规划设计工作、主持云平台的具体技术实施工作。正因为来源于实践,IaaS平台成熟度模型和CCRA才具有极其重要的现实意义,才能被被广泛地应用于IaaS平台构建的实践活动中。
事实上,业界公认,IaaS平台成熟度模型是衡量企业IaaS建设水平的标尺,而CCRA则定义了用于具体实现IaaS平台的Adoption Pattern(即“采用模式”,可理解为用于具体实现的架构、模式和方法。实际上,CCRA还定义了PaaS平台和SaaS平台等其他5类Adoption Pattern,但本文只讨论IaaS平台相关内容),是对企业IaaS整体架构进行设计时的基础框架,是规划IaaS建设路线图时所依据的纲领,而且,从服务的角度看,也是IaaS平台建成后能为企业提供的一个整体服务目录。
下面两图是IaaS平台成熟度模型的5个等级与CCRA IaaS平台采用模式的6个渐进建设阶段之间的对应关系。为了方便读者阅读,提供了两个版本的图,第一个图适用于在手机等移动终端查看,第二个图适合于在PC端查看。
上图中,右边是CCRA IaaS采用模式的6个渐进式建设阶段,是IaaS的规划设计,是基础架构;左边是IaaS平台成熟度模型所有5个级别的成熟度,是对规划设计的成熟度评估,是技术标尺。
在纵向层次,从下往上的方向上,云计算能力在不断增长,右边的6个渐进式建设阶段是企业建设IaaS平台的必由历程,从低级阶段向高级阶段进化,而左边的IaaS成熟度模型则用于衡量企业IaaS建设的成熟度,也是从底层次逐渐往高层次演进;
在两者相互对应的层次关系上:
(1)在大体层次上,CCRA IaaS采用模式0~4级的建设阶段对应于IaaS成熟度模型1~4级的成熟度。也就是说,对CCRA IaaS采用模式0~4级的建设阶段,如果以IaaS成熟度模型去衡量,成熟度在1~4级别之间(具体的IaaS平台的单个建设阶段所对应的成熟度,如图中所示)。在纵向上,这两者都属于企业内部的云化数据中心的建设范畴。
(2)CCRA IaaS采用模式第5级的建设阶段对应于IaaS成熟度模型第5级成熟度。也就是说,对CCRA IaaS采用模式第5级的建设阶段,如果以IaaS成熟度模型去衡量,成熟度为第5级。在纵向上,这两者都已经超越了企业内部云化数据中心的范畴,站在了云服务提供商的高度。
实践证明,基于这两个重要的标尺和框架,逐步地、分阶段地推进IaaS平台的建设是扎实的、可行的,其渐进式建设过程是目标明确的,也是和缓的,这使得企业的IT基础设施在极低的风险下得以平稳提升至IaaS平台水平。
砌墙与Iaas平台建设的类比
其实,这两项标准和框架的配合,正如手工砌墙的过程。在砌墙之前,设计人员要先到实地勘测,根据以往的墙体设计经验(相当于CCRA的Adoption Pattern),结合实际勘测所得情况,进行墙体的各项规格参数设计,完成设计图纸后,工人再按图纸去砌墙。在砌墙的过程中,要用拉水平线和放置铅直线等方式保证质量,还要用建筑业的各项既定标准去衡量墙的质量(相当于用Iaas平台成熟度模型去衡量企业的IaaS建设水平),一旦出现问题就及时修正和整改,就这样,“一边砌墙,一边衡量”,直到墙体完工并通过验收。
如上所述,IaaS平台的建设对应于砌墙,IaaS平台成熟度模型相当于水平线、铅直线和各项建筑业标准,CCRA的IaaS Adoption Pattern类似于由以往所积累的墙体设计经验而形成的通用设计模式和方法,而具体的企业IaaS规划设计则类比于墙的各项具体规格参数和设计图纸。
具体来说,就是在构建云平台的时候,结合企业的实际情况,将Iaas平台成熟度模型用于衡量IaaS现状和具体建设成效,将CCRA的IaaS Adoption Pattern用于具体的IaaS平台框架设计和阶段性建设目标的设定。也就是说,在企业进行云平台建设时,先采用Iaas平台成熟度模型去衡量企业的IT基础设施现状,基于具体的衡量和评估结果,依据CCRA的IaaS Adoption Pattern所对应的IaaS平台基础框架,规划企业的IaaS平台建设路线图。此后,当IaaS建设推进到一定阶段时,再用Iaas平台成熟度模型去衡量建设的具体成效,根据客观的衡量和评估结果,进行总结和归纳,并依据CCRA对下一阶段的建设内容和目标进行修正。随后,继续推行IaaS建设,同样遵循上述过程,如此循环往复,直到IaaS平台实现了预先规划的建设目标,当然,用于作出这一判断的技术标尺也正是Iaas平台成熟度模型。
至此,本文对Iaas平台成熟度模型和CCRA的基础知识进行了简要的介绍。企业IaaS平台的规划设计人员必须在思想上充分地认识到,正确理解并熟练运用IaaS平台建设的技术标尺和基础框架,就可以成功地分析企业的IT基础设施建设现状,进而有效地为企业构建出务实的IaaS平台。
《企业云计算IaaS平台的技术标尺和基础框架》系列文章的下一篇,将重点对Iaas平台成熟度模型和CCRA的各层次内容分别进行较为详尽的分析和梳理。
- ?
百万年薪云架构师如何练成
羊曼荷
展开
小编作为一个在TOP1的传统IT厂商和互联网云厂商都从业过的云架构师,经历可以分为4个典型的阶段:
1. 开发:毕业后开始C++开发 ,月薪5K逐步涨到10K
2.交付:换工作后开始做软件定制交付,工资大概15K左右并没有太好。但是偶然机会开始接触海外项目,借工作机会练就了还过得去的口语,算是一个懂技术又能口语交流的人,是此段时期内最大的收获。
3. 集成架构:此后去了菊花厂,从纯软件逐步开始接触到服务器、网络等硬件,开始
具备了做超大型技术方案集成的能力,此时薪水开始跳涨,开始达到百万年薪
4. 云计算架构:在云计算的开始爆发的临界点进入,收入可观,不过压力也很大。在经济状况达到了自己想要的条件后终于离职,开始了自己的思考和尝试。
经历写的很简要,但是过程有曲折,以后有机会详细写一写。但是本文的目的主要是想以自己经历谈谈关于做好一个云架构师的看法。
架构师和其他角色要求不同的是,知识面要求广泛,广度高于精度。很多研发或者运维都曾经想转行架构师,但是多半由于过于精通某一方面,但是广度不足。 表面看是缺少机会,实际上还在于主观能动性,平时工作中需要跳出自己的思维站在其他专业上多思考一点,才有机会接触到更广的知识。小编现在仍然有很多老同事在以前不同的单位从事专家的工作,虽然很专,但是过了工作了10多年后,已经没什么机会再换轨道了,忧虑重重。
再说以下云架构师的几项关键技能吧,
云架构师必须拥有大量的开发技能。令人惊讶的是,这是一个软技能与技术技能一起发挥重要作用的角色。以下是云计算架构师应该知道或能够在这个领域取得突出成就的简短清单:
企业计算的一般背景:具备结构化思维习惯,至少熟悉一种架构方法论及框架,如TOGAF, ITSA, DODAF等,这意味着计算机科学,MIS,信息学或类似学科的一个或多个学位,对企业如何将信息技术用于广泛的目的和应用有很好的理解。
企业计算技能强大:云架构师必须了解IT的基石。这些包括客户端系统和应用程序,网络,基础设施,数据中心,具备Java/Python/PHP/C/C++开发经验,熟悉JDBC,XML,Web Services 和设计模式。有Spring,Struts, Hibernate 开发框架应用经验,Tomcat 或WebLogic 等中间件技术/产品使用经验。应用SOA方法设计服务化应用,熟悉开源 ESB 或 Dubbo开源中间件技术。事实上,云架构师通常是这些技术领域或学科中的一个或多个领域的专家。但是他们的专业知识是为了创造一个需要什么和如何把它放在一起的愿景,而不一定要参与建筑或维护工作。
优秀的软技能在几个领域,包括:
沟通:沟通清楚,直接,有说服力地写作和亲自。云架构师还必须能够开展会议并管理各种人员,从C级高管到经理和技术专家以及最终用户或客户。
领导力:云架构师需要强大而有效的领导技能,因为他们必须说服不同的团体和利益相关者相信组织中的云环境的愿景和蓝图。
技术,知识和经验:
云架构师的职位一般都是在职业生涯的中后期。技术领域涉猎广泛,知识面广,并在某个领域的方案架构具有专长优势,如互联网、制造业、金融、教育、医疗和智慧城市等。渴望并且实际填补这些职位的人通常至少有7到10年的在职经历,需要涉及作为强有力的技术贡献者或技术专家的工作组合,作为团队领导,或一级或二级经理。这项工作要求混合技术和软性人才以及领导技能,这些技能在没有一定时间的情况下很难获得和发展。
- ?
云上架构和传统IT架构的区别在哪里?(企业CIO、CTO必读)
慕山
展开
在云计算走向成熟之前,我们更应该关注系统云计算架构的细节,从传统的架构到云上大数据,实现了很多的转变。传统的大数据平台计算和数据一般都在一起,到云上之后计算有可能是虚拟机、有可能是容器,存储和计算是分离的。任何计算节点访问存储时都是通过高速互联网络把数据迁移到本地来。实现的优势也就是大数据的服务化,灵活配置。因此,借助强大的计算性能,结合云计算平台的优势,从传统架构的大数据平台向云上数据的转变,将给用户提供更高的灵活性和管理性,并能够为用户节省大量的成本。
传统IT架构
传统的IT环境构建是比较复杂的过程。从安装硬件,配置网络,安装软件,应用,配置存储等,许多环节都需要一定的技术力量储备。当环境发生改变时,整个过程需要重复进行。我们都知道,不同的人安装配置的环境会又很大差异。放在复杂的企业环境来考虑,即使有说明,仍然无法保证环境的一致性
经典的云上架构
众所周知,传统服务器包含处理器、存储、网络、电源、风扇等模块设备。与传统服务器相比,云服务器关注的是高性能吞吐量计算能力,关注的是在某段时间内的工作量总和。因此,云服务器在架构上和传统的服务器有着很大的区别。
一般来说,企业的云架构建设主要从6个方面来看,混合云构建、企业级云服务、合规性、安全性、创新性、业务的连续性。以下是阿里云的3个云上经典架构组成供参考
云上网络基础架构
·自定义私有网络:子网划分,路由规划
·网络逻辑隔离:网络虚拟化,VPC之间完全隔离
·公网访问:弹性IP接入、SNAT/DNAT网关
·混合云构建:物理专线/VPN网关实现云上与数据中心互联
·访问控制:安全组实现不同安全域网络隔离
云上安全基础架构
·DDos防护
·WEB应用防护
·授权与访问控制
·审计日志记录威胁检测系统
·安全评测和托管服务
云上同城异地容灾架构
同城高可用:
自动切换
同城容灾
无需额外成本
异地容灾:
多地域分布
应用和数据级别容灾
优势
云服务器体系架构包含云处理器模块、网络处理模块、存储处理模块与系统模块等。这种架构的优势使得云服务器可以大幅提高利用率。采用多个云处理器完成系统设计,引入低功耗管理方案完成对系统的集中冗余管理,同时优化系统设计,祛除重复硬件。经过高效的资源整合,提高利用率,从而使得性价比得以提升,引起网站服务器租用价格的降低。
云服务器凭借其合理的网站服务器租用价格,为各类企业节省大量的业务成本,从而赢得不少企业的青睐。
(江苏博融)阿里云江苏授权服务中心,全面负责阿里云南京地区相关业务,为南京地区的企政大客户提供专业的阿里云产品和整体项目解决方案,为阿里云客户授权区域内的会员提供专业的本地化服务。快速上云,轻松运维。
- ?
云计算网络基础架构的实践和演进——打造云计算网络基石
马君浩
展开
更多深度文章,请关注云计算频道:https://yq.aliyun/cloud
摘要:从传统IT部署到云,人肉运维已经是过去式,云上运维该怎么开展?人工智能对于运维“威胁论”也随之袭来,如何去做更智能的活,当下很多运维人在不断思考和探寻答案。在2017云栖社区运维/DevOps在线技术峰会上,阿里云专家云登就为大家分享了云计算网络基础架构的实践和演进,精彩不容错过。
以下内容根据演讲视频以及PPT整理而成。
众所周知,云计算是以计算、存储和网络作为基础的。网络作为云计算的重要基石之一,其架构设计和演进是云计算发展的重要一环,而网络架构涉及可靠性、性能、可扩展性等多方面内容。架构是从理论设计开始的,理论设计和实践碰撞到一起,能否经得住考验,是否能够符合预期呢?厂商所提供的网络设备的高级特性真的是解决问题的银弹么?如何通过经典网络和VPC构建混合云,打通云上和云下呢?阿里云在以往的实践以及与用户的交互碰撞中遇到的问题又是如何解决的呢?本次分享中将与大家一起进行探讨。
本次分享的目录
一、常见的云计算网络架构
二、云计算网络的可靠性和故障定界
三、专有云网络的模块化
四、混合云构建的并网案例
五、云网络架构的演进趋势
下图所展示是一种常见的云计算网络集群架构。传统情况下云计算网络架构会分为三层:接入层、汇聚层和核心层。如下图所示,在接入层下面的两台交换机会进行堆叠,再下面会连接服务器,服务器一般会选择使用两个网卡进行bond之后以双上连的方式连接到2台接入交换机。在接入交换机和汇聚交换机之间也会有多条线路的连接,一般而言会存在二层或者三层的接入。对于带宽收敛比的设计而言,对于千兆集群可以采用1:1无收敛的方式,而对于万兆集群则可以使用收敛比为1:3或者1:2的方案,也可能使用无收敛的设计。从汇聚层再向上连接到核心层,一般情况会使用三层连接。
下图是另外一种比较常见的云计算网络集群架构,在Spine节点和Leaf节点之间可能会存在三层连接,而Spine节点和Core节点之间也可能会存在三层连接,这种网络架构相比于前面提到的架构而言,其扩展粒度要更细,可以细化到一组或者多组进行接入。
想必大家对于Overlay以及Underlay网络都有所了解,物理网络被称为Underlay网络,物理网络搭建完成之后应该尽量保证网络拓扑是固定的;而对于Overlay的网络而言,可以基于VXLAN技术构建VPC网络,通过软件定义和控制器的方式可以动态地构建虚拟的网络。所构建的网络可以是一个或多个虚拟的网络,可以通过云上不同的租户去定义地址规划以及路由的规划,甚至还可以提供类似于高速通道这样跨VPC之间的互通。Underlay网络的设计基本上就是前面所提到的接入-汇聚-核心架构以及Spine-Leaf架构,而对于Overlay的网络则描述的是虚拟的层面,提供的实际上是虚拟的路由器和虚拟的交换机,包括其构建出来的可以接入像SLB、RDS、ECS、OCS等云产品的VPC容器。为什么叫做Overlay呢?其实因为Overlay网络是通过VXLAN隧道的封装运行在Underlay物理网络之上的。通过Overlay逻辑网关去组织业务进行资源编排就可以构建出非常丰富的基于Overlay网络的产品。
前面主要介绍了云计算网络的一些基础概念,接下来将会针对云计算网络的可靠性以及故障定位的方式进行分享。
对于云计算平台的物理网络而言,其可靠性可以分为以下的几类:
多线路,常见二层的LACP,也就是链路聚合,对于三层则使用等价路由。设备HA,从体系结构来讲,分布式的多框、多插槽的设备能够提供多主控、多接口板这样的方式,还可以提供类似于堆叠技术和多机之间的双机热备以及多机的备份或者多机堆叠的方式,还可以提供VRRP的链路切换。探测和切换机制,实际上在网络配置交付之后,如果远端出现了问题,为了解决链路上的负载均衡以及主备切换的问题,可以引入比如NQA+Track这样的探测技术,这样可以针对静态路由的配置通过不同的优先级和NQA探测方式发现远端节点不可达的时候进行路由切换。除此之外,在探索到某台设备出现故障的时候就可以进行故障隔离,可以实现端口级或者设备级的故障隔离,保证流量可以走备份或者冗余链路进而避免流量中断,当然,这种情况下可能对于流量带宽造成一定的损失。巡检和监测,针对于Overlay和Underlay的网络会提供主动探测的机制,还有对于设备的日常日志告警的分析。设备在运行中往往会报很多的日志和告警,将这些信息收集起来之后结合云平台的业务流量可以挖掘出很多故障的可能性、已经出现的故障还有对于未来可能出现故障的预判。还可以进行流量分析,并且基于此判断云平台的网络是否出现了一些问题。
如下图所示的是常见的网络集群故障点分布图,云计算平台的网络故障点主要集中在下图中标号的几个位置:
标号1:线路故障,比如服务器上连到TOR交换机,也就是服务器上的接入网卡接入到交换机上时出现了网卡、线路或者是接入端口损坏导致线路上出现故障。同样的,从接入层到汇聚层,从汇聚层到核心层也会出现这样的线路故障。标号2:核心设备的故障,核心设备的故障可能导致跨网络端口之间的流量损失,由此造成的影响范围往往比较大。对图中所示的网络架构而言,如果流量需要跨端口进行传输,就一定需要从接入层到汇聚层再到核心层再转入另外一个POD的汇聚层。标号3:汇聚交换机的故障,一般情况下汇聚交换机采用堆叠的方式,可能会出现堆叠的分裂以及单台设备的故障,也可能出现整个端口流量上行的带宽减半或者是分裂以后导致等一些不可预期的后果,因此需要及时检测出一些故障并且及时进行隔离以及对于设备进行下线维修从而排除此类故障。标号4:接入交换机的故障,接入交换机也会发生类似于汇聚交换机的故障,堆叠分裂或者单机故障则会导致下面连接的服务器出现问题。标号5:服务器故障。标号6和7:像上述提到的堆叠出现问题造成的故障,这样的故障需要通过日常的巡检以及网络设备自身报告故障的日志告警来发现问题并及时去进行相应的处理。
以下是对于常见的网络集群故障点的详细描述:
线路故障。体现为带宽的损失,一般通过多条线路保障,三层网络设备间通常用ECMP等价路由,二层网络设备间通常采用聚合LACP,提高可靠性。在实际情况下,在公有云环境中会发现:一旦网络集群规模大了之后,堆叠出现问题的概率就会变大,与此同时,二层的广播风暴和环路出现的概率也会变大,阿里云目前在逐步地考虑去掉堆叠并且去掉二层,这也可能是未来的发展方向。这样的目的是为了简化网络并提高网络集群的可靠性。DSW故障。DSW是对于核心设备的称呼,由于所有的DSW之间不直接互联,它本身的可靠性只能依靠硬件框式分布式,多主控板(主备HA)、多接口板(上面说的多线路跨板连接)来保证单点可靠性,使用多台DSW,平时负载均衡,单台故障时互为备份链路。如果是单台DSW故障,将会影响带宽损失。PSW故障。也就是汇聚设备的故障,拓扑中有PSW堆叠和去堆叠两种情况,如果是堆叠的,单台故障,上下连线依靠跨堆叠设备的LACP或者ECMP实现业务不中断(但带宽有损失),如果不是堆叠的,参考(2)的场景。如果是单台PSW故障,影响的是下连的多组ASW带宽损失一半。ASW故障。线上很多的ASW都是堆叠的,目前阿里云也开始去堆叠,如果是堆叠的,ASW下连服务器,服务器双网卡bond接入(LACP),如果是去堆叠的ASW,服务器双网卡等价路由负载均衡。如果单台ASW故障,影响的是下连的48台服务器的带宽损失一半。未来,阿里云新构建的集群会逐渐减少对于堆叠的使用,进而提高网络设备的可靠性。其实对于网络厂商而言,他们也会对于堆叠特性进行大量的测试,但是实际上由于堆叠特性十分复杂,因为其涉及到硬件、软件、内部检测以及协议的传输备份,也就是会涉及到很多跨框、跨设备的同步以及选举机制。由于堆叠特性实现本身就非常复杂,就会导致出现问题的可能性比像路由转发这样其他简单特性更高。而在云计算场景下海量的网络设备同时运行,就进一步提升了堆叠特性出现问题的可能性,基本上就会导致出现存在堆叠的场景下可能经常会出现问题。为了解决这样的问题就需要逐步地去除堆叠和二层。服务器故障。可能体现在服务器网卡或者本身内部的应用系统的问题,服务器故障一般只会影响自己,范围比较小。PSW堆叠分裂。各自认为自己是主设备,为了减小影响,一般会配置DAD双主检测,禁掉一边,影响为整个pod的上联带宽和跨asw之间转发带宽损失一半。如果PSW堆叠整体故障,整个pod挂掉(各组ASW下的48台服务器之间仍可互通),上连不通,跨asw的互连不通。ASW堆叠分裂。类似于(6),影响为一组ASW下挂的48台服务器的互联或者上联带宽损失一半。如果ASW堆叠整体故障,该组ASW下连的48台服务器全部不通。对于(6)(7)的堆叠故障,由于厂商堆叠技术本身复杂,导致故障概率提升,再加上公共云使用的网络设备规模大,基数上去了就进一步放大出故障的概率,且影响范围大。因此网络本身的可靠性和故障位置,对于云产品来说影响的范围也是不同的,ecs之类的云产品能够打散到不同的ASW、POD甚至AZ(跨网络集群),其可靠性指标也是不同的。基本上是打散的网络设备之间的层级越高,可靠性保证越高,但同样的网络延迟也越高。
那么怎样才能够及早地发现这些故障呢?其实可以使用故障主动探测的模型。在网络集群里面,可能会选择特定的接入设备比如像服务器,将其作为主动探测的机器,其探测的目标就是网络设备下面的其他服务器。
建立的第一个简单故障主动探测的模型如下:
一个TOR下面所有物理服务器(例如48台)都同时出现大量丢包-->TOR交换机故障。个别物理服务器出现丢包-->服务器负载问题/TOR交换机端口队列打满。到某个机房的大量物理服务器同时出现大量丢包-->汇聚交换机/核心交换机故障。到某个机房的大量物理服务器出现少量概率丢包->汇聚交换机/核心交换机的个别端口问题。每个机房最少只需要1台机器作为探测源,部署对业务网络影响小,ICMPping之类的只能做Layer3的探测。
依照上述的故障主动探测模型就可以简单地判断网络出现故障的范围。
建立的第二个简单故障主动探测的模型如下:
通过选择不同位置的服务器作为探测源或者探测目标,发现不同层次的故障位置,多轮次组合。要求每台服务器运行agent,并接受外部控制器指令,动态调整探测策略,可建立TCP连接并测试。可以针对overlay和underlay网络进行探测,更容易模拟实际应用的业务流量特征,支持Layer4探测、时延计算。
第二个故障主动探测模型在服务器内部会增加一些代理Agent,安装代理之后可以做到对于4到7层的探测,可以探测出TCP连接的情况以及其延迟和性能速率。同样的,探测模型也可以组合出不同的探测方式,在了解网络架构的拓扑之后就可以探测位于同一组接入交换机下面的两台或者多台服务器,也可以探测位于不同的核心交换机或者汇聚交换机下面的多台服务器。通过这种建模方式就可以知道当前延迟高或者丢包的场景下,网络的问题到底出现在什么位置。
上述提到的是网络体现在本身体系结构上的可靠性,比如分布式设备、支持主备HA、支持双机热备或者多机堆叠以及其他一些高级特性,这些都是从网络设备本身的角度而言的。除此之外,通过线路带宽的设计保证收敛比以及负载均衡,以此来保证云计算网络的可靠性。而通过日常的巡检和探测能够及时地发现故障,并在故障发生之后及时了解故障发生的具体原因并提供故障定位的方式,进而提高云平台网络的可靠性。
上述这些都是在公有云网络上的实践,对于专有云而言,又会存在什么样的差别呢?其实对于专有云而言,更多地会对其进行模块化的设计。公有云一般而言是可规划的,可以对于未来集群的规模、建设的地域以及网络架构的选择等进行规划。而对于专有云而言,客户的需求往往不能够规划出来,不同的客户所需要的业务的场景和诉求往往是不同的,这些在网络设备的选型、已有设备的利旧使用以及对于云平台功能的裁剪上都会有所体现,所以专有云与公有云上的的网络设计就存在较大的差别。
下图是专有云网络架构图,一个很明显的特点就是专有云网络会分成几个区域,最上面的是外部接入区,外部接入区包含了阿里云和ISP或者用户骨干网出口的链接以及在其上进行安全防护的云盾。专有云网络架构图中间的DSW和下部的PSW则属于DC区,也就是网络架构的核心区域。图中右面的综合接入区分为了两个部分,一部分是阿里云所提供的负载均衡、VPC网关以及OPS相关的接入,另外一部分则是CSW,实际上就是客户的VPC专线接入区,阿里云的专有云客户会有一些原来的物理网络需要与云上的VPC进行网络打通,一般会通过VPC的专线接入交换机的综合交换机接入进来。也就是说专有云网络的每一个模块都有一个相对独立的设计,所有的模...
- ?
像谷歌一样打理IT:浅析Google的云计算架构
庾安波
展开
分布式与云计算深刻地影响着搜索引擎的发展。与其说是云计算影响了搜索引擎,不如说是搜索引擎的发展产生了云计算的概念。Google正是由于在云计算领域的领先,才能多年在搜索领域保持霸主的地位。本节以Google的架构为例,看一下云计算是如何应用在爬虫之中的。
Google的三大核心技术构成了实现云计算服务的基础:GFS(Google文件系统)、MapReduce(分布式计算系统)和 BigTable(分布式存储系统)。
GFS(Google文件系统)位于这三项技术的最底层,负责许多服务器、机器数据的存储工作,它将一个“大体积数据(通常在百兆甚至千兆级别)分隔成固定大小的数据块放到两到三个服务器上。这样做的目的是当一个服务器发生故障时,可以将数据迅速地通过另外一个服务器恢复过来。在存储层面,机器故障的处理由Google文件系统来完成。
MapReduce (分布式计算系统)是Google开发的编程工具,用于1TB数据的大规模数据集并行运算。这项技术的意义在于,实现跨越大量数据节点分割任务,使得某项任务可以被同时分拆在多台机器上执行。例如把一项搜索任务拆分成一两百个小的子任务,经过并行处理后,将运算结果在后台合并,最后把最终结果返回到客户端。
BigTable(分布式存储系统)作为 Google 的一种针对半结构化数据进行分布存储与访问的接口或服务,它是建立在GFS和MapReduce之上的结构化分布式存储系统,可以帮助Google最大限度地利用已有的数据存储能力和计算能力,在提供服务时降低运行成本。
书名:自己动手写网络爬虫
定价:¥43.00
- ?
云计算架构师需要学习的五件事
蒋磊
展开
数字化转型正在影响所有业务的垂直领域,人们处理和思考IT的方式已经发生了根本性的变化。一些成功的IT专业人员影响了企业的业务模式和策略。数字化转型正在影响所有业务垂直领域,而云计算架构师在支持下一代业务计划时必须开始思考与之前的业务模式有什么不同。
正如调研机构Gartner公司最近预测的那样,到2020年,所有IT人员都需要具备一定水平的商业智慧。“在IT领域中发展强大的商业智慧,是将IT重点从优化IT运营效率转变为推动业务效率、价值创造和增长的先决条件。” Gartner公司研究副总裁 Lily Mok在一份声明中表示,“有效的IT沟通战略的核心是能够将IT的愿景、战略和行动计划与业务明确联系起来,推动员工中期望的行为,从而提高IT绩效和业务成果。”
除了沟通之外,还需要新的管理方式来尽可能多地从员工身上获得更多价值。为了达到这一点,企业需要培训自己的员工,让他们真正像云计算架构师一样思考和行动。
无论企业是主要数据中心提供商,还是最终用户组织,都应该了解一下数据中心架构师培训技巧。
如今的IT人员不仅仅是提供专业服务或标准体系结构,他们还需要进行创新。这意味着过去适用于IT人员工作的相同规则可能不会对其职业生涯提供更多的帮助。作为云计算架构师,IT人员可以通过做培训和实施来提升技能,为自己的职业生涯增加价值,并帮助所在的公司取得进步。
1、通过技术镜头谈论商业语言
现在想像一下Snapchat或Messenger过滤器这样的技术可以做什么,他们为原始图层添加一层。从某种意义上说,云计算架构师必须考虑业务挑战,并知道如何使用适用于该情况的技术过滤器。在那里,人们必须能够讨论这些,以及他们如何改变业务流程。这意味着云计算架构师能够围绕业务需求不断应用技术架构。
2、沉浸在安全的世界
云计算架构师的商业智慧必须与对安全需求的深入理解结合起来。IDC的信息图表为弥补IT安全技能差距,描述了日益增长的风险,以及对熟练和合格的网络安全专家的需求,具体如下:
75%的企业遇到某种类型的安全事件。33%受到网络犯罪影响。63%的组织不准备作出回应。3、尽可能多地进行交叉训练
作为一个云计算架构师,需要了解并行的相关技术。如果正在创建公共云架构,请了解像OpenStack这样的平台如何帮助管理。人们永远不知道未来会怎样,组织有一天可能需要混合方法。如果可以实现规模管理,则可以帮助企业利用强大的云计算技术。云计算架构师经常关注特定的技术。例如,DevOps、虚拟化,或者只是打包和配置体系结构。如果云计算架构师具有特定的云端重点,请确保扩大云端架构。了解云服务管理(ITSM/ITOM)、自动化、集成以改进用户管理,甚至了解如何优化WAN连接。作为云计算架构师,可以有特定的关注点。但是,了解云服务的DNA使云计算架构师能够交叉训练,并为企业和其他IT团队提供有价值的反馈。
4、使用社交媒体这种强大的沟通工具
云计算架构师使用社交媒体(像Twitter这样的社交媒体工具)可以帮助其了解更多的信息,并与志同道合的架构师建立联系,拓宽对云计算设计的思路和看法。云计算架构师需要在社交媒体上提高自己的学习能力,并在市场中提升品牌。云计算架构师最好在LinkedIn上撰写博客或Facebook帖子,回复评论或者结交新朋友。
5、了解风险、设计和企业影响
云计算架构是业务的关键部分。过去,云计算架构师专注于挑战并立即尝试解决方案。那么现在的云计算架构师必须学习一个新概念:客户对风险的偏好。云计算架构师可以设计出令人惊叹的架构,但如果它不支持客户最终需要的风险模型呢?云计算架构师必须开始向客户提出一个新问题:“你有什么风险承受力?在设计此应用程序或虚拟工作负载之前,请告诉这对贵公司的影响。”
从这里开始,云计算架构师不仅要围绕其需求创建环境,还要围绕弹性进行设计。请记住,这不仅仅是一个围绕高可用性的设计。相反,需要特别关注用户、业务应用程序和特定组件的风险因素。作为一名云计算架构师,其角色是帮助客户更好地了解他们需要什么,他们能够做什么和不能没有什么,以及他们如何与其企业战略联系起来。
技术发展和进步已经成为组织业务的基本组成部分。它有助于创造更高水平的生产力,改进服务,并优化整个用户体验。但是,总需要有人帮助设计和构建这些环境。
在此给出的建议之一就是永远不要让自己被局限住。也就是说云计算架构师总是应该把握大局。每当设计云计算架构时,架构师总是要记住三点:人员、流程和技术。云计算架构师必须每次都围绕这三个概念应用到其设计中。
企业可以拥有最好的技术,但是如果不训练其员工,并且没有开发一个流程,那么这项技术将毫无用处。随着人们对新的数字化需求的转变,云计算架构师的角色将继续发生变化。因此,需要确保云计算架构师继续学习的动力,不断思考如何通过利用新技术来改善人们的生活。
来源:互联网
- ?
架构设计之云计算架构介绍
问萍
展开
一、云计算介绍
任何一个在互联网上提供其服务的公司都可以叫做云计算公司。其实云计算分几层的,分别是Infrastructure(基础设施)-as-a-Service,Platform(平台)-as-a-Service,Software(软件)-as-a-Service。基础设施在最下端,平台在中间,软件在顶端。别的一些“软”的层可以在这些层上面添加。
云计算架构示例1
云计算架构示例2
云计算架构示例3
二、云计算服务模式
1、IaaS: Infrastructure-as-a-Service(基础设施即服务)
基础架构,或称基础设施(Infrastructure)是云的基础。它由服务器、网络设备、存储磁盘等物理资产组成。在使用IaaS时,用户并不实际控制底层基础架构,而是控制操作系统、存储和部署应用程序,还在有限的程度上控制网络组件的选择。
通过IaaS这种模式,用户可以从供应商那里获得他所需要的计算或者存储等资源来装载相关的应用,并只需为其所租用的那部分资源进行付费,而同时这些基础设施繁琐的管理工作则交给IaaS供应商来负责。
我们从阿里云上购买的云主机就是属于此类了。
2、PaaS: Platform-as-a-Service(平台即服务)
平台即服务(Platform as a Service,PaaS)提供对操作系统和相关服务的访问。它让用户能够使用提供商支持的编程语言和工具把应用程序部署到云中。用户不必管理或控制底层基础架构,而是控制部署的应用程序并在一定程度上控制应用程序驻留环境的配置。PaaS的提供者包括Google App Engine、Windows Azure、Force、Heroku等。小企业软件工作室是非常适合使用PaaS的企业。通过使用云平台,可以创建世界级的产品,而不需要负担内部生产的开销。
3、SaaS: Software-as-a-Service(软件即服务)
软件即服务(SaaS)为商用软件提供基于网络的访问。您有可能已经使用过SaaS,即使您当时并不知道。SaaS的示例太多了,例如Netflix、Photoshop、Acrobat、Intuit QuickBooks Online、Gmail、Google Docs、Office Web Apps、Zoho、WebQQ、新浪微盘等等。可能不太明显的SaaS实现包括移动应用程序市场中的相当一部分。
简单的说,就是做好软件,用户基于互联网来使用就可以了,并且是可以按需购买使用。
4、DaaS:Data-as-a-service(数据即服务)
DaaS是Data-as-a-service(数据即服务),是继 IaaS、PaaS、SaaS之后又一个新的服务概念。
数据即服务(Data-as-a-Service,DaaS)通过资源的集中化管理,为提升IT效率以及系统性能指明了方向。因此DaaS在过去的几年中得到了许多CIO的青睐,它包含的主要技术有数据虚拟化、数据集成、SOA、BPM以及PaaS等。
5、CaaS:Communications-as-a-Service(通讯即服务)
CaaS是Communications-as-a-Service缩写,意思是通讯即服务(也可称为协作即服务)。CaaS是将传统电信的能力如消息、语音、视频、会议、通信协同等封装成API(Application Programming Interface,应用软件编程接口)或者SDK(Software Development Kit,软件开发工具包)通过互联网对外开放,提供给第三方(企业、SME、垂直行业、CP/SP以及个人开发者等等)使用,将电信能力真正作为服务对外提供。
6、MaaS:Machine as a Service(物联网即服务)
MaaS(Machine as a Service)物联网即服务,这个概念伴随着物联网产生,物联网常见的两种业务形式就是MAI与MaaS,因此MaaS属于物联网业务形式的一种。
7、XaaS:X as a service(一切都是服务)
一切皆服务(XaaS)是一个统称,代表 “X as a service”、“anything as a service”或“everything as a service” 。这一缩写指越来越多地通过互联网提供的服务,而不仅仅指本地或现场服务。云计算的本质就是XaaS。
以上六种服务都是XaaS。
三、总结
everything as a service
以前我们使用软件可以说都是一个拷贝(everything is a copy),在云计算时代,我想只能说所有软件可能都是“everything as a service”。
- ?
2018浅析云计算架构
萝卜
展开
在今天的改变与未来的发展预测中表明,有越来越多的企业开始主动拥抱“云”,用云计算提升自身的IT服务能力和运营效率。云计算要求基础设施具有良好的弹性、扩展性、自动化、数据移动、多租户、空间效率和对虚拟化的支持。应当高度贴合网络未来更高层次的发展趋势,随需而动的运维理念。
那么具体而言,应着重从高端服务器、高密度低成本服务器、海量存储设备和高性能计算设备等基础设施领域提高云计算数据中心的数据处理能力。那么,云计算环境下的数据中心基础设施各部分的架构应该是什么样的呢?我们来看这两点的分析:
1,云计算机房架构
为满足云计算服务弹性的需要,云计算的机房一般都将采用标准化、模块化的机房设计架构。模块化机房包括集装箱模块化机房和楼宇模块化机房。为减轻了建设方在机房选址方面的压力,帮助建设方将原来半年的建设周期缩短到两个月,而能耗仅为传统机房的50%,可适应沙漠炎热干旱地区和极地严寒地区的极端恶劣环境。楼宇模块化机房采用冷热风道隔离、精确送风、室外冷源等领先制冷技术,可适用于大中型数据中心的积木化建设和扩展。
2,云计算数据中心总体架构
云计算架构分为服务和管理两大部分。在服务方面,主要以提供用户基于云的各种服务为主,共包含3个层次:平台即服务PaaS、基础设施即服务IaaS、软件即服务SaaS.在管理方面,主要以云的管理层为主,它的功能是确保整个云计算中心能够安全、稳定地运行,并且能够被有效管理。着力于提高网络数据处理和存储能力,致力于低碳高效的利用基础资源。
云计算架构技术
-
1、只需3秒快速实现求和
-
2、如何快速填充序号
-
3、如何自动填充序号(公式法)
-
4、数据条的神奇应用
-
5、多文本快速合并
-
6、查找与替换的不同玩法
-
7、快速定位到指定区域
-
8、数据排序、工资条制作
-
9、快速筛选(模糊、精确筛选)
-
10、快速插入空行
-
11、快速删除空行
-
12.快速跳转到天涯海角
-
13、.同时查看两个Excel文件
-
14、用条件格式扮靓报表
-
15、一键插入Excel图表
-
16、批量处理行高、列宽
-
17、利用拆分功能查看数据
-
18、批量录入相同内容
-
19、工作表快速跳转
-
20、批量录入表格模板(精品课程)
-
21、Excel函数与公式的应用、公式循环引用的查找
-
22、IF函数单条件判断同比增长
-
23、用sum函数 格式相同,连续多表数据汇总
-
24、excel快捷键
-
25、VLOOKUP函数——根据销售员匹配销售额
-
26、统计各部门销售总额
-
27、统计指定条件个数
-
28、怎样输入当前日期和时间、星期数
-
29、销售业绩排名
-
30、Sumproduct函数-万能函数(销售额汇总求和)
-
31、根据销售员,地区,商品名称汇总
-
32、批量替换PPT字体
-
33、给销售额数据批量添加万元单位
-
34、一秒快速核对两列数据
-
35、快速定位到指定单元格或区域
-
36、快速制作双行标题工资条
-
37、给你的表格做个瘦身
-
38、快速打开常用的Excel文件
-
39、快速打开多个Excel文件
-
40、利用创建组—快速隐藏/展开多列数据
-
41、快速制作下拉菜单
-
42、复制粘贴表格,如何保留数据源列宽格式一致?
-
43、两列数据位置互换
-
44、1秒钟扮靓报表——如何实现表格隔行换色
-
45、快速删除重复记录——保留唯一值
-
46、快速向下填充、向右填充,文本或公式
-
47、给Excel文件添加密码
-
48、插入带图片的批注
-
49、输入公式后不计算?
-
50、如何设置单元格缩进
-
51、快速解决Excel表格总显示货币格式
-
52、批量添加万元单位
-
53、你会四舍五入么?
-
54、用RAND函数机选彩票
-
55、冻结首行你会么?
-
56、超链接的高级应用
-
57、IFERROR函数-屏蔽错误值
-
58、批量填充颜色
-
59、录入数据
-
60、快速输入工号
-
61、快速行列转置
-
62、自定义缩放界面
-
63、多个单元格同时输入
-
64、如何计算立方米?
-
65、快速制作双行标题工资条
-
66、输入带方框的√和×
-
67、快速将姓名对齐
-
68、快速输入性别
-
69、按单位职务排序
-
70、自动计算合同到期日期
-
71、计算时间间隔
-
72、日期和时间的拆分
-
73、快速处理不规范的日期格式
-
74、快速填充合并单元格
-
75、效率加倍的快捷键
-
76、快速复制表格和对象
-
77、快速创建工作表副本
-
78、快速复制序列号
-
79、快速显示公式
-
80、多个单元格同时输入
-
81、快速调整显示比例
-
82、快速自动填充
-
83、快速填充(Ctrl+E)
-
84、Ctrl与数字键结合
-
85、快速将多列数据整理为1列
-
86、快速将1列数据拆分为多列
-
87、快速定位公式
-
88、快速录入数据
-
89、快速累计求和
-
90、身份证号码显示为0怎么办?
-
91、快速制作斜线表头
-
92、文本竖向显示
-
93、神奇的监视窗口
-
94、不一样的格式刷
-
95、快速美化图表
-
96、快速生成当前日期
-
97、快速找出循环引用
-
98、快速提取信息
-
99、二维表快速转换为一维表
-
100、快速多表合并