云 计 算 ——服务资源调度与管理北京科技大学 曾明2014年1月7日

目录 IDC发展面临的挑战 云计算解决方案 调度与管理 服务资源整合

服务资源调度 资源分配策略 服务资源管理

总结

IDC发展面临的挑战地理上分布的用户

1. 2. 3.

4.

5.

IT成本高，机房设备利用率 低 数据中心体系很复杂， 系统 的维护和管理难度大 资源占用多，缺乏统一化， 配置峰值资源需求等于浪费 资源 系统稳定性、可靠性低。人 工服务为主，高成本、低满 意度 IT传统模式不能适应业务部 署速度的需求 (至少2个月)

根据应用静态分配IT资源Web eCommerc e Dev/QA ERP

Intranet

BI

Email

CRM

Supply and Demand Not Aligned

目录 IDC发展面临的挑战 云计算解决方案 调度与管理 服务资源整合 服务资源调度 资源分配策略 服务资源管理

总结

云计算体系架构

云计算门户

SAAS 服务系统 服务管理

IDC 服务服务应用系统

服务调度和管理引擎

IAAS 服务平台

云计算平台VM中间构建

PAAS IAAS

IAAS 调度分配引擎

资源池

支撑平台体系架构用户

VMware, KVM, XEN

管理服务器

管理服务器

在线服务器 云计算节点

在线服务

存储

离线计算

云管理方案端到端的云管理软件： 根据负载均衡和资源均衡的策略，从共享的物理和虚 拟资源中为上层的应用系统创建和提供运行环境

云平台Ticketing System

用户自服务

报表 & 计费

资源分配调度引擎

工作流 & 审批流程

对应用系统的支持 Hadoop, Websphere, 客户化的应用…… 运营管理

Entitlement System

CRM

Authentication & Security

资源整合

虚拟化系统 / 物理机操作系统 计算资源

计算资源

计算资源

整合了云资源 通过丰富的策略匹配和供给资源 提供了最终用户直接请求资源的自助服务平台 时刻跟踪资源的使用情况，以生成报告、帐单和审核

示例：BOSS云的架构

1. 话单分布

3. 分布式计算方案

SMP

Oracle DB Oracle DB2. 同步方案 4. 话单合并

目录 IDC发展面临的挑战 云计算解决方案 调度与管理 服务资源整合

服务资源调度 资源分配策略 服务资源管理

总结

服务资源整合不同类型的应用程序集成Test/DevHPC J2EE others

资源管理工具服务的交付

Manual

整合物理机和 虚拟机计算环 境，创建一个 共享的计算架 构 。

提供服务 服务合同管理

自助的服务门户 和开发接口(API)

统计分析报表 计费系统

资源分配引擎资源预约和按需 分配的调度策略 基于资源使用 情况的分配策略 资源使用规划

根据系统当前负载 、系统资源的使用 情况，有序地运行 应用程序。

资源整合虚拟化系统 管理插

件 物理机部署工具 的插件 系统管理 插件

服务资源整合 在不同的应用部门共享物理资源 D HPC Clusters LSF, Symphony, 3rd Party E M Workload-aware A N D S U P P L Resource-aware YSilo

Test & Dev

J2EE / Analytics

Silo

Silo

Supply and Demand Aligned

服务资源整合系统架构服务可用性 资源管理 数据保护 安全和集成

虚拟资源池

服务资源整合

目录 IDC发展面临的挑战 云计算解决方案 调度与管理 服务资源整合

服务资源调度 资源分配策略 服务资源管理

总结

服务资源调度1) Application Topology

DB

Tier 1

App Server

App Server

App Server

Tier 2

5) C-language plug-in placement policy: vem_policy_init() vem_policy_fin() vem_policy_distribute() vem_policy_place() vem_policy_housekeep() vem_policy_status() vem_policy_info()Rack

2) Resource Hierarchy

/

DC

DC

Rack Group

Rack Group

Rack Group

Web Server

Web Server

Rack

Rack

Rack

Tier 3

Rack

Rack

4) Previous reservations committed & Account QuotasOfferi ng 3 400 Contract #55

调度引擎Contract # 768689Contract # 78934Contract # 889 #999

3) Network Access Cost Matrix (Available Bandwidth / Dynamic Utilization)DC 1DC 1 DC 2 DC 3

Offeri ng 2 200

DC 2

DC 3R2 R2 R3

Rac k1

Rac k2

Rac k3

Contract #888Offeri ng 1 300 Contract #677

Contract # 888

Contract #677Contract #123 Contract #444D e c

J a n

Output: - Initial Placement - Run-Time Management - Defragmentations& Migration

服务资源调度

资源分配之前

资源分配之后

目录 IDC发展面临的挑战 云计算解决方案 云计算核心技术 服务资源整合

服务资源调度 资源分配策略 服务资源管理

总结

资源分配策略Packing(填满) 应用程序在尽量少的物理服务器上运行 每个被使用的服务器利用率最大化，减少资源碎片，减 少能源消耗。 应用程序分散在尽可能多的物理服务器上运行 减少机器故障带来的影响，提高应用程序的运行效率

Striping(分散)

Load-Aware(基于 负载) HA-Aware(基于高 可靠性配置) Energy-Aware(节 能)

新的应用程序总是运行在负载最轻的物理服务器上 获得更高的应用程序运行效率 将支持高可靠性(HA)的服务器资源分配给关键业务 提供更高的资源可用性

根据节能指数和数据中心热点运行应用程序 减少能源消耗

Affinity-Aware(基于 将任务分配到与关键资源关联度最高的服务器上，例如 将任务分配到与存储系统直连的服务器上 关联程度) 保证应用程序运行效率Server Model-Aware (基于服务器类型) 根据服务器类型分配资源 尽可能利用性能好的、昂贵的资源，是投资回报最大化

Topology-Aware(基 尽量使用连接到同一个交

换机、背板、刀片中心的服务 器运行用户任务 于网络拓扑) 提高应用程序运行效率

策略1:Packing(填满)策略 每个被使用的服务器利用率最大化，减少资源碎片 节能——根据需求动态启动和关闭服务器BottomApp App D App E VM VMA VM App App D App D VM A VM VM App App A App B App VMB VM A VM VM

4 Bottom 3 4 1 Left 4

Left

4

App App App App BApp App B A App A VMVM CC VMC VM VM VM VM

2

Bottom-Left Decreasing Bin-Packing Heuristic