发布时间:2025-05-06
点击次数: 问题意识
CXL是一种开放标准,用于共享内存管理,需要软件支持才能实现其功能。
CXL Fabric需要一个平台来管理状态和命令集,并且需要进一步开发以适应碎片化的硬件生态系统的需求。
关于Jrlabs,Jackrabbit Labs是一家专注于内存 fabrics的公司,其使命是通过软件推动下一代数据中心的发展。公司由行业资深人士Grant Mackey领导,他在Western Digital工作期间成为自愿开源努力的先驱者,并且是开源软件的热衷支持者、消费者和贡献者。Jackrabbit Labs在构建和启用世界上一些最大且最关键计算基础设施方面拥有丰富的经验,无论是在扩展开源部署到数万个节点,还是在超大规模存储部署到E字节方面,公司始终处于客户端、云、解耦合、分布式和高性能计算的前沿。
为什么CXL需要开源软件?
新兴的硬件生态系统(如规范、计算、交换机等)与碎片化的软件生态系统(包含CLI、GUI、API等)之间存在不兼容性,导致技术采用缓慢。通过采用开源的标准化软件栈(包含管理API、管理库、SwitchOS等),可以促进技术统一,提高CXL的采用速度。
CXL规范包含一个FMAPI,但并不是编排工具!
• FMAPI只是一个用于在网络上完成操作的API,而不是用于管理状态的工具。 • 随着主要版本更新,命令集数量迅速增加,参考图中右侧表格。CXL 3.1相较于CXL 2.0提供了更多命令集支持(例如多头设备、DCD管理等)。
注意:后面将介绍Jack基于开源软件工具链构建FMAPI管理工具。
CTL Tools操作界面及CXL交换机工作原理示意图。
左侧图解:
a0.dev
专为移动端应用开发设计的AI编程平台
100
查看详情
• Host(主机)通过CXL Switch(交换机)连接多个CXL设备。 • 一旦主机获得某个CXL设备的所有权,通过CXL规范机制,Fabric无法收回这个设备。右侧图解:
• 主机A和主机B连接到CXL Switch,通过Fabric Daemon和OS/kernel进行通信。 • 用户应用在主机上操作,发送资源附加请求并接收确认/确认附加资源。 • Fabric Orchestrator(Fabric编排器)用于协调设备连接,包括资源确认和请求确认,以实现设备的在线管理。底部说明:需要超出CXL规范的编排来实现可组合的内存系统,而不是静态分配的内存拓扑。
对CXL SwitchOS的理解首先来看看以太网交换设备,
• 受管理的以太网交换机运行SwitchOS
• 例如:SONiC、Cumulus、FBOSS、EOS、NX-OS
• 通过带内/带外以太网链路进行管理
• 硬件抽象层(HAL)
• 可以在低端BMC或更大的x86处理器上运行
• SONiC = Debian + 以太网管理容器
• 通常有CLI shell、Web API和GUI再来看看CXL交换设备,
• CXL交换设备等同于以太网交换机 • 将运行SwitchOS来管理CXL设备 • “Fabric Manager”存在于此SwitchOS中(或作为更大编排系统的软件代理) • 具有适用于CXL交换硅片的硬件抽象层(HAL) • 外部接口可以是REST、以太网上的GUI或CXL链路上的带内协议展示了CXL交换设备和以太网交换设备的结构对比。两者都运行SwitchOS进行管理,并包含硬件抽象层(HAL)。以太网交换设备支持多种网络操作系统(如SONiC和Cumulus),而CXL交换设备则通过SwitchOS管理CXL设备,并集成“Fabric Manager”以便进行资源编排。CXL交换设备的接口支持REST和GUI等方式,以实现灵活的管理和控制。
与集群调度器和资源管理器的交互
资源调度器不想知道像CXL这样的内存结构如何工作。
• 它们不关心Ultra/Ethernet/InfiniBand/NV或UALink。 • 它们希望操作系统或一个模块来处理这些内容,以便它们能够进行资源调度。注意:资源调度平台是更上一层的集中化调度中心,当前广泛用于大中型基础设施,平台层对CXL设备的调度需求需要借助统一的API,靠手动静态分配在云环境中的运维成本太大。
流程说明:
• 主机发出资源请求(如某个pod需要更多内存)。 • 请求通过Fabric Daemon和OS/kernel传递至CXL Switch。 • Fabric Orchestrator绑定请求的资源到特定的主机ID。图展示了在Kubernetes集群中如何通过控制平面与Fabric编排器协调来分配CXL设备资源。Kubernetes的控制平面(包括KubeCtl和kubescheduler)负责资源请求,Fabric Daemon和Fabric Orchestrator则负责在底层管理和分配硬件资源。这种架构支持Kubernetes中多个Kubelet节点之间的资源共享与动态调度,从而满足pod对内存和其他资源的需求。
注意:FMAPI的主要开发工作在于Fabric Daemon和Fabric Orchestrator这两层的通信机制。
总结回顾Challenges(挑战):
• 共享内存软件生态系统的潜在碎片化将延缓采纳进程 • 缺乏在开放环境中的应用开发 • 缺乏可用于开发的模拟或真实平台Call to Action(行动号召):
• 立即在QEMU中试验!QEMU支持更多的CXL功能(如CXL 3.0+)比当前的CPU硬件更多。 • 软件应用开发无需等待硬件(如交换机)可用。 • 评估哪些开源工具/库/API可在项目中使用。表格中是存储硬件厂商主导的CXL开发库,部分项目源代码已开源。
引用链接[1] Jackrabbit Labs: https://www.php.cn/link/eeb74a8ddfbb606f20020fd92e80aa0f
以上就是Jrlabs:开发CXL编排平台的详细内容,更多请关注其它相关文章!
# git
# 操作系统
# 处理器
# 工具
# switch
# cxl
# 长乐市网站优化排名
# 信阳网站建设哪家更好
# 荆州seo优化网站推广方式
# 晋城网站建设方式
# 淄川建设网站
# 原材料网站建设
# 萧山区seo优化平台
# 自动采集发表文章seo
# 广州seo优化课程招商加盟
# 最流行的小说关键词排名
# 可通过
# 显存
# 量产
# 更大
# 台北
# 多个
# 是在
# 生态系统
# 开源
# 为什么
# 资源管理器
相关栏目:
【
行业新闻62819 】
【
科技资讯67470 】
相关推荐:
OpenAI 引入个性化指令功能,消除对话中的重复偏好与信息
农业产业升级:AI驱动的“崃·见田”开启农田未来展望
机器人技能大比拼
AI赋能艺术 超现实达利奇幻之旅在沪开启
苹果CEO库克:持续研究生成式人工智能技术
Meta 推出 Quest 超级分辨率技术,让 VR 画面更清晰
Databricks 发布大数据分析平台 Spark 用 AI 模型 SDK:一键生成 SQL 及 FySpark 语言图表代码
拓普龙7188ML:轻便壁挂式工控机箱,为人工智能应用场景提供有力保障
海柔创新携手SAP,以机器人技术助力全球客户升级数智化竞争力
谷歌StyleDrop在可控性上卷翻MidJourney,前GitHub CTO用AI颠覆编程
智能电网技术:提高能源效率和可靠性
iPhone两秒出图,目前已知的最快移动端Stable Diffusion模型来了
丰田汽车研究院推出生成式人工智能汽车设计工具
以分布式网络串联闲置GPU,这家创企称可将AI模型训练成本降低90%
AI与5G的强强联合:唤醒数字时代的无尽潜能
如布科技发布新产品AI口袋学习机S12
MIT开发“PhotoGuard”技术保护图像免遭恶意AI编辑
人工智能即将进入Windows:企业准备好安全策略设置了吗?
将上下文长度扩展到256k,无限上下文版本的LongLLaMA来了?
吴恩达、Hinton最新对话!AI不是随机鹦鹉,共识胜过一切,LeCun双手赞成
周鸿祎:用超级AI实现室温超导和核聚变,实现能源自由
《共同的演化》展览启幕,重新思考人类与人工智能关系
OpenAI大神Karpathy最新分享:为什么OpenAI内部对AI Agents最感兴趣
英伟达首席执行官黄仁勋:生成式 AI 时代「人类」会是新的编程语言
360发布数字安全和人工智能的强大结合:360安全大模型
数据显示:人工智能相关专业热度上升最快 考古、美术、生物医学工程等小众专业火了
美的推出 AI 双视精准避障的自动集尘扫拖机器人 V12,售价仅为2999元
泗洪:畅通城市“血管” ,管下机器人来帮忙
插画师对AI绘画软件的态度是怎样的?
人工智能在重症监护室的未来
QQ音乐业内率先推出「AI一起听」功能,领取你的AI听歌助手
VR健身应用《FitXR》将取消Quest 1端会员服务
百度文心一言App上架苹果商店,人工智能创作引发热议
纪录片 《寻找人工智能》全集1080P超清
苹果机器学习关键人物 Ali Farhadi 离职,回归 AI2 担任 CEO
联合国秘书长称支持建立全球人工智能监管机构
华为盘古AI模型实现秒级全球气象预报时间缩短
MiracleVision视觉大模型功能介绍
报告称 70% 程序员已使用各种 AI 工具编程
放弃自动驾驶,也是一种和解
OpenAI已向中国申请注册“GPT-5”商标,此前已在美国提交申请
电池比 Air 2S 大 20%,大疆 Air 3 无人机现身 FCC
基于信息论的校准技术,CML让多模态机器学习更可靠
传字节内测对话式 AI 产品,代号「Grace」;马斯克嘲讽苹果 头显;比亚迪 F 品牌定名「方程豹」
眼球反射解锁3D世界,黑镜成真!马里兰华人新作炸翻科幻迷
“智能体动作生成技术”现身WAIC:游戏AI技术为机器人科创注入新动力
重磅! 捷通华声灵云AICC荣获第二届光合组织AI解决方案大赛二等奖
人形机器人打开精密齿轮市场全新空间!受益上市公司梳理
全新“AI助手”!讯飞星火助手中心人机协作共创新生态
谷歌计划在上海举办开发者大会,重点关注机器学习和生成式AI领域