GPU平台生态:英伟达CUDA和AMD ROCm对比分析|全球短讯
成熟且完善的平台生态是GPU厂商的护城河。相较于持续迭代的微架构带来的技术壁垒硬实力,成熟的软件生态形成的强大用户粘性将在长时间内塑造GPU厂商的软实力。以英伟达CUDA为例的软硬件设计架构提供了硬件的直接访问接口,不必依赖图形API映射,降低GPGPU开发者编译难度,以此实现高粘性的开发者生态。目前主流的开发平台还包括AMD ROCm以及OpenCL。
CUDA(Compute Unified Device Architectecture),是NVIDIA于2006年推出的通用并行计算架构,包含CUDA指令集架构(ISA)和GPU内部的并行计算引擎。该架构允许开发者使用高级编程语言(例如C语言)利用GPU硬件的并行计算能力并对计算任务进行分配和管理,CUDA提供了一种比CPU更有效的解决大规模数据计算问题的方案,在深度学习训练和推理领域被广泛使用。
(资料图片仅供参考)
CUDA除了是并行计算架构外,还是CPU和GPU协调工作的通用语言。在CUDA编程模型中,主要有Host(主机)和Device(设备)两个概念,Host包含CPU和主机内存,Device包含GPU和显存,两者之间通过PCI Express总线进行数据传输。在具体的CUDA实现中,程序通常划分为两部分,在主机上运行的Host代码和在设备上运行的Device代码。Host代码负责程序整体的流程控制和数据交换,而Device代码则负责执行具体的计算任务。
一个完整的CUDA程序是由一系列的设备端函数并行部分和主机端的串行处理部分共同组成的,主机和设备通过这种方式可以高效地协同工作,实现GPU的加速计算。
CUDA在Host运行的函数库包括了开发库(Libraries)、运行时(Runtime)和驱动(Driver)三大部分。其中,Libraries提供了一些常见的数学和科学计算任务运算库,Runtime API提供了便捷的应用开发接口和运行期组件,开发者可以通过调用API自动管理GPU资源,而Driver API提供了一系列C函数库,能更底层、更高效地控制GPU资源,但相应的开发者需要手动管理模块编译等复杂任务。
CUDA在Device上执行的函数为内核函数(Kernel)通常用于并行计算和数据处理。在Kernel中,并行部分由K个不同的CUDA线程并行执行K次,而有别于普通的C/C++函数只有1次。每一个CUDA内核都以一个声明指定器开始,程序员通过使用内置变量__global__为每个线程提供一个唯一的全局ID。一组线程被称为CUDA块(block)。CUDA块被分组为一个网格(grid),一个内核以线程块的网格形式执行。每个CUDA块由一个流式多处理器(SM)执行,不能迁移到GPU中的其他SM,一个SM可以运行多个并发的CUDA块,取决于CUDA块所需的资源,每个内核在一个设备上执行,CUDA支持在一个设备上同时运行多个内核。
丰富而成熟的软件生态是CUDA被广泛使用的关键原因。
(1)编程语言:CUDA从最初的1.0版本仅支持C语言编程,到现在的CUDA 12.0支持C、C++、Fortran、Python等多种编程语言。此外,NVIDIA还支持了如PyCUDA、ltimesh Hybridizer、OpenACC等众多第三方工具链,不断提升开发者的使用体验。
(2)库:NVIDIA在CUDA平台上提供了名为CUDA-X的集合层,开发人员可以通过CUDA-X快速部署如cuBLA、NPP、NCCL、cuDNN、TensorRT、OpenCV等多领域常用库。
(3)其他:NVIDIA还为CUDA开发人员提供了容器部署流程简化以及集群环境扩展应用程序的工具,让应用程序更易加速,使得CUDA技术能够适用于更广泛的领域。
ROCm(Radeon Open Compute Platform)是AMD基于开源项目的GPU计算生态系统,类似于NVIDIA的CUDA。ROCm支持多种编程语言、编译器、库和工具,以加速科学计算、人工智能和机器学习等领域的应用。ROCm还支持多种加速器厂商和架构,提供了开放的可移植性和互操作性。
ROCm支持HIP(类CUDA)和OpenCL两种GPU编程模型,可实现CUDA到ROCm的迁移。最新的ROCm 5.0支持AMD Infinity Hub上的人工智能框架容器,包括TensorFlow 1.x、PyTorch 1.8、MXNet等,同时改进了ROCm库和工具的性能和稳定性,包括MIOpen、MIVisionX、rocBLAS、rocFFT、rocRAND等。
OpenCL(Open Compute Language),是面向异构系统通用并行编程、可以在多个平台和设备上运行的开放标准。OpenCL支持多种编程语言和环境,并提供丰富的工具来帮助开发和调试,可以同时利用CPU、GPU、DSP等不同类型的加速器来执行任务,并支持数据传输和同步。
此外,OpenCL支持细粒度和粗粒度并行编程模型,可根据应用需求选择合适模型提高性能和效率。而OpenCL可移植性有限,不同平台和设备的功能支持和性能表现存在一定差异,与CUDA相比缺少广泛的社区支持和成熟的生态圈。
标签:
推荐
- GPU平台生态:英伟达CUDA和AMD ROCm对比分析|全球短讯
- 全球关注:售价19.98-25.58万元 上汽大通领地汽油版正式上市
- 世界微头条丨夏日乌梁素海
- 焦点资讯:硫氰酸钠在水泥中应用_硫氰酸钠
- 每日讯息!直落三盘!西西帕斯送蛋横扫过关,跻身法网八强将战世界第一
- 心脏肥大能治愈吗_心脏肥大一般能活多久|环球讯息
- 世界快消息!机场三跑道 刷新进度条
- 220v电容电机正反转_220v电机正反转开关
- 食神粤语高清下载(食神粤语高清)_环球热议
- 粉色的好听的颜色名称_好听的颜色名称-今日热闻
- 小黄鱼干怎么做好吃又简单_小黄鱼干怎么做好吃
- 美媒:美联储调查显示越来越多美国人陷财务困境_观天下
- 环球热点评!今晚开播!又有一部仙侠剧上线,叔圈男神+童年女神开出王炸组合
- 平安抵京!重大突破!“太空出差”半年,神十五乘组完成多个“首次”
- 【环球报资讯】茅台集团旗下华贵人寿被罚超273万 董事长等责任人同步被罚
- 环球信息:山东青岛压实责任解决群众看病难
- 速递!企业邮箱比较_企业邮箱哪个比较好
- RCEP全面生效为区域经贸合作注入强劲动力
- 全球速递!神之浩劫激活码 神之浩劫激活码
- 人保寿险美满金生年金保险可靠吗?保障有哪些?_天天动态
- 伤心的海洋_伤心的海 天天最资讯
- 皮箱尺寸图片参照物(皮箱尺寸) 每日热议
- 环球头条:奇瑞混动“三大件”点亮电混科技高光时刻
- 窦固拼音(窦固)
- 思念不能相见的短句_我有相思不感言的好词好句真正属于的是不会失去 .留不住的
- 云际加速器客户端_云际加速器|天天观热点
- 三连胜!泰山队2-0轻取大连人,崔康熙带队4轮抢10分,前三有望_天天讯息
- 最美中国发现之旅(对于最美中国发现之旅简单介绍)
- 全球最新:儿童谜语大全3到6岁_儿童谜语大全6到7岁
- 中国在“世界屋脊”打造国际一流天文观测基地
- 焦点信息:windowsapp文件夹在哪_windowsapps是什么文件
- 信息:qq发光字体在线制作(qq发光字)
- 江苏:夏粮收购不得压级压价、抬级抬价
- 扁桃体发炎最怕三种水果,榴莲/荔枝/芒果一定不要吃
- 龙山:医保服务解民忧 群众致谢送锦旗|今亮点
- 英国两万名运输工人举行罢工 城市交通系统部分中断|热头条
- 视焦点讯!百亿私募半夏投资5月减仓地产股,称股票市场需要更多的耐心
- 双倍亮度+JBL原装音响,表现到底如何?快乐星球O3投影深度评测_天天精选
- 创造与魔法如何进入星域
- 泛海控股退市关键时刻,卢志强紧急出手,拟再增持5000万到1亿元|天天最资讯
- 南水北调东线惠及8359万人_世界微资讯
- 广东深圳一城中村“统租改造”惹非议 部分租客遭房东通知限期搬离
- 游戏设备网站测试《暗黑4》 PC配置要求不高
- 环球视点!国企社招和校招的区别 校招和社招的区别
- 【原】自行车,逐渐远去的记忆_精选
- iPhone home键失灵维修要多少钱_iphone home键失灵
- 我的世界给予钻石指令代码_我的世界给予钻石指令-天天视点
- 今日精选:空调用多少平方的线合适_空调用多少平方的线
- 《布莱泽奥特曼》更多海报公布,主角的武器很奇特啊!
- 今日讯!是不是pro_是不是
- 中国女排力克巴西 取得世界联赛开门红|环球看点
- 世界简讯:越秀地产(00123.HK)供股获超额认购约1.37亿股 净筹约82.99亿港元
- WTI原油突破72美元/桶,日内涨2.56%。 世界要闻
- 中控智慧考勤机密码如何设置_中控智慧考勤机密码_当前简讯
- 全球讯息:呼和浩特市纪委监委原派驻市规划局纪检组副组长、一级主任科员魏权接受纪律审查和监察调查
- 如何制作一款漂亮的的腰带 手工腰带怎么做
- 浦口永宁街道打造“宁姐服务”专窗,精准发力促就业
- 衡水枣强西杨兴村:小樱桃结出“致富果”
- 全球看点:战神3爱神剧情(战神3爱神)
- 感到压力大?同学 这5个“解压包”送给你→
- 50亿元!奥特维新能源装备研发制造基地在江苏无锡开工 焦点速讯
- 天天微动态丨初三励志唯美语录 激励初三学生拼搏语句
- iPhone 15 Pro打破小米边框记录 天天头条
- 东城新世纪星城_新世纪星城 每日消息
- 乐清城建集团30亿元私募债更新至“已反馈”|前沿热点
- 孙尚香技能连招教学_孙尚香技能
- 云南能源投资2022年融资报告
- 天天视讯!大和:下调华晨中国(01114)评级至“沽售” 目标价降至2港元
- 首个区块链技术领域国家标准发布 赋能数字经济新发展 播资讯
- 5月乘用车召回超118万辆,美系品牌超九成
- 天玛智控(688570)2023年6月5日上市,发行价格30.26元/股
- 环球实时:市医院行政后勤第一党支部开展护士节慰问活动
- 才约星城,企望有你 │ 长沙市企业开放日百名硕博生走进铁建重工
- 环球热议:金巧福铂金多少钱一克(2023年06月01日)参考价格
- 拜登出席毕业典礼被绊倒 基本情况讲解-环球观察
- 当前讯息:杭州到乌镇一日游时间表(杭州到乌镇一日游)
- 环球速讯:湖北省交通违章查询官网_湖北省交通违章查询
- 京东网官网_北斗神兵官网|天天观天下
- 麓山国际实验中学地址(麓山国际实验中学)|全球微头条
- 【环球新视野】浙能电力(600023):6月1日北向资金减持182.69万股
- 去什么存什么成语_存什么什么良成语
- 又是一年毕业季!桂林高校“送别横幅”引起网友美好回忆-每日热议
- 为什么亚马逊股价会在今年上涨?亚马逊股价2023年还会继续上涨吗? 热讯
- 环球微动态丨家用打印机哪种好喷墨还是激光(家用打印机哪种好)
- 最新资讯:为什么单个粒子无意识,一堆粒子组合成人,就产生了意识?
- 叠加套餐包是什么意思-焦点日报
- 葡萄牙和美国关系(葡萄牙vs美国)
- Arm宣布了其2024年新的Immortalis G720 GPU发布 讯息
- 当前速讯:无线路由器距离越远越慢吗_无线路由器 距离
- boylove腐味满满官网永久页 boylove腐味满满_世界快看
- 顶固集创(300749.SZ):2022年度权益分派10派1元 股权登记日6月8日
- 简单的丙烯画图片_初学者简单丙烯画图片 环球讯息
- 迎接神舟十五号航天员回家,准备就绪!|环球动态
- 环球百事通!中海地产28.3亿元摘得北京市石景山一宗住宅用地
- 怎么冻结表格前三行前三列_怎么冻结表格前三行_全球快播报
- 新版一帘幽梦演员表_一帘幽梦的演员 每日热文
- 农业农村部:研究攻克制约多收多用国产大豆面临的瓶颈问题
- 艾萨拉在哪里_艾萨拉雾菇
- 北方导航: 截至2023年5月31日,公司股东人数约为9.97万人-天天微动态
- 脑子抽风?活塞狂砸NBA史上教练最大合同,蒙蒂力压波帅成第一人 最新消息