手机浏览器扫描二维码访问
吴财满脸好奇,追问道:“芯片的问题都解决了,难道还有其他难题?”
叶老微微叹了口气,神色中带着几分忧虑:“还不是算力的问题嘛!
就说咱们的GPU制造,和星耀相比,差距还很大。
鹰尾巴的幻光100芯片,拥有800亿晶体管,80GB显存,带宽高达3TBs,专为超大数据、超复杂的计算任务设计,像AI训练、大规模计算、气候模拟这些,它都能轻松应对。
反观咱们国产的GPU,明月的辉光9系列,性能大概只和鹰尾巴幻光1050相当,橘子的耀光910B算力勉强能和鹰尾巴的幻影100较量一下,可跟幻光100比起来,尤其是在显存和带宽上,差距就太明显了,耀光910B的带宽只有56GBs。
不仅如此,芯片之间的互联技术上,幻光100支持高效的多GPU协作,能让多个芯片同时工作,效率能提升好几倍,国产GPU在这方面技术差得远,带宽低,芯片间协作能力不行,想做高效并行计算,难如登天。”
吴财若有所思地点点头,又问道:“你说的是AI领域吗?”
叶老肯定地点点头:“没错,就是AI。
虽说在工业生产和应用领域,咱们国家的AI技术比山鹰国领先,像国内很多工厂引入AI实现生产流程自动化,提升了生产效率和产品质量,港口利用AI优化货物装卸和运输调度,提高了运营效率。
但在生成式AI方面,因为算力不足,和山鹰国还是有不小的差距。
像训练山鹰目前最强那种超大规模的语言模型,需要大量的GPU算力支持,才能完成海量数据的处理和复杂模型的训练,从而实现自然语言处理、文本生成、对话交互等强大功能。
咱们由于算力受限,在训练同等规模和复杂度的模型时,就会面临效率低、成本高,甚至难以实现的问题,这就导致生成式AI的发展受到制约。”
吴财皱眉问道:“既然我们的算力受限,为什么不多弄点GPU堆呢?”
叶老无奈地摇了摇头,说道:“吴财啊,你这话说起来简单,可实际操作起来,那成本高得超乎想象。
就说要赶超山鹰目前最强大语言模型CGT吧,咱们先从算力需求来讲。”
“CGT训练所使用的算力是极其庞大的。据估算,它训练一次的算力消耗,大概需要数百万个鹰尾巴的幻影100运行数周时间。咱们就算找到性能相当的国产GPU来替代,成本也低不了。
以鹰尾巴的幻影100为例,一颗市场价格大概在1万刀左右,这还不算配套的服务器、散热设备等周边硬件成本。”
“假设我们要搭建一个算力集群来追赶CGT的训练水平,保守估计需要500万个GPU。
光GPU采购成本就得500亿刀,这还只是硬件的基础投入。”
“除了硬件,还有运行成本。这些GPU需要24小时不间断运行,电力消耗就是天文数字。
按照一个GPU一天消耗3度电来算,500万个GPU一天就需要1500万度电。以工业用电每度1元来计算,一天的电费就是1500万元,一年下来电费就得54.75亿元。
而且,数据中心的维护、管理,专业技术人员的薪酬等,每年又是一笔巨额开支,至少几十亿。”
“另外,训练过程中,为了保证数据的准确性和多样性,还需要购买和处理海量的数据,数据的采集、清洗、标注等环节,又得花费大量资金,至少数十亿甚至上百亿美元。
这样算下来,从硬件采购到运行维护,再到数据处理等一系列环节,想要达到赶超CGT的算力水平,前期投入至少得1000亿刀以上,每年的持续运营成本也得几百亿刀。”
黑化宿主攻略计划 重生:我的刺猬女孩 超神感应 蜡笔小新里的悠闲人生 我妹妹在万界氪命 我只是个穿越者 暗质侵袭 鸿蒙九幽诀 这个上单不按套路出牌 洪荒:我能切割万物 穿书后我成了总裁的朱砂痣 沈总的娇妻她太撩人 带个皇宫去末世 我有横刀伴酒 我与师祖相差1300年 快穿:逍遥路人甲 满级大佬成了炮灰女配 KPL究极野王 谁也别阻止我苟 金手指粉碎机
关于秦总女纨绔要不要昔日第一女纨绔,穿成被养女鸠占鹊巢赶出家门的落魄千金。爸妈不喜,亲哥厌恶,未来还会被男朋友割肾放血。叶雨桐,我的钱一分都不给你。叶雨桐,你脱光了站到我面前我都不看你一眼...
我今天突然间发现这个世界的真相和危险。牧离一脸严肃的推了推柯南版同款反光眼睛,在电脑上敲出了一行字。这一次我亲眼目睹了骑士与骑士间的战斗,奥特曼与怪兽的出现,机甲与怪物的乱斗的故事???哈?前几天刚聊完说外星人入侵被你轻松解决,今天你就又目睹了这么多荒诞和幻想的东西?还是说你的中二病晚癌又发作了?中二且任性的救世主先生?看了眼聊天框的回答,牧离侧头瞥了瞥在房间里到处乱飞的名为‘系统’的金手指,眼里有着微妙之色。少女呦,这次是来真的啊!!!我真的要成为救世主啦!如果您喜欢中二病的我要拯救世界,别忘记分享给朋友...
听过那句话吗?日出东海落西山,愁也一天,喜也一天。遇事不钻牛角尖,人也舒坦,心也舒坦。别胡思乱想了,好好过日子。如果您喜欢我比队友跑得快,别忘记分享给朋友...
家里的桂花树成精了!带着意外身亡的梅梦珍回到了2007年。看着父母留下的3200块钱,梅梦珍决定带着弟弟摆脱贫穷。人家都说大隐隐于市,那她就小隐隐于菜市场。本想利用空间赚点生活费,谁知这个生活费渐渐地有些不受她的控制啊!本文事业主线,cp副线已有完结文重生之年代纪事重生之倩女纪事更新有保障,欢迎入坑。如果您喜欢重生后我靠种田逆袭了,别忘记分享给朋友...
玄学大佬谢斐重生了,重生在一档综艺节目的录制现场,然后他就发现了这个综艺节目并不一般。去的是有红衣女鬼的城堡,吞噬正统神灵的村落,连通地府的陵墓嘉宾则连环杀人犯,把孩子炼成小鬼求气...
2003年夏季,巴西新星卡卡低调地踏进米兰城葡萄牙小将克里斯蒂亚诺罗纳尔多背着争议飞到曼彻斯特默默无闻的梅西在拉玛西亚抬头仰视着刚加盟的超级巨星罗纳尔迪尼奥在荷兰一家默默无闻的小球队里,有个即将惨遭淘汰的废物却在憧憬着成为世界顶级巨星,在欧洲足坛掀起一股超级锋暴。书友群908223342,欢迎书友们入群,验证时请填写书名,谢谢!...