手机浏览器扫描二维码访问
吴财满脸好奇,追问道:“芯片的问题都解决了,难道还有其他难题?”
叶老微微叹了口气,神色中带着几分忧虑:“还不是算力的问题嘛!
就说咱们的GPU制造,和星耀相比,差距还很大。
鹰尾巴的幻光100芯片,拥有800亿晶体管,80GB显存,带宽高达3TBs,专为超大数据、超复杂的计算任务设计,像AI训练、大规模计算、气候模拟这些,它都能轻松应对。
反观咱们国产的GPU,明月的辉光9系列,性能大概只和鹰尾巴幻光1050相当,橘子的耀光910B算力勉强能和鹰尾巴的幻影100较量一下,可跟幻光100比起来,尤其是在显存和带宽上,差距就太明显了,耀光910B的带宽只有56GBs。
不仅如此,芯片之间的互联技术上,幻光100支持高效的多GPU协作,能让多个芯片同时工作,效率能提升好几倍,国产GPU在这方面技术差得远,带宽低,芯片间协作能力不行,想做高效并行计算,难如登天。”
吴财若有所思地点点头,又问道:“你说的是AI领域吗?”
叶老肯定地点点头:“没错,就是AI。
虽说在工业生产和应用领域,咱们国家的AI技术比山鹰国领先,像国内很多工厂引入AI实现生产流程自动化,提升了生产效率和产品质量,港口利用AI优化货物装卸和运输调度,提高了运营效率。
但在生成式AI方面,因为算力不足,和山鹰国还是有不小的差距。
像训练山鹰目前最强那种超大规模的语言模型,需要大量的GPU算力支持,才能完成海量数据的处理和复杂模型的训练,从而实现自然语言处理、文本生成、对话交互等强大功能。
咱们由于算力受限,在训练同等规模和复杂度的模型时,就会面临效率低、成本高,甚至难以实现的问题,这就导致生成式AI的发展受到制约。”
吴财皱眉问道:“既然我们的算力受限,为什么不多弄点GPU堆呢?”
叶老无奈地摇了摇头,说道:“吴财啊,你这话说起来简单,可实际操作起来,那成本高得超乎想象。
就说要赶超山鹰目前最强大语言模型CGT吧,咱们先从算力需求来讲。”
“CGT训练所使用的算力是极其庞大的。据估算,它训练一次的算力消耗,大概需要数百万个鹰尾巴的幻影100运行数周时间。咱们就算找到性能相当的国产GPU来替代,成本也低不了。
以鹰尾巴的幻影100为例,一颗市场价格大概在1万刀左右,这还不算配套的服务器、散热设备等周边硬件成本。”
“假设我们要搭建一个算力集群来追赶CGT的训练水平,保守估计需要500万个GPU。
光GPU采购成本就得500亿刀,这还只是硬件的基础投入。”
“除了硬件,还有运行成本。这些GPU需要24小时不间断运行,电力消耗就是天文数字。
按照一个GPU一天消耗3度电来算,500万个GPU一天就需要1500万度电。以工业用电每度1元来计算,一天的电费就是1500万元,一年下来电费就得54.75亿元。
而且,数据中心的维护、管理,专业技术人员的薪酬等,每年又是一笔巨额开支,至少几十亿。”
“另外,训练过程中,为了保证数据的准确性和多样性,还需要购买和处理海量的数据,数据的采集、清洗、标注等环节,又得花费大量资金,至少数十亿甚至上百亿美元。
这样算下来,从硬件采购到运行维护,再到数据处理等一系列环节,想要达到赶超CGT的算力水平,前期投入至少得1000亿刀以上,每年的持续运营成本也得几百亿刀。”
皇后卷哭了整个后宫 快穿:少绾的三千界之旅 迷途:狂热庄园 我在异界开镖局 长相思:防风公子,你掉马了 游戏王之巅峰决斗者 幻灵风云天帝录 穿到荒年:继母彪悍的一塌糊涂 小娇妻一胎双宝,陆爷夜夜哄! 如懿传:奴颜媚骨 凡人修仙:我能穿梭万界 重生做渣男一个校花真不够 七零,糙汉被作精媳妇撩翻了! 异香美人在九零 出来混讲背景?我的背景是国家! 准备养老,摸金校尉身份被曝光? 人妖魔同体,偏偏我要去修仙 与幻想乡少女的日常 七零军婚:硬汉就得硬撩 镜中无境
身为富家女,庄典典却在网上卖起了小套套!一次送货上门居然送到了校草男神手里,这才知道男神用的是大号!他说,你卖的东西质量不合格,我需要售后服务。庄典典怒了,哪不合格了?老子的产品远销海内外...
九叠琴音震寰宇,谁敢闻言不识君?七色魔法代等级,雄雄揭大幕。琴之帝王,给这片大陆带来翻天覆地的改革。伴随着旷古绝今的赤子琴心的出现,一代琴魔法师,在碧空海之中悄然诞生。这将是一个单纯的少年,逐渐成为琴中帝王的故事,开创音乐魔法的先河,颠覆以往的设定,赤橙黄绿青蓝紫,彩虹等级将成为所有武技和魔法衡量的标准。原本仅仅是...
脆皮大学生李友仁玩着一款生存游戏时,一道绿光在头顶浮现,刺眼的绿光让李友仁闭紧双眼,感受到刺眼的光芒消失,李友仁已经来到了1958年。李友仁在这红火的年代面对历史的浪潮,他会如何过好自己的小日子呢。...
...
我本他乡客,无意成仙。深山修道二十年,师父让宋游下山,去见识妖魔鬼怪,人生百态,去寻访名山大川,传说中的仙,说那才是真正的修行。没有想到,走遍大江南北,仙人竟是我自己。...
前世,真千金盛敏敏刚出生被恶意调包,过了12年牲口般的农女生活。12岁被接回盛府,亲生父母,3个嫡亲的哥哥无条件地偏宠假千金,最后盛敏敏跟自己刚出生的孩子被假千金活活烧死。今生,盛敏敏与亲生母亲互换身体,她决定以母亲的身份整死假千金,3个哥哥跟所有仇人盛敏敏心情不爽逆子,逆女,跪下!扑通几...