第497章 算力榨干(3 / 3)

没钱又任性 / 著

第五小说网 https://www.di15.cc,最快更新 重生08,豆包成了我的外挂最新章节!

夏冬的手指在桌面上轻轻敲击着,发出有节奏的哒哒声。

“陈默,泽明,你们有没有想过,”夏冬终于开口了,目光扫过两位技术大拿,“为什么我们堆了那么多顶配的CPU,算力依然捉襟见肘?我们的算法,到底在让这些CPU干什么活?”

陈默皱着眉头想了想:“主要就是神经网络的层级计算,里面全是大规模的矩阵乘法。”

“对,问题就出在这里。”

夏冬停止敲击桌面,“CPU的架构设计初衷是什么?是处理复杂的控制逻辑,它里面有大量的分支预测、指令调度单元。”

“打个比方,CPU就像是一个精通微积分的大学老教授。你让他解多复杂的数学题他都会。”

为了让非纯技术的苏晚晴也能听懂,夏冬顿了顿,摊开双手继续说道:“但是,我们推荐算法需要的,是极其海量、极其枯燥的简单矩阵乘法。”

“这等于你雇了一万个大学老教授,每天让他们坐在办公室里算一加一等于几。”

陈默和吴泽明愣了一下。

“他们能算,”夏冬一针见血地指出,“但是效率极低,而且成本高得离谱。大炮打蚊子,从根源上就错了。”

两位顶尖的技术大拿对视了一眼,脑子里仿佛劈过一道闪电。

陈默喃喃自语:“所以……通用的CPU,从硬件物理架构上就不适合跑我们的算法?”

“没错。”夏冬顺势抛出一个引导性的问题,“既然一个精通微积分的老教授算得慢,那我们找一万个只会算乘法的小学生来并行计算呢?”

“我们需要的是高并发、低逻辑复杂度、海量的浮点运算单元……”

吴泽明推了推眼镜,眉头微皱,大脑在疯狂检索现有的硬件架构:“夏冬,你说的这种硬件特征,听起来怎么那么像电脑里的显卡?”

“确切地说,是GPU。”夏冬打了个响指,“泽明抓住了盲点。”

夏冬表情淡定,内心其实正在快速梳理之前用豆包查阅的资料。

早在2007年,英伟达就推出了CUDA架构,让GPU不仅仅能打游戏渲染图像,还能进行通用计算。

现在这个时间节点,多伦多大学的Hinton团队、斯坦福大学的吴恩达,其实已经开始尝试用GPU加速神经网络训练了。

效率足足比CPU高出了几十倍。

到了2011年,吴恩达更是用12块GPU,生生跑出了相当于2000个CPU的深度学习算力。

这就是降维打击。

相关阅读: 港综:想当律师的我成了大佬国舅难当,这一世我只想躺平盖楼求生,全公司女同事求我带飞萌宝来袭:潇洒妈咪要嫁人武道洞玄说卡牌序列弱?我暗黑界杀穿废土偷我作品?我一首新歌震惊全场!甩了偏执前任后被迫回来哄夫建国初期:我造战斗机过鸭江!开局强吻绝美鬼帝,我无敌了

相关推荐: 混沌天帝诀凌峰一夕千悟,从杂役弟子开始领主求生:从残破小院开始攻略凌峰小说半岛小行星我的诡异人生模拟器一念吞天凌峰苏琳修仙:从提升灵根资质开始混沌天帝诀至尊魔瞳凌峰苏琳我以奥术登临神座重回1982小渔村影视剧中的王牌特工玄鉴仙族重燃青葱时代影视:开局获得阿尔法狗全球觉醒:开局加入聊天群宅魔女武装魔女我是如何当神豪的原神,长枪依旧奶爸学园第四天灾从不相信钢铁洪流!被夺一切后我成了仙道魁首白手起家,蝙蝠侠干碎我的致富梦

本站所有小说为转载作品,所有章节均由网友上传,转载至本站只是为了宣传本书让更多读者欣赏。
Copyright © 2021 第五小说网 All Rights Reserved.
简体版 · 繁體版