亞馬遜AWS推出機器學習定制芯片 明年上半年面世
12月2日資訊,據(jù)Techcrunch今日報道,在年度re:Invent開發(fā)者大會上,亞馬遜AWS宣告推出AWSTrainium,這是該公司專門用于訓練機器學習模型的下一代定制芯片。這些新芯片將于2021年上半年在AWS云中首次亮相。
亞馬遜許諾,它可以供給比云端任何競爭對手更高的性能,支撐TensorFlow、PyTorch和MXNet。AWS許諾,與尺度的AWSGPU實例相比,其吞吐量進步了30%,單位成本下降了45%。它將作為EC2實例和該公司的機器學習平臺AmazonSageMaker內(nèi)部供給。
此外,AWS還與英特爾合作,推出基于HabanaGaudi的EC2實例,用于機器學習訓練。AWS許諾,與當前一套基于GPU的機器學習EC2實例相比,性價比更高可進步40%。這兩款新產(chǎn)品是對AWSInferentia的彌補,該公司在去年的re:Invent上推出了該產(chǎn)品。Inferentia是與這些機器學習作品相對應的推理產(chǎn)品,它也應用了定制芯片。
據(jù)悉,借助其定制的Inferentia芯片,亞馬遜AWS減少了對以前應用的NVIDIA圖形處置器的依附。亞馬遜近期表現(xiàn),它已將大部分處置工作從其個人助理Alexa轉(zhuǎn)移到了自己定制設計的專用集成電路(ASIC)芯片上,目標是使所有工作更快,更廉價,然后改良盤算機的性能。
亞馬遜開發(fā)人員SebastienStormacq在博客文章中寫道,將AWSInferentia用于某些Alexa技巧可將延遲時光縮短25%,成本估量廉價30%。
特別聲明:以上文章內(nèi)容僅代表作者本人觀點,不代表ESG跨境電商觀點或立場。如有關于作品內(nèi)容、版權或其它問題請于作品發(fā)表后的30日內(nèi)與ESG跨境電商聯(lián)系。
二維碼加載中...
使用微信掃一掃登錄
使用賬號密碼登錄
平臺顧問
微信掃一掃
馬上聯(lián)系在線顧問
小程序
ESG跨境小程序
手機入駐更便捷
返回頂部