12月2日消息,據Techcrunch今日報道,在年度re:Invent開發者大會上,亞馬遜AWS宣布推出AWSTrainium,這是該公司專門用于訓練機器學習模型的下一代定制芯片。這些新芯片將于2021年上
亞馬遜承諾,它可以提供比云端任何競爭對手更高的性能,支持TensorFlow、PyTorch和MXNet。AWS承諾,與標準的AWSGPU實例相比,其吞吐量提高了30%,單位成本降低了45%。它將作為EC2實例和該公司的機器學習平臺AmazonSageMaker內部提供。
此外,AWS還與英特爾合作,推出基于HabanaGaudi的EC2實例,用于機器學習訓練。AWS承諾,與當前一套基于GPU的機器學習EC2實例相比,性價比最高可提高40%。
這兩款新產品是對AWSInferentia的補充,該公司在去年的re:Invent上推出了該產品。Inferentia是與這些機器學習作品相對應的推理產品,它也使用了定制芯片。據悉,借助其定制的Inferentia芯片,亞馬遜AWS減少了對以前使用的NVIDIA圖形處理器的依賴。亞馬遜近期表示,它已將大部分處理工作從其個人助理Alexa轉移到了自己定制設計的專用集成電路(ASIC)芯片上,目的是使所有工作更快,更便宜,然后改善計算機的性能。
亞馬遜開發人員SebastienStormacq在博客文章中寫道,將AWSInferentia用于某些Alexa技能可將延遲時間縮短25%,成本估計便宜30%。
特別聲明:以上文章內容僅代表作者本人觀點,不代表ESG跨境電商觀點或立場。如有關于作品內容、版權或其它問題請于作品發表后的30日內與ESG跨境電商聯系。
平臺顧問
微信掃一掃
馬上聯系在線顧問
小程序
ESG跨境小程序
手機入駐更便捷
返回頂部