当前位置: 网站首页 > 联系我们
联系我们
仅2毫秒!英伟达打破实时对话AI的训练和推理用时记录
时间:2019-10-09  来源:www.oaled.com

据国外媒体报道,NVIDIA已经开发了一些重要的里程碑,并打破了一些GPU增强平台的开发和运行记录,这些平台用于理解和响应请求的会话AI。

这对于基于他们的技术开发的任何人来说都很重要。包括大大小小的公司,因为Nvidia有很多开源代码来实现这些进步。这些代码是用PyTorch编写的,易于运行。

Nvidia今天宣布的最大成果包括:BERT培训打破记录并进入1小时标记。 BERT是世界上最先进的人工智能语言模型之一,被广泛认为是自然语言处理(NLP)基准的高级模型。 NVIDIA的AI平台只需53分钟即可完成模型培训。训练有素的模型可以在2毫秒内成功进行推理(10毫秒被认为是业内的高水平)。训练学到的能力以获得结果)另一条记录。

NVIDIA的这些突破不仅仅是吹嘘资本这些进步可以为任何使用NLP会话人工智能和GPU硬件的人带来实实在在的好处。 NVIDIA打破了其中一个SuperPOD系统的培训时间记录,该系统由92个运行1472个V100 GPU的NVIDIA DGX-2H系统组成;推理过程是在运行NVIDIA TensorRT的NVIDIA T4 GPU上进行的。 NVIDIA TensorRT的性能优于高度优化的CPU数量级。但是,该公司将发布BERT培训代码和TensorRT优化的BERT样本,供大家使用GitHub。

除了这些里程碑之外,NVIDIA的研究部门还建立并培训了有史以来最大的“变形金刚”语言模型。这也是BERT的技术基础。自定义模型包含多达83亿个参数,是当前最大核心BERT模型BERT-Large的24倍。 NVIDIA将该模型命名为“威震天”,该模型还提供了用于训练此模型的PyTorch代码,因此其他人可以训练类似的大型“变形金刚”语言模型。