网站群发推广软件,吴江公司网站建设电话,建站的步骤有哪些,百度一下搜索网页在NPU/GPU上进行模型训练计算#xff0c;为了充分使用计算资源#xff0c;一般采用批量数据处理方式#xff0c;因此一般情况下为提升整体吞吐率#xff0c;batch值会设置的比较大#xff0c;常见的batch数为256/512#xff0c;这样一来#xff0c;对数据预处理处理速度…在NPU/GPU上进行模型训练计算为了充分使用计算资源一般采用批量数据处理方式因此一般情况下为提升整体吞吐率batch值会设置的比较大常见的batch数为256/512这样一来对数据预处理处理速度要求就会比较高。对于AI框架来说常见的应对方式是采用多个CPU进程并发处理比如PyTorch框架的torchvision就支持多进程并发使用多个CPU进程来进行数据预处理以满足与NPU/GPU的计算流水并行处理。 然而随着NPU算力和性能的倍速提升host CPU数据预处理过程逐渐成为性能瓶颈。模型端到端训练时间会因为数据预处理的瓶颈而拉长这种情况下如何解决性能瓶颈提升端到端模型执行性能呢
下面来看一个torchvision的预处理过程
# Data loading codetraindir os.path.join(args.data, train)
normalize transforms.Normalize(mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225])train_dataset datasets.ImageFolder(traindir,transforms.Compose([transforms.RandomResizedCrop(224),transforms.RandomHorizontalFlip(),transforms.ToTensor(),normalize,])) 大家是不是对这些接口功能很熟悉实际上NPU上的DVPP也能进行类似处理诸如图片解码、图片缩放、翻转处理等。DVPP是NPU上专门用于数据预处理的模块跟NN计算是完全独立的。那么如何让DVPP接管torchvision的预处理逻辑呢很简单两行代码轻松搞定 import torchvision_npu # 导入torchvision_npu包# Data loading codetraindir os.path.join(args.data, train)normalize transforms.Normalize(mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225])torchvision_npu.set_image_backend(npu) # 设置图像处理后端为nputrain_dataset datasets.ImageFolder(traindir,transforms.Compose([transforms.RandomResizedCrop(224),transforms.RandomHorizontalFlip(),transforms.ToTensor(),normalize,])) 是不是很方便AI算法工程师不需要修改torchvision的处理流程不需要了解DVPP接口实现也不需要去写C/C代码而这些全都是torchvision_npu的功劳。torchvision_npu中重新实现了functional.py在每个预处理接口中判断如果是npu类型的数据则走npu的处理逻辑 if img.device.type npu:_assert_image_npu(img)return F_npu.resize(img, sizesize, interpolationinterpolation.value)
functional_npu.py内部调用npu的resize算子进行处理接着通过AscendCL接口调用DVPP硬件处理
return torch.ops.torchvision.npu_resize(img, sizesizes, modemode)
return torch.ops.torchvision.npu_resize(img, sizesizes, modemode) 下面来看下替换之后的性能如何。以ImageNet中最常见的分辨率375*500的jpeg图片为例CPU上执行预处理操作需要6.801ms 使用DVPP不但能加速数据预处理还能异步执行host下发任务和device任务整个流程只需要2.25ms单张图片处理节省了60%的时间。 在ResNet50训练过程中512batch数据处理只需要1.152 s预处理多进程处理场景下性能优势更加明显。 基于Atlas 800T A2 训练服务器ResNet50使用DVPP加速数据预处理单P只需要6个预处理进程即可把NPU的算力跑满而使用CPU预处理则需要12个预处理进程才能达到相应的效果大大减少了对host CPU的性能依赖。
典型网络场景基于Atlas 800T A2 训练服务器在CPU预处理成为性能瓶颈的情况下使用DVPP预处理加速即可获得整网训练速度显著提升其中ShuffleNetV2整网性能提升25%MobileNetV1提升38%。 预处理使用独立的硬件加速器DVPP加速可以有效降低对Host CPU的依赖避免CPU性能受限导致NPU性能无法发挥。同时使用NPU上独立的DVPP硬件加速器进行预处理可以与NN并行处理互不影响数据在device内可以自闭环。DVPP预处理加速是在训练场景下的第一次使能补齐了NPU训练预处理性能短板。
昇腾CANN内置的预处理算子是比较丰富的后续在继续丰富torchvision预处理算子库的同时也会进一步提升预处理算子的下发和执行流程让流水处理的更好减少数据处理的时间持续提升昇腾CANN的产品竞争力满足更广泛的业务场景诉求。
