手机版
你好,游客 登录 注册
背景:
阅读新闻

PyTorch 1.3 发布,张量,8位模型量化和PyTorch Mobile

[日期:2019-10-13] 来源:Linux公社  作者:醉落红尘 [字体: ]

在10日的PyTorch开发者大会上,Facebook宣布发布PyTorch 1.3。此版本具有三个实验功能:张量,8位模型量化和PyTorch Mobile。除了这些令人兴奋的功能,Facebook还宣布了Google Cloud TPU支持的全面可用性以及与阿里云的最新整合。

PyTorch 1.3 发布,张量,8位模型量化和PyTorch Mobile

PyTorch 1.3中的主要更新

命名张量以获取更易读和可维护的代码

尽管张量是现代机器学习的基础,但研究人员认为它们是“残破的”。张量有其自身的缺点:它们公开了私有维度,基于绝对位置进行广播,并将类型信息保留在文档中。

PyTorch 1.3试图通过引入对命名张量的实验支持来解决此问题,这是康奈尔技术学院副教授Sasha Rush提出的。他建立了一个名为NamedTensor的库,用作Torch张量上的“thin-wrapper”。

此更新对API进行了一些更改。现在,维度访问和缩小使用“ dim”参数代替索引。构造和添加尺寸需要一个“name”参数。现在,功能是基于集合操作而不是启发式排序规则进行广播的。

针对移动设备优化的AI的8 bit模型量化

深度学习中的量化是通过使用较低精度数字格式的神经网络来近似使用32位浮点数的神经网络的方法。它用于减少带宽并计算深度学习模型的需求。对于内存大小和计算数量有限的设备上应用程序,这是至关重要的。

PyTorch 1.3通过渴望的模式Python API带来了对8位模型量化的实验支持,可在服务器和边缘设备上进行有效部署。此功能包括训练后量化,动态量化和量化感知训练等技术。从32位转换为8位可以使计算速度提高2到4倍,而内存使用量只有四分之一。

PyTorch Mobile可实现更高效的设备上机器学习

直接在边缘设备上运行机器学习模型非常重要,因为它可以减少延迟。这就是PyTorch 1.3引入PyTorch Mobile的原因,PyTorch Mobile支持“从Python到在iOS和Android上部署的端到端工作流”。

当前版本是实验性的。在未来的发行版中,我们可以预期PyTorch Mobile将具有构建级优化,选择性编译,对QNNPACK量化内核库和ARM CPU的支持,进一步的性能改进等。

PyTorch 1.3中的模型可解释性和隐私工具

Captum 和 Captum Insights

Captum是PyTorch易于使用的模型可解释性库。它具有最新的可解释性算法(例如,集成梯度,DeepLIFT和Conductance)的支持,以帮助开发人员改进和排除模型故障。开发人员可以识别有助于模型输出并改进其设计的不同功能。

Facebook还发布了Captum Insights的早期版本。它是建立在Captum之上的可解释性可视化窗口小部件。它适用于图像,文本和其他功能,以帮助用户了解功能归因。

查看Facebook的公告,以了解有关Captum的更多信息。

加密货币

通过基于云的平台进行的机器学习带来了各种安全和隐私挑战。 Facebook写道:“特别是,这些平台的用户可能不希望或无法共享未加密的数据,这使他们无法充分利用ML工具。” PyTorch 1.3附带CrypTen,这是一种用于保护隐私的机器学习框架。它旨在使机器学习从业人员可以使用安全的计算技术。

您可以在GitHub上找到有关CrypTen的更多信息。

多模式AI系统的库

  • Detectron2:这是在PyTorch中实现的对象检测库。 它具有对最新模型和任务的支持,并具有增加的灵活性以辅助计算机视觉研究。 为了支持生产用例,可维护性和可伸缩性也得到了改进。
  • Fairseq获得了语音扩展:在此版本中,Fairseq是用于语言翻译等序列到序列应用程序的框架,其中包括对语音和音频识别任务的端到端学习的支持。

以上是PyTorch 1.3中的一些更新。你可以查看Facebook的官方公告以了解更多信息。

Linux公社的RSS地址https://www.linuxidc.com/rssFeed.aspx

本文永久更新链接地址https://www.linuxidc.com/Linux/2019-10/160995.htm

linux
相关资讯       pytorch  PyTorch 1.3 
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数

       

评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款