阿里达摩院提出“AI双脑思考”方式 推理速度可提升3倍

　　DoNews6月19日消息(记者 翟继茹)19日，阿里巴巴称，有7篇论文入选人工智能国际会议ICML 2020论文收录结果。据了解，ICML是全球机器学习顶级学术会议之一，接受率为21.8%。

　　据ICML官网显示，阿里7篇论文涵盖图像识别、自然语言处理、搜索推荐等领域。在《Boosting Deep Neural Network Efficiency with Dual-Module Inference》中，提出了一种全新的AI推理方法，可减少AI对计算和内存资源的消耗，能将推理速度提升3倍。

　　阿里巴巴达摩院介绍，其设计了一种 “AI双脑思考”的方法，能让大型神经网络像人类一样学会“快思考”与“慢思考”，从而进行高效且准确的推理过程。这一思考方法被称为“双模推理”，即将一个复杂任务拆分成两个任务，例如在复杂AI推理任务过程中，可以先以很小的资源运行“小网络”，同时分析哪些网络的区域较为敏感，然后只对敏感区域在“大网络”中运行计算。

　　实际效果显示，该方法能在保证模型精度的基础上，在语言模型上减小40%的访存，达到1.54倍-1.75倍的性能提升，同时可以在仅损耗0.5%精度基础上，提升3倍的推理速度。