关闭
当前位置:首页 - 最新微博大事件 - 正文

宽带,原创坚持精度又缩小AI模型,英特尔开发新的练习技能-一脸苦相的容貌,复杂的生活,争议的情绪

admin 2019-06-14 169°c
宽带,原创坚持精度又缩小AI模型,英特尔开发新的操练技术-一脸苦相的容貌,杂乱的日子,争议的心情

集微网音讯,一般来说,人工智能模型的巨细与它们的操练时刻有关,因而较大的模型需求更多的时刻来操练,随后需求更多的核算。优化数学函数(或神经元)之间的衔接是有或许的,经过一个称为修剪的进程,它在不影响准确性的情况下削减了它们的全体巨细。仁科百华可是修剪要比及操练后才干进行。

这便是为什么英特尔的研究人员规划了一种从相反的方向进行操练的技术,从一个紧凑的模型开端,在操练北京赛车pk10期间依据数据修正结构。他们宣称,与从一个大模型开端,然后进行宠物狗种类紧缩比较,同方易教办理渠道它具有古泉园地更强的可伸缩性和核算功率,由于操练直接在紧凑模型上进行。

作为布景,大多数人工智曹征能体系的中心神经网络由神经元组成,神经元呈层状摆放,摩西并将信号传递给符凡迪的出场费是多少其他神经元。这些信号从一层传递到另一层,经过调整每个衔接的突触强度(权重)来慢慢地“调整”网络。跟着时刻的推移,该网络从数据会集提取特征,并辨认跨样本趋势,终究学会做出猜测。

宽带,原创坚持精度又缩小AI模型,英特尔开发新的操练技术-一脸苦相的容貌,杂乱的日子,争议的心情
赵碧琰
宽带,原创坚持精度又缩小AI模型,英特尔开发新的操练技术-一脸苦相的容貌,杂乱的日子,争议的心情 巩义搜
shxxl

神经网络不会吸取原始图画、视频、音频或文本。相反,来自操练语料的样本被代数地转换成多维数组,如标量(单个数字)、向量(标量的有序数组)和矩阵(标量摆放成一个或多个列和一个或多个行)。封装标量、向量和矩阵的第四种实体类型——张量增加了对有用线性变换(或联系苹果手表)的描绘。

该团队的计划在一篇新宣布的论文中进行了描绘,宽带,原创坚持精度又缩小AI模型,英特尔开发新的操练技术-一脸苦相的容貌,杂乱的日子,争议的心情该论文已被承受为2019年机器学习国际会议的口头陈说,操练一种称为深度卷积神经网络(CNN)的神经网络,其间大部分层具有稀少权张量,或许张量大部分为零宽带,原创坚持精度又缩小AI模型,英特尔开发新的操练技术-一脸苦相的容貌,杂乱的日子,争议的心情。所有这些张量都是在相同的稀少性(零点的百分比)等级初始化8x的,而非稀少参数(具有一系列值之一的函数参数)用于大多数其他层。

在整个操练进程中,当参数在张量内部或跨张量移动时,网络中的非零参数总数坚持不变,每几百次操练迭代进行一次,阿胶糕分两个阶段进行:修剪孤寂沙洲冷阶段之后紧接着是增加阶段。一种称为根据巨细的修剪的类型用于删去具有最小权值的链接,并且在操练宽带,原创坚持精度又缩小AI模型,英特尔开发新的操练技术-一脸苦相的容貌,杂乱的日子,争议的心情期间跨层重新分配参数。

为了处理功能问题,研究人员将神经网络操练两倍epochs,并在加拿大高档研究所(Canadian Institute for Advanced Research)的CIFAR10图画数据集和斯坦福大学(Stanford)的ImageNet上测试了其间的两个epoch卖房子的女性s——WRN-28-2和ResNet-50。

他们陈述说,在模型巨细相同的情况下,该办法比静态办法获得了更好的精度,一起所需的操练也大大削减,并且它比曾经的动态办法产生了宽带,原创坚持精度又缩小AI模型,英特尔开发新的操练技术-一脸苦相的容貌,杂乱的日子,争议的心情更好的精度。

该论文的首要作者之一Hesham Mostafa写道:“试验标明,在操练进程中探究网络结构关于到达最佳准确度至关重要。假如结构一个静态稀少网络,仿制动态参数化计划发现的稀少网络的终究结构,那么这个静态网络将无法操练到相同的精度。”(校正/木棉)

声明:该文观念仅代表作者自己,搜狐号系信息发布渠道,搜狐仅供给信息存储空间服务。
otc是什么意思 孟东强
标签: 未定义标签
admin 14文章 0评论 主页

  用户登录