大家好,今天小编为大家分享关于方舟gg修改器免root版本_gg修改器方舟生存进化手游的内容,赶快来一起来看看吧。
没有乘法的神经网络,你敢想象吗?无论是单个神经元的运算还是卷积运算,都不可避免地要使用乘法。
然而乘法对硬件资源的消耗远大于加法。如果不用乘法,全部改用加法应该可以让运算速度大大提升。
去年年底,来自北京大学、华为诺亚方舟实验室、鹏城实验室的研究人员将这一想法付诸实践,他们提出了一种只用加法的神经网络AdderNet(加法器网络)。一作是华为诺亚方舟实习生,正在北大读博三。
如今,这篇文章已经被CVPR 2020收录(Oral),官方也在GitHub上开放了源代码。有兴趣的同学不妨前往一试究竟。
加法器网络的核心在于:用L1距离代替欧氏距离。
L1距离是求两点之间坐标差值的绝对值之和,因此全程不涉及乘法。
在这种新的定义下,反向传播中用到的求偏导数运算也变成了求减法。梯度下降的优化过程也被叫做符号SGD(signSGD)。
在加法器网络的新定义下,特征向量的空间分布也和CNN有很大的不同。
那么AdderNet的实际效果如何呢?
在CIFAR-10的图像分类任务中,AdderNet相比当初Bengio等人提出的加法神经网络BNN性能有大幅提升,并且已经接近了传统CNN的结果。
官方的AdderNet基于Python3和PyTorch。
先按照PyTorch的官方文档准备ImageNet数据集,运行程序评估它在验证集上的效果:
python test.py —data_dir ’path/to/imagenet_root/’
AdderNet可以在ImageNet数据集上达到74.9%的Top-1准确度和91.7%的Top-5准确度。
或者将CIFAR-10数据集下载到本地,测试一下它在CIFAR-10上的效果
python test.py —dataset cifar10 —model_dir models/ResNet20-AdderNet.pth —data_dir ’path/to/cifar10_root/’
不过AdderNet仍需自己训练,官方表示将很快发布预训练模型。
现阶段的AdderNet并非没有缺陷,作者在项目主页中说,由于AdderNet是用加法过滤器实现的,因此推理速度较慢,需要用CUDA编写才能提高速度。
这与作者希望提高神经网络运算速度的初衷还有一段距离。
但这篇论文的作者表示,今后还会继续加法器神经网络的研究,发表更多的成果,让我们一起期待这项研究取得新的进展吧。
AdderNet这篇文章的一作名叫陈汉亭,毕业于同济大学数学系,现在在北京大学信息科学技术学院攻读博士学位,同时在华为诺亚方舟实验室实习。
在硕博连读的前三年中,他已经以一作身份发表了5篇论文,其中一篇《Data-Free Learning of Student Networks》被ICCV 2019收录,另外它参与多篇论文还被NeurIPS、IJCAI、ICML等顶会收录。
源代码:https:///huawei-noah/AdderNet
论文地址:https://arxiv.org/abs/1912.13200
— 完 —
量子位 QbitAI · 头条号签约
关注我们,第一时间获知前沿科技动态
以上就是关于方舟gg修改器免root版本_gg修改器方舟生存进化手游的全部内容,感谢大家的浏览观看,如果你喜欢本站的文章可以CTRL+D收藏哦。
gg游戏修改器一直加载,GG游戏修改器的强大功能 大小:13.47MB1,321人安装 GG游戏修改器一直加载,但这并不影响你体验到它的强大功能。它是一款针对安卓游戏的……
下载王者gg游戏修改器,王者GG游戏修改器玩游戏的不二选择 大小:19.22MB1,346人安装 随着智能手机的普及,越来越多的人开始玩手游。而正是因为手游的便捷性和即时性,才……
下载怎么下载gg修改器最新版教程,如何轻松下载使用最新版gg修改器? 大小:13.77MB1,240人安装 随着游戏的不断更新,玩家们在游戏中遇到的问题也会不断涌现。此时,像gg修改器这样……
下载为什么GG修改器root了_gg修改器需要root 大小:17.46MB2,343人安装 大家好,今天小编为大家分享关于为什么GG修改器root了_gg修改器需要root的内容,赶……
下载gg游戏修改器造梦西游OL,gg游戏修改器,让你的梦想成真! 大小:19.41MB1,308人安装 对于喜欢玩游戏的玩家而言,有些游戏往往需要费尽周折才能达成自己的梦想,比如说《……
下载最新gg修改器怎么用,最新GG修改器的使用方法 大小:11.57MB1,085人安装 最新GG修改器是目前游戏玩家最常使用的游戏修改工具之一,其功能强大可靠,操作简单……
下载gg修改器怎么弄root视频_gg修改器免root教学视频 大小:5.96MB2,258人安装 大家好,今天小编为大家分享关于gg修改器怎么弄root视频_gg修改器免root教学视频的……
下载咸鱼之王gg修改器最新教程,GG游戏修改器最新版 大小:13.86MB2,492人安装 咸鱼之王修改器手机版下载是一款非常具有趣味性的小游戏,在这款 游戏中,会有很多……
下载怎么安装gg修改器免root版_gg修改器免root中文版下载安装,绿色 大小:17.49MB2,322人安装 大家好,今天小编为大家分享关于怎么安装gg修改器免root版_gg修改器免root中文版下……
下载gg修改器下载中文字_gg修改器下载正版中文 大小:8.00MB2,224人安装 大家好,今天小编为大家分享关于gg修改器下载中文字_gg修改器下载正版中文的内容,……
下载