九二小说网

手机浏览器扫描二维码访问

第86章 视觉新范式(第1页)

[]

会议的主持人面带笑容,宣布孟繁岐隆重登场。

孟繁岐沉迷分成的计算,正在畅想美好的未来,完全没有感觉到时间竟然过得如此之快。

连忙关掉谷歌的财报,缓步登台。

看着台下满满一教室的aI领域学者们,都翘以盼,用十分期待的目光看着自己,孟繁岐觉自己远没有想象的那么紧张。

“大家好,这个报告的主题主要是应用于图像领域的深度残差学习。我知道大家可能主要是为它在图像识别领域取得的成绩而来的。”

说到这里,孟繁岐顿了一秒,台下响起了会心的笑声。

“不过在这样的场合,我个人并不希望花费太多的时间在具体的细节上面,相关的论文和代码在最近一段时间会6续开源,对细节感兴的朋友可以自己去探索。”

与谷歌签下合同之后,孟繁岐手头的所有论文也就没有继续压在手里的必要了。

借着布会和这次国际会议的热度,他准备直接全部公之于众。

当然,这部分内容现在需要先经过谷歌的肯和内部审阅才可以布出去,以免它们可能导致谷歌的利益有损失。

不过由于这部分技术内容大都是图像算法领域的,目前还没有涉及到谷歌的关键利益。

若是等几周后,孟繁岐将对谷歌推荐和广告算法的一系列策略做出来之后,想要公布这部分技术,谷歌是万万不可能会答应的。

不涉及核心利益的情况下,谷歌在这些技术方面一向还是非常大方的,在经过杰夫和辛顿的审阅之后,孟繁岐已经准备先后把之前攒下的部分工作公布出去。

在大会开始之前,以dreamnet为的部分论文已经可以在arxiv上直接阅读到。

刚才其他队伍在上面介绍自己做法的时候,其实也有很多人像孟繁岐看财报一样,在偷偷阅读dreamnet的论文。

“虽然赛事的主题是图像的识别分类,但如此多学者聚集在一起的机会确实不多,我希望同时把其他方面的一些内容一起在这里展示一下。”

视觉顶会有三个,分别是本次孟繁岐参加的国际计算机视觉大会,Inetbsp;还有欧洲计算机视觉会议,eccV,一个偏欧洲一点的会议。

这两个都是两年一办,所以一年也只有两次这样国际顶级的会议机会。

唯一一个每年都举办的,是cVpR,国际计算机视觉和模式识别大会。

但它的举办点基本上都在美国,签证方面经常会有一些问题。

本次的机会比较难得,当然要多宣传一下自己的工作。

“基于dreamnet的残差思想,不仅在图像的识别分类上取得了巨大的突破,我同时也衍生出了它的一些变体,比如生成式网络,检测网络,还有分割网络。”

识别分类有竞赛结果,生成式网络的论文已经放出,而检测的网络随着白度的布会,大家也已经了解它的威力。

至于分割网络,则是这两随着dreamnet的论文一起放出的u-net工作。至此,可以说视觉类几大任务的基础范式已经被孟繁岐奠基。

今后不论是识别分类,分割检测,还是迁移生成,都很难绕得开这些轻便又好用的办法了。

“可以看到,这种思想席卷视觉领域之后,使得目前主要的研究方向都有了颠覆性的突破。”

孟繁岐将这几篇论文的主要试验结论摆在了幻灯片的第二页,就是要先以结果震撼众人。

“显然,这些算法在诸多领域都与第二名拉开了巨大的差距,而相当一部分的功劳应当属于残差思想对网络深度的革命。”

“在1o年11年,我们仍在使用人工设计的sIFT,hog还有sVm,12年,阿里克斯的八层a1exnet取得了巨大的突破。”

“而今年,残差思想引的深度革命,使得训练15o+层的神经网络成为可能。”

“深度神经网络是很多任务场景,尤其是视觉任务场景的基础引擎和骨干,这也是为什么它能够迅影响几个主流的任务。”

“从结构上看,dreamnet并没有什么特别的,比起之前每一层都单独设计的网络,我其实故意希望它变得简单,重复。”

孟繁岐身后的幻灯片展示了一个极其细长的图案,这就是一百多层深的dreamnet结构图。

放大展示它的基本设计,众人现,它的单层设计非常简洁朴素,只采用了最常规的算子操作。

长长的结构图滚动了起来,观众们都现,原来每一层并没有任何区别,只是单纯在重复。

由于一百多层的滚动需要太久,在这个严肃的场合显得有些喜感,场内出了一阵阵笑声。

“那么这里就引出了一个问题,那就是是否单纯把网络做大作深,就总是可以取得更好的结果呢?”

孟繁岐的这个问题,直到2o23年也没有一个理论上的答复,但很显然,巨大的模型还在持续创造一个个奇迹。

不管是绘画,对话,还是图像操作,都还远没有到达极限。

“我非常希望自己能够清楚从理论上告诉大家这个答案,但由于能力有限,我也只能给出自己的猜测,那就是yes。”

“我相信,只要更多更好的gpu,更多更好的数据,以及更大大模型和更好的优化办法,我们就可以持续创造奇迹。”

“而之前的网络在深度上遇到的阻碍,我认为并不是网络的能力问题,而是我们没有找到合适的办法去优化好它。”

让网络多重复几次,这是很多人都试过的事情,很显然,得到的结果是比原本要差的。

这在传统方法中,不是什么奇怪的现象,很多人都将这个现象解释为维度灾难或者过拟合,没有进行足够深度的探索。

“稍加思索,这显然是一个反直觉的现象,对于更深的网络,我们完全可以将小版本网络的所有参数复制进来,而多出来的部分只要什么事情都不做,这个模型就至少不会更差。”

“但事实上,却并非如此,我相信很多人都观察到了这样的普遍现象,那就是更深的模型反而变差了不少。”

热门小说推荐
巨星从破产开始

巨星从破产开始

简介关于巨星从破产开始齐萧意外穿越到了平行世界。一开局,他就现自己的口碑崩坏,是娱乐圈里一无是处的代名词,并且身欠两个亿的巨债待偿还。轻松,日常,搞笑,单女主,狗粮...

亮剑之老子是孔捷

亮剑之老子是孔捷

重生孔捷,日常怼怼李云龙,怼着怼着就名震晋西北了!属于晋西北铁三角之孔捷的传奇,一展别样的亮剑精彩★新人新书,人品有保障!1tpgt...

死遁后:女主你的马甲掉了

死遁后:女主你的马甲掉了

简介关于死遁后女主你的马甲掉了[修罗场追妻火葬场马甲无cp]云皎皎是一个任务者,平时在恶毒女配组。有一天皎皎收到领导通知去异世界做白月光,架不住金钱的诱惑她去了。在同一个世界做很多人的白月光。完成一个任务,就死遁换马甲接着做下个任务,不停的换马甲。任务一高岭之花剑仙(前未婚夫)x病弱世家小姐。永远在错过中。任务二温润如玉丹修师兄x美艳丹修师妹。青梅比不过天降。任务三男扮女装病娇蛇妖x正派修士女主。利益最大化,爱情靠边。任务四表面温润如玉疯魔傀儡师x普通商家女。在算计中丢了心,他的心,她的‘心’。任务五可怜猫妖x绝美狐妖。救赎。前期虐女后面虐男,有虐追妻火葬场,骨灰都扬。各种意难平,女主后期自立自强。...

乡野灵异手册

乡野灵异手册

我出生在偏远的农村,额头上有个三角形的淡红色胎记,出生那天,村里鱼塘的鱼全死光了。从我出生后,村里生着一件接连一件的诡异事件,废井里被煮熟的尸块,死而复生的邻家奶奶,会流血泪的洋娃娃,村里人开始骂我是灾星,人人避而远之。有次在玉米地里,意外现林寡妇与村长在偷情,村长怕奸情败露,居然想要放火烧死我。。。。这个世界乡野灵异手册...

洪主

洪主

大江东去,洗不尽人族英雄血。自六千年前成阳大帝起兵,这天下,便是我人族天下。公布一下书友群,欢迎大家加入仙宫778665933(需1ooo粉丝值)洪主...

甄嬛传之华妃倾城

甄嬛传之华妃倾城

简介关于甄嬛传之华妃倾城皇上,你害的世兰好苦呀?带着这一世的怨恨,年世兰撞墙而亡。都说不撞南墙不回头,可怜的华妃娘娘,偏偏撞了南墙,心不死机缘巧合,她又一次,重生到了年府这一世的年世兰,开粮铺,做丝绸生意,她和嫂嫂开了天下第一衣坊!赚的,盆满,钵满陕西大旱,颗粒无收,年世兰女扮男装,带头募捐粮食,救助灾区蜀地闹瘟疫,年世兰和大哥年羹尧,二哥年希尧一起,奔赴疫区,途中,偶遇大侠南木,还有鱼娘,他们一起,找偏方,研究医术,最后,在温实初的帮助下,找到祛除瘟疫的药方回京路上,灾民一路欢送,年羹尧和年世兰在途中救一卖身救母的女子,年世兰慷慨解囊,刚好被微服出巡的胤禛看到,于是,他暗中跟踪年世兄妹,年世兰本想这一世,能躲开胤禛,不曾想到,又一次被送进雍正王府,接下来,她将怎样开启,并改变她以后的后宫之旅,且慢慢随作者,走下去一看究竟...

每日热搜小说推荐