第七十九章 论文之争(3 / 6)
用位置向量引入位置信息以此解决无序问题?
多头注意力机制使解决信息单一问题?
十分大胆而巧妙的想法!
曼宁发现他根本找不出什么可以改进的地方,硬要说的话,那就是这次的论文,读起来不是很顺畅,有一些语法瑕疵,比起上次的elmo那篇论文,感觉英文写作水平下降了一些。
当然,这些都是可以忽略的小问题。
曼宁继续往下看,作者给出了这个模型在机器翻译上的评分和所用时间,性能上远远超出了现在所有的主流模型。
再下面一部分还有作者附带的理论证明,企图通过数学的角度,来解释这样构建模型的依据。
在深度学习中,大多数人都讲不清原理,毕竟深度学习是个黑盒。
但这篇论文却能大概讲清楚原理,虽然在很多地方还是存在经验性的判断,但比起深度学习这个领域的其他论文,已经好很多了。
上次的elmo也是,这个小小的本科生好像总是很较真,给人一种非得把道理讲清楚不可的感觉。
而且更有趣的是,上次把模型取名为埃蒙,这次取名为变形金刚……
有意思,这个作者真的很有意思。
曼宁不禁会心一笑。
“曼宁教授,如何?”
皮埃尔从刚才开始就一动不敢动地站着,脚都有些僵硬了。“完美。”曼宁夸赞道,但随即他又有些疑惑:“我想acl的审稿人们不会连这种水平的论文都看不出来吧,这有什么可争论的?”
皮埃尔叹了一口气,道:“这次的审稿人里有埃德温教授。”
“呵呵,又是这些无聊的蝇营狗苟。”
曼宁冷笑一声,他差不多猜出了事情的全貌。
埃德温他是知道的,这人本事是有,在acl里也有不小话语权,但太注重利益,一门心思根本不在学术上。
而且碰巧的是,埃德温也是研究注意力机制的,但苏飞这篇论文已经把注意力机制连根拔走了,如果transformer一旦过稿,埃德温手里的论文可能就刊登不出去了。
所以,八成就是埃德温拼命找茬不给过稿,想拖延时间,等自己手里的论文入库,再松口。
这也是aaai和acl等审稿制度的弊端,虽然宁缺毋滥的筛选方法保证了论文的高含金量,但是只要审稿人里有人存心想搞事情,那这次审稿就别想安宁了。
“皮埃尔,也是辛苦
↑返回顶部↑