第一百二十八章 伯特的诞生（3 / 5）

笑？”

姜倾雪微笑着看着苏飞。

“没有的事，我只是想起高兴的事情。”

苏飞差点笑弯了腰，这一脸不甘心又像小孩子一样不服气的样子，太可爱了。

苏飞get到了一个点，想看可爱的姜大校花，首先要把她破防，让她摘下冷澹的面具，激起好胜心。

姜倾雪冷哼一声，头也不回地走去了电梯方向，连宿舍商店的胖胖专柜都没有看一眼，足可见得她是真有些郁闷了。

今天的胜负……算苏飞胜。

苏飞失笑地摇了摇头，上楼前去了趟宿舍商店，买了两块面包和一瓶酸奶。

…

…

苏飞回到宿舍后，先是冲了个澡，洗去了一身的疲惫。

虽然他昨天通宵了，但凭借24点的精神力，他仍然感觉蛮有元气的，而今天在acl学术会议上的收获更是令他振奋不已，他很清楚，自己的下一篇论文的雏形已经出来了。

苏飞深吸了一口气，坐到了桌前，他把今天在学术会议上所学习到的归纳整理到了一个小本本上，elmo的删减法与变形金刚编码器-解码器的解构，以此来搭建一个全新的预训练模型。

苏飞快速地在小本本上写写画画，脑海深处源源不断地涌出灵感，一遍遍冲刷着他的思想。

苏飞首先想到的是韩国小哥的那个学习elmo的删减法，不能过度删减，因此……

“根据注意力机制的位置信息和elmo的单层结构特性，应该可以把整个解码器部分删减，编码器完全留下，结构上可以这样……”

苏飞大笔一挥先把变形金刚删了一大半，随后根据麻省理工学子的解构方法进行小范围地修修改改，直到把大致的模型结构图画好。

“既然舍弃了变形金刚端到端算法的优势，那么就无法做机器翻译这种任务了，但其他任务能正常进行就无伤大雅……”

苏飞颇为认真地自言自语道。

想要把变形金刚做成预训练模型，那就必然要割舍一些功能，这一点苏飞倒是早有准备。

“但是如果要做预训练模型，如何才能让它训练词向量或者图向量本身……”

苏飞的笔一下子就顿住了。

这就是问题所在了，学会上也暂时没人提出相关理论……如果提出了这个相关的理论，那变形金刚的预训练化怕是已经被别人摘去了。

苏飞也不相信有人特么的能这么快。