第十二章 埋头苦追（2 / 3）

题，估计就能拿个高分。

根据老赵的说法，下周周一就正式开考，满打满算还有一周，苏飞估摸着好好复习半周就能拿个省一等奖，至于下一轮的国奖就不考虑了。

至于这周剩下的时间，完善好论文，冲顶会！

苏飞沉迷英语一下午，而晚上的时间则留给了taglm模型，他又重新把这篇论文从头到尾精读了一遍，顺便把今年顶会最新出的论文也大致扫了一遍，在过目不忘和知识快解的加持下，在晚上闭馆前，他把自己的论文想法大致勾勒了出来。

回到宿舍，苏飞便打开电脑，在word上敲敲打打。

【基于taglm的深度上下文词向量预训练】

【摘要：taglm提出的上下文词向量预训练丰富了词向量的意义，不再使得单词局限于单个意思，将静态词向量化为了动态词向量，大大简化了自然语言领域的参数计算，然而taglm仍然有不小的缺陷，其中的结构性缺陷增大了参数训练的复杂度，而taglm模型中的不同部分间简单的拼接有可能会造成语义损失，因此本文提出一个更高效简单的预训练模型。】

【介绍：本文将taglm三部分简化为一部分的整体模型，抹除不同模型部分间拼接造成的误差......】

这个题目是苏飞这几日晚上在床上常思考想到的，先前姜大小姐有问他对taglm的看法，他提出的观点都没说到点子上，这几日吃透了相关数学理论，而数学上的很多思想总是和机器学习以及深度学习挂钩，苏飞这才渐渐地看出了本质，再加上最近改善taglm的论文效果并不显著，苏飞才萌生了这个想法。

原本苏飞并不想做自然语言处理方向的论文，原因是自然语言处理总是被计算机视觉领域压一头，但taglm是自然语言处理领域的论文，虽然在发表后其思想也被应用于其他领域，但苏飞认为想要发一篇改善taglm的顶会论文，必定要在它的领域打败它，否则很可能不会被aaai录用。

至于模型的结构到底应该怎么改？

额

他的思想已经陷入了瓶颈，这也是他想要在明天去和ai研究社的大佬们交流的原因。

如果明天的交流还是没有什么用，那就只能用一些非常规手段了。

去刷刷姜倾雪的好感度，顺便看看能不能触发一些任务，充实小金库好去系统淘张灵感激发卡。

“阿飞，这么晚了还不睡？”

郑浩然起床