我在美利坚当学霸 第169节

  以前他们只知道李傲是个数学天才,年纪轻轻就能参加国际数学会议,还被欧洲媒体誉为来自芝加哥的数学神童。

  因为分属不同的学科专业,他们平时自然不会去和对方比较。

  可谁能想到,这次借助无监督图表示学习项目的机会,他们才骇然发现,李傲在计算机和机器学习方向上,竟然也展现出了完全不逊于数学的恐怖天赋。

  这让他们还拿什么去比?

  毕竟作为专业的博士生,他们绝不会天真地以为,在原有群作用不变量约束的基础上重构训练目标,仅仅依靠离散数学的定理就能做到。

  这背后的统计学习算法和图模型相关前沿内容,同样需要极深的造诣。

  否则,别说重新构建出如此精妙的代理目标,恐怕连改造的大致方向都摸不出来。

  无数思绪在脑海中电闪雷鸣般掠过,最终,所有人的心中都只剩下了同一个想法。

  “怪不得……人家能被称为天才中的天才。”

  与此同时,作为项目负责人的米勒教授和卡普兰教授互视一眼。

  两人的眼神里都闪过一丝复杂的意味,谁也没有率先打破这片沉默。

  从学术角度来看,对原有的群作用不变量约束进行创新,确实更有利于无标注结构表示的学习,能帮助课题组在网页图谱和知识网络上跑出更稳定的特征表达。

  然而,这种堪称恐怖的重构效率,反而让两位教授一时间有些不敢轻易信任。

  事关整个课题的走向,他们必须慎重权衡其中的利弊。

  起码原始的不变量约束是一条安全的保守路线,而新改造的代理目标,在目前看来依然是个未知的变数。

  一旦在后续的验证中出现偏差,这次关键的小样本验证将彻底宣告失败,也会把项目组刚刚挤出来的宝贵时间挥霍一空。

  一个异常棘手的抉择,就这么直白地摆在了两位负责人面前。

  究竟是大胆启用李傲的新代理目标,宁愿承担风险去微调验证脚本和选择参数?

  还是求稳为主,继续沿用原有的不变量约束,直接展开保守的基线验证?

  略微迟疑后,米勒教授没有立刻拍板。

  相比于眼前的抉择,他反而对李傲在统计学习和图表示学习上的深刻认知产生了极大的兴趣,于是主动开口打破了僵局。

  “Leo。我记得你之前的精力主要在研究偏微分方程理论,什么时候对统计学习也有这么深的理解了?”

  坐在一旁的卡普兰教授虽然没有接话,但也同样表现出了极大的兴趣,眼神中带着几分探寻与期待。

  面对米勒教授的询问,李傲并没有多想。

  他神色谦逊地稍微组织了一下语言,便开口回应:

  “最近我对图表示学习和统计学习这块挺感兴趣,就在图书馆查了不少文献。刚好艾文之前给我的项目文档里,有挺多涉及结构表示和无标注训练信号的论文,我就顺便研究了一下。”

  “我对课题组里那些博士生的要求,也是每周读两篇论文再交一份技术总结,可他们没有你这种举一反三的灵性。”米勒教授脸上露出了笑意,顺着话茬打趣道。

  作为芝加哥大学计算机科学系的资深教授,同时也是这个联合项目的主要负责人,看到自家学校的顶级天才愿意主动接触计算机方向的基础理论,他的心情简直再好不过了。

  反正,这可不算是在挖数学系的墙角。

  眼看一场普通的进度碰头会竟然在决策上陷入了僵局,卡普兰教授心思微动,忽然想到了什么。

  她立刻转过头,将目光投向坐在一旁的亚当、托马斯和马克几人。

  “你们几个都是图同构项目的核心成员,对于Leo刚刚构建的这个新代理目标,有什么直观的看法吗?”

  话音未落,亚当便毫不犹豫地率先挑明了态度。

  “那肯定得用Leo最新的这个代理目标啊!在群作用不变量和图结构筛选这块,Leo的实力绝对是最顶尖的,听他的准没错。”

  “我也支持Leo。”托马斯立刻在后面附和道。

  等他们两个表完态,马克也没有继续沉默,而是主动提及了之前在图同构项目里发生的一件往事。

  “当初我们在做图同构项目的时候,候选映射筛选极不稳定。那时候Leo只用了不到一周的时间,就搭出了顶点个体化和轨道剪枝的整个框架。这回算上总统日的长周末,时间都快过去半个月了,在他那里的进度其实已经算慢的了。”

  “而且事实也证明,Leo给出的框架没有出过任何差错。”

  “要是不靠谱的话,项目组也不可能在谷歌那份十亿级别的网页图谱上,跑出“零误删”和99.97%的交叉核验准确率,以及整整接近12倍的运行加速。”

  如果说亚当和托马斯的表态还在两位教授的意料之中,那么在听完马克抛出的这一串硬核数据后,整个讨论室里其他人的反应,只能用震惊来形容。

  尤其是那几位没参与过核心项目的普通博士生,在这一瞬间,眼珠子都险些瞪凸出来。

  “……多少?!”

  “只用了一周时间?!”

  ……

第249章 指标出来了(求订阅)

  米勒教授和卡普兰教授虽然知道数学系和计算机系联合推进的图同构项目取得了突破,但对其中的具体攻关细节,尤其是李傲在候选映射筛选框架里的实际分工,了解得并不算多。

  在他们的认知里,这个项目只是在极短时间内迎来了一次重大突破,并且顺利通过了谷歌的工业级验证。

  他们怎么也没想到,其中最核心的候选映射筛选框架,竟然是李傲在极短的时间内主导构建并独立给出核心证明的。

  这么看下来,他能在总统日长周末里顺手把训练目标给创新了,反倒显得再正常不过。

  有了这份含金量十足的项目经历,会场里最后的那点争议顿时烟消云散。

  米勒教授在心中拍了板。他不再迟疑,当即向李傲给出了肯定的答复。

  “那就用你改造的新代理目标作为主验证分支,至于原始的不变量约束,就留作基线对照。我给你一周时间,用来微调验证脚本和参数选择,你看怎么样?”

  “放心吧,米勒教授,实际应该用不到一周。”李傲松了口气,语气里透着一股胸有成竹的自信。

  坐在一旁的马克脸上正挂着灿烂的笑容,听到这话,立刻笑呵呵地接过了话头:

  “米勒教授,您可能还不知道,之前图同构项目里的程序验证和启发式评分模块,其实也都是Leo带着我们几个连夜赶出来的。既然他都说用不了这么久,那我敢打包票,绝对出不了什么差错。”

  听到马克这么说,旁边的亚当和托马斯虽然没有开口,但也跟着连连点头。

  事情商议到这个地步,米勒教授和卡普兰教授自然是高兴的。

  此时他们再看向李傲时,眼神里的赞许和之前已经截然不同了。

  起初,他们只是把群作用不变量当成一次方向性的尝试,本着科研的严谨性,不想放过任何一种可能。

  至于最后能不能真的训练出符合那三项核心条件的结构表示,说实话,两位教授心里其实都没太大的把握。

  可谁能想到,李傲竟然直接针对无标注图结构表示的底层特性,生生在原有的训练目标上完成了创新。

  这让原本前途未卜的方向,陡然间萌生出了极大的希望。

  只要这部分研究真的取得进展,整个项目的研发周期将会被成倍地缩短。

  到了那时候,一旦模型在网页图谱和知识网络上,同时展现出足够理想的结构稳定性、局部区分度以及可迁移性——

  他们就可以直接撰写顶级论文和技术报告,向整个人工智能基础研究领域,正式宣告这项关于无监督图表示学习的里程碑级成果。

  这种图灵奖级别的项目,哪怕只是出了阶段性的成果,最起码也是计算机领域顶尖学术会议论文。

  投到《科学》或者《自然》这种综合性顶尖学术期刊,也是大有可能的。

  在场之中,唯一有些格格不入的,大概就是艾文·里德等几个计算机系的人了。

  想要彻底消化今天在碰面会上遭遇的学术打击,他们恐怕还需要相当长的一段时间。

  ……

  正如李傲预料的那样,随着验证脚本和参数微调工作正式铺开,在马克几个人的全力协助下,整个项目的推进过程非常顺利。

  最难的不变量代理训练目标既然已经解决,剩下的验证工作,基本上就只剩下调整样本划分和微调参数权重了。

  而这种精细的参数微调,恰恰是李傲的拿手好戏。

  日子一天天过去,芝加哥大学的冬季学期不知不觉已接近尾声。

  随着期末考试季的临近,校园里的学术气氛也逐渐变得紧张而沉重。

  对无监督图表示学习项目组的成员们来说,他们同样迎来了决定成败的关键时刻。

  所有人都在屏息期待着,新代理目标在小样本验证中的最终表现。

  2月20日,周五。

  芝加哥计算机科学系,项目实验室。

  这里是系里近几年重点打造的高性能科学计算与机器学习交叉实验平台。

  在米勒教授团队的科学计算小组支撑下,实验室在这几年里陆续搭建起了一套由多核服务器、共享存储和样本预处理环境组成的小型计算集群。

  放眼校内,倒找不出比这更适合运行无监督图表示学习小样本验证的地方了。

  否则的话,他们要么得临时去申请校级的计算队列,要么就得把样本和代码打包转到外部合作方那边重新部署。

  光是中间卡着的数据权限审批和环境适配,就不知道要白白浪费掉多少时间。

  可这也是没办法的事。

  面对这种海量异构网络的结构表示验证,如果计算硬件跟不上,算力稍微弱一点,整个验证过程就会变得像乌龟爬一样缓慢。

  “米勒教授,小样本的验证脚本目前已经全部调试完毕,随时可以提交运行了。”

  项目实验室内,李傲转过头,对身旁的米勒教授说了一句。

  眼看着李傲在假期里刚把训练目标翻新,紧接着又果真只用了不到三天的时间,就把那些繁琐的脚本和参数微调全部搞定,米勒教授在听到这句话时,眼神都不由得恍惚了一下。

  不过他很快就回过神来,轻咳了两声掩饰自己的失态,随后沉声开口:

  “那就开始吧,看看实际效果。”

  李傲点了点头,转头看向坐在主控屏幕前的马克:

  “马克,接下来看你的了。”

  “包在我身上,没问题。”马克回了个没问题的手势,随后一动手指,重重地敲下了回车键。

  随着程序开始在后台跑数,这套验证流程将会逐项测出图结构表示的各项指标。

  其中就包括了最核心的结构稳定性、局部区分度,以及在迁移测试中的具体表现。

  只有拿到了这些结果,项目组才能最终拍板,判断它到底算不算满足了无监督图表示学习的那三个硬性指标。

  等待跑数的时间里,李傲也没让气氛冷场。

  等米勒教授和卡普兰教授拉过椅子坐下后,他便顺势主动介绍起了这次小样本验证的其他细节。

  “按照咱们实验室现有的这套算力,大概需要三个小时,这一轮的小样本验证就能全部跑完。”

  “三个小时,这已经是非常了不起的效率了。”米勒教授脸上露出了宽慰的笑容。

  如果没有李傲拿出来的这套代理训练目标,他们要是想构造出合格的无标注训练信号,就只能死板地按照传统方法,在特征工程和模型试错上不断地磨时间。

  那样做不仅前期的投入成本是个天文数字,最关键的是,整个项目的研发周期会被无限期拉长,谁也看不到一个明确的方向。

  哪像现在这样,仅仅需要坐在椅子上等几个小时,就能拿到一手的初步指标。

  只要验证结果没问题,他们就能直接拍板切入更大规模的验证分支。

  这中间,不知道硬生生省去了多少让人掉头发的繁琐流程。

  不过,这种惊人效率的背后,依然横着一个不可绕过的大前提。

  那就是,这次验证跑出来的指标,必须足够可靠。

首节 上一节 169/347下一节 尾节 目录