请选择 进入手机版 | 继续访问电脑版
 找回密码
 立即注册
搜索

刘知远、赵鑫、施柏鑫:AI青年科研人员长大之路

刘知远、赵鑫、施柏鑫:AI青年科研人员长大之路-1.jpg


整理 | 刘冰一

在6月2日举行的智源大会青源学术年会举行的一个圆桌“青年科研人员长大之路与阅历分享”上,清华大学计算机系副教授刘知远、中国人民大学高瓴人工智能学院长聘副教授赵鑫、北京大学计算机系研讨员施柏鑫分别分享了本人的研讨故事,并基于本人的阅历,讨论了选择做研讨的契机、如何确定方向、研讨方法论、如何定研讨方向、如何做创新等话题,为众AI学子指路。本次圆桌由清华大学智能产业研讨院研讨员兰艳艳掌管。

AI科技回复整理了讨论内容,希望对各位有志于AI学术研讨的年轻学子有所启示。

1 印象深入的事

兰艳艳:先以一个故事分享收场,请各位教师分享一个在本人整个科研阅历当中最难忘的一件事,比如提高很大、写出得意之作或遭遇严重波折等等,不局限于一点。请刘知远教师先分享。

刘知远、赵鑫、施柏鑫:AI青年科研人员长大之路-2.jpg

图注:刘知远


刘知远:给我印象特别深入的一件事是,刚读研讨生那会儿,我写了第一篇关于言语网络的文章,预备投到中文信息学报。当时我的导师孙茂松教师往常特别忙,但没办法论文还是要改的,于是我就在孙教师上课的课间请他帮我改论文,最后他真的就应用课间和课下这些工夫帮我改了这篇论文。

我做了教师当前深有体会,教师会越来越忙。能够刚入职的时分没有那么多事,有较多工夫和先生交流,随着承担工作的量越来越多,跟先生的交流工夫会被紧缩。所以我觉得,做一个合格的研讨生,比较关键的一点是跟教师配合好。

不是说哪位教师是不是热心肠、会不会自动关怀先生。从教师的角度,他之所以在那么多职业外面选择了做教师,自然是对教育事业和先生无情怀和爱心的。在座的听众中,以及在线的也有非常多先生,与其抱怨或者厌弃你的导师太忙了、不管本人,倒不如抓住一切机会去积极联络导师,堵他的门,盯着他,让他帮你指点方向、改论文。

我常常跟我的先生说,你要自动来占据我的工夫。你把我的工夫占了,我分给其他事情的工夫就少了。所以很多时分,自动非常关键,这是我读博时感受颇深的一件事情。

兰艳艳:深有同感,希望同窗多自动,不关键羞。

刘知远、赵鑫、施柏鑫:AI青年科研人员长大之路-3.jpg

图注:施柏鑫


施柏鑫:我在北大读硕士的时分写了我的第一篇CVPR论文。对我来说当时是第一次接触一个全新的课题,从对概念尚不清楚到最后做出来历时4个月,当时这篇论文拿到了Oral论文,运气非常好,这时期离不劝导师对我的指点和协助。

临近截稿,我在实验和写作处于“一地鸡毛”的形状,当时提早一个月末尾拍摄真实数据,由于阅历不足,遇到了各种各样的成绩,跟我之前实际上推算的结果总是有差异,经过了有数的夜晚不停调试实验设备才完成。因此,(尤其是计算摄像这类需求)做真实数据实验的项目,需求合理的规划,留足提早量。

另外就是,假如是第一次写文章,一定要和教师多沟通。教师和先生看成绩角度不一样,担任任的教师能够会给你“兜底”,把论文会改的“改头换面”,但可以保证不由于一些常识性的写作成绩导致文章被easy reject(被秒拒)。

所以,我担任“兜底”的第一篇先生的论文发表的时分,我感觉比第一次中本人中论文还要开心。在这个过程中也阅历了刘教师说的“自动沟通”的成绩,先生不只要自动,还要给教师预留充足的工夫,尤其是随着ddl临近教师越来越忙的时分。

兰艳艳:谢谢施教师。我说一点不同的,我不希望一切的先生都让教师兜底,由于教师兜底很辛劳,我希望你们都独立完成文章,这样才能有更好的长大。

刘知远、赵鑫、施柏鑫:AI青年科研人员长大之路-4.jpg

图注:赵鑫


赵鑫:前段工夫在知乎刷到一些抱怨读研、读博压力特别大的帖子,我属于读博还算顺利的,当然也有一年工夫我非常焦虑。

当时我的状况是,研一还在学习中,基础普通:没有写论文阅历,没有仔细学习机器学习和相关数学知识,实验做得不多......所以回过头来看,研一没有发出来论文也比较正常。

我想说的是,博士的心思压力往往是本人暗示的。为了做好科研,很多环节都是可以按照流程仔细停止学习和提升。例如,学好机器学习基础、练习写作、尝试投稿。假如按照标准的学习方式来读博士,正常状况下是容易渐渐出成果的,除非本人放弃了,所以不用过于焦虑。很多时分细节决议成败,把每件大事都做好了,最后一定能读好博士的。

兰艳艳:非常感激三位教师的分享,都是肺腑之言,太真实了。接上去把工夫留给线上线下的同窗,大家有什么成绩可以纵情的发问。

2 Q&A环节

发问 1:教师们在什么时分发现本人有搞科研的天赋,或者觉得本人可以把科研作为本人的职业呢?另一方面,教师们在职业生涯的过程中有没有想放弃科研的时辰?

赵鑫:我觉得这是知乎上另外一个话题:“要读博士还是要读硕士?”其实我当时没有别的选项,想去清北只能直博。发觉本人能够喜欢科研的情节是,大四的时分我在图书馆看了一些关于机器学习的英文书,当时很少有人去借英文书,而我觉得特别有意思,常常去看。经过阅读,感觉本人很喜欢安静上去读书、推公式以及思索。于是,我渐渐看法到本人能够还是合适做触及思索、逻辑推理的科研成绩。能否沉下心来做事情能够是博士需求的一个重要特征。

施柏鑫:我希望先生要想清楚本人能否感兴味,博士培育的过程中一定是对研讨感兴味才能坚持下去的。我也不记得本人什么时分想清楚对科研感兴味,但是我很确定上学时分我感觉我对处理工程成绩不感兴味,相反觉得看论文则很风趣,希望去思索一些常规成绩能否有其他的空白需求填补,或者更巧妙的方法。

刘知远:我在推研的时分被很多教师拒过:我去找网络方向的导师,跟他的博士生说本人特别喜欢这个方向,那位博士生问我能否清楚他们在做什么,我一时语塞,就这样被拒了。后来我又找了另外一个招生物信息学方向的导师,我坦诚本人不太擅长记公式和术语,他说这个是基本功就把我给拒了。后来鬼使神差到了孙茂松教师这里,末尾做自然言语处理研讨。

做研讨的过程,我感遭到很多同辈的压力。同龄同窗比我优秀很多,比如当时赵鑫发了ECIR ,援用就超级高。

我不断怀疑本人适不合适做这个方向。非常侥幸的是,我被孙教师派到谷歌学习,知道公司的工作状况大概是什么样子。当时谷歌在IT届还是比较理想的工作环境,但我觉得在大公司外面工作,有非常强的“个人是螺丝钉”的感觉。个人只能在团队外面担任一个特别详细纤细的事情,越是完备的企业越呈现这样的特点。如此一来,去企业界跟做研讨、发论文相比,我觉得后者成就感更大一些。

另外,我觉得本人的选择其实都是在回归初心。小的时分我特别想做教师,用本人的阅历协助后辈长大得更顺利,很有成就感。所以我博士毕业时,很坚定地想去做博士后,看看有没有做教职的能够性,没有思索去企业界的想法。

当然,我也不觉得任何一个方向存在高低之分,更多的还是看哪个更合适本人,哪个更能激发本人的热情和潜力。一路走过来,我觉得我一定不是同龄人外面或选择这个方向的人外面最优秀的,但是我觉得我能做我喜欢做的事情,至少可以做到把我最好的一面发挥出来,这让我觉得很开心。所以我觉得对于这个成绩,就是看哪个方向更合适本人。

发问2:各位教师是如何确定本人方向的?一个优秀的人工智能博士应该是怎样样的?

刘知远:我研讨生时期花了很长工夫才确定研讨方向。最末尾是有一次孙教师刚从香港访问回来,他说碰到一个挺有意思的新名词“复杂网络”,假如我感兴味不妨调查一下。我真的去看了一下,发现统计物理方向搞复杂网络的特别多,于是在我读研讨生的前两年就在做言语复杂网络特性——比如小世界网络、scale-free等。

我在这时期参加了一些复杂网络的学术会议,也有做报告,但是现场没什么反应。大家能够觉得在言语网络上重新验证这些复杂网络的统计特性并没什么新意,不以为提供了什么新的东西。

我是做自然言语处理的,当然希望这些发现也能运用到自然言语处理。而复杂网络的统计特性对于实践用途没有那么分明,所当后面我反思怎样做一些符合自然言语处理适用取向的选题。

但我当时也不太清楚该做什么,还在四处找选题。机缘巧合,那几年孙教师带领国内一批学者讨论自然言语处理的新途径,我就参与了这个过程,听教师们讨论关于深度学习有能够是将来发展的方向的判别,觉得这件事情应该很有价值,所以2013年之后就在这个方向展开工作。

从我本人的选题过程来看,其实这是一个渐渐成熟,渐渐了解发展态势的过程。一末尾对研讨范畴没有片面的了解,对于一个各方面没有太多阅历的博士生来说很正常。但是我觉得最重要的是要末尾探求和举动,只要探求才有反思,只要反思才能不断地更新知识。一末尾选择哪个标题没有那么重要,而选了标题后能接受别人的建议不断地调整方向,这个能够是比较重要的。

施柏鑫:我赞同刘教师的观点,采取举动比较重要。当时,我的老板给先生的自主空间很大。我去日本读博之前给他写了很长的邮件表明我的研讨计划,他的回复是希望我能做本人感兴味的事情。首先确定一个本人感兴味、不排挤的方向;其次是举动起来,当然也需求跟教师保持交流,做出一个雏形,再根据一些模型成绩做详细的调整。

关于第二个成绩,不只仅是AI研讨,怎样样的博士生才是合格的呢?正如网下传播广泛的那张图,一个圈最后突出来的点就是博士为推进科研边界拓展所做的贡献。博士毕业,意味着你在本人从事的这个小方向上的了解应该比导师还细致。

刘知远、赵鑫、施柏鑫:AI青年科研人员长大之路-5.jpg


赵鑫:后面两位教师曾经说得很好了,我补充一点:博士生一定要把眼界放开。我最后是做主题模型,深度学习刚出来的时分我非常抵触,由于本人所擅长的技术要面临“淘汰”。中间阅历了三四年的心思挣扎,后来发现这是时代的技术潮流,需求深化其中再次学习。所以,博士生一定要开放眼界,不要给本人设限。假如你发现曾经不喜欢如今的选题,或者觉得它不能给你带来新的研讨冲动,曾经不打算再去投入,你就要思索找一些真正感兴味且有意义的方向。

兰艳艳:在这个成绩上我挺有感触的,我也分享一下。

第一,我特别赞同赵鑫刚才说到的趋向成绩,这个“势”是科技发展的大势。我希望大家打开眼界去看看整个世界的发展,包括经济的发展,会跟你选择的方向产生非常大的关系。举一个实践的例子,我是学数学的,本科大三的时分我们选专业——决议读纯实际数学、运用数学,还是统计学。我当时其实蛮挣扎的,由于对我来讲每门课程差不多,纠结之后选择了统计学,为什么选择统计学?就是基于本人自然的认知,以及和教师的交流,觉得在将来数据会特别重要,这就是一个势。当你看到这个势的时分就可以坚定地做出选择。这个选择对我个人的影响非常大,正是由于我选择了这个方向,后来才会做一系列的机器学习的工作。

第二,我不建议选择抢手的方向,一方面它会特别卷,另一方面一个东西很抢手的时分,其实它曾经处在比较“顶”的形状。你应该去想,你能给这个世界带来什么额外的东西?举一个我本人的例子,我硕二在中科院的数学所实习,我的导师马院士是一个非常Open的人,他鼓励我们大胆选择各种各样的专业。我跟马院士说本人对机器学习很感兴味,马教师特别支持。当时学数学的先生接触机器学习非常少,这个范畴在那个时分也比较冷门,但是到了明天,很多学统计学的都在做机器学习。

看到“势”,选择一个本人感兴味且有前景的方向,再加上你坚持固执地做下去,我觉得一定会做出一个很好的结果。

发问3:一个很多青年学者困惑的成绩:面对诸如“先生擅长、教师不一定感兴味的课题;或先生感兴味却并不擅长的课题”,作为青年教师,如何给组里的先生找合适的课题?三位教师有什么办法?

刘知远:可以结合刚才艳艳说的回答这个成绩。第一,的确不要做抢手话题。对于抢手话题的一个基本判别准绳是,假如你的课题要跟10个以上的基线比就不要做了,你后面的人该试的一定都试过了,你要比他们都强,这太难了。此时我比较倾向于本人定义一个新的成绩,说不定会更好。还有就是,你需求预测这个课题两三年后能有什么重要打破,有前景就可以做。

第二,详细到实验室。我的处理方案是在实验室长期访问的先生里选择我潜在的博士生、研讨生,实践上我希冀先生大二结束就来实验室,这样我们至少有一年双向选择的工夫。假如你真正决议来我们实验室读博,首先要认可实验室正在展开的研讨方向;同时,教师也认可同窗的将来潜力,基于此,刚才所说的这些成绩就不存在了。

我个人觉得如今存在很多错配:教师不太了解先生,先生对实验室也不是特别的了解。其真实确定课题时,会存在错配的成绩。为了减少这种状况,我倾向于选择组里有过阅历接触的同窗。

施柏鑫:不能说有什么见解,由于我本人也是青年轻师,还是说一下本人粗浅的看法。其实要看本人的学术发展阶段,阶段不同应对策略不同。我读博士生时期,先生的竞争没有如今那么卷,没有那么多AI顶会,研一、研二没有文章很正常。我如今实验室,进组较早的同窗大四之前有一篇文章是比较正常的。所以我会采用一个分阶段的策略,先建立成就感,有一个比较愉快的末尾,允许先生做一个本人以为出东西比较快的方向。当对成绩有一些深化研讨时,实验数据、baseline代码都有,此时就需求应战本人,提高论文的质量而不是数量。

就北大的环境而言,我们并没有明白规定先生要发多少文章才能毕业,还是要探求真正感兴味的学术成绩。但毕竟答辩的时分没有文章是“不好看”的,所以存在心态和阶段形状的成绩,后期适当做一些短平快的研讨,达到“温饱”,后面要踏踏实实深化工作,奔向“小康”。

赵鑫:对于青年教师来说,比较关键的是要把整个组的发展方向定上去,这要看个人品味和研讨爱好。对先生来说,要逐渐学会判别某项工作是不是有意义的。博士生对于科研判别力的培育非常关键。一旦研讨方向确定了之后,要可以坚持本人的想法,明白本人研讨方向的意义,坚定信心,找到本人持续发力的点。

兰艳艳:有好几位同窗都在问,写论文如何找创新点。其实这个成绩应该是你在唱工作前就要想到:创新点是什么,用什么方法,能给范畴提供什么。不要等到写论文时才末尾想,这样上去多半不会有特别高的质量。另有一个成绩,我觉得现场的教师可以疾速给大家解答一下:在一个方向上怎样找到好的想法和创新点。

赵鑫:读博士时期,我比较喜欢看真实的数据。其实看大量的真实数据就能找到一些实践生活中有价值的成绩,并且进一步晋级成学术成绩可供研讨。如今有同窗找成绩喜欢拍脑袋想,或者完全仰仗看论文想,因此容易碰到模型不工作的状况,其实最好的处理方案往往是根据实践状况发现的。

施柏鑫:以我在北大的计算摄像学本科生课程为例。我在期中的时分会布置一篇难度不小的作业,基本要求是让大家用CVPR的模版,用英文和latex写一篇8页注释的小论文,要求有20篇以上的参考文献,有5篇是精读的,假如想要拿到加分项,还要做很多细致的补充和整理工作,提出本人的见解,对于大二、大三的本科生,在这个过程中义务量是非常大的。这个作业一来劝退一部分不是真正对这门课感兴味的同窗。二来希望同窗们经过大量的阅读比较,来发现成绩,进而在期末时分尝试处理成绩,培育一个初步的对科研探求(想idea、实验到写作)的过程。

刘知远:我也觉得创新是有套路的,一些特别大的创新当然没有套路,但是稍宏大一点的创新是有章可循的。博士生的第一、二篇文章可以模拟。

总结而言,就是要厚积薄发。比如说跟我同龄的博士生相比,我的优点能够是读的论文比较多,不止NLP方向的,我也会把别的方向的文献过一遍,至少能知道别人研讨到了什么程度。这是一种类比,我觉得类比是人类非常重要的智能表现,创新也是一种类比。很多创新可以从历史的论文外面找到规律和线索。我个人最大的建议是:假如你没有想法就去读论文,我不置信读了半年论文一点想法都没有。

由于微信公众号试行乱序推送,您能够不再能准时收到AI科技回复的推送。为了第一工夫收到AI科技回复的报道, 请将“AI科技回复”设为星标账号在看”。
回复

使用道具 举报

大神点评3

决爱天使 2021-6-12 20:06:46 显示全部楼层
不太懂?有没有详细介绍?
回复

使用道具 举报

wuwin1818 2021-6-13 20:06:49 来自手机 显示全部楼层
嘘,低调。
回复

使用道具 举报

小冷子 2021-6-14 17:56:29 来自手机 显示全部楼层
真羡慕你们这些有故事的人
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册