PhD thinking accumulation 2022 first half year

Last updated on:11 days ago

Robyn said, “Be confused. Confusion is where inspiration comes from.” Without a responsible supervisor, I have to do self-supervision. And that’s also one of the important reasons I keep focus on the unsupervised learning research field.

PhD thinking accumulation

Lifetalk

  • 用哪個程序就拷貝哪個部分到工作站跑。
  • 生活中跟沒有利益關係的人走得近一點可以。
  • 去好地方找好隊友,好隊友帶我飛。
  • 不怕前人栽樹後人乘涼,就怕栽的樹長不出葉子。
  • 人們只看到自己願意看到的。
  • The house price in China is a burden. Hope I can immigrate to Europe or North America to get an affordable house.

  • 專業歸專業,交友歸交友。

Research

Prof. Yuan meeting review

  • Read more than 1000 thousand papers for the deep learning field.
  • Conference: CVPR, ICCV, ECCV (more about application). NurIPS, ICML.
  • Turn back to robotics and Biological vision.
    今天我哭了,並不是因為袁老師的覺得我的工作做的不夠,而是我感覺到我第一次接受正規的科研指導,特別地感動。劉軍不是做生信的,你孤身一人在奮戰。你怎麽能倒下,你身後空無一人。

知乎

讀文章看文章的思路是怎麼來的,進一步看引用。
Reading

  • 点:我们可以把每一篇paper看作一个点,读完每篇paper,我们应该可以衡量出每个点质量和价值。
  • 线:我们需要把每个点embed到整个领域发展的一条线或者manifold中,我们需要知道每个paper在整个领域中处于什么一个位置?这个paper是milestone级别的工作还是一个incremental的工作?是前人什么样的工作启发了这样一篇paper?这个paper解决了这个领域中的什么问题?还有什么open的问题有待解决?
  • 面:每个PhD可能只可以在一到两条线上有比较深的理解,但是这不意味着就不需要求了解别的线。相反,我是十分反对做research只盯眼前topic这样的做法,其实很多线是会交叉的。
    Topic
  • 兴趣:当你在一个领域内见识得足够多之后,那个始终让你感到兴奋的问题就是合适的方向!很多同学觉得做research没意思,其实原因在于能接触到的有意思问题实在有限。拓展视野,接触更大世界的方法基本有三个:1) 到更好的学术机构,接触更高水平的researcher:我在CMU的半年,三观被颠覆了很多次。经常会发出感慨,这个事情居然还可以这样做,我之前连想都没敢想过。2)参与高水平的学术会议:在会议上,除了可以快速浏览到一个领域的top researcher的工作外,更重要的是可以和这些人面对面交流。很多自己平时难以理解的问题经过高水平的讨论后都会变得清晰。3)跟踪最新的学术论文:如果以上两点都没有机会,在学校里也可以努力完成这个目标。一个最好的资源平台就是arxiv。如何快速阅读大量paper在下面的问题里详细再讲。
  • 个人的优势和劣势:除了兴趣之外,选择topic也要考虑一些个人背景和能力的限制。每个人最好能清楚认识自己在智商和能力上的优势和劣势。以我自己为例,我的优势并不在大量数学证明推理上(并不是说数学不重要,相反十分重要),虽然如果有需要我也可以去做,但是在这方面比我更擅长,更有创造力的大有人在。我的优势在于理解透一篇paper之后,可以快速讲出insight,并清晰地和之前的工作进行类比,在直觉上定性地快速挖掘问题的本质。另外之前参加编程比赛的经历也让我在实现idea方面能够更快更准。这使我更容易在偏应用的一些领域做出好工作。相反,一个数学系背景的同学可能优势在于对公式的敏感,而coding需要花费他很多精力。这样一些偏理论方面的研究就再合适不过。

Prof. Wen J.

No matter how hard you are working, no matter how smart you are. Nobody believes you if you don’t have a good paper background.

美国物理在读博士,一年级,想转学。想问问,我可以从本校老师那里要推荐信吗?

当然可以,多数美国教授对于人员流动都比较open。常见原因一个是异地问题,一个是纯粹的就想人往高处走(这种情况情商高的人会讲自己希望换一个研究方向blahblah,千万别说我就想去“更好”的学校)。不要瞒着,好好跟老师沟通,讲清楚为什么希望转学。何况这个东西瞒是瞒不住的,别的学校如果考虑你,会来问你们学校的老师关于你的情况。
但是一定要注意几点(假设你希望去更强的学校):
1.在本校先好好做科研,一定要完成几篇文章再申请。你既然已经读了几年博士,别的学校在考虑你的时候自然会对你有更高要求。本科生可以没有文章”裸申“,但是你不能。对于物理这种难发文章的学科,你申请时需要至少一篇”publishable work“。如果是cs这种发文章比较快的,建议2-3篇。
2.处理好与导师的关系,通过出色的科研获得赏识,让教授打心眼里愿意把你送到更高的平台去发展。尤其是如果上一条你没有做到的话,假如你导师恰好特别nice,加上你获得了导师的欣赏,只是运气不好导致你没有文章,那还是有希望的。
Ref: 美国物理在读博士,一年级,想转学。想问问,我可以从本校老师那里要推荐信吗?

Others

  • 成功沒有捷徑,有經驗導師只是可以在錯誤或調試時給出經驗建議。真正的創新點需要自己提出和做出來,然後再找機會發現出來。
  • Keep most of your ideas, prevent them from others.
  • If take something as one of your responsibilities, you can feel better while doing it. But it may be laborious.
  • Think about finding another supervisor in Hong Kong. Medical image analysis. Bioinformatics. Image analysis.
  • Keep working on your projects, try your utmost to accomplish them.

五個月科研旅行

  • 兩年內:Self-supervision in PhD learning
  • 重心先放在做好課題、好論文上
  • 再積累兩年
  • 退學重申澳洲、歐洲、新加坡的生信、計算機專業全獎PhD