最近半年的工作生活感悟

飞机终于在香港机场降落了。我这个四海为家的流浪人终于快到家了。趁这个机会,总结一下最近半年的工作和生活。

人生出现了转机?

我从小就是一个很难坚持的人,制定计划总是雄心勃勃,然后止于三分钟热度。书架上堆满了买来却没打开过的书,房间角落里摆着沾满灰尘的吉他和电子琴,都一年没碰过了。

但是最近一个多月,我的人生发生了前所未有的改变,像一个做梦的人突然开窍了一样。以前天天趴在床上工作的我,可以一直在桌前工作了。每天都能坚持锻炼和冥想了。终于开始每天读书,读论文,思考,写作,学习新知识了。这一切并没让我像以往一样觉得压力山大,反而非常的快乐,真是难以置信。这一切都得从1月底,偶然重新捡起 The 7 Habits 这本书说起。

The 7 Habits 是一本可以指导人生的好书。作者讲了七个习惯,或者说七个人生指向标一样的准则。

其实我两年前就买了这本书,结果不负众望,读了2章就没坚持下去。一开始读的有多认真,放弃的时候就有多干脆 🙂。一个月前一个偶然的机会,我从书堆里捡出这本书,从第2章开始读起。那天晚上真是地转星移,醍醐灌顶,作者的每一句话,每一个故事都正中我的要害,帮我理清了最近一年工作上的种种问题。

最近一年来,我似乎每周都很忙。AI领域在飞速发展,我们团队也在飞速内卷。每周甚至每天都有新的模型,新的变种被发明,扔给我们去优化和编译。一年以来,我在这些新的模型中疲于奔命,每隔几周就换一个focus,不断在我们已有的算法上打补丁,上绷带。老板和上游团队给我什么任务,我就去做什么。

在当补丁侠的岁月中,其实我也萌生了模糊的想法,知道我们的几个关键算法都不是最优的,要改进并不能靠打补丁,而是得从头思考问题的定义,重新构建分析的框架。但这些想法每每还没成型,就被细碎的,短期的任务给淹没了。

我似乎很努力很累,但是我的工作是没有方向的,没有重点的,无头苍蝇一般,每天都只着眼于自己眼前的任务,自己的一亩三分地。想来都惭愧,我来了团队有2年了,直到半年前我竟然连最基础的深度学习模型,transformer 的细节都没弄清楚。

Begin with the end in mind

7 Habits 的 Habit 2 – begin with the end in mind 说,人一定要想明白对自己最重要的是什么,想不明白的话就想想你的墓志铭要怎么写。然后把最重要的事写成一份 Misson Statement,以此来指导生活中大大小小的决定,知行合一。

我想了想,发现解决这些短期的任务,对我并不是最重要的事。最重要的是不断的学习和成长,是写出一套真正好的核心算法,让我们的芯片能像GPU一样 general,optimal,and stable,从而在根源上解决这些反反复复出现的问题。

我开始和同事一起疯狂补论文,从最基础的transformer补起,到最底层的硬件优化。几个月来,我发现我的眼界开阔了,终于能把故事从上到下串起来,讲通了。再回过头去思考优化和算法,好似站在更高的层面抽丝剥茧,终于看清了问题的本质。

所以从1月起,我跟老板申请,从头重新写几个核心的算法框架 – layout, tiling, and loop fusion。并且通过文档和开会让更多的同事理解了算法,都能来帮忙解决短期的任务。到现在,前两个核心算法的重构都已初见成效,感觉终于触摸到了这几个 NP 问题的本质和近似最优解。老板也非常开心。

我发现,有了明确的目标和长期努力方向以后,我在工作中不再迷茫了。我能清晰地看到哪些工作是不重要的,哪些是临时的应该应付的,哪些是有长期价值的,哪些又是需要深度思考重点攻克的。想明白了这些,我的工作竟然比以前轻松了。以前有段时间,每天上班我都行尸走肉,上班想着下班。而最近两个月,感觉每天的工作都充满了动力和干劲。

The 7 Habits

于是我成了 7 Habits 的忠实信徒。这本书不仅改变了我的工作,更改变了我的生活。

比如 Habit 3 – Put first things first 说,人生的事情都可以分为四个象限,

  1. 那些紧急又重要的(比如有deadline的活,比如猫猫拉稀了)
  2. 重要不紧急的(比如联系家人,联系朋友,深度思考,计划人生,读书学新知识,运动,冥想)
  3. 紧急不重要的(比如不重要的会,工作中不重要的任务)
  4. 既不紧急又不重要的(比如刷小红书)

我之前的人生,经常充满了斗志和干劲,累死累活,总活在第1和3象限,却忽略了最重要的第2象限。跟家人和朋友的联系越来越不频繁,每天不再读书和补充新知识,懒得运动,不做计划,不再深度思考。。。

第二象限的事情,看似短期都看不到什么收益,连续做几天也不会对人生产生什么质的影响,所以往往被遗忘在日常的忙碌中。但是当我回顾我的 Misson Statement,才发现它们才是对我而言最重要的事啊。我本末倒置了。

作者说,当一个人把时间花在第二象限的时候,才能完成那些真正对他重要的事,并且因为他一直在做长期有收益的事和计划,他的生活和工作会越来越从容,第一象限也会越来越小。作者还说,一个好的人生并不只是单方面的成功,而要追求平衡(balance)。既要好的事业,也要好的家庭,朋友,和健康。

我按照作者说的,开始列每周的计划(weekly plan),把一周中所有重要的,第二象限的事列出来,然后一一完成。这周是第五周了。令我自己都难以置信的是,我这个从来完不成计划的人,人生第一次做到了持之以恒的完成计划。想来可能有两点原因。

  • 一是按周为单位做计划,而不是按日为单位做计划,这点解放了我。我不再操心每天每个小时的效率,不再为日常的琐事和突发情况而焦虑。每天只需保证完成最重要的事情就好了。又轻松又高效。
  • 二是我的认知由内而外发生了改变。比如每天读书,不再是因为看到了知乎或者小红书上某篇鸡汤文从而心血来潮,而是从内心认识到思考,学习,和进步是对我很重要也让我很快乐的事情,是我 identity 的一部分。

书中还提到了许多其他的人生准则。比如要平衡 P 和 PC。P是眼下的效率(production),PC则是长期的效率(production capability)。优化自己的 workflow,帮公司写一些提升效率的工具,或者从头构建核心算法,这些都是PC。吃好睡好,天天运动冥想,这些也是PC。

书里还有三个 Habit 是关于人际交往的。Habit 4: Seek Win Win 说要寻求共赢,有你好我好大家好的心态。Habit 5: Seek first to understand 说要发自内心的愿意聆听他人和共情。Habit 6: Synergize 说要寻求亲密无间,充满创意的合作。这几个 Habit,我还在努力的学习中,或许是一生的课题。

最近我还读了一本书,叫 Atomic Habits。神奇的是,这两本书讲的其实是一模一样的道理,但用了不同的语言。7 Habits 更注重人生准则和大的框架,Atomic Habits 则给出了落实到每天的具体可行的措施。这两本书我都想强烈推荐给所有人读。

新的生活

这一个月的新生活,最大的感受就是更有精力了,思维更加活跃了,时时在思考和自我反省。相比起以前浑浑噩噩的自己,现在感觉更加 aware,更加 intellectual,也更加平和了。之前联系越来越少的家人和老朋友们,也和我重新建交了。

最近开始用 notion,把听 podcast 听到的,读书读到的,日常想到的,都记录整合下来,感觉知识框架一点一点的连接了起来,成了体系,让我非常惊喜。

我发现人的进步可以像AI一样。AI是怎么进步,变得越来越强的呢?无论是reinforcement learning,还是loss-based learning,都是通过对比更好的方式,发现并纠正自己的错误,从而不断地改良自我,不断地进步,不断地迭代。人也是一样的。所以一个高效能的人,我想他首先会不断地自我反省,发现自己的问题。而当别人指出他的问题的时候,他不会恼怒,不会找借口(以前的我),也不会因为尊严而拒绝承认,而是会 open-minded 的接受并反思。他的自信心和尊严不会受到打击,因为他的信心来源于这套迭代的 process,来源于无数次发现错误,纠正,进步,而带来的自我认知和强烈自信,而不是来源于当前的情况和所犯的错误。吾日三省吾身,可能说的就是这个道理。

用作者的话来说,就是人可以 rewrite his or her own script and paradigms。

What an exciting time to be alive

这一年来,AI的发展真是激动人心。从生成图片的stable diffusion,到聊天的ChatGPT,每月每周都有新的进展。AI领域的研究者们就像在搭一个blockchain一样,互相借助点子,互相帮忙验证,人工智能好像在史无前例的飞速发展,感觉奇点离我们越来越近了。

最近造访了几所大学,跟教授和同学们聊天,好像大家都充满了希望。时代的浪潮真是让人心潮澎湃,让我这个小虾米也想跟着出一份力,尽一份心。

我们团队也算是搭上了时代的快车,客户数量疯狂增长(快搞不过来了)。没想到我们几年前压宝的 transformer,现在真的家喻户晓了。我现在的人生目标之一,就是想帮忙做出通用人工智能。处在我们团队,就要先解决算力平台问题,让越来越庞大的 AI 模型能够高速高效低成本的运行。我现在研究的几个算法问题,应该是所有类似我们芯片和 TPU 的芯片都必须解决的难题,这让人充满了干劲。

What a time to be alive!

Leave a comment