我在Amazon做了3年SDE，在一家公司呆3年是什麼感覺？
越來越沒有最開始的熱情和創造性了，每天覺得自己像個機器，做著重複無聊的工作。當我逐漸意識到AI帶來的機遇，看多了碼農被AI替代的傳言時，我突發奇想，為什麼那個不被替代的人不能是我？特別是看到大語言模型的蓬勃發展，我決定轉行！
和MLE距離一萬步
GO VALLEY
OFFER
那我還要走9999步！
雖然平時也會關注並學習一些AI論文和專案，但一些深層的理論知識，始終難以理解。而且我很有自知之明，缺少相關實戰經驗，學歷背景不夠閃亮的我想進入MLE比登天還難，於是決定找專業的人一起試試！
不試一下永遠也不知道自己差在哪。
"同學，你在Amazon積累的分散式系統經驗不錯，但要轉MLE，特別是NLP方向，還需要在深度學習和模型最佳化上下功夫！" —M導師
這是我和直通矽谷M老師第一次溝通時他對我說的話，這一次meeting讓我知道，如果說我和MLE的距離是一萬步，那麼我還需走9999步！
想轉行？不知道從哪裡開始？機會在這裡👇
現在掃碼，免費和大廠導師來一次深度meeting！受益頗多！
以前的Amazon經驗
GO VALLEY
OFFER
全都用上了！
"你現在的技術棧主要集中在後端開發和分散式系統上，這些其實是很好的基礎。但要轉到MLE，還需要把這些經驗和深度學習的前沿技術結合起來。" —M導師
在詳細瞭解我的背景後，加上我的基礎還可以，導師為我量身制定了一個為期6個月的轉型計劃~
✅前3個月：基礎鋪墊—主要補充MLE的理論基礎。
✅第4、5個月：背景提升—簡歷中缺少MLE相關專案，需要進行專案實戰。
✅最後一個月則把所有精力集中到面試準備上！
順帶提一下，課程制定特別靈活，可以隨時根據我的時間修改，畢竟我還是個在職牛馬，沒有太多時間用來上課。
在進行為期幾個月的MLE基礎理論鋪墊後，M老師說現在的我完全可以和他上手專案了！
就這樣，我們開始做多模態大語言模型最佳化與部署的專案，能感受到M老師對ML領域的理解很深，剛開始做專案還跟不上思路，M老師不厭其煩講解。
“這麼做下來，既能用到你的分散式系統經驗，又能展示深度學習的專業能力。”
專案初期我就遇到了第一個挑戰：如何在保證模型效能的同時提升推理速度？
求助後，M老師帶我深入研究了各種最佳化技術，當我成功將推理速度提升了3.5倍時，老師說現在還不能高興太早。
老師帶我進一步考慮分散式場景，把我在Amazon積累的經驗都用上了，這樣做既能不浪費以往的經驗，還加入創新，要不說還得是大廠出來的，專業！
後續最佳化專案時，又帶我設計了一個適應性分片策略，利用DeepSpeed和FSDP在AWS和Azure叢集上實現高效的多GPU訓練。
在此過程中，老師還不斷提醒我注意細節：在分散式環境中，模型分片策略直接影響到整體效能，要考慮到網路頻寬、視訊記憶體使用等多個因素！看看我的專案成果👇~
遲遲拿不到面試？也許你和大廠的距離只差一個專案！掃碼加入1V1定製計劃，手把手帶做專案，全面提升背景！
也許面試官更關心的是
GO VALLEY
OFFER
為什麼這麼做？
陸陸續續收到很多中小公司的面試，很多小公司準備起來沒頭緒，教務老師就幫我搜尋面試官訊息、整理高頻題目，後續面試的發揮也是有好有壞，直到我拿到了Google的面試！
一點不誇張，剛收到訊息的時候還挺緊張的，畢竟是轉行後拿的第一個大廠面邀。最後還是教務老師push最近的進展，我才想起來告訴他們這個訊息。
收到一波恭喜後，M老師找到我，進行了一次模擬面試。猝不及防的mock讓我什麼都來不及準備，面試漏洞百出。不過老師安慰我，這是好事，把踩坑都留在練習場，及時找出問題才能規避掉。
mock中老師對我的問題重點分析，並教我面對一些問題時，該怎麼回答。
我也終於瞭解到，在專案後期，老師帶我著重最佳化模型服務架構，教我如何使用gRPC和FastAPI構建API層，透過Triton Inference Server實現高效模型服務的用意，為了讓一切都有跡可循！
因為在面試中，面試官不僅關心你做了什麼，更關心你為什麼這麼做，每個技術選擇背後都要有充分的理由。
經過這次mock，我自信心明顯提升。在Google的面試中，當我說到【如何透過模型量化和分散式推理最佳化效能時】，明顯感覺到面試官眼前一亮！
問
你提到使用LoRA進行模型微調，能詳細說說為什麼選擇這個方案嗎？
我自信地解釋瞭如何在資源受限的情況下平衡模型效能和訓練效率，以及如何透過A/B測試驗證最佳化效果。面試官頻頻點頭，這讓我更加確信專案經驗的價值。
答
五輪面試下來，感覺比想象中的順利。沒過多久就收到了Google MLE的OFFER，到現在我還是不太敢相信，就這麼，轉型成功了？
想轉行
GO VALLEY
OFFER
就要少走彎路！
回顧這段經歷，如果沒有直通矽谷，靠我個人的力量很難轉型成功。因此也想給同樣轉型的朋友一些建議：專業導師很重要，真的能幫你少走彎路！
從路線規劃到基礎理論鋪墊，從專案架構設計到效能最佳化，從模擬訓練到實戰應用，直通矽谷帶我走的每一步都至關重要。
如果你也在考慮轉型MLE，不妨先和專業導師聊聊，找準自己的優勢和突破口，相信透過正確的規劃和努力，你也一定能實現自己的目標！
* 本文原創於直通矽谷【https://www.zhitongguigu.com】，歡迎尊重版權的轉載。一般轉載請在文章開頭或結尾正確註明以下資訊：
作者：直通矽谷 公眾號：直通矽谷訂閱號
直通矽谷，讓科技求職更簡單。
封面：pexels