據美國多家媒體報道,全球半導體巨頭英偉達即將以數億美元的估值收購人工智能初創企業Lepton AI。值得關注的是,Lepton AI是由阿里云前副總裁賈揚清創立。該公司的多家投資機構也得以順利退出。
Lepton AI
Lepton AI做什么?
Lepton AI成立于2023年,創始人為賈揚清和Junjie Bai,目前擁有大約20名員工,其客戶中包括多家風險投資支持的初創公司。
據公司介紹,該公司創立的平臺主要針對AI工作負載進行了優化,客戶既可以使用它來訓練AI模型,也可以執行推理,即在訓練后在生產環境中運行神經網絡的任務。
此外,Lepton AI提供了一個可視化界面,用于在其云中設置訓練集群。該公司提供多種英偉達顯卡供用戶選擇。而對于并排訓練多個模型的團隊,該平臺提供了一個工具,可用于集中管理分配給每個項目的硬件數量。
在訓練期間,AI模型有時會遇到錯誤,從而降低其輸出質量。Lepton AI的平臺提供了檢測此類錯誤的功能。它還發現了更微妙的技術問題,例如神經網絡在訓練期間使用的內存可能超過應有的內存。
模型開發完成后,Lepton AI 客戶可以將其部署在公司云中的推理優化實例上。該平臺承諾提供每秒超過600個令牌的處理速度,同時將延遲保持在10毫秒以下。當需求增加時,自動擴展功能會自動向客戶的推理環境添加更多硬件資源。
此外,Lepton AI還使用vLLM等開源工具加快推理速度。該技術將類似的LLM提示合并到單個請求中,從而減少了模型必須執行的處理量。開發人員還使用vLLM來減少模型的內存占用。
分析認為,英偉達作為目前全球AI芯片的主要提供商,同時也面臨其最大客戶——云服務提供商的競爭壓力,如亞馬遜和谷歌正試圖開發和低價租賃替代芯片來削弱英偉達的市場地位。英偉達正尋求多元化發展,通過收購小型AI初創公司來推動其云和軟件業務的快速發展,使得使用英偉達芯片構建新的AI模型成為可能。
英偉達此次收購Lepton AI,無疑是對其自身技術生態的一次有力補充。通過吸納Lepton AI在AI應用平臺方面的專長,英偉達將能夠更好地滿足市場對高效、靈活AI解決方案的迫切需求。同時,這也將為英偉達芯片在AI領域的廣泛應用開辟新的道路。
而對于Lepton AI而言,加入英偉達大家庭意味著其將獲得更多的資源和支持,從而加速技術創新和市場拓展的步伐。可以預見,在英偉達的強大助力下,Lepton AI的技術成果有望更快地轉化為實際應用,為全球企業帶來更加智能、高效的AI解決方案。
值得關注的是,在傳出收購Lepton AI消息的同時,英偉達還將收購另外一家人工智能初創企業Gretel。Gretel提供了用于創建合成數據的工具,這些合成數據是自動生成的,可用于訓練AI模型。據報道,這筆交易的價值超過3.2億美元。
創始人賈揚清
公開資料顯示,賈揚清是全球AI架構領域最知名的技術人才之一。2002年考入清華大學自動化系,先后獲得學士和碩士學位,后在美國加州大學伯克利分校獲得計算機科學博士學位。
2013年賈揚清博士畢業后加入谷歌。2016年2月,賈揚清從谷歌離職進入Facebook,在時任Facebook人工智能實驗室負責人Yann Le Cun手下擔任研究科學家。而在這個重要的人工智能實驗室里,賈揚清打造的深度學習框架Caffe,成為了Facebook重點部署的框架之一。2019年3月,阿里巴巴達摩院宣布,原Facebook人工智能科學家賈揚清已正式加入阿里巴巴,擔任技術副總裁崗位,領導大數據計算平臺的研發工作。
2023年,賈揚清離職創立了Lepton AI,該公司另外一位創始人Junjie Bai同樣在Meta工作過。
2023年5月,公司宣布完成天使輪融資,紅杉中國、Fusion Fund和CRV成為其天使輪投資者。英偉達此番收購的交易價值可能達數億美元,完成后,三家機構也將實現比較可觀的退出。
校對:楊舒欣