百度智能云千帆,如何成為最懂企業的大模型平臺?
圖源:攝圖網
作者|關注AI的 來源|奇偶派(ID:jioupai)
8月31日凌晨,百度文心一言成首批獲批全面開放的大模型應用產品,用戶可在應用商店下載使用,首日即頂多家應用商店熱榜,還回答網友超3342萬個問題。
文心一言的正式開放,更重要的意義是,商業化靴子的正式落地,大模型能力可以進入于B端企業的生產場景之中。如政務、互聯網、能源電力、汽車等行業的企業,正在基于百度智能云千帆大模型平臺引入大模型能力,探索讓大模型生根發芽。實際上,百度文心大模型已擁有中國最大的產業落地規模。
那么,從Chat走向Work的道路上,企業的痛點、難點究竟在哪里?百度做出了哪些思考與努力?又行至何處了呢?
1
大模型落地
企業多、雜需求成最大阻力
大模型能力成功落地的前提,是對不同企業需求與痛點的完全洞悉,而不同企業的需求,如果想要用兩個字來概括,那便是“多”與“雜”。
需求多的特征,主要體現在不同體量的公司身上,小型企業與大型企業的需求幾乎完全不同。
對于小型企業來說,無論從業務規模、運營成本還是保有數據量來說,想要獨占一類大模型無異于天方夜譚,這類企業客戶應用大模型的最好方法則是在基礎大模型與行業大模型之上開發相關AI應用,使用較小的成本,達到盡可能好的效果。
而這類企業需求則主要有三點:首先是模型能力足夠,應用后效果較好,能保證業務的質量;次之,便是大模型能力的迭代速度需要跟隨業務發展情況,適應企業發展節奏;最后也是最重要的,小型企業具體業務方向有千千萬萬,在大模型的落地應用中需要一定的“自由度”,而這,便要求大模型企業提供齊全的工具鏈,滿足拓展需求。
其中,比較典型的一類企業便是電商直播公司,其應用大模型能力可以替代直播完成網絡直播,而在具體應用中,則需要自由替換、改變模特的性別、體型與服飾。
這類公司的最大痛點在于大模型企業不可能為它們“量身定做”,所以如何能在大模型基礎良好的情況下,開發一套平臺化、模塊化、可供企業自行搭建的工具箱,成為小型企業與大模型廠商共同需要思考的地方。
而對于大型企業來說,則與前者完全不同。這些組織架構復雜、員工眾多、打法風格明顯,同時有著行業內既定的玩法與海量專業數據的大型企業,從底座開始構建基礎打模型,則是最好的選擇。
但是,作為大模型能力的“門外漢”,訓練大模型的成本和技術壁壘都非常高,既需要長期在大模型領域深耕的經驗,還需要充足的算力儲備、數據儲備、高端AI人才儲備,也注定了 他們必須尋求業內玩家合作,使用相應的技術與能力。
同時,很多大型企業想要的也不僅僅是一個大模型,而是希望獲得一種能力,最終擁有一個“只屬于自己的大模型”,這個大模型知道它的前世今生,儲存有客戶所有的數據,能夠孵化各種企業應用。
而對于那些AI應用不夠用,基礎大模型“用不完”的特定行業企業,用基礎大模型精調出更貼合實際場景的行業大模型則是首選。
這類企業一般都是在業內有一定實力,了解行業know-how,同時還想在行業內有進一步發展的企業。但對于他們來說,自建行業大模型面臨著數據成本、算力成本、試錯成本高,模型效果難以保證,算法訓練工程師需求多的難點。如何在保證數據安全的情況下,完成對基礎大模型的“借用”,則是這類企業接入大模型的關鍵要點。
而在需求多的特征之外,不同行業的企業,還表現出需求雜、跨度大的特征。
以大模型落地前沿的金融行業為例,作為人工智能應用場景密集的行業,是大模型技術落地的重要領域之一,有望重塑現有業務流程,改變產業格局。
但在具體的應用過程中,如何高效植入現有業務場景,讓一個團隊既要懂業務場景,又要理解大模型的使用方法,還需要具備比較強的工程能力成為難題。同時,作為合規性要求幾乎是最高的行業,對產生的安全合規和隱私保護問題也要完成
比如,以更具體的企業實際需求為例,在以國家電網、南方電網為代表的能源電力行業中,如何通過大模型提升電力調度智能化,保障電網安全是“雙碳”時代下的全新需求;長安汽車為代表的制造行業中,如何加大智能化“色彩”,是大模型過去未曾接觸過的場景......
像這樣的復雜的生產場景,還有許多許多,在不同行業企業生產場景不同與不同體量企業需求不同的共同交織下,大模型的落地顯得愈發困難,也對百度等大模型企業提出了更高的要求,該怎樣去梳理企業需求?又怎樣去滿足行業需求呢?
2
憂企業所憂,百度智能云千帆如此進化
如前文所述,面對千行百業的億萬需求,只單一提供通用大模型服務或者應用產品服務的企業,是無法將這塊“蛋糕”完整地吃下去的。最好的做法便是通過提供全套的平臺服務與AI原生思維的方法,助力行業完成進化。
而百度智能云則更進一步,根據不同體量企業的需求不同,提供了不同的功能,對應著企業們應用大模型的不同路徑。
比如,針對小型企業需求龐雜的情況,百度智能云千帆將眾多能力開放給了企業端,提供模型再訓練的全套工具鏈,支持多種形式模型調優,包括SFT(全量參數微調、Prompt Tuning、Lora)及強化學習(獎勵模型學習、強化學習訓練)等。目標是幫助企業和開發者快速基于基礎大模型再訓練,升級或者打造適合自己需求的智能應用,而不用花費巨大成本去“卷”自己的大模型。
百度智能云千帆還提供了國內最全的預置Prompt模板。因為有百度工程師發現,相當一部分企業不會寫Prompt,感嘆使用門檻高。
目前,千帆大模型平臺預置了103款Prompt模板,包含對話、編程、電商、醫療、游戲、翻譯、演講等十余個場景。其中既有基于百度智能云在產業實踐中積累的Prompt模板,也有來源于文心一言高頻用戶的Prompt模板。
這些模版均可直接輸出給大模型,讓大模型快速理解企業的需求,大大提高模型的交互效率、輸出質量。
而且,百度智能云也沒有緊守著城門不開,為其他大模型打開大門——即通過千帆大模型提供33個嚴格優選、進行性能與安全雙重增強后的第三方大模型,共同完成服務。企業充分享受“模型自由”
企業和開發者只需要登陸千帆大模型平臺操作臺,在【模型倉庫】中進行部署、調用,便能輕松享受到優質大模型帶來的業務效果提升。
正如百度所說,他們希望的大模型發展是百花齊放,百家爭鳴地狀態,將會引入更多的開源模型,最終落實到真正的生產力場景之中。
對于大型企業基礎大模型的構建需求,百度還充當了注重AI原生思維,幫助客戶構建自身智能化能力的導師角色。
百度智能云一位工程師表示,在大模型推出后,很多客戶的目標不僅是買一個大模型,而是希望獲得一種能力,最終擁有一個“只屬于自己的大模型”。
一些大型央國企客戶的訴求也很明確,他們向百度提出,不需要百度幫忙寫代碼,“百度更多是一個教練的角色,給我好的工具,教會我應該怎么用,長期來講我的能力也能夠不斷提升”。
而在這樣一個為大型企業構建基礎大模型的過程中,文心千帆大模型平臺與其上包含的數據管理、模型訓練、評估優化、預測服務部署以及插件服務,幫助企業搭建出專屬大模型。
豐富的產品能力、更加自由的大模型工具部署、多樣化的服務方式、更懂產業的AI落地路徑,共同讓百度智能云千帆擁有了極強的場景落地能力,也有望成功從企業對大模型需求側完成切入,進而滲透各行各業。
9月1日,國家網信辦發布境內深度合成服務算法備案信息公告顯示,百度文心大模型算法、百度數字人驅動算法、語音合成算法等完成備案。百度成為“雙料王”,即同時獲批向公眾開放服務備案和深度合成服務算法備案。此舉意味著,繼文心大模型之后,百度數字人、語音合成等也正式完成合規備案。
3
從互聯網到生產車間
聽懂企業成為千帆“絕殺秘技”
在充分洞悉企業痛點,百度智能云還基于文心大模型的AI能力,升級了行業解決方案和通用AI應用,進入越來越多的核心場景。
在電商直播中,百度智能云曦靈數字人直播平臺利用大模型能力,完成了大幅降本增效。
該平臺通過百度自研的語音、視覺等技術,上傳一段真人視頻,不到30分鐘即可一比一復刻數字人主播。而結合百度文心大模型及電商行業專屬知識庫,形成了更適用直播場景的“營銷大模型”,輸入幾個關鍵詞,即可自動生成商品介紹、催單、場控等專業話術,并驅動數字人一鍵開播。
針對用戶彈幕互動,也可通過大模型生成智能問答直接回復,覆蓋諸如退換貨規定、發貨時間、優惠力度等眾多常見問題。相比真人直播間每月約5萬元的成本,數字人直播間成本將大幅下降。
在辦公與教育領域里,金山辦公與好未來,是文心大模型落地的模范標桿。
金山辦公通過千帆接入了文心一言,快速推出了 “WPS AI ”,成為中國協同辦公賽道首個ChatGPT類型的應用。金山辦公助理總裁田然表示,百度作為中國最優秀的大模型提供方之一,正在推動大模型在辦公領域的應用和快速落地。
而好未來則借用千帆的能力,完成了第三方大模型的SFT微調,顯著提升了開源大模型的效果,而百度也成為了好未來快速推進大模型應用落地的重要合作伙伴。
安全生產是企業的生命線,百度智能云與深圳燃氣聯合發布“深燃-百度·文心大模型”。 這也是在燃氣行業首次探索引入視覺大模型。針對燃氣場站、營業廳里的新場景、新任務,企業基于大模型只需要進行微調,就可以形成針對性的行業模型能力,完成多個應用場景的任務。
這些從企業核心場景中成長起來的經驗,也可以通過大模型沉淀為知識,在企業內部傳承下來。
在過去,每個企業的專業知識是有限的,老工人在退休時會把相關知識全部帶走,即使通過師傅帶徒弟的方法,也會存在知識殘缺、片面的情況出現。而在文心大模型被引入后,每位員工的能力都將成為企業的數字資產留存下來,成為員工AI知識庫中的一部分,既可以為新員工提供培訓服務,也可以打造智能助手,讓每一個工人身邊都有一個專家級的“助理”。
綜上可以看出,百度智能云能如此快速地將大模型落地與生產場景中,或許也說明了新環境使大模型競爭變成了一場綜合能力試煉:致勝因素將不再只是一家公司訓練大模型的技術實力,還有它洞察市場需求、開發與之匹配的應用和做好運營的能力。
4
寫在最后
伴隨著大模型的發展,各行各業智能化的廣度和深度將迎來突破。
對于企業來說,伴隨著大模型改革的深化,同業競爭者紛紛選擇AI發展路徑已經成為了倒逼他們快步向前的最好推動力,而在這個過程中,不同的需求與巨大的市場同時出現。
而對于大模型企業來說,環境的改變也讓大模型競爭成為了一場綜合能力試煉:致勝因素將不再只是一家公司訓練大模型的技術實力,還有它洞察市場需求、開發與之匹配的應用和做好運營的能力。
據消息透露,百度智能云還要進一步全方面強化服務企業的能力,在即將到來的9月5日2023百度云智大會上,百度智能云將宣布四大舉措,全面升級“千帆大模型平臺”,覆蓋算力基礎設施、大模型工具鏈、高質量數據集等等,推基于文心大模型重構的四大行業解決方案,發布覆蓋10款企業級的AI原生應用產品。大模型相關的生態政策也將同步披露。
編者按:本文轉載自微信公眾號:奇偶派(ID:jioupai),作者:關注AI的
前瞻經濟學人
專注于中國各行業市場分析、未來發展趨勢等。掃一掃立即關注。