業(yè)務中“接入大模型”,到底有哪幾種接入方法?

0 評論 923 瀏覽 5 收藏 10 分鐘

隨著AI大模型技術的飛速發(fā)展,越來越多的企業(yè)開始探索如何將其融入自身業(yè)務,以提升效率、優(yōu)化用戶體驗并創(chuàng)造新的價值。本文將詳細梳理接入大模型的五種常見方式,幫助大家全面了解不同接入方式的適用場景、成本考量以及技術門檻。

DeepSeek 帶來的國民級熱度,很大程度上,是讓整個社會都意識到,AI 大模型對于生產(chǎn)力提效的巨大價值,同時也帶來了 AI 的洪流勢不可擋、不擁抱就落伍的危機感。今年以來,很多公司都在積極擁抱 AI 實踐,希望通過 AI,一方面提升自己企業(yè)、自己業(yè)務的效率,另一方面也希望為自己的用戶提供 AI 的能力。

我們在新聞通稿中,會看到很多公司,都使用了“接入 DeepSeek”的說法,那么,所謂的“接入 DeepSeek 等大模型”,究竟都有哪幾種形式?

其實不論是 DeepSeek,還是其他大模型,企業(yè)能夠接入的方式,一般就是以下 5 種:

1. 個人直接使用平臺功能

2.通過智能體平臺搭建 Agent

3.API 調(diào)用

4.私有化本地部署

5.通過云服務商間接部署

01 個人直接使用平臺功能

個人直接使用平臺功能,就是以個人身份,直接使用大模型官方的 C 端的服務,比如直接登錄 ChatGPT 官網(wǎng)、DeepSeek 官網(wǎng)使用,或者通過一些集成產(chǎn)品使用,但都是以個人身份使用通用的大模型產(chǎn)品。

這種方式對于小公司來說,實際落地的方式也就是作為內(nèi)部的提倡,鼓勵員工使用,或者公司出錢,買幾個 ChatGPT 賬號。比如我已知的幾家大廠,程序員編程已經(jīng)大規(guī)模使用 Cursor(一款 AI 編程軟件),代碼寫得又快又好。

這種方式輕量簡便,好處是能最快感受 AI 帶來的工作變化,劣勢是僅能作為個人工作提效的輔助,沒有定制功能,數(shù)據(jù)安全也有風險。

02 通過智能體平臺搭建 Agent

如果只是在官網(wǎng)中與 AI 進行簡單的對話,AI 能夠進行工作,也很有限,AI 的產(chǎn)出物也不太可控。實際工作當中,任何工作都有一個流程和標準的限制,才能讓產(chǎn)出的結果,達到預定的標準。

比如「小紅書運營」這項工作,如果讓 AI 直接進行工作,是沒有辦法完成的,因為小紅書運營包含著多種不同的工種環(huán)節(jié)。我們拆解一下,「小紅書運營」這項工作,其實包含以下步驟:

選題-撰寫文案-配圖-發(fā)布-數(shù)據(jù)分析 

這種把工作拆解成標準執(zhí)行動作的過程,就是一個工作流,在工作流中,我們分別識別出 AI 可以應用的點,然后調(diào)用不同的 AI,幫助我們完成一長串的工作。

就好像有好幾個“AI 員工”相互配合,最終做出一個成品。

比如以上的「小紅書運營」工作流,AI 介入后,就可以:

  • 通過可聯(lián)網(wǎng)的大模型收集今日熱點新聞
  • 通過大模型分析有哪些選題
  • AI 為選題生成文案
  • 通過大模型為文案的配圖,創(chuàng)作一個生圖的 Prompt
  • 調(diào)用文生圖的大模型,使用 Prompt,生成配圖
  • 【人工】將文案和圖片手動發(fā)布至小紅書(實際上,這一步通過 RPA 也能自動發(fā)布,但不可控因素比較多,亨亨 V:xiaozidaheng 建議手動發(fā)布)
  • 通過發(fā)布的筆記鏈接,抓取點贊收藏評論數(shù)據(jù),進行數(shù)據(jù)分析

在每個環(huán)節(jié),AI 都只解決一個具體的問題,然后把許多個 AI 的工作串起來,就成為了 AI 工作流(如下圖)。

這種串聯(lián)起來的工作流,就被稱作 Agent 或者智能體,通過智能體搭建平臺,可以方便的搭建出適合自己業(yè)務的智能體,并可以將智能體發(fā)布到企業(yè)內(nèi)部的飛書、微信等平臺,解決各種各樣實際的問題。

智能體搭建平臺,國內(nèi)做得比較好的是扣子,集成了多種大模型。通過智能體平臺,在企業(yè)內(nèi)部部署 AI 的方式,好處很明顯,就是能夠低成本的將 AI 融合進企業(yè)的工作流當中,解決企業(yè)的實際問題,并且也不用開發(fā),對于大多數(shù)不涉密的工作,這是性價比非常高的一種方式。缺點依然是使用公共的能力,不涉及私有部署,并且對于一些深度復雜的工作,還是沒辦法做好。

03 通過 API 調(diào)用

API 調(diào)用本質(zhì)上也是在訪問大模型廠商的能力,只不過無需去官網(wǎng)的對話框發(fā)消息,而是直接通過技術接口,將數(shù)據(jù)傳遞給大模型,大模型處理完成后,再通過 API 接口將處理結果返回。

調(diào)用 API 的好處是,能夠?qū)?AI 與自己的產(chǎn)品相結合,而無需跳轉(zhuǎn)到 AI 大模型的網(wǎng)站。

04 私有化本地部署

DeepSeek R1 能夠掀起 AI 應用的大浪潮,一方面是模型實力頂尖,另一方面是模型開源(DeepSeek 使用 MIT 協(xié)議開源)。開源就意味著,任何企業(yè),都能夠?qū)?DeepSeek R1 部署到自己的服務器當中,并且可以通過微調(diào),擁有一個屬于自己的大模型。

目前宣布接入 DeepSeek 的企業(yè)中,幾家大廠基本上都是采用私有部署的方式,為用戶提供 DeepSeek 的能力。

私有部署的優(yōu)勢和劣勢都很明顯,適合有技術實力的公司。

優(yōu)勢:

1.企業(yè)自主可控的本地大模型,業(yè)務安全等級最高;

2.可對模型進行一定程度的微調(diào),使其更符合企業(yè)業(yè)務需要。

劣勢:

1.成本較高,不僅需要足夠的算力,也需要人力進行運維;

2.需要比較高的技術能力,才能實現(xiàn)大模型的訓練。

05 通過云服務商間接部署

DeepSeek 火爆之后,阿里云、騰訊云等云服務廠商,也第一時間推出了部署能力。這個過程,本質(zhì)上是云服務廠商進行了私有部署,然后幫助使用云服務的企業(yè),快速獲得私有部署的能力。

這種部署方式,算是完全本地私有部署的優(yōu)化版,犧牲一部分自主性,獲得更方便的部署能力。

優(yōu)勢:

1.無需自行準備算力,可以使用云服務商的算力;

2.接入方便,成本較低,有一定的技術能力就可以完成接入;

3.可以進行小量的私有數(shù)據(jù)部署,實現(xiàn)大模型輸出結果的小量定制。

劣勢:

1.服務質(zhì)量受到云服務商服務質(zhì)量的影響;

2.并非完全自主可控,大部分信息是安全的,但絕密信息依然有風險。

06 總結

基本上,企業(yè)內(nèi)部接入大模型的方式,就是以上 5 種。企業(yè)可以根據(jù)不同的情況和需要,選擇合適的方式,進行部署。

我做了一張表,一目了然。

作者:亨哼;公眾號:產(chǎn)品變量(ID:hengpaper)

本文由 @亨哼 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載

題圖來自 Unsplash,基于 CC0 協(xié)議

該文觀點僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺僅提供信息存儲空間服務。

更多精彩內(nèi)容,請關注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發(fā)揮!