英國電信聯(lián)合AWS構(gòu)建GenAI Gateway平臺(tái)，加速流程智能化轉(zhuǎn)型

極客網(wǎng)·網(wǎng)絡(luò)通信9月25日 據(jù)報(bào)道，英國電信數(shù)字部門日前推出了名為“GenAI Gateway”（生成式AI網(wǎng)關(guān)）的管理平臺(tái)，該平臺(tái)可以采用Anthropic、Meta、Cohere和亞馬遜等公司提供的一系列大型語言模型（LLM）。

英國電信可以將這個(gè)平臺(tái)應(yīng)用在任何用例中，完成了大量復(fù)雜且繁重的任務(wù)，為該平臺(tái)的順利運(yùn)行奠定了堅(jiān)實(shí)的基礎(chǔ)。值得注意的是，AWS在這一過程中發(fā)揮了至關(guān)重要的作用，表面其可能是主要技術(shù)提供者。

據(jù)悉，該平臺(tái)是使用Amazon Bedrock(這一套GenAI應(yīng)用開發(fā)服務(wù))和Amazon Sagemaker(一種托管機(jī)器學(xué)習(xí)服務(wù))開發(fā)的，使企業(yè)能夠針對任何數(shù)量的用例訓(xùn)練和定制機(jī)器學(xué)習(xí)模型。此外，AWS還為英國電信提供專業(yè)服務(wù)以確保順利運(yùn)行。

GenAI Gateway的首個(gè)測試版用例已經(jīng)開始運(yùn)行。英國電信網(wǎng)絡(luò)部門Openreach正在利用該平臺(tái)來整理以太網(wǎng)和全光纖工作相關(guān)的工程說明，從而幫助簡化流程，提升內(nèi)部高團(tuán)隊(duì)及其通信服務(wù)提供商（CSP）客戶的生產(chǎn)力。

此外，英國電信的業(yè)務(wù)、法律和采購團(tuán)隊(duì)也開始使用GenAI Gateway來改進(jìn)合同分析。

英國電信在一份聲明中明確表示，GenAI Gateway是該公司一項(xiàng)“All in”的舉措，公司不會(huì)嘗試開發(fā)其他不同的AI解決方案。部署這個(gè)平臺(tái)將減少重復(fù)工作和浪費(fèi)資源的風(fēng)險(xiǎn)。這也意味著API、安全配置和基礎(chǔ)設(shè)施管理都可以集中管理，從而降低錯(cuò)誤風(fēng)險(xiǎn)或?yàn)椴煌挠美S護(hù)單獨(dú)的LLM。

英國電信還在回答相關(guān)問題時(shí)指出，雖然臨時(shí)使用多個(gè)LLM適合用于測試和開發(fā)，但不適合大規(guī)模使用。采用支持多種模型的靈活解決方案意味著英國電信的團(tuán)隊(duì)可以為合適的用例使用正確的模型，而不會(huì)出現(xiàn)成本增加和效率低下的問題。

此外，采用多LLM的方法還可以提供安全保障，以防其中的一個(gè)模型出現(xiàn)編造虛假信息（稱為幻覺）或停止預(yù)期的行為。

GenAI Gateway還采用了幾項(xiàng)保障措施確保符合所有重要的“道德AI”標(biāo)準(zhǔn)。這些措施包括過濾掉個(gè)人身份信息，使用在英國本土處理和存儲(chǔ)的數(shù)據(jù)，以及將經(jīng)過訓(xùn)練的模型相互隔離，以防止它們過于自由地共享數(shù)據(jù)。同時(shí)GenAI應(yīng)用還受到了一定的限制，以降低有害交互的風(fēng)險(xiǎn)，并過濾與其特定用例無關(guān)的查詢。這些舉措可以強(qiáng)化其在實(shí)際應(yīng)用中的可靠性和穩(wěn)定性。

英國電信數(shù)字部門數(shù)據(jù)和AI總監(jiān)Deepika Adusumilli表示，“AI正在幫助我們重新構(gòu)想公司的未來發(fā)展。我們認(rèn)為，在數(shù)據(jù)不變的情況下，我們需要LLM更具靈活性。GenAI Gateway正是我們實(shí)現(xiàn)這一目標(biāo)的強(qiáng)大工具，它讓我們能夠以安全、負(fù)責(zé)、靈活且可擴(kuò)展的方式大規(guī)模地利這一前沿技術(shù)，充分釋放英國電信集團(tuán)內(nèi)部員工的潛力，無論是現(xiàn)在還是未來?！?/p>

AWS EMEA地區(qū)電信業(yè)務(wù)總經(jīng)理Fabio Cerone補(bǔ)充說：“英國電信的GenAI Gateway展示了企業(yè)如何有效地大規(guī)模和快速部署GenAI。這是一次具有開創(chuàng)性的絕佳合作機(jī)會(huì)，我們可以攜手客戶，采用逆向工作法，通過嵌入式安全性和合規(guī)性，加速將GenAI用例部署到生產(chǎn)的進(jìn)程。GenAI Gateway將推動(dòng)GenAI的采用，為英國電信及其客戶帶來更為迅速且顯著的成效?！?/p>

毋庸諱言，像英國電信這樣的運(yùn)營商大規(guī)模部署GenAI，是AI走向主流應(yīng)用和建立可信度等的重要里程碑。當(dāng)然對于那些獨(dú)立LLM提供商來說，每家分到的機(jī)會(huì)和蛋糕就減少了。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。