從自定義導(dǎo)入到完全托管，在Amazon Bedrock上做滿血版DeepSeek-R1企業(yè)級部署更容易了

3月11日消息，今年1月末，亞馬遜云科技就率先全面上線DeepSeek-R1模型，并為其客戶提供了四種部署DeepSeek-R1模型的方法，其中就包括通過Amazon Bedrock 自定義導(dǎo)入DeepSeek-R1-Distill模型。

自1月下旬該模型推出以來，已有數(shù)千名客戶使用Amazon Bedrock的自定義模型導(dǎo)入功能部署了DeepSeek-R1模型。

3月11日，亞馬遜云科技宣布在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1。

從自定義導(dǎo)入到完全托管，企業(yè)客戶通過Amazon Bedrock部署DeepSeek-R1的方法更加簡潔方便了。

亞馬遜CEO Andy Jassy就表示：“我們讓DeepSeek-R1的使用變得更加輕松。該模型現(xiàn)已在Amazon Bedrock上以完全托管模式提供——亞馬遜云科技是首個將DeepSeek-R1作為完全托管服務(wù)推出的云服務(wù)提供商。用戶無需進(jìn)行任何配置或維護(hù)，即可獲得所需的全套安全防護(hù)和工具，用于構(gòu)建高效實用的生成式AI應(yīng)用。”

作為服務(wù)企業(yè)級部署大模型的平臺，這次亞馬遜云科技在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1，其背后有兩個關(guān)鍵詞：一個是完全托管，一個是企業(yè)級部署。

完全托管，點(diǎn)點(diǎn)按鈕就可完成DeepSeek-R1部署

此次在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1進(jìn)一步擴(kuò)展了亞馬遜云科技的客戶在Amazon Bedrock中使用DeepSeek-R1及其蒸餾版本的方式，堪稱在亞馬遜云科技上使用DeepSeek-R1的最佳打開方式，同時也是最省心的方式。

這種方式集各種優(yōu)勢于一身：滿血版的強(qiáng)大性能、完全托管的省心省力及極致彈性，同時盡享Amazon Bedrock的各種強(qiáng)大的構(gòu)建工具與企業(yè)級的安全防護(hù)功能。

現(xiàn)在，企業(yè)無論是初創(chuàng)公司還是大型企業(yè)，無論技術(shù)能力如何，都可以在Amazon Bedrock中輕松訪問完全托管、無服務(wù)器的DeepSeek-R1，并將其應(yīng)用于企業(yè)級部署。企業(yè)可以利用Amazon Bedrock強(qiáng)大的能力來解決復(fù)雜問題、編寫代碼、處理數(shù)據(jù)、分析數(shù)據(jù)等，而無需擔(dān)心任何復(fù)雜的設(shè)置或運(yùn)維。

亞馬遜云科技生成式AI副總裁Vasi Philomin表示：“借助這種完全托管的實現(xiàn)方式，客戶能夠以無服務(wù)器按token付費(fèi)的模式使用該模型，幫助他們無需管理任何基礎(chǔ)設(shè)施即可實現(xiàn)從實驗到生產(chǎn)的規(guī)模擴(kuò)展?！?/p>

根據(jù)亞馬遜云科技提供的演示blog，現(xiàn)在企業(yè)只需要簡單幾步操作即可完成DeepSeek-R1的部署。

首先，在Amazon Bedrock的基礎(chǔ)模型中，找到DeepSeek-R1模型并選擇。

然后，選擇完全托管的的DeepSeek-R1模型，即可。

最后，值得注意的是，Amazon Bedrock還提供了多種安全防護(hù)（Guardrails）能力。用戶在左側(cè)導(dǎo)航中可以選擇配置多個過濾器創(chuàng)建護(hù)欄。

例如，如果過濾了“政治”字詞，護(hù)欄將在提示中識別該字詞，并向用戶顯示被阻止的消息。

企業(yè)級部署安全無憂：解決大模型幻覺、有害內(nèi)容問題

談到大模型安全和企業(yè)級部署，就不得不考慮到大模型天生的“幻覺問題”。

強(qiáng)大如DeepSeek-R1，也不可避免存在幻覺問題。而且，其強(qiáng)大的語言能力讓其生成的幻覺內(nèi)容變得更加隱蔽且難以識別。

此前，就有媒體在測試to C的DeepSeek時指出其以假亂真的“虛構(gòu)”能力（如下圖）。

在企業(yè)級部署上，大模型的這種幻覺和虛構(gòu)是會直接給企業(yè)帶來經(jīng)濟(jì)損失和法律糾紛的，因此是完全不可接受的。如何把控生成內(nèi)容的尺度，并避免出現(xiàn)明顯的事實性錯誤，是企業(yè)級AI應(yīng)用中必須解決的首要問題。

亞馬遜云科技就強(qiáng)烈建議客戶將Amazon Bedrock Guardrails和Amazon Bedrock模型評估功能與DeepSeek-R1結(jié)合使用，以保護(hù)其生成式AI應(yīng)用程序。

Amazon Bedrock Guardrails就像高速公路上的護(hù)欄能防止車輛偏離道路一樣，有助于防止應(yīng)用程序生成有害或不恰當(dāng)?shù)膬?nèi)容。這包括屏蔽攻擊性語言、露骨的內(nèi)容或其他被認(rèn)為不適合最終用戶的內(nèi)容，以及識別和刪除個人數(shù)據(jù)以保護(hù)用戶隱私。

同時，Amazon Bedrock Guardrails還提供自動推理檢查功能，它可以輕松檢查因模型幻覺而導(dǎo)致的事實性錯誤。它運(yùn)用數(shù)學(xué)邏輯方法來驗證內(nèi)容的正確性。在那些主題廣泛且復(fù)雜、并有一套明確定義的業(yè)務(wù)規(guī)則或知識體系的領(lǐng)域，自動推理檢查功能表現(xiàn)出色。

亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建表示：事實性錯誤通過人工不難發(fā)現(xiàn)，因為它是明確的對錯問題。以前大模型缺乏可證明事實的邏輯，導(dǎo)致出現(xiàn)幻覺時難以糾正。但有了自動推理技術(shù)，我們能夠通過數(shù)學(xué)驗證方式嚴(yán)密證明事實性錯誤是否會發(fā)生，從而有效改善幻覺問題?！?/p>

事實上，有害內(nèi)容和幻覺問題只是生成式AI安全的一個方面。亞馬遜云科技提供全棧的安全防護(hù)能力和服務(wù)，助力客戶高效實施安全合規(guī)。亞馬遜云科技還將廣泛的安全、合規(guī)服務(wù)與Amazon Bedrock進(jìn)行集成，提供全面的安全防護(hù)，包括靜態(tài)數(shù)據(jù)和傳輸中數(shù)據(jù)加密、細(xì)粒度訪問控制、安全連接選項以及各種合規(guī)認(rèn)證。例如：通過Amazon KMS密鑰管理服務(wù)對靜態(tài)數(shù)據(jù)和傳輸中數(shù)據(jù)進(jìn)行加密；通過Amazon IAM進(jìn)行細(xì)粒度的身份與訪問管理；通過Amazon Network Firewall網(wǎng)絡(luò)防火墻服務(wù)來實現(xiàn)網(wǎng)絡(luò)安全；提供包括HIPAA、ISO、GDPR在內(nèi)的國際主流合規(guī)認(rèn)證；通過Amazon CloudWatch和Amazon CloudTrail進(jìn)行監(jiān)控和日志記錄等。

此外，在數(shù)據(jù)安全方面，亞馬遜云科技始終踐行“客戶始終擁有數(shù)據(jù)”的安全理念。通過Amazon Bedrock，客戶可以在確保數(shù)據(jù)安全和隱私保護(hù)的前提下，使用自有數(shù)據(jù)快速進(jìn)行基礎(chǔ)模型的微調(diào)和定制，客戶的所有數(shù)據(jù)均經(jīng)過加密，且不會離開虛擬私有云（VPC）環(huán)境。同時，亞馬遜云科技確?？蛻舻娜魏螖?shù)據(jù)都不會用于訓(xùn)練底層模型。

亞馬遜云科技CEO Matt Garman強(qiáng)調(diào)：“自DeepSeek-R1在亞馬遜云科技上線以來，我們看到了巨大的需求，而現(xiàn)在，我們成為了首個將DeepSeek-R1作為完全托管服務(wù)推出的云服務(wù)提供商。這意味著用戶可通過無縫集成的強(qiáng)大AI能力，獲得所有核心功能：內(nèi)置安全防護(hù)、全面監(jiān)控能力、可定制護(hù)欄，以及對數(shù)據(jù)的完全掌控?！?/p>

亞馬遜云科技致力于為客戶廣泛提供來自領(lǐng)先AI公司的眾多AI模型，加速客戶構(gòu)建與擴(kuò)展生成式AI應(yīng)用。此次亞馬遜云科技在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1正是其上述理念的踐行之一。截至目前，亞馬遜云科技Amazon Bedrock上已提供來自領(lǐng)先AI公司，如AI21 Labs、亞馬遜、Anthropic、Cohere、Luma AI、Meta、Mistral AI、Stability AI、DeepSeek的高性能基礎(chǔ)模型選擇。（果青）

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。