將AI帶入企業(yè) 紅帽選擇了“開源”和“混合”

6月20日消息,在言必談AI的當下,如何把握AI發(fā)展機遇?在2024紅帽媒體Open講話活動上,紅帽全球副總裁兼大中華區(qū)總裁曹衡康對外闡述了紅帽在生成式AI與大模型領域的最新理念和舉措。

在解讀紅帽在AI發(fā)展路線上的看法時,曹衡康著重強調了兩點:AI必須是開源的,AI應該在混合云上做。

曹衡康解釋稱,開源閉源之間并沒有對錯之分,但在封閉體系下,生態(tài)的壟斷和安全隱患已初具端倪。相較之下,開源由于受到整個開源社區(qū)的監(jiān)督,能夠更好地應對安全問題。同時,開源能夠降低企業(yè)擁有核心技術的門檻,讓開發(fā)者參與到模型貢獻當中,提升效率和性能。

“未來,AI既會有開源,也會有閉源,但紅帽絕對是開源的。”曹衡康說到,“開源精神是紅帽文化的核心,也是紅帽在AI領域取得成功的關鍵。”

關于混合云,曹衡康提到,AI從開發(fā)到運行都并非僅能在云上操作,筆記本甚至智能手機都可以實現(xiàn)建模開發(fā)。因此,AI應該拿到混合云上來操作。

這主要有三方面原因:一是能夠最大化利用資源;二是可以提升效率;三則是安全問題,因為很多的模型可能很多企業(yè)是本身自己企業(yè)內部用的,假如放到“云”上面會有一些安全問題。

紅帽大中華區(qū)解決方案架構部高級總監(jiān)王慧慧進一步補充稱,將混合模式落到AI項目上其實并不難理解。比如某企業(yè)建模時可在數(shù)據(jù)中心搭建,培訓時可在公有云上訓練,推理時甚至可以在公司產線上的某一臺風控設備上進行。而企業(yè)若要“單打獨斗”實現(xiàn)這些操作,還需解決構建AI基礎架構、保證協(xié)作效率、進行模型調優(yōu)、開發(fā)AI應用、促進模型與應用間的高效交互等問題。

如何以開源的方式將AI帶入企業(yè)?紅帽此前已經(jīng)宣布了一系列與AI相關的創(chuàng)新,包括RHEL AI、OpenShift AI和Lightspeed等,并與NVIDIA等合作伙伴在混合云和AI領域展開合作。

曹衡康表示,紅帽不做硬件,不做應用,而是在兩者之間提供領先的AI平臺,幫助企業(yè)安全高效地部署和管理AI模型、應用;構建AI基礎設施層,為企業(yè)提供安全的可擴展基礎設施和自動化。

對于在中國的發(fā)展策略,曹衡康表示,紅帽將配合國家戰(zhàn)略,加速企業(yè)智能制造升級,同時賦能與融合國內AI生態(tài),加速AI在全行業(yè)的應用。

以下為與曹衡康、王慧慧、紅帽大中華區(qū)市場總監(jiān)趙文斌的部分對話實錄:

問:混合AI是一個什么樣的概念?

曹衡康:從開發(fā)來講,開發(fā)就不需要一定在“云”上開發(fā)、我可以在筆記本建模、開發(fā)。運行的時候可以在“云上、云下”,在我“私有云”、筆記本、甚至是手機上都可以運行,就是從“建模”跟“運行”都是一樣。還有就是混合模式,找出最適合的計算方式??赡芪以谟嬎愕臅r候,只要前提是數(shù)據(jù)、客戶愿不愿意把數(shù)據(jù)放在公有云上面。當我在整個運行當中找出一個最優(yōu)化的方式計算,因為GPU不夠、又耗電,我就找出最優(yōu)化的方式把這個東西、這個應用整個執(zhí)行出來。

王慧慧:它既可以被部署在公有云上、也可以私有云上,也可以一個私有化的數(shù)據(jù)中心或者某個設備上都可以。舉一個比較簡單的例子:同樣一個AI項目或者AI應用,建模的時候可以在數(shù)據(jù)中心里面建,訓練的時候可以在公有云上訓練,最后做推理的時候可以在產線上的某一臺工控設備上面去做推理,同樣的一套AI。也就是說,這個AI項目本身的不同階段可以用不同的環(huán)境。

為什么這樣做?因為我們支持的就是一個混合環(huán)境,只不過你每一次在使用的時候你覺得你的資源在哪邊,你用什么方面覺得是安全的。你不希望你推理時候個人數(shù)據(jù)去公有云上,那你就放在自己的數(shù)據(jù)中心去做、都可以。

問:為什么我們現(xiàn)在談AI、大模型,大家都在關注GPU、不關注其它層面,根本原因是什么?

曹衡康:其實算力講“白”了、做的事情本身是最簡單的,比如最核心的運算可能就是矩陣乘?,F(xiàn)在的大模型訓練本質上做的是一個大力出奇跡的事情,是需要大量的快速的做這些矩陣乘的運算,GPU資源可能就成為瓶頸。

問:大家都相信“大力出奇跡”,覺得基礎設施到位了,可能就能產生一些應用。但現(xiàn)實是,大家可能對于AI做事并沒有太大的信心、做什么也沒有看到。

曹衡康:目前AI的發(fā)展還比較早期,可能首先要解決有無問題,因此我們看到在GPU,AI Infrastructure等方面,大家比較關注,順便提一句,紅帽是能夠幫助您快速構建AI Infrastructure軟件的一家公司。 在AI的應用和如何變現(xiàn)方面,整個行業(yè)都還需要探索,大模型本身目前還有一些問題,比如幻覺,所以對于AI做事,既要有信心,同時也應看到技術發(fā)展目前的局限性。

趙文斌:大家都看“算力、平臺、模型”?,F(xiàn)在開源的模型很多、開發(fā)平臺相對來講也有一些開源或者一些選擇,只是短期的一個焦點問題就是算力、因為相對緊張。這是一個現(xiàn)實的問題,所以關注度高。但是這是一個發(fā)展階段的初級階段的問題。“大力出奇跡”沒問題,大模型是不是可以針對行業(yè)企業(yè)有小模型,用更小的算力就可以解決你的生產和應用的問題。其實市場的解決方法很多,只是因為大家對這個市場還是早期、還沒有看清楚,短期突出的是算力緊張的問題。我覺得隨著大家的研究更深入或者更多的工具、更多廠商的這些方案更清楚,我覺得這個問題相對會被平滑地過渡過去。只是這樣的一個過程。

王慧慧:我們如果看AI這件事的話,AI其實存在很久了。最近這么火是因為生成式AI、大模型把它炒熱的,實際上企業(yè)AI落地的應用去年、前年都有了。在我看來AI至少有四個方面的問題是值得所有從業(yè)者、媒體朋友們一起討論的:

1.基礎架構。就是所謂的算力平臺,GPU的問題。

2.算法和模型的問題。我們其實并沒有人很多地去探討“算法”和“模型”,可能是因為這個很難被廣大的聽眾們和觀眾們能夠理解。比方說我們今天說:Lab是個算法,很難去解釋這個事情。

3.數(shù)據(jù)。數(shù)據(jù)其實因為考慮到合規(guī)的問題,每個國家、每個地方都有數(shù)據(jù)合規(guī)的問題,以及數(shù)據(jù)隱私的問題,其實這也是AI相關的領域。

4.AI本身的應用場景的問題?,F(xiàn)在我覺得AI應用本身場景的問題,每一個企業(yè)都在摸索中。我們現(xiàn)在看到大量的生成式AI,就是ChatGPT給我們沖擊太大了。國內也有很多大語言模型,例如:文心一言什么的,你問它個問題、它就回答了。但是這些不是企業(yè)級的AI應用,企業(yè)級的AI應用才是真正的為企業(yè)創(chuàng)造生產力的一個內容。什么樣的企業(yè)級的AI應用真的能夠做到新質生產力呢?就是用更少的投入得到更多的產出,這個其實是一個更值得探討的問題,而且我們中國這么多的企業(yè)、這么多的不同的各行各業(yè)的企業(yè),我是很堅信企業(yè)級的AI應用在中國一定會發(fā)展得特別迅速,只是現(xiàn)在大家好像還沒有開始探討這件事。(周小白)

(免責聲明:本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )

贊助商
2024-06-20
將AI帶入企業(yè) 紅帽選擇了“開源”和“混合”
6月20日消息,在言必談AI的當下,如何把握AI發(fā)展機遇?

長按掃碼 閱讀全文