IBM與Groq合作 加速企業(yè)AI部署

  ICC訊  日前，IBM（紐約證券交易所代碼：IBM）與Groq宣布達(dá)成戰(zhàn)略市場推廣與技術(shù)合作，旨在讓客戶通過watsonx Orchestrate即時(shí)訪問Groq的推理技術(shù)GroqCloud，以更低的成本獲得高速AI推理能力，從而加速自主AI代理的部署。

  作為合作的一部分，Groq和IBM計(jì)劃將RedHat開源vLLM技術(shù)與Groq的LPU架構(gòu)進(jìn)行集成與增強(qiáng)。IBM還計(jì)劃讓其Granite模型在GroqCloud上運(yùn)行，以供IBM客戶使用。

  企業(yè)將AI代理從試點(diǎn)推向生產(chǎn)時(shí)，仍然面臨速度、成本和可靠性方面的挑戰(zhàn)，這在醫(yī)療保健、金融、政府、零售和制造等關(guān)鍵領(lǐng)域尤為明顯。此次合作結(jié)合了Groq的推理速度、成本效益以及對(duì)最新開源模型的訪問能力，與IBM的自主AI編排技術(shù)，共同提供幫助企業(yè)實(shí)現(xiàn)規(guī)模化所需的基礎(chǔ)設(shè)施。

  GroqCloud由其定制LPU驅(qū)動(dòng)，其推理速度比傳統(tǒng)GPU系統(tǒng)快5倍以上，且成本效益更高。即使在全球化的工作負(fù)載下，也能實(shí)現(xiàn)持續(xù)的低延遲和可靠的性能。這對(duì)于受監(jiān)管行業(yè)的自主AI代理尤其重要。

  例如，IBM的醫(yī)療保健客戶會(huì)同時(shí)收到數(shù)千個(gè)復(fù)雜的患者問詢。借助Groq，IBM的AI代理可以實(shí)時(shí)分析信息并立即提供準(zhǔn)確答案，從而提升客戶體驗(yàn)，讓組織能夠做出更快速、更明智的決策。

  該技術(shù)也正應(yīng)用于非監(jiān)管行業(yè)。IBM在零售和快速消費(fèi)品領(lǐng)域的客戶正在使用Groq來支持人力資源代理，以幫助增強(qiáng)人力資源流程的自動(dòng)化并提高員工生產(chǎn)力。

  IBM軟件兼首席商務(wù)官Rob Thomas表示："許多大型企業(yè)在進(jìn)行AI推理實(shí)驗(yàn)時(shí)有多種選擇，但當(dāng)他們想要投入生產(chǎn)時(shí)，必須確保能夠成功部署復(fù)雜的工作流，以保證高質(zhì)量的體驗(yàn)。我們與Groq的合作關(guān)系彰顯了IBM致力于為客戶提供最先進(jìn)技術(shù)以實(shí)現(xiàn)AI部署并推動(dòng)業(yè)務(wù)價(jià)值的承諾。"

  Groq首席執(zhí)行官兼創(chuàng)始人Jonathan Ross表示："憑借Groq的速度和IBM的企業(yè)專長，我們正在讓自主AI代理成為企業(yè)的現(xiàn)實(shí)。我們共同使組織能夠釋放AI驅(qū)動(dòng)響應(yīng)的全部潛力，并獲得規(guī)?；璧男阅?。除了速度和韌性，此次合作關(guān)乎改變企業(yè)使用AI的方式，讓他們充滿信心地從實(shí)驗(yàn)階段邁向全企業(yè)范圍的采用，并為AI能夠即時(shí)行動(dòng)并持續(xù)學(xué)習(xí)的新模式打開大門。"

  IBM將立即開始提供對(duì)GroqCloud功能的訪問，雙方聯(lián)合團(tuán)隊(duì)將專注于為IBM客戶交付以下能力：高速、高性能的推理，釋放AI模型和自主AI代理的全部潛力，賦能客戶關(guān)懷、員工支持和生產(chǎn)力提升等用例；專注于安全與隱私的AI部署，旨在支持最嚴(yán)格的監(jiān)管和安全要求，實(shí)現(xiàn)復(fù)雜工作流的有效執(zhí)行；與IBM的自主AI產(chǎn)品watsonx Orchestrate無縫集成，為客戶提供靈活性，以采用針對(duì)不同用例量身定制的專用代理模式。

  該合作還計(jì)劃集成并增強(qiáng)RedHat開源vLLM技術(shù)與Groq的LPU架構(gòu)，為開發(fā)人員在推理過程中面臨的常見AI挑戰(zhàn)提供不同的解決方法。該解決方案有望使watsonx能夠以熟悉的方式利用這些能力，并讓客戶留在他們偏好的工具中，同時(shí)通過GroqCloud加速推理。此集成將滿足AI開發(fā)者的關(guān)鍵需求，包括推理編排、負(fù)載均衡和硬件加速，最終簡化推理過程。

  IBM和Groq共同為企業(yè)提供了增強(qiáng)的途徑，以獲取快速、智能且為產(chǎn)生實(shí)際影響而構(gòu)建的企業(yè)級(jí)AI的全部潛力。

  需要說明的是，關(guān)于IBM和Groq未來方向和意圖的聲明可能隨時(shí)更改或撤銷，并且僅代表目標(biāo)和目的。

  關(guān)于IBM

  IBM是全球混合云與人工智能及咨詢服務(wù)的領(lǐng)先提供商。我們幫助超過175個(gè)國家的客戶從數(shù)據(jù)中獲取洞察、簡化業(yè)務(wù)流程、降低成本并在其行業(yè)中獲得競爭優(yōu)勢。數(shù)以千計(jì)的政府機(jī)構(gòu)和關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域（如金融服務(wù)、電信和醫(yī)療保?。┑钠髽I(yè)依靠IBM的混合云平臺(tái)和Red Hat OpenShift進(jìn)行快速、高效和安全的數(shù)字化轉(zhuǎn)型。IBM在AI、量子計(jì)算、行業(yè)特定云解決方案和咨詢領(lǐng)域的突破性創(chuàng)新為客戶提供了開放和靈活的選擇。所有這些都得益于IBM對(duì)信任、透明、責(zé)任、包容和服務(wù)的長期承諾。

  關(guān)于Groq

  Groq是為AI提供所需速度和成本效益的推理基礎(chǔ)設(shè)施提供商。公司成立于2016年，開發(fā)了LPU和GroqCloud，旨在使計(jì)算更快、更經(jīng)濟(jì)。如今，Groq受到全球超過200萬開發(fā)者和團(tuán)隊(duì)的信任，并且是美國AI技術(shù)棧的核心組成部分之一。