技術(shù)
導(dǎo)讀:IBM 與 AI 推理 ASIC 芯片企業(yè) Groq 宣布建立戰(zhàn)略性市場(chǎng)推廣和技術(shù)合作伙伴關(guān)系,就推動(dòng)共同客戶企業(yè)加速 AI 部署、擴(kuò)大 AI 應(yīng)用展開(kāi)合作。
10 月 21 日消息,IBM 與 AI 推理 ASIC 芯片企業(yè) Groq 宣布建立戰(zhàn)略性市場(chǎng)推廣和技術(shù)合作伙伴關(guān)系,就推動(dòng)共同客戶企業(yè)加速 AI 部署、擴(kuò)大 AI 應(yīng)用展開(kāi)合作。
根據(jù)雙方的共同聲明,IBM watsonx Orchestrate 智能體 AI 編排平臺(tái)將整合 GroqCloud AI 推理平臺(tái);RedHat 開(kāi)源 vLLM 框架將支持 Groq 的 LPU 芯片架構(gòu);此外 GroqCloud 云服務(wù)也將導(dǎo)入 IBM 的 Granite 系列模型。
此次合作將 Groq 的推理速度、成本效率以及對(duì)最新開(kāi)源模型的訪問(wèn)權(quán)與 IBM 的智能體 AI 編排功能相結(jié)合,從而提供企業(yè)擴(kuò)展所需的基礎(chǔ)架構(gòu),尤其適宜醫(yī)療保健等注重安全與隱私的行業(yè)。