• 上海GPU云服務商沖刺港交所！猛吃DeepSeek紅利，創(chuàng)始人曾打造PPTV

  AI推理工作負載越來越具有低時延和高并發(fā)要求的特點。曾經非常適合大規(guī)模AI訓練的集中式云端架構，現(xiàn)時已不再適合滿足現(xiàn)代推理的需求

  智東西

  333

  06/23 12:43

  GPU 云計算

  
• 【一文看懂】什么是視覺推理？

  上周，OpenAI發(fā)布了新款AI模型o3和o4-min。OpenAI官方稱，o3和o4-mini是首批能夠“圖像思維”的AI模型：“這是我們首次推出能夠獨立使用全部ChatGPT工具的推理模型——包括網頁瀏覽、Python編程、圖像理解和圖像生成能力。這使得它們在解決復雜的多步驟問題時更加高效，并朝著自主執(zhí)行任務的方向邁出了真正一步?！?/div>

  超算百科

  2013

  04/23 10:50

  AI推理 視覺推理

  
• 從生成式到推理模型：AI應用的未來演進與商業(yè)機會

  人工智能技術正在重塑產業(yè)格局，大模型作為核心技術引擎，從成本優(yōu)化到商業(yè)模式革新，從智能設備爆發(fā)到超級應用雛形初現(xiàn)，已逐步滲透至多個場景。本次愛分析邀請網易數(shù)智副總經理、網易云信總經理段毓錚與網易云信音視頻技術負責人、流媒體首席架構師吳桐在線對談，深度交流AI技術在企業(yè)級場景的實戰(zhàn)經驗與未來趨勢，為泛IT從業(yè)者提供前沿洞察與創(chuàng)新啟示。

  愛分析ifenxi

  418

  03/27 10:20

  生成式AI AI應用

  
• Oracle 與 NVIDIA 合作助力企業(yè)加速代理式 AI 推理

  Oracle 和 NVIDIA 宣布，NVIDIA 加速計算和推理軟件與 Oracle 的 AI 基礎設施以及生成式 AI 服務首次實現(xiàn)集成，以幫助全球企業(yè)組織加速創(chuàng)建代理式 AI 應用。 此次 Oracle Cloud Infrastructure (OCI) 與 NVIDIA AI Enterprise 軟件平臺之間的集成，將使 160 多個 AI 工具和 100 多個 NVIDIA NIM?

  與非網編輯

  869

  03/19 10:45

  NVIDIA AI推理

  
• Sequential Thinking MCP 與推理型大模型的功能實現(xiàn)差異分析

  來自用戶的提問：sequential thinking MCP 和具有推理能力大模型比如 deepseek r1，cluade 3.7 think 在功能實現(xiàn)上有啥區(qū)別。

  二師兄說AI

  4536

  03/18 09:00

  大模型 AI推理

  
• 研報 | 2025年AI服務器出貨成長仍有變量，DeepSeek效應將提升AI推理占比

  根據(jù)TrendForce集邦咨詢最新研究，2024年全球AI服務器（Server）出貨量受惠于CSP、OEM的強勁需求，年增幅度為46%。國際形勢、DeepSeek效應、英偉達GB200/GB300 Rack供應鏈整備進度等將成為影響2025年AI Server出貨量的變量，TrendForce集邦咨詢據(jù)此提出三種情境預估。

  TrendForce集邦咨詢

  1541

  02/13 12:40

  DeepSeek AI服務器

  
• AI推理內存革命：突破瓶頸，CPU性能飛躍

  AI推理、高性能計算和實時分析等行業(yè)，通常需要運行大量的工作負載，內存帶寬如果跟不上處理器的提升速度，往往可能會導致計算瓶頸，影響工作負載執(zhí)行的效率和效果，這就需要對內存技術進行革新。

  張慧娟

  3435

  2024/12/05

  與非觀察 CPU
• 奪回數(shù)據(jù)中心主導權，英特爾新一代CPU“跨越式”升級

  英特爾正式發(fā)布至強6性能核處理器（代號Granite Rapids），旨在針對AI、數(shù)據(jù)分析、科學計算等計算密集型業(yè)務提供更佳性能。

  張慧娟

  1913

  2024/09/30

  與非觀察 CPU
• 英偉達顛覆傳統(tǒng)：NVIDIA NIM正推動企業(yè)及開發(fā)者部署AI新革命

  對于英偉達來說，賣GPU從來不只是賣GPU，其更大的商業(yè)愿景在于讓AI的蛋糕更大，讓它更易用，更便于規(guī)?；?，這樣一來，銷售GPU也好，AI軟件服務也好，都是水到渠成，形成完美商業(yè)閉環(huán)。

  張慧娟

  2183

  2024/09/10

  與非觀察 GPU
• 邊緣AI推理趨勢下，GDDR7內存有望勝出？

  邊緣計算在低延遲、高帶寬、隱私保護等方面展現(xiàn)出較強優(yōu)勢，使得大模型在邊緣端的推理逐漸成為可能，也進一步推動了AI推理向邊緣下沉的趨勢，以降低對云端計算的依賴、提高系統(tǒng)的響應速度。

  張慧娟

  1817

  2024/07/24

  與非觀察 內存

正在努力加載...