浪潮信息智算中心算力調度軟體產品成為業界首款

2020-12-27 商都網

在2020年的線上浪潮雲數據中心合作夥伴大會上,浪潮發布了業界首款智算中心算力調度軟體產品,全新的AIStation人工智慧推理服務平臺,這個平臺主要是為了讓企業實現AI生產環境而打造的。通過這個控制平臺可以實現推理服務資源的敏捷調配,並且支持多源模型的統一調度,大大的縮短了模型部署的時間,企業可以輕鬆部署AI推理服務,並且提升企業的AI交付以及生產效率。

企業對AI的需求是發展的動力

當前,AI模型開發進入到生產部署階段面臨著多重困難和挑戰:AI模型需要經過大量的調試和測試才能部署上線,這一過程通常需要2-3天;AI線上服務計算資源一般較固定,對於突發需求資源響應慢,業務擴展難;AI模型來源不同,統一管理也很困難。企業希望可以無縫銜接AI模型訓練開發與推理部署,進行高效的資源調度和模型管理,縮短業務上線周期。

浪潮AIStation推理平臺

最新發布的浪潮AIStation推理平臺是企業級AI推理服務平臺,通過彈性可伸縮架構、低延遲輕量化設計、A/B測試滾動發布、多模型加權評估等重要技術創新,幫助企業高效利用AI計算資源,快速部署推理服務。AIStaion推理平臺具有一鍵部署、快速響應、日誌監控、資源管控、數據處理等功能,是功能全面強大的AI資源平臺。

 

AIStation推理平臺支持本地On-Premise和雲端Cloud部署,保證服務的可獲得性和業務連續性,實現了AI模型從開發環境到生產部署繁雜過程的自動化快捷操作,將模型部署時間從兩三天降低到幾分鐘。

AIStation推理平臺能夠敏捷調配服務資源

在資源調度方面,AIStation推理平臺能夠敏捷調配服務資源。採用創新的彈性可伸縮架構,可根據推理服務資源需求的變化及時調整資源配給,將響應突發需求的實例部署時間從幾小時縮短到幾分鐘。並且支持新模型發布前A/B測試,在實際業務場景中驗證模型有效性,保證推理業務的安全、可靠,同時避免了流量切換所導致的集群負載壓力。

AIStation推理平臺實現了多源模型統一調度

在模型管理方面,AIStation推理平臺實現了多源模型統一調度。通過統一平臺管理多源、多場景模型的推理服務,實時掌控全局資源,對模型服務實現綜合調度和動態部署。同一資源池可同時支持多家模型服務,將資源利用率從40% 提高到80%。並且可實現多模型加權評估,通過對不同預訓練模型的計算結果進行自定義權值設置,有效提升實際業務場景中預測結果的可靠性,構建可靠可信的智能系統,有效降低誤判率。

AIStation推理平臺

之前浪潮推出的AIStation訓練平臺已經獲得廣泛應用,該平臺通過計算資源細粒度調度、訓練數據緩存加速、分布式訓練自動編排等策略,使用戶的AI計算資源利用率提高到90%以上,大幅縮短了模型開發周期。隨著本次浪潮AIStation推理平臺的面世,AIStation資源平臺全面支持訓練與推理兩大場景,實現從模型開發、訓練、部署、測試、發布、服務的全流程一站式高效交付。

智算中心成為AI新基建

浪潮AI&HPC總經理劉軍表示:「智算中心是人工智慧新基建,它生產和供應人工智慧計算力,是社會經濟運行的智慧基礎設施。而要讓智算中心充分釋放算力,就需要按需靈活調度算力。AIStation對於智算中心新基建的意義,就相當於電廠和電網的核心調度系統,它能夠根據AI應用需求高效調度AI算力資源,幫助企業加速AI研發創新、提速AI生產交付,讓企業更專注於AI開發本身,從而賦力更多創新可能,加速AI落地應用。」

浪潮幫助企業快速將AI智能落地實行

浪潮的主要發展目標就是為了和合作夥伴建立元腦生態,通過對ai計算,資源與算法這三大核心平臺能力的共享來實現發展目標,幫助行業用戶將自己的行業大腦成功部署出來,並且推進各個產業的AI智能化落地實行。在我國,浪潮在人工智慧計算領域中是具有領先價值的,在發展的過程中,通過與人工智慧智能領先的科技公司保持長期的深入合作,提升了用戶在語音,語義,圖像,視頻,搜索,網絡上的應用性能。

免責聲明：市場有風險，選擇需謹慎!此文僅供參考，不作買賣依據。

相關焦點

  • 浪潮信息發布業界首款智算中心算力調度軟體產品
    4月9日,2020浪潮雲數據中心合作夥伴大會(IPF2020)在線上舉行,浪潮重磅發布全新AIStation人工智慧推理服務平臺,這是業界首款智算中心算力調度軟體產品,是專為企業級AI生產環境打造的AI推理服務平臺,可實現推理服務資源敏捷調配,支持多源模型統一調度,使模型部署從幾天縮短到幾分鐘
  • ​浪潮信息提出智算中心，為智慧時代提供必要動力
    智算中心之於智慧社會,就像水利之於農業社會,「鐵公基」之於工業社會,都是必不可少的基礎設施,而人工智慧和開放計算是發展智算中心的兩大方向。開放計算是ICT產業的發展趨勢從硬體開放到軟體開源,ICT產業開放的邊界越來越廣闊,開放計算不僅是ICT產業的未來趨勢,也是智算中心的產業基石。
  • 浪潮信息推出智算中心成就新的AI市場
    所以,智算中心解決之道裡,算力、數據、互聯,以及多智算中心的融合、雲邊的協同都是非常重要的。浪潮將面向智算中心,不斷完善和強化產品技術布局。具體包括,發展開放計算和AI為智算中心提供算力支持;發展面向智算中心的存儲、網絡技術,滿足新數據吞吐處理和資源池化需求;發展智算中心作業系統,滿足智算中心之間以及雲邊之間的協同互動需求。
  • 浪潮信息將全面布局智算中心IT基礎設施 加速全球化布局
    人工智慧計算需求未來將佔據80%以上的計算需求,承載這種需求的就是AI算力中心,即智算中心。浪潮將全面布局「智算中心」IT基礎設施,加大面向「智算中心」的AI算力供給模式創新和全產品覆蓋;持續推進開放數據中心技術發展,夯實智算中心的產業基石,建設覆蓋晶片、系統、平臺和算法的技術產品體系。
  • 領先的AI計算提供商 浪潮信息「智算中心」為新基建發力
    近日,針對未來智算中心的建立,浪潮信息在IPF2020浪潮雲數據中心合作夥伴大會中詳細闡述了AI智算中心的來龍去脈,並強調了AI力量在智算中心建設中的重要性。據悉,本次線上會議參與企業超5000家,它們都是浪潮分銷、ISV、SI等合作夥伴,齊聚一首,共同為AI算力中心的建設出謀劃策。
  • 乘風「新基建」浪潮智算中心再次成為刷屏級話題
    此概念一經提出,就成為了業界廣泛討論的刷屏級話題。9月2日至17日,浪潮 「2020雲數智中國行」正式開啟。本屆巡展以「智驅新時代」為主題,旨在新基建背景下匯聚工業界、商業界、學術界與政界等社會各界力量,共同探討雲計算、大數據、人工智慧、5G、工業網際網路等新型信息基礎設施的構建之道,助推智能經濟高質量發展。
  • 融入「新基建」 智算中心成為數智時代新基礎設施
    目前，所有頂級網際網路數據中心已經大規模落地了開放計算伺服器，通信、金融、能源等關鍵領域的TOP企業也紛紛加入開源組織並在數據中心建設中加以實踐。像OpenStack、K8S、Hadoop、TensorFlow等面向雲計算、大數據、人工智慧等場景的開源基礎軟體，已成為智算中心軟體平臺的事實標準。
  • 浪潮信息首提「智算中心」概念 全面賦能AI計算力增長
    近日,針對未來智算中心的建立,浪潮信息在IPF2020浪潮雲數據中心合作夥伴大會中詳細闡述了AI智算中心的來龍去脈,並強調了AI力量在智算中心建設中的重要性。據悉,本次線上會議參與企業超5000家,它們都是浪潮分銷、ISV、SI等合作夥伴,齊聚一首,共同為AI算力中心的建設出謀劃策。
  • 解讀浪潮雲海OS:為大規模而生,給智算中心注入靈魂
    提供算力的基礎——算力中心，也從科學計算時代的超算中心，到資訊時代的數據中心，再到智慧時代的智算中心。「硬體是基礎，軟體是靈魂，智算中心的作業系統OS，是承接下層硬體到上層服務的重要環節。」在近日的雲海創新論壇上，浪潮信息副總裁張東這樣講到。
  • 浪潮信息布局AI算力四大環節 促進新基建建設
    期間,AI算力研發專家浪潮信息指出,智算中心便是智慧計算的新基建,在新基建建設工作大力落實的背景下,浪潮信息將繼續深化人工智慧、開放計算兩大戰略性業務布局,在產品技術創新及生態發展領域再加碼,推動浪潮邁向更廣闊市未來。
  • 「浪潮雲數智中國行」重要篇章智算中心如何破解AI算力暴增需求
    當前,AI的行業應用已遍布金融、教育、醫療、交通及各類製造業等領域,已在人們生活中扮演日益重要的角色,成為各行業的基礎能力。隨著AI產業的爆發,催生了龐大的AI計算需求,傳統數據中心越來越難以承載集中爆發的高算力需求。
  • 智算中心新基建 浪潮首發智算中心作業系統
    會上，浪潮全球首發智算中心作業系統，信通院、OIF、Globaldata、Forrester，Intel、百度及各行業用戶、媒體共同見證了這一重要時刻。浪潮此次發布智算中心作業系統，旨在通過對智算中心基礎設施資源池的管理和調度對各類智慧計算應用進行支撐，從而實現雲數智融合及智慧的交付。
  • 智算中心落地新基建 浪潮2020雲數智中國行深圳成都同步啟程
    AI算力正在成為城市數字經濟發展的新引擎。02 聚焦人工智慧計算，布局智算中心新基建在浪潮看來，智算中心是智慧時代最主要的計算力生產中心和供應中心，它以融合架構計算系統為平臺，以數據為資源，能夠以強大算力驅動AI模型來對數據進行深度加工，源源不斷產生各種智慧計算服務，並通過網絡以雲服務形式向組織及個人進行供應。
  • 以智算中心落地新基建 浪潮2020雲數智中國行南寧站啟動
    目前，浪潮已躋身全球領先的AI算力供應商，擁有業內最強最全的AI計算產品陣列：浪潮NF5488A5是業界性能最好的AI訓練伺服器, 在全球權威AI基準測試MLPerf創下Resnet50訓練任務的最新世界紀錄；推出MX1全球首個AI開放加速系統，可支持多家不同型號的AI晶片直接更換；最新研發成功的AI大模型計算框架LMS，可將NLP
  • 一站式全解「智算中心」浪潮全國巡展即將來到你的城市
    9月2日-17日,智驅新時代 2020浪潮雲數智中國行正式開啟,這場盛大的全國巡展是浪潮年度的品牌盛會,雲數智中國行系列活動旨在圍繞 「雲、數、智」,推進數字生態體系建設。數字經濟的快速發展催生了海量數據需求,「智算中心」應運而生。
  • 浪潮提出智算中心 為產業AI化按下快捷鍵
    浪潮將圍繞AI算力的四大關鍵作業環節持續創新，即生產算力、聚合算力、調度算力、釋放算力，實現AI計算力的全流程、一體化的高效交付。，以及全球首款AI開放加速計算系統MX1；在聚合算力層面，浪潮優化了TensorFLlow框架，在全球首次實現在512個GPU卡上90%的擴展效率，打破ImagenNet訓練集訓練時間全球最快紀錄。
  • 浪潮信息加快技術布局迎接智慧時代的到來
    因此,在5G建設方面對於數據中心的承載規模、安全性、雲網連接能力、節能環保等要求都會有所提高,數據中心產業將會有一場大的改革,為智慧時代的開啟做好準備。智算中心是智慧時代新基建在中國工程院院士、浪潮首席科學家王恩東看來,智慧時代最主要的計算力生產中心是智算中心。何為智算中心?
  • 計算力就是生產力 淺析浪潮智算中心的多維價值
    我們都知道數據中心、超算中心，那麼智算中心是什麼？得益於豐富的行業實踐和敏銳的行業洞察，浪潮提出了智算中心這一前瞻性概念，智慧時代需要新型基礎設施，而智算中心將成為智慧時代的基礎設施。 智算中心的三個基本條件 既然智算中心在當下扮演如此重要的角色，那麼如何建設智算中心也就被提升到一個前所未有的高度。浪潮表示，智算中心要成為新基建，必須滿足以下三個基本條件：開放標準、集約高效和普適普惠。 不管是人工智慧還是5G等新技術，開放開源正在打破產業的邊界。
  • 國家官宣的智能計算中心 浪潮已超前布局領跑行業
    智算中心將是智慧時代計算力的生產與供給中心,是新「電廠」,將成為智慧時代經濟社會運行所必須的重要基礎設施,成為AI計算力的主要生產中心。,浪潮已提前啟動智算中心的廣泛布局。近期,浪潮在完善和強化面向智算中心的產品技術布局方面進程加速,具體包括在開放計算和人工智慧計算領域持續創新,為智算中心提供先進算力支持;發展面向智算中心的存儲、網絡技術,滿足新數據吞吐處理和資源池化需求;發展智算中心作業系統,滿足智算中心之間以及雲邊之間的協同互動需求。
  • 浪潮智算中心：集約高效滿足「千人千面」的產業AI化算力需求
    隨著AI滲透到人們衣食住行的方方面面, 大數據中心已成為社會各行各業發展的重要基礎設施,AI產業化已進入新階段。在網際網路時代扮演關鍵角色的傳統計算基礎設施即雲數據中心,已經難以滿足AI時代的計算需求。今年4月浪潮提出「智算中心」概念,有望化解AI計算需求爆發與傳統算力不足的矛盾,用這一概念提出者中國工程院院士、浪潮首席科學家王恩東的原話解釋就是,「智算中心」以融合架構計算系統為平臺,以數據為資源,以強大的計算力驅動AI模型對數據進行深度加工,源源不斷產生各種智慧計算服務,並通過網絡以雲服務的形式,向組織及個人進行供應。