<wbr id="awkfb"></wbr>
        1. <wbr id="awkfb"></wbr>
            <form id="awkfb"></form>
            <nav id="awkfb"><code id="awkfb"><blockquote id="awkfb"></blockquote></code></nav>

              1. <sub id="awkfb"><table id="awkfb"></table></sub>
                <wbr id="awkfb"></wbr>
                <wbr id="awkfb"></wbr>

                歡迎光臨青島華慧澤知識產權代理有限公司官網!

                • 國家知識產權局備案商標代理機構
                • 國家知識產權局備案專利代理機構(機構代碼37247)
                • 青島市技術合同服務點 青島市科技成果標準化評價機構

                全國統一咨詢電話:

                (0532)81117588

                科技金融

                當前位置: 首頁 > 快速導航 > 科技金融 >

                金融機構大模型進階:現有算力資源面臨諸多挑戰

                發布時間:2024-1-24來源:中國金融新聞網點擊:返回列表

                       大模型表現出的強大理解、生成和推理能力,讓各行各業開始探索其落地應用。

                 
                  中關村金融科技產業發展聯盟專家委員會主任委員周延禮在公開場合表示,隨著深度學習和人工智能算法的發展,算力的不斷提升以及數據的積累,人工智能與各行各業逐步結合、融合發展,成為新興經濟發展的重要力量。
                 
                  結合企業的具體實踐,科技界人士普遍認為,在當前探索可研和試點應用階段,企業一般從大模型訓練和微調入手,而基于大數據量、大規模參數進行的大模型訓練,需要消耗大量算力資源??梢哉f,算力日益成為數字經濟的新型生產力,作為算力的重要組成部分,存力的價值也日益凸顯。
                 
                  金融機構落地大模型的關鍵點是什么?存力價值如何提升?根據《金融行業先進AI存力報告》(以下簡稱《報告》),構建可用、可信、可控的先進存力,是金融行業落地大模型的“必答題”。
                 
                  算力集群存在“木桶效應”
                 
                  算力、數據和算法是大模型落地應用的三大支撐要素,其中,算力需求最先迎來爆發。
                 
                  目前,銀行、保險、證券等金融機構尤其是頭部金融機構已經開始落地大模型場景應用,并自建大模型能力。據了解,大模型的落地應用必須依托由高性能計算芯片、存儲和網絡共同構成的大規模算力集群,對此,金融機構也在進行重點布局。
                 
                  據中國工商銀行軟件開發中心高級專家劉承巖介紹,工商銀行在算力方面已經建成了可以支持千億模型訓練和推理的算力集群,引入了千億模型的算法。
                 
                  需要注意的是,算力集群也存在“木桶效應”,其中,存力的重要性往往被忽視?!秷蟾妗诽岬?,大模型訓練等場景對于存力提出了一系列新挑戰,而存力也往往容易成為短板,制約算力效能發揮,成為大模型落地過程中潛藏的風險。
                 
                  簡單來說,如果存儲和網絡性能無法支撐大規模的數據存儲、讀寫和傳輸,高性能計算芯片無用武之地,價值也將大打折扣。
                 
                  對于存力的發展,相關政策已有著墨。2023年10月,工業和信息化部等六部門聯合印發《算力基礎設施高質量發展行動計劃》提出“加速存力技術研發應用”,圍繞全閃存、藍光存儲、硬件高密、數據縮減、編碼算法、芯片卸載、多協議數據互通等技術,推動先進存儲創新發展。
                 
                  滿足存力提升需要
                 
                  補齊短板,重視存力的提升,與大模型落地應用場景密切相關。
                 
                  根據相關調研結論,金融行業典型的大模型應用場景包括數據分析、智能問答、智能客服、數字營業廳、智能投顧、智能投研、營銷內容生成、產品推薦、智能風控等,部分場景已進入試點應用階段。
                 
                  面對復雜的應用場景,大模型作為變革性技術,需要實現能力內化,金融機構在應用場景中優先調用了自有大模型,并對其進行訓練和部署,模型參數量往往在千億級。因此,對于大模型落地應用走在前列的金融行業而言,AI算力建設頗具挑戰。
                 
                  “中國人保在大模型研究和應用場景落地過程中,感受到最大的限制并非是技術問題,而是算力資源嚴重不足。” 中國人民保險集團科技運營部總經理劉蒼牧坦言,“在國產化算力尚未強大的當下,這對我們持續開展大模型研究和推廣應用是一個巨大的挑戰。”
                 
                  《報告》認為,在重視大模型能力建設的背景下,金融機構必須構建起堅實的智能算力基礎設施,以支撐大模型的高效訓練和部署。作為AI算力基礎設施的關鍵組成部分之一,構建先進存力的著力點在哪里?
                 
                  《報告》稱,金融機構對于AI先進存力的需求可以總結為三方面:可用、可信、可控。具體來看,在可用方面,金融機構要滿足大模型場景對于存力的高吞吐、高IOPS、高帶寬、低延時的極致性能要求,提升算力資源利用率;在可信方面,在滿足以上極致性能要求的前提下,金融機構在先進存力建設中還需要考慮信創適配問題,同時,破解國產硬件性能瓶頸;在可控方面,金融機構需要盡可能降低成本,在采購存儲系統時,保證自身大模型能力建設的自主性和靈活性。
                 
                  加強跨界合作
                 
                  業內人士認為,大模型時代的到來將推動新一輪算力基礎設施建設,先進存力是其中至關重要的組成部分。
                 
                  《報告》提出,相比算力、網絡可以通過直接采購成熟產品服務快速形成能力,軟硬件高度融合且更具開放性的存力建設具有更大的挑戰性。金融機構應當提升對存力建設的重視度,同時在算力基礎設施建設中進行前瞻性的統籌規劃,做好存力與算力、網絡的匹配,避免出現存力短板,阻礙大模型落地進程。
                 
                  “大模型算法技術門檻高,底層算力資源需求大,必須借助相關產業公司的技術和算力共同開展大模型的底座研究和訓練。”劉蒼牧表示,智能前沿技術如通用大模型,在底層算力算法技術儲備方面的門檻極高,金融機構必將積極開展跨界合作,充分發揮第三方機構的技術先發優勢,與自身的業務場景和專業知識相結合,共同打造智能金融生態圈,實現優勢互補和互利共贏。
                 
                  據了解,目前業內已有商業銀行、證券公司與科技企業在大模型算力基礎設施建設方面有所合作。

                關閉

                • 高品質服務

                  一對一,服務貼心周到,價格公開透明
                • 快速響應客戶需求

                  一站式手續辦理,完成交易流程
                • 全程跟蹤服務

                  隨時溝通客戶,助力通過
                • 專家級指導

                  專業的談判及指導,一對一經紀人
                • 資深服務團隊

                  專業誠信,優質高效,嚴格風險把控與告知
                • 平臺保障全程服務

                  專業顧問一站式一對一引導服務
                兔费一级a一片久久精品网,亚洲人妻aA,国产91福利精品