商湯科技大裝置萬象獲得中國信通院“大模型推理平臺”最高評級認證

    本報訊 （記者矯月）近日，中國信息通信研究院（以下簡稱“中國信通院”）完成可信AI《大模型推理平臺通用能力成熟度》首輪評估。商湯大裝置萬象大模型開發平臺，獲得當前最高評級——4+級，并成為國內首家獲得最高評級的大模型推理平臺。

    中國信通院依托人工智能關鍵技術和應用評測工業和信息化部重點實驗室、中國人工智能產業發展聯盟AI Infra工作組，聯合七十余家單位共同編制了《大模型推理平臺技術要求》標準，并依托該標準開展可信AI大模型推理平臺首批評估。該評估聚焦大模型推理平臺的功能、性能、穩定性，關注部署、推理、服務與管理環節，以實現低時延、高吞吐、可擴展、高易用、低成本目標。本次共評估88個能力項，其中基本功能34項，高級功能54項。

    結果顯示，商湯大裝置的萬象大模型開發平臺在模型的部署、推理、服務環節均表現優異，可為開發者提供高性價比、靈活易用的服務，配備前沿模型、算法、推理引擎、知識庫等套件，助力開發者快速構建行業模型及應用編排。

    商湯大裝置萬象大模型開發平臺提供從大模型開發到應用構建的全鏈條開發工具，為企業大模型落地提供一站式高效服務。該平臺可兼容GPU、NPU等異構推理加速卡；其內置自研高效推理引擎，降低推理成本50%以上；同時，具備完善的安全機制，為企業大模型落地提供安全保障。

    目前，商湯大裝置萬象大模型開發平臺已在交通、消費、政務、自動駕駛、智能家居、醫療等多個行業多種業務場景中落地。

（編輯 張昕）