ICC訊 據(jù)獲悉,騰訊云TI-ONE平臺在數(shù)據(jù)接入、模型訓(xùn)練、模型服務(wù)等階段為企業(yè)提供全鏈路的技術(shù)優(yōu)化方案,并在模型訓(xùn)練、推理階段提供TI-ACC加速工具,幫助客戶節(jié)省50%硬件成本。
隨著數(shù)字化轉(zhuǎn)型進(jìn)程不斷加速,人工智能技術(shù)的發(fā)展更加關(guān)注與行業(yè)應(yīng)用、社會需求的深度融合。其中,技術(shù)服務(wù)商如何提供“開箱即用”的AI能力,讓企業(yè)更好聚焦業(yè)務(wù)本身,提高 AI應(yīng)用的開發(fā)效率,成為行業(yè)關(guān)注的主要問題。
今年9月,騰訊一站式AI開發(fā)服務(wù)平臺TI平臺全面升級,并推出TI-ACC加速工具、TI-OCR訓(xùn)練平臺、TI-ONE訓(xùn)練平臺、工業(yè)質(zhì)檢訓(xùn)練平臺、智能視頻分析平臺、媒體內(nèi)容中臺/媒體AI中心等服務(wù)板塊。其中,TI-ACC的推理加速性能較原生框架提升100%以上,可用于大模型加速等場景。
目前,依托于數(shù)據(jù)訓(xùn)練模型、深度學(xué)習(xí)網(wǎng)絡(luò)的分布式大規(guī)模機(jī)器訓(xùn)練,成為企業(yè)提升業(yè)務(wù)效能的主要途徑。然而,數(shù)據(jù)量龐大、訓(xùn)練推理環(huán)境搭建復(fù)雜、訓(xùn)練周期長、推理時(shí)延高等問題,中小企業(yè)的人力成本和硬件成本不斷攀升。
以AI商品識別服務(wù)商掌控科技為例。隨著業(yè)務(wù)規(guī)模不斷擴(kuò)大,高精度模型所需的GPU資源成本不斷提高。在騰訊云TI-ONE的助力下,客戶將由TI-ACC加速優(yōu)化后的模型部署在生產(chǎn)環(huán)境,推理性能提升100%,硬件成本降低50%。
TI-ACC在推理階段所呈現(xiàn)的高性能,得益于底層的TNN基礎(chǔ)框架。據(jù)了解,TNN是騰訊優(yōu)圖實(shí)驗(yàn)室向行業(yè)開源的部署框架,TI-ACC在TNN接口基礎(chǔ)上進(jìn)行產(chǎn)品化封裝,提供一鍵式推理加速功能。
此外,TI-ACC支持各類主流模型格式接入,無需轉(zhuǎn)換。另覆蓋CV、NLP、推薦等場景,功能豐富,能夠滿足客戶的多樣化需求。
使用層面,客戶只需將保存的模型包上傳到模型倉庫,將優(yōu)化后的模型在TI-ONE平臺發(fā)布服務(wù)并通過API條用,即可享受到TI-ACC推理加速帶來的高性能體驗(yàn)。
作為前沿技術(shù)的探索,騰訊一直通過向各行業(yè)提供 AI 技術(shù)助力,推動人工智能技術(shù)高水平應(yīng)用,目前已在金融、媒體、政務(wù)、工業(yè)和醫(yī)療等多個(gè)行業(yè)受到客戶認(rèn)可。未來,騰訊也將持續(xù)深入行業(yè),更好發(fā)揮AI技術(shù)的長期價(jià)值,助力實(shí)體經(jīng)濟(jì)高質(zhì)量發(fā)展。