【財新網(wǎng)】“到底是賣算力賺錢,還是賣 token(詞元) 賺錢?這是目前所有推理服務(wù)廠商都會面臨的核心問題?!?上海無問芯穹智能科技股份有限公司CTO李伯勛在6月12日的北京智源大會上指出,以詞元作為大模型服務(wù)的計費單位的“賣Token”業(yè)務(wù)并不好做。
李伯勛分析,模型即服務(wù)(MaaS)的門檻很高,要求模型部署后的精度對齊、高速低成本、高可靠穩(wěn)定性和高算力供給。他舉例,一些客戶反映,使用供應(yīng)商的模型的精度比原廠模型的精度差30%,即便是同樣的開源模型,如果模型部署和細節(jié)設(shè)計不同,最后的結(jié)果也是不同的。



















京公網(wǎng)安備 11010502034662號 