·AI應(yīng)用要能夠創(chuàng)造商業(yè)價值，核心在于對落地場景的深入理解。模型大小的選擇也應(yīng)根據(jù)實際應(yīng)用場景和任務(wù)需求來決定。

“AI大模型應(yīng)用落地的第一核心是深入理解場景，用場景需求牽引著技術(shù)的發(fā)展。”7月29日，科大訊飛副總裁、研究院院長劉聰在媒體溝通會上對外表示，中國擁有獨特的應(yīng)用場景優(yōu)勢，龐大的人口基數(shù)為行業(yè)產(chǎn)品提供了豐富的數(shù)據(jù)和多樣化的應(yīng)用場景，AI應(yīng)用要能夠創(chuàng)造商業(yè)價值，核心在于對落地場景的深入理解。對于目前熱議的小模型潮流，劉聰認(rèn)為，模型大小的選擇也應(yīng)根據(jù)實際應(yīng)用場景和任務(wù)需求來決定。

科大訊飛副總裁、研究院院長劉聰 

大模型落地依賴對場景需求的認(rèn)知

2024年，大模型賽道競爭更加激烈，劉聰表示，科大訊飛更關(guān)注大模型能否真正實際應(yīng)用到系統(tǒng)中，為用戶提供可衡量的價值和效果，在這個過程中對場景的認(rèn)知起到關(guān)鍵作用。

劉聰以科大訊飛發(fā)布的首款星火智能批閱機(jī)為例，“沒有大模型時，我們也做批改，有了大模型之后，現(xiàn)在批改比過往厲害了很多。”他表示，該款智能批閱機(jī)目前基于星火大模型V4.0的底座能力研發(fā)，可以在對多學(xué)科、多題型作業(yè)進(jìn)行智能批改，即時生成報告，以便老師在作業(yè)講評時進(jìn)行分層輔導(dǎo)。

劉聰認(rèn)為，這款產(chǎn)品之所以能迅速被市場接受，背后離不開對行業(yè)的深入理解和技術(shù)積累。科大訊飛早在十年前便提出了全學(xué)科自動閱卷的概念，通過長期的技術(shù)積累，才能夠快速將大模型技術(shù)應(yīng)用在產(chǎn)品中，并實現(xiàn)產(chǎn)品性能的快速迭代。

正是基于對場景的深入認(rèn)知，科大訊飛在執(zhí)行大模型“1+N”路線時也會因地制宜。“1+N”的“1”指通用的認(rèn)知智能大模型，“N”就是大模型在各個領(lǐng)域的落地，包括教育、辦公、汽車、人機(jī)交互以及醫(yī)療等。劉聰坦言，經(jīng)過實踐，他們發(fā)現(xiàn)之前設(shè)定的“1+N”的邏輯存在冗余問題，今年，他們對“1”和“N”的劃分進(jìn)行了調(diào)整，“N”在落地場景中，有部分場景下的常用能力可以整合到核心業(yè)務(wù)里，不再作為獨立業(yè)務(wù)存在，減少重復(fù)開發(fā)的工作。

讓場景和實際任務(wù)需求來決定模型選擇

大模型進(jìn)入下半場，從技術(shù)到應(yīng)用，市場對于更易本地部署的高效率、低成本模型越來越感興趣。今年暑期，AI巨頭們也密集發(fā)布小模型，既比性能，還拼價格。    

7月19日，OpenAI發(fā)布GPT-4o mini，號稱是“OpenAI最智能和最實惠的小模型”，無獨有偶，蘋果也發(fā)布了DCLM小模型，并且發(fā)布即開源。有觀點指出，這些模型參數(shù)小、占內(nèi)存少，在特定場景中，經(jīng)過精調(diào)后使用效果可以媲美大模型，成為性價比之選。

在劉聰看來，大模型與小模型的選擇，其實根據(jù)復(fù)雜任務(wù)規(guī)劃需求而定。對于部分高難度任務(wù)包括復(fù)雜的推理任務(wù)，比如數(shù)學(xué)推理等這類任務(wù)往往需要大規(guī)模模型的支持，因為它們涉及多步驟推理和跨領(lǐng)域信息整合。對于簡單的任務(wù)，比如特定行業(yè)的翻譯或文本處理，甚至編寫代碼這類專業(yè)性工作，中小規(guī)模的模型可能就足夠了。特別是在需要快速響應(yīng)的場景下，如在個人電腦上使用，通常不需要依賴云端處理。

“不過，小模型的不斷進(jìn)步需要依賴大模型的發(fā)展?！眲⒙斨赋觯瑹o論是大模型還是小模型，最重要的是根據(jù)實際應(yīng)用場景和任務(wù)需求來決定，而不是簡單地追求模型的大小或復(fù)雜度。

劉聰表示，國內(nèi)擁有獨特的應(yīng)用場景優(yōu)勢，龐大的人口基數(shù)為行業(yè)產(chǎn)品提供了豐富的數(shù)據(jù)和多樣化的應(yīng)用場景，這在某種程度上是優(yōu)勢。盡管在通用大模型的用戶活躍度上可能不及國外，但在行業(yè)應(yīng)用方面，中國擁有豐富的場景和數(shù)據(jù)，這反而成為機(jī)會。