C114訊 北京時(shí)間11月20日消息（艾斯）韓國電信運(yùn)營商SK電訊（SKT）正在持續(xù)大舉進(jìn)行AI轉(zhuǎn)型。
近日，該運(yùn)營商宣布推出了一款A(yù)I客服工具，旨在提高處理客戶查詢的效率。這一新系統(tǒng)利用SKT自研的電信大語言模型（Telco LLM）和大型多模態(tài)模型（LMM）技術(shù)，專注于電信領(lǐng)域知識。SKT韓國客服中心從今年10月中旬以來一直在測試該工具，測試階段持續(xù)了大約一個(gè)月時(shí)間。
報(bào)道稱，上述Telco LLM是通過與Anthropic等主流國際大模型公司合作開發(fā)的，使該系統(tǒng)能夠提供深厚的電信專業(yè)知識。
SKT還開發(fā)了能夠理解與通信相關(guān)的文本和圖像的專用LMM。測試版服務(wù)于10月中旬逐步推出，并顯示出良好的效果。這是韓國國內(nèi)客服中心首次采用這類AI咨詢系統(tǒng)。這家運(yùn)營商表示，該系統(tǒng)提高了工作效率，提供了更加個(gè)性化的客戶咨詢。利用其自研的Telco LLM，可幫助agent更快地從內(nèi)部數(shù)據(jù)庫中檢索相關(guān)信息，從而縮短響應(yīng)時(shí)間，并提高服務(wù)質(zhì)量。
另外，SKT采用了檢索增強(qiáng)生成（RAG）進(jìn)一步優(yōu)化系統(tǒng)，使模型在回答客戶查詢時(shí)僅訪問最準(zhǔn)確的數(shù)據(jù)。此功能提高了響應(yīng)的可靠性和準(zhǔn)確度，確保agent能夠提供最好的服務(wù)。RAG的集成還通過簡化數(shù)據(jù)檢索過程提高了整體響應(yīng)質(zhì)量，使其更快、更有效。
在過去的一年里，SKT重組了其知識管理系統(tǒng)，以更好地適應(yīng)AI需求。該公司利用各種通信數(shù)據(jù)和客服專家的大量反饋對其模型進(jìn)行了微調(diào)。
這種由強(qiáng)化學(xué)習(xí)驅(qū)動的迭代過程確保了Telco LLM和LMM是量身定制的，能夠以最高的準(zhǔn)確度處理與電信相關(guān)的查詢。
除了核心的AI功能外，SKT還計(jì)劃推出三項(xiàng)創(chuàng)新解決方案：AI知識搜索助手、智能文檔處理、自動后處理系統(tǒng)。這些功能已于今年10月開始測試，并將于2025年全面推出。
據(jù)C114了解，韓國電信運(yùn)營商一直在AI數(shù)字化轉(zhuǎn)型方面表現(xiàn)得果敢激進(jìn)。就在最近，SKT還宣布了一項(xiàng)新計(jì)劃，將致力于建設(shè)所謂的“AI基礎(chǔ)設(shè)施高速公路”，以AI數(shù)據(jù)中心（AIDC）、GPU即服務(wù)（GPUaaS）和邊緣AI三大主軸為中心，在全國范圍內(nèi)構(gòu)建AI基礎(chǔ)設(shè)施，從而成為亞太地區(qū)的“AI樞紐中心”（AI Hub）。
SKT首席執(zhí)行官Yoo Young-sang表示：“迄今為止，通信基礎(chǔ)設(shè)施一直是關(guān)于網(wǎng)絡(luò)連接的競爭，也即網(wǎng)速和容量的較量，但現(xiàn)在網(wǎng)絡(luò)演進(jìn)的范式必須改變了。未來，6G將發(fā)展成為融合通信和AI的下一代AI基礎(chǔ)設(shè)施。”
此前在2024年6月，SK電訊與德國電信（Deutsche Telekom）、e&、新加坡電信（Singtel）、軟銀（SoftBank）共同宣布成立全球電信人工智能聯(lián)盟（GTAA），聯(lián)盟成員同意成立一家合資企業(yè)，開發(fā)專門針對電信行業(yè)的大語言模型，這是對利用海量電信數(shù)據(jù)的一次主動嘗試。
市場研究公司Omdia在一篇報(bào)告中寫到，現(xiàn)有大語言模型的局限性引發(fā)了打造Telco LLM的想法，這是一種先進(jìn)的大語言模型，可以為AI服務(wù)配備電信行業(yè)知識，以了解用戶的意圖。Telco LLM將推動AI轉(zhuǎn)型并提高客戶服務(wù)質(zhì)量標(biāo)準(zhǔn)，同時(shí)還具有提升生成式AI表現(xiàn)的潛力。
Omdia資深分析師Harith Abdul Hadi指出，在生成式AI當(dāng)中打造Telco LLM的目的是簡化員工的工作流程，更重要的是，支撐運(yùn)營商在各個(gè)領(lǐng)域（例如咨詢、研發(fā)和營銷）的AI轉(zhuǎn)型計(jì)劃，包括將運(yùn)營商的新業(yè)務(wù)與核心業(yè)務(wù)相結(jié)合。電信公司將能夠留住人才并使工作變得更有趣，特別是在需求下降的領(lǐng)域（例如客戶服務(wù)、后端運(yùn)營）。
不過，也有電信運(yùn)營商對于是否需要打造專門的Telco-LLM持懷疑態(tài)度。例如，歐洲大型電信運(yùn)營商Orange就表示，從商業(yè)角度來看，目前最好的做法是對現(xiàn)有模型進(jìn)行微調(diào)，而不是從頭開始構(gòu)建自己的大模型或?qū)ΜF(xiàn)有的大模型進(jìn)行全面的再訓(xùn)練。Orange認(rèn)為，對“特定的”電信大模型的需求仍是一個(gè)需要探討的問題。
因此，Orange并未將過多的精力放在構(gòu)建特定的大模型上，而是持續(xù)通過開發(fā)自己與現(xiàn)有大模型的接口來探索通用大模型應(yīng)用。
