由 Aitomatic 公司及其“AI 聯(lián)盟”合作伙伴共同開(kāi)發(fā)的 SemiKong 已正式發(fā)布,這款大型語(yǔ)言模型(LLM)是全球首個(gè)專(zhuān)為滿(mǎn)足半導(dǎo)體行業(yè)需求而打造的 AI 工具。SemiKong 旨在融入半導(dǎo)體設(shè)計(jì)公司的工作流程,充當(dāng)該領(lǐng)域的“數(shù)字專(zhuān)家”,從而顯著加快新芯片的上市速度。
圖源:臺(tái)積電
據(jù) Aitomatic 公司介紹,半導(dǎo)體行業(yè)正面臨著專(zhuān)業(yè)知識(shí)嚴(yán)重流失的困境。隨著越來(lái)越多的資深專(zhuān)家退休,他們豐富的經(jīng)驗(yàn)和知識(shí)也隨之流失,導(dǎo)致許多公司面臨嚴(yán)重的人才缺口。針對(duì)這一問(wèn)題,專(zhuān)門(mén)為半導(dǎo)體行業(yè)需求訓(xùn)練的 LLM 被認(rèn)為是幫助新工程師快速獲取必要信息、保持競(jìng)爭(zhēng)力的有效途徑。
SemiKong 基于 Meta 的 Llama 3.1 LLM 平臺(tái)構(gòu)建,近期發(fā)布了其 700 億參數(shù)的版本。Aitomatic 與包括 Meta、AMD 和 IBM 在內(nèi)的新成立的 AI 聯(lián)盟的其他合作伙伴共同開(kāi)發(fā)了這款 LLM,并由 Aitomatic 的 DXA 系統(tǒng)作為 SemiKong 部署的基石。
DXA,即 Domain-Expert Agents(領(lǐng)域?qū)<掖恚?Aitomatic 將較小的 LLM 代理與 SemiKong 70B 中央“蜂巢”連接的方式。通過(guò)對(duì)客戶(hù)公司的技術(shù)庫(kù)或?qū)<夜こ處煹慕?jīng)驗(yàn)進(jìn)行訓(xùn)練,DXA 可以根據(jù)該公司的特定需求進(jìn)行定制。經(jīng)過(guò)訓(xùn)練的 DXA 隨后由核心 SemiKong 部署使用,以自動(dòng)化開(kāi)發(fā)任務(wù)或提供與工程師和工人進(jìn)行類(lèi)似聊天機(jī)器人的通信。
憑借其目前的 700 億參數(shù)版本以及基于 SemiKong 的較小 DXA 代理,該 LLM 在半導(dǎo)體領(lǐng)域的實(shí)用性已遠(yuǎn)遠(yuǎn)超過(guò)了通用 AI 模型。IT之家注意到,SemiKong 宣稱(chēng)可將新芯片設(shè)計(jì)的上市時(shí)間縮短 20-30%,并將首次投產(chǎn)成功率提高 20%。此外,其還聲稱(chēng)可以將新工程師的學(xué)習(xí)曲線縮短高達(dá) 50%。
SemiKong 是新興的 AI 聯(lián)盟內(nèi)部合作的首批成果之一,該聯(lián)盟于 2023 年 12 月宣布成立。作為眾多旨在對(duì)抗英偉達(dá)在科技行業(yè)的主導(dǎo)地位的企業(yè)聯(lián)盟之一,AI 聯(lián)盟成員包括 IBM 和 AMD 等大型企業(yè),以及耶魯大學(xué)和東京大學(xué)等研究機(jī)構(gòu)。