大規(guī)模語(yǔ)言智能如何為商業(yè)搭建橋梁?AI計(jì)算的未來(lái)突破在于類(lèi)腦芯片嗎?當(dāng)人工智能遇上量子計(jì)算,又會(huì)展現(xiàn)出怎樣的場(chǎng)景?作為WAIC期間內(nèi)容最硬核、最受AI開(kāi)發(fā)者關(guān)注的技術(shù)活動(dòng),今年的WAIC·AI開(kāi)發(fā)者論壇以「后深度學(xué)習(xí)的AI時(shí)代」為主題,邀請(qǐng)到了全球最具影響力的學(xué)術(shù)泰斗、企業(yè)高管、技術(shù)專(zhuān)家為開(kāi)發(fā)者們帶來(lái)了最前沿的分享。

2021 WAIC世界人工智能大會(huì)已于近日在上海落幕。

7 月 10 日,在機(jī)器之心承辦的WAIC·AI開(kāi)發(fā)者論壇上,阿里巴巴副總裁 & 達(dá)摩院語(yǔ)言技術(shù)實(shí)驗(yàn)室負(fù)責(zé)人司羅、類(lèi)腦芯片研究領(lǐng)軍人物及SynSense時(shí)識(shí)科技聯(lián)合創(chuàng)始人和首席科學(xué)家 Giacomo Indiveri、中國(guó)惠普有限公司副總裁暨大中華區(qū)個(gè)人信息產(chǎn)品事業(yè)部總經(jīng)理周信宏、登臨科技創(chuàng)始人兼 CEO 李建文、RISC-V 國(guó)際開(kāi)源 (RIOS) 實(shí)驗(yàn)室執(zhí)行主任譚章熹、上海交通大學(xué)特聘教授陳海波、百度研究院量子計(jì)算研究所所長(zhǎng)段潤(rùn)堯、好未來(lái)集團(tuán)技術(shù)副總裁吳中勤、九章云極 DataCanvas 董事長(zhǎng)方磊、云天勵(lì)飛副總裁 & AI 產(chǎn)品中心負(fù)責(zé)人肖嶸、知乎合伙人兼 CTO 李大海、思謀科技聯(lián)合創(chuàng)始人兼技術(shù)負(fù)責(zé)人劉樞博士以及 MindSpore 開(kāi)源社區(qū)運(yùn)營(yíng)負(fù)責(zé)人黃之鵬等多位 AI 產(chǎn)業(yè)界代表進(jìn)行主題演講。

此外,機(jī)器之心于2021WAIC·AI開(kāi)發(fā)者論壇期間啟動(dòng) ‘AI開(kāi)發(fā)者十問(wèn)’ 特別策劃,該策劃將在接下來(lái)的一年內(nèi)滾動(dòng)邀請(qǐng)中外人工智能頂級(jí)專(zhuān)家向全球AI開(kāi)發(fā)者分享專(zhuān)業(yè)研究洞見(jiàn),解讀最新的AI技術(shù)突破,解答AI開(kāi)發(fā)者關(guān)心的趨勢(shì)性問(wèn)題。通過(guò)‘開(kāi)發(fā)者十問(wèn)’特別策劃,機(jī)器之心將持續(xù)為全球AI開(kāi)發(fā)者打造高質(zhì)量的專(zhuān)業(yè)內(nèi)容,為全球人工智能開(kāi)發(fā)者提供最前沿的學(xué)術(shù)趨勢(shì),促進(jìn)中外AI技術(shù)社區(qū)間的交流互動(dòng)。特別策劃內(nèi)容將在機(jī)器之心旗下多渠道華語(yǔ)內(nèi)容平臺(tái)及英文AI科技媒體品牌Synced Review滾動(dòng)首發(fā)。

除了這些精彩的主題演講,WAIC·AI開(kāi)發(fā)者論壇還揭曉了今年的WAIC·云帆獎(jiǎng)得主,現(xiàn)場(chǎng)頒發(fā)了WAIC·黑客松獎(jiǎng)杯。歡迎大家關(guān)注機(jī)器之心公眾號(hào)了解云帆獎(jiǎng)與黑客松獲獎(jiǎng)詳情。

阿里巴巴副總裁司羅大規(guī)模語(yǔ)言智能為商業(yè)搭建橋梁

自2018年以來(lái),谷歌BERT、OpenAI GPT-3等大規(guī)模預(yù)訓(xùn)練語(yǔ)言模型逐漸成為NLP界的主流,不僅可以完成問(wèn)答、翻譯、小說(shuō)創(chuàng)作等一系列NLP任務(wù),更開(kāi)始了語(yǔ)言模型的商業(yè)化探索,催生一系列落地應(yīng)用。「煉大模型」,為什么成為了NLP領(lǐng)域的大勢(shì)所趨?

2021 WAIC•AI開(kāi)發(fā)者論壇,阿里巴巴副總裁、達(dá)摩院語(yǔ)言技術(shù)實(shí)驗(yàn)室負(fù)責(zé)人司羅分享了「大規(guī)模語(yǔ)言智能如何為商業(yè)搭建橋梁」的主題內(nèi)容。

說(shuō)到自然語(yǔ)言智能領(lǐng)域的發(fā)展現(xiàn)狀,司羅總結(jié)了三個(gè)關(guān)鍵點(diǎn):

1.深度語(yǔ)言模型突破式發(fā)展, 引領(lǐng)重要自然語(yǔ)言技術(shù)取得進(jìn)展;

2.公有云NLP技術(shù)服務(wù)從通用功能走向定制化服務(wù);

3.自然語(yǔ)言技術(shù)逐步與行業(yè)/場(chǎng)景緊密結(jié)合, 產(chǎn)生更大價(jià)值。

第三個(gè)方向是各大科技巨頭奮起爭(zhēng)先的重點(diǎn)方向。阿里巴巴達(dá)摩院是最早投入預(yù)訓(xùn)練語(yǔ)言模型研究的團(tuán)隊(duì)之一,2017年10月,阿里巴巴成立了專(zhuān)注于自然語(yǔ)言智能的達(dá)摩院語(yǔ)言技術(shù)實(shí)驗(yàn)室,成立3年多來(lái),達(dá)摩院語(yǔ)言技術(shù)實(shí)驗(yàn)室在國(guó)內(nèi)外各類(lèi)技術(shù)評(píng)測(cè)中取得了多項(xiàng)優(yōu)異的成績(jī),并把完善后的技術(shù)沉淀到自身打造的自然語(yǔ)言技術(shù)平臺(tái)中。

平臺(tái)技術(shù)背后,是Alicemind自然語(yǔ)言預(yù)訓(xùn)練體系。AliceMind包括通用語(yǔ)言模型 StructBERT、多語(yǔ)言VECO、生成式PALM、多模態(tài)StructVBERT、結(jié)構(gòu)化StructuralLM、知識(shí)驅(qū)動(dòng)LatticeBERT、機(jī)器閱讀理解UED、超大模型PLUG 等,目前大部分已經(jīng)開(kāi)源。

AliceMind具有閱讀、寫(xiě)作、翻譯、問(wèn)答、搜索、摘要生成、對(duì)話等多種能力,目前已成為阿里的語(yǔ)言技術(shù)底座,日均調(diào)用量超過(guò)50億次,活躍場(chǎng)景超過(guò)200個(gè),已在跨境電商、客服、廣告等數(shù)十個(gè)核心業(yè)務(wù)應(yīng)用落地。未來(lái),AliceMind將持續(xù)完善,向著更加智慧的方向發(fā)展,并持續(xù)進(jìn)行生態(tài)技術(shù)開(kāi)源。

類(lèi)腦芯片研究領(lǐng)軍人物、SynSense時(shí)識(shí)科技聯(lián)合創(chuàng)始人Giacomo Indiveri

AI計(jì)算的未來(lái)突破在哪里

作為類(lèi)腦芯片設(shè)計(jì)領(lǐng)域的絕對(duì)權(quán)威,Giacomo Indiveri教授具有20多年的模擬與混合信號(hào)硬件設(shè)計(jì)經(jīng)驗(yàn),并曾三次獲得ERC歐洲研究理事會(huì)經(jīng)費(fèi)支持,這在類(lèi)腦芯片領(lǐng)域前無(wú)古人。Giacomo Indiveri也是 「類(lèi)腦計(jì)算概念提出者」、 加州理工學(xué)院傳奇人物Carver Mead的學(xué)生之一。

2021 WAIC•AI開(kāi)發(fā)者論壇,Giacomo Indiveri通過(guò)視頻連線的方式進(jìn)行了主題為《仿生的低功耗人工智能計(jì)算系統(tǒng)》的演講。

Giacomo Indiveri先是回顧了近年來(lái)人工智能領(lǐng)域的突飛猛進(jìn)。2011年,第一個(gè)使用反向傳播方法訓(xùn)練的卷積神經(jīng)網(wǎng)絡(luò)大獲成功。反向傳播和卷積神經(jīng)網(wǎng)絡(luò)均早已被提出,但那一次獲得真正令人印象深刻的性能,要?dú)w功于算力的提升和數(shù)據(jù)量的增長(zhǎng)。

但我們?nèi)宰⒁獾?現(xiàn)有計(jì)算模式仍需消耗大量資源在存儲(chǔ)及功耗上。如何改善這些問(wèn)題?最有希望的方法之一就是類(lèi)腦計(jì)算,這恰好是SynSense時(shí)識(shí)科技聚焦的領(lǐng)域。

2017年3月,Giacomo Indiveri教授與其學(xué)生喬寧博士(現(xiàn)任SynSense時(shí)識(shí)科技CEO兼董事長(zhǎng))在瑞士蘇黎世成立aiCTX公司,并在中國(guó)和瑞士?jī)傻胤e極推動(dòng)可商用的類(lèi)腦芯片研發(fā)。2020年4月母公司落地中國(guó),之后又將aiCTX更名為SynSense時(shí)識(shí)科技。

仿真的人工神經(jīng)網(wǎng)絡(luò)真正的特征在于大規(guī)模的權(quán)重乘法或矩陣乘法,人工神經(jīng)網(wǎng)絡(luò)也會(huì)有類(lèi)似加權(quán)的輸入,但物理學(xué)在此類(lèi)計(jì)算過(guò)程中發(fā)揮著更重要的作用,而突觸不只是在做乘法。因此前者實(shí)際上是一種運(yùn)行在計(jì)算機(jī)和GPU上的算法,生物神經(jīng)網(wǎng)絡(luò)真正使用的是時(shí)間-空間域運(yùn)算和物理學(xué)。因此,人工智能領(lǐng)域需要一場(chǎng)計(jì)算范式方面的徹底轉(zhuǎn)變。標(biāo)準(zhǔn)的計(jì)算基本基于馮諾依曼架構(gòu),CPU與內(nèi)存的數(shù)據(jù)往復(fù)消耗了很多能量,而CPU內(nèi)部的計(jì)算是很高效的,比大腦內(nèi)部傳輸數(shù)據(jù)的成本更低。

一直以來(lái),SynSense時(shí)識(shí)科技都在從事類(lèi)腦芯片的設(shè)計(jì),推出了DYNAP-SE2、DYNAP-CNN、SPECK、XYLO等系列類(lèi)腦芯片。在當(dāng)前的類(lèi)腦芯片領(lǐng)域,市場(chǎng)上依然沒(méi)有出現(xiàn)量產(chǎn)的可商用的類(lèi)腦芯片。Giacomo Indiveri教授曾表示:「我們研發(fā)類(lèi)腦芯片并不是要取代CPU和GPU,而是要提供可以放在機(jī)器人和物聯(lián)網(wǎng)終端設(shè)備的實(shí)時(shí)傳感,是一個(gè)非常低功率,緊湊而小型的計(jì)算單元。」

中國(guó)惠普有限公司副總裁周信宏

AI 基礎(chǔ)設(shè)施——邊緣計(jì)算演進(jìn)及趨勢(shì)

近年來(lái),AI從實(shí)驗(yàn)室走向大規(guī)模的商業(yè)應(yīng)用,在金融、農(nóng)業(yè)、醫(yī)療、文娛、交通等眾多領(lǐng)域加速落地,深刻改變著人們的生產(chǎn)、生活和學(xué)習(xí)方式。與此同時(shí),人工智能的加速落地帶來(lái)了爆發(fā)式的數(shù)據(jù)增長(zhǎng),對(duì)未來(lái)的計(jì)算力提出了新的挑戰(zhàn)。面向高速發(fā)展的智能時(shí)代,邊緣計(jì)算憑借著其獨(dú)有的先天優(yōu)勢(shì),可以有助于滿足未來(lái)更多樣化的應(yīng)用場(chǎng)景需求。

2021 WAIC•AI開(kāi)發(fā)者論壇,中國(guó)惠普有限公司副總裁周信宏從邊緣計(jì)算的角度,分享了惠普的經(jīng)驗(yàn)與思考。

邊緣計(jì)算的誕生可以追溯到1998年,但「邊緣計(jì)算」這一概念正式被提出的時(shí)間是2013年,邊緣計(jì)算的發(fā)展經(jīng)歷了一系列的探索和架構(gòu)的演變。到了2020年,5G技術(shù)落地開(kāi)始加速邊緣計(jì)算的成熟和應(yīng)用,同時(shí)惠普以突破性的技術(shù)推出了Z系列數(shù)據(jù)科學(xué)工作站,助推邊緣計(jì)算的發(fā)展。

周信宏介紹說(shuō),隨著邊緣計(jì)算的發(fā)展,廣泛的應(yīng)用場(chǎng)景正在帶來(lái)更加多元化的市場(chǎng)需求,可以總結(jié)為四個(gè)關(guān)鍵詞:算力強(qiáng)勁、靈活敏捷、穩(wěn)定可靠、經(jīng)濟(jì)實(shí)用。

正是基于對(duì)前沿趨勢(shì)、用戶需求的洞察,惠普打造了包含數(shù)據(jù)采集工作站、微型工作站、Z8 Multi-GPU工作站、VR可穿戴設(shè)備以及Data Science Stack在內(nèi)的Z系列革命性產(chǎn)品,以多形態(tài)產(chǎn)品滿足不同應(yīng)用場(chǎng)景的計(jì)算需求,以一體化的解決方案助力行業(yè)實(shí)現(xiàn)創(chuàng)新突破。

惠普數(shù)據(jù)科學(xué)工作站的強(qiáng)勁性能可以滿足對(duì)計(jì)算性能要求最為嚴(yán)苛的行業(yè)需求,尤其是在 AI已經(jīng)廣泛應(yīng)用的安防、文娛、醫(yī)療、零售、汽車(chē)等領(lǐng)域,都有惠普數(shù)據(jù)科學(xué)工作站的身影。

面向未來(lái), 5G、物聯(lián)網(wǎng)的不斷發(fā)展將帶動(dòng)邊緣計(jì)算向更廣泛的領(lǐng)域滲透,周信宏表示,惠普將繼續(xù)攜手軟件、硬件以及行業(yè)伙伴,通過(guò)整合硬件技術(shù)與合作伙伴的軟件開(kāi)發(fā)成果,拓展技術(shù)應(yīng)用的使用場(chǎng)景,搭建多方共贏的生態(tài)系統(tǒng),共同借助創(chuàng)新技術(shù)引領(lǐng)行業(yè)生產(chǎn)力變革,合力締造一個(gè)更加美好的智慧未來(lái)。

登臨科技創(chuàng)始人兼CEO李建文

AI新時(shí)代下的軟硬件協(xié)同異構(gòu)計(jì)算平臺(tái)GPU+

2019 年,OpenAI發(fā)布的AI算力報(bào)告顯示:AI計(jì)算量每年增長(zhǎng)10倍。從AlexNet到AlphaGo Zero,AI模型對(duì)計(jì)算量的需求增長(zhǎng)了30萬(wàn)倍。激增的 AI 算力需求遠(yuǎn)遠(yuǎn)超出了摩爾定律的客觀發(fā)展規(guī)律,加之傳統(tǒng)GPU在AI加速方面存在局限,因此業(yè)界亟需出現(xiàn)滿足新時(shí)代下AI算力巨大需求的全新GPU產(chǎn)品。

2021 WAIC•AI開(kāi)發(fā)者論壇,登臨科技創(chuàng)始人兼CEO李建文就該主題與現(xiàn)場(chǎng)觀眾展開(kāi)交流分享,并介紹了其公司在該領(lǐng)域的探索GPU+架構(gòu)以及在商業(yè)化落地方面的進(jìn)展。

李建文指出,算力是由計(jì)算機(jī)提供,計(jì)算機(jī)的核心技術(shù)是半導(dǎo)體和芯片,但過(guò)去幾十年,它們的更新和計(jì)算性能的提升大大放緩。功耗、散熱也是造成計(jì)算機(jī)性能提升放緩的重要原因。

GPU是解決AI問(wèn)題的三大核心動(dòng)力之一,但對(duì)于AI應(yīng)用來(lái)講,GPU整體架構(gòu)的計(jì)算密度提升不快,效率不高。片上內(nèi)存子系統(tǒng)對(duì)于AI計(jì)算來(lái)講效率非常低。所有這些都呼吁業(yè)界推出全新的GPU產(chǎn)品。登臨科技推出了片內(nèi)異構(gòu)架構(gòu)GPU+以及Goldwasser系列產(chǎn)品。

作為國(guó)內(nèi)目前唯一規(guī)模量產(chǎn)的 GPGPU高性能通用AI加速器,Goldwasser在現(xiàn)有市場(chǎng)主流的GPU架構(gòu)上,創(chuàng)新性地采用軟硬件協(xié)同的異構(gòu)設(shè)計(jì),解決了通用性和高效率的雙重難題,在國(guó)內(nèi)外申請(qǐng)了多個(gè)核心專(zhuān)利,部分已獲得授權(quán)。

Goldwasser具有多個(gè)亮點(diǎn),包括完全自主創(chuàng)新架構(gòu)GPU+、同時(shí)支持推理和訓(xùn)練、無(wú)縫接入現(xiàn)有軟件生態(tài)、在12nm/14nm工藝上取得與國(guó)際主流同類(lèi)產(chǎn)品3倍以上效能優(yōu)勢(shì)等。

此外,Goldwasser覆蓋主流系統(tǒng)生態(tài),支持主流國(guó)內(nèi)外AI計(jì)算框架和適配國(guó)內(nèi)外主流CPU廠家,應(yīng)用場(chǎng)景覆蓋視頻審核、AI創(chuàng)作、智能安防等。

RISC-V國(guó)際開(kāi)源(RIOS)實(shí)驗(yàn)室執(zhí)行主任譚章熹

RISC-V——從開(kāi)源芯片制造、EDA到處理器

在CPU架構(gòu)領(lǐng)域,Arm和x86占據(jù)了絕大部分市場(chǎng)份額。但是,Arm收費(fèi)授權(quán)模式和x86不對(duì)外授權(quán)使得芯片研發(fā)企業(yè)紛紛轉(zhuǎn)向開(kāi)源架構(gòu)RISC-V。

2021 WAIC•AI開(kāi)發(fā)者論壇,RIOS實(shí)驗(yàn)室執(zhí)行主任譚章熹、睿思芯科創(chuàng)始人兼董事長(zhǎng)譚章熹從開(kāi)源芯片、EDA和處理器全方位分享了RISC-V在芯片領(lǐng)域的重要作用。

譚章熹首先介紹了 RIOS實(shí)驗(yàn)室,它是一個(gè)致力于RISC-V開(kāi)源指令架構(gòu)生態(tài)建設(shè)的非盈利組織。接著他從transistor架構(gòu)、單線程性能、頻率、典型功耗和多核等方面解讀了微處理器的發(fā)展,并分析了芯片性能與成本之間的變化。

計(jì)算機(jī)的發(fā)展基于指令集架構(gòu)(ISA),但Arm、x86的私有性造成了封閉,RISC-V應(yīng)運(yùn)而生。RISC-V在全球50個(gè)國(guó)家有2000多個(gè)成員。到2025年,市場(chǎng)將消耗624億個(gè)RISC-V CPU核心,工業(yè)領(lǐng)域167億個(gè)。2010年至今,RISC-V經(jīng)歷了四個(gè)階段的發(fā)展。

處理器的發(fā)展依賴(lài)生態(tài)系統(tǒng)的建設(shè)和開(kāi)源。RIOS實(shí)驗(yàn)室發(fā)布了全球首個(gè)可運(yùn)行Linux的全開(kāi)源RISC-V微型電腦系統(tǒng)PicoRio項(xiàng)目,構(gòu)建更透明、低功耗、定制能力強(qiáng)的高效能邊緣計(jì)算平臺(tái)。未來(lái)PicoRio的軟硬件發(fā)展將分為3個(gè)階段,通過(guò)整個(gè)開(kāi)源平臺(tái),探索RISC-V軟硬件生態(tài)。

最后,譚章熹呼吁大家積極參與開(kāi)源項(xiàng)目的貢獻(xiàn),不斷促進(jìn)開(kāi)源社區(qū)的發(fā)展。

上海交通大學(xué)特聘教授陳海波

AI原生計(jì)算機(jī)系統(tǒng)——機(jī)遇與挑戰(zhàn)

人工智能發(fā)展的三大要素包括算力、算法、數(shù)據(jù),其驅(qū)動(dòng)力可總結(jié)為算法引領(lǐng)+系統(tǒng)支撐。在未來(lái)時(shí)代,計(jì)算機(jī)系統(tǒng)將帶來(lái)哪些機(jī)遇與挑戰(zhàn)?

2021 WAIC•AI開(kāi)發(fā)者論壇,上海交通大學(xué)特聘教授陳海波分享了「AI原生計(jì)算機(jī)系統(tǒng):機(jī)遇與挑戰(zhàn)」的主題演講。

陳海波教授認(rèn)為,首先對(duì)于整個(gè)系統(tǒng)而言,如果把系統(tǒng)分成三層來(lái)看,有硬件抽象、操作系統(tǒng)、系統(tǒng)框架。在AI時(shí)代,計(jì)算機(jī)系統(tǒng)面臨一些新的機(jī)遇,包括BY AI(發(fā)揮AI算力)、USE AI(運(yùn)用AI方法)、FOR AI(支撐AI應(yīng)用)。

AI原生計(jì)算機(jī)系統(tǒng)目前面臨三大挑戰(zhàn),挑戰(zhàn)一:如何實(shí)現(xiàn)新型異構(gòu)智能硬件的高效抽象?挑戰(zhàn)二:如何實(shí)現(xiàn)智能算法與傳統(tǒng)設(shè)計(jì)互補(bǔ)協(xié)作?挑戰(zhàn)三:如何兼顧智能應(yīng)用(各任務(wù))的多樣需求?

接著,陳海波教授從三個(gè)層面進(jìn)行了介紹。

•首先,如何發(fā)揮AI算力,即BY AI。系統(tǒng)軟件如何發(fā)揮智能硬件價(jià)值?陳海波教授認(rèn)為有兩種嘗試:第一種是智能網(wǎng)卡的高效抽象方式;第二種是面向AI芯片的實(shí)時(shí)支撐,從而更大的發(fā)揮智能硬件效率。

•第二,運(yùn)用AI方法,即USE AI。人工智能為系統(tǒng)軟件帶來(lái)新方法:人工智能賦能系統(tǒng)軟件�？蓢L試將智能方法應(yīng)用于分布式存儲(chǔ)(Learned Cache)。

•第三,如何去支持AI的應(yīng)用,即FOR AI。陳海波教授以圖神經(jīng)網(wǎng)絡(luò)框架為例進(jìn)行了講解。FOR AI在系統(tǒng)方面可以做優(yōu)化,可以讓系統(tǒng)軟件更好支撐智能應(yīng)用,通過(guò)面向圖神經(jīng)網(wǎng)絡(luò)的通用計(jì)算框架,結(jié)合下面底層框架可以對(duì)系統(tǒng)效率有非常顯著提升。

陳海波教授認(rèn)為,現(xiàn)在計(jì)算機(jī)系統(tǒng)軟件研究迎來(lái)黃金時(shí)期:第一,AI對(duì)于計(jì)算機(jī)系統(tǒng)研究進(jìn)入新維度,從人工智能賦能系統(tǒng)軟件設(shè)計(jì)的維度,提供新思想、新方法,使傳統(tǒng)方法和智能方法進(jìn)行更好融合;第二,可以用系統(tǒng)軟件更好支撐人工智能的應(yīng)用,帶來(lái)一些新需求,提出新動(dòng)力。使得能夠有機(jī)會(huì)去重新思考經(jīng)典技術(shù)在新興場(chǎng)景下的重生。

百度研究院量子計(jì)算研究所所長(zhǎng)段潤(rùn)堯

量子人工智能——從理論到實(shí)踐

當(dāng)前,人工智能和量子計(jì)算早已經(jīng)是各自領(lǐng)域炙手可熱的研究話題�，F(xiàn)如今,人工智能在智慧醫(yī)療、智能駕駛等領(lǐng)域開(kāi)始被廣泛應(yīng)用,其產(chǎn)業(yè)化獲得了令人矚目的效果。量子計(jì)算也是推動(dòng)數(shù)字社會(huì)進(jìn)步的一把利器。當(dāng)人工智能遇上量子計(jì)算,將展現(xiàn)出怎樣的場(chǎng)景?

2021 WAIC•AI開(kāi)發(fā)者論壇,百度研究院量子計(jì)算研究所所長(zhǎng)段潤(rùn)堯分享了「量子人工智能:從理論到實(shí)踐 」的主題演講。

為什么我們需要量子計(jì)算?段潤(rùn)堯認(rèn)為主要原因有三。一是邏輯上的必然性:經(jīng)典邏輯存在困局,必須推廣經(jīng)典比特和邏輯門(mén)到量子情形。二是技術(shù)上的必然性:理論預(yù)估的極限實(shí)際上已經(jīng)達(dá)到,芯片設(shè)計(jì)必須考慮量子效應(yīng)。三是應(yīng)用上的必然性:經(jīng)典計(jì)算機(jī)模擬量子系統(tǒng)通常需要指數(shù)多的時(shí)間效率低下,而量子計(jì)算機(jī)幾乎可以高效模擬自然界中所有量子系統(tǒng)。同時(shí),段潤(rùn)堯表示量子計(jì)算已上升為國(guó)家戰(zhàn)略,其市場(chǎng)趨勢(shì)未來(lái)可期。

目前,量子計(jì)算的應(yīng)用領(lǐng)域包括密碼安全、人工智能、量子化學(xué)、材料模擬等。量子計(jì)算與人工智能正在深度融合。量子人工智能在算法、框架、硬件三個(gè)層面進(jìn)行AI基礎(chǔ)能力的創(chuàng)新突破,預(yù)計(jì)在準(zhǔn)確率提升的同時(shí)大幅降低時(shí)間和能源成本。

百度量子計(jì)算研究所成立于2018年3月8日,以實(shí)現(xiàn)「百度量子,量子百度」為使命,制訂了QAAA戰(zhàn)略規(guī)劃:聚焦量子算法(Quantum Algorithm)、量子人工智能(Quantum AI)和量子架構(gòu)(Quantum Architecture)的研發(fā),并初步建成了以量脈、量槳、量易伏三大項(xiàng)目為主體的百度量子平臺(tái)。百度量子平臺(tái)旨在扮演量子時(shí)代操作系統(tǒng)的角色,降低普通用戶學(xué)習(xí)量子軟硬件專(zhuān)業(yè)知識(shí)的成本,使非量子專(zhuān)業(yè)用戶也能實(shí)現(xiàn)量子編程、量子機(jī)器學(xué)習(xí)等相關(guān)內(nèi)容。

其中量易伏重磅升級(jí)至2.0版本,成為國(guó)內(nèi)首個(gè)接入量子計(jì)算真機(jī)的云原生量子計(jì)算平臺(tái),提供從應(yīng)用到真機(jī)的一站式量子計(jì)算服務(wù)。量易伏通過(guò)接入中科院物理研究所的超導(dǎo)量子比特芯片,以及諸如混合語(yǔ)言支持、QCompute SDK、云上量子IDE、自動(dòng)化模塊工作流等技術(shù),打造企業(yè)級(jí)量子計(jì)算開(kāi)發(fā)環(huán)境。

百度的量子生態(tài)是一個(gè)開(kāi)放、可持續(xù)的生態(tài),通過(guò)為用戶與開(kāi)發(fā)者提供量子服務(wù)、和研究機(jī)構(gòu)與高校開(kāi)展項(xiàng)目合作、主辦或贊助領(lǐng)域頂級(jí)會(huì)議等多種途徑持續(xù)為量子計(jì)算的發(fā)展和繁榮作出貢獻(xiàn),力爭(zhēng)實(shí)現(xiàn)「人人皆可量子」的美好愿景。

好未來(lái)集團(tuán)技術(shù)副總裁吳中勤

多模態(tài)機(jī)器學(xué)習(xí)及大規(guī)模自動(dòng)生成技術(shù)

多模態(tài)機(jī)器學(xué)習(xí)(MultiModal Machine Learning,MMML)旨在從多種模態(tài)建立一種模型,能夠處理和關(guān)聯(lián)多種模態(tài)的信息,解決單一模態(tài)模型無(wú)法解決的問(wèn)題。

2021 WAIC•AI開(kāi)發(fā)者論壇,好未來(lái)集團(tuán)技術(shù)副總裁吳中勤為我們解讀了多模態(tài)機(jī)器學(xué)習(xí)及大規(guī)模自動(dòng)生成技術(shù),并介紹了好未來(lái)AI 研究院的最新研究成果及成功案例。

基于數(shù)據(jù)的異構(gòu)性,MMML領(lǐng)域總體有五種研究方向:表征、轉(zhuǎn)換、對(duì)齊、協(xié)同和融合。在教育領(lǐng)域存在很典型的多模態(tài)場(chǎng)景,好未來(lái)是國(guó)內(nèi)頂尖的教育科技企業(yè),課堂中師生互動(dòng)、授課質(zhì)量評(píng)價(jià)等問(wèn)題都需要該領(lǐng)域的技術(shù)支撐分析和解決。

好未來(lái)AI研究院研發(fā)的Godeye授課質(zhì)量分析系統(tǒng),是針對(duì)授課過(guò)程中老師/學(xué)生之間發(fā)生的講解、互動(dòng)、鼓勵(lì)等各類(lèi)學(xué)情進(jìn)行智能識(shí)別,此系統(tǒng)可以幫助教師準(zhǔn)確定位自身授課過(guò)程中有待提升的部分,給出專(zhuān)業(yè)建議配合教學(xué)方案,最終達(dá)到提升教師族群整體教學(xué)質(zhì)量的目標(biāo)。

Godeye授課質(zhì)量分析系統(tǒng)已經(jīng)在好未來(lái)集團(tuán)內(nèi)部廣泛應(yīng)用,并且獲得了CSDN 2019全國(guó)優(yōu)秀AI應(yīng)用案例。

想要真正實(shí)現(xiàn)授課質(zhì)量分析需要多個(gè)模態(tài)算法的協(xié)同和融合,語(yǔ)音分析方向大多數(shù)教室中,教師和學(xué)生的聲音數(shù)據(jù)是混雜在一起收錄的,很難把教師和學(xué)生的說(shuō)話內(nèi)容分離開(kāi),并作單獨(dú)分析。但準(zhǔn)確分析一堂課中的學(xué)習(xí)過(guò)程,分別分析教師授課情況和學(xué)生的吸收情況非常重要。他們提出一個(gè)不需任何提前錄制聲紋,同時(shí)結(jié)合發(fā)聲特征、說(shuō)話內(nèi)容的1on1課堂中師生說(shuō)話分離的多模態(tài)算法框架,并已經(jīng)發(fā)表在語(yǔ)音頂會(huì)ICASSP 2020會(huì)議上。

除了將師生對(duì)話內(nèi)容分離外,課堂中老師情感的表達(dá)對(duì)學(xué)生的參與感、學(xué)習(xí)體驗(yàn)有重要影響。除了面部表情,情感表達(dá)更重要的途徑是聲音以及說(shuō)話內(nèi)容。語(yǔ)音情感識(shí)別領(lǐng)域是挑戰(zhàn)很高的,因?yàn)榍楦械谋磉_(dá)是復(fù)雜的、多模態(tài)的以及細(xì)粒度的。針對(duì)問(wèn)題,好未來(lái)AI研究院也提出了一個(gè)新型的多模態(tài)深度學(xué)習(xí)方法來(lái)對(duì)現(xiàn)實(shí)生活中的語(yǔ)音進(jìn)行細(xì)粒度情感識(shí)別。相關(guān)論文發(fā)表在InterSpeech 2021會(huì)議中。

同時(shí)當(dāng)前音頻-語(yǔ)言雙模態(tài)預(yù)訓(xùn)練模型應(yīng)用還比較少,好未來(lái)提出了一個(gè)針對(duì)音頻-文本雙模態(tài)的交叉模態(tài)的預(yù)訓(xùn)練Transformer,簡(jiǎn)稱(chēng)CTAL。這套預(yù)訓(xùn)練框架目標(biāo)在于學(xué)習(xí)音頻和語(yǔ)言間的模態(tài)內(nèi)和跨模態(tài)的聯(lián)系。

外在文本生成方面,好未來(lái)借助大規(guī)模自動(dòng)生成技術(shù)架構(gòu),在1個(gè)小時(shí)內(nèi)就能生成10萬(wàn)級(jí)數(shù)量的練習(xí),速度是人工的數(shù)千倍,而且多樣性高、來(lái)源廣泛,更好地解決了人工思考和效率的問(wèn)題。

好未來(lái)作為智慧教育國(guó)家新一代人工智能開(kāi)放創(chuàng)新平臺(tái)承建單位,AI研究院2021年以來(lái)取得多個(gè)AI領(lǐng)域重要前沿技術(shù)成果,5篇論文入圍人工智能教育國(guó)際頂級(jí)會(huì)議 AIED 2021,在CVPR 2021挑戰(zhàn)賽中獲得四項(xiàng)冠軍,斬獲INTERSPEECH 2021「非母語(yǔ)兒童識(shí)別」雙料冠軍,此外今年已經(jīng)發(fā)表超過(guò)17篇業(yè)界一流論文。

九章云極DataCanvas董事長(zhǎng)方磊

Hypernets——自動(dòng)化機(jī)器學(xué)習(xí)的基礎(chǔ)框架

當(dāng)AI進(jìn)入落地期,從業(yè)者越來(lái)越多地關(guān)注如何降低構(gòu)建模型的門(mén)檻,一款優(yōu)秀的AutoML框架應(yīng)該是什么樣的?

九章云極DataCanvas董事長(zhǎng)方磊的分享主題是「Hypernets:自動(dòng)化機(jī)器學(xué)習(xí)的基礎(chǔ)框架」。他認(rèn)為,好的AutoML框架一定要具備富有表現(xiàn)力的搜索空間描述語(yǔ)言、支持高維空間的高效搜索算法和高性能的評(píng)估策略。

作為基礎(chǔ)的AutoML框架,九章云極 DataCanvas開(kāi)源了Hypernets可解決自動(dòng)建模領(lǐng)域的三個(gè)關(guān)鍵技術(shù),率先突破了機(jī)器學(xué)習(xí)建模過(guò)程中不均衡數(shù)據(jù)、概念漂移、模型泛化能力和大規(guī)模數(shù)據(jù)等諸多挑戰(zhàn),支持最新的神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索(NAS)算法,提供開(kāi)放的訓(xùn)練服務(wù)框架,滿足單節(jié)點(diǎn)及分布式高性能的模型訓(xùn)練需求,可以在不同的空間進(jìn)行搜索與訓(xùn)練,并且作為幫助用戶快速開(kāi)發(fā)專(zhuān)用領(lǐng)域的AutoML工具,降低了AutoML工具的開(kāi)發(fā)門(mén)檻,實(shí)現(xiàn)深度學(xué)習(xí)的網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)自動(dòng)化。

方磊介紹了Hypernets的兩個(gè)具體示例:HyperGBM與HyperKeras。HyperGBM融合了先進(jìn)的GBM模型,包括XGBoost、LightGBM、CatBoost自動(dòng)建模工具,實(shí)現(xiàn)建模全過(guò)程的全自動(dòng)機(jī)器學(xué)習(xí),效果出眾,在多個(gè)公開(kāi)數(shù)據(jù)集和客戶實(shí)際業(yè)務(wù)場(chǎng)景上的表現(xiàn)接近或超出人類(lèi)專(zhuān)家水平;HyperKeras建立在Tensorflow和Keras上,支持神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索(NAS)和超參數(shù)優(yōu)化(Hyperparameter tuning)方便復(fù)現(xiàn)各種經(jīng)典N(xiāo)AS中的搜索空間,專(zhuān)注非共性問(wèn)題,靈活高效地?cái)U(kuò)展。

對(duì)于Hypernets用戶來(lái)說(shuō),5到10行代碼即可完成Full-Pipeline AutoML,簡(jiǎn)單易用。Hypernets的未來(lái)愿景是融合更多的深度學(xué)習(xí)框架,推動(dòng)神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索的前沿發(fā)展,助力實(shí)際應(yīng)用場(chǎng)景中的深度學(xué)習(xí)模型落地。

云天勵(lì)飛副總裁 & AI產(chǎn)品中心負(fù)責(zé)人肖嶸

創(chuàng)「芯」時(shí)代 ,打造自進(jìn)化城市智能體

當(dāng)前,全球智慧城市建設(shè)都處在初期階段,但智慧城市最終將會(huì)發(fā)展成為一個(gè)自進(jìn)化的城市智能體。自進(jìn)化城市智能體需要具備哪些要素?端側(cè)智能又在其中發(fā)揮怎樣的作用?

2021 WAIC•AI開(kāi)發(fā)者論壇,云天勵(lì)飛副總裁 & AI產(chǎn)品中心負(fù)責(zé)人肖嶸闡述了這些問(wèn)題,并介紹了他們?cè)谟布�和算法平臺(tái)的布局和最新進(jìn)展。

回顧過(guò)去,「智慧城市」這一概念可以追溯到2008年,經(jīng)過(guò)了2012年的探索期。2016年,「十三五」規(guī)劃綱要提出「新型智慧城市」,緊接著,阿里云城市大腦項(xiàng)目誕生,騰訊推出WeCity未來(lái)城市解決方案,百度大腦正式發(fā)布,華為在多地建立智慧城市 IOC。

隨著5G、物聯(lián)網(wǎng)的建設(shè),每天都會(huì)有海量的數(shù)據(jù)實(shí)時(shí)產(chǎn)生,對(duì)邊緣設(shè)備及其算力的需求呈爆炸式增長(zhǎng)。目前,智慧城市主要面臨多樣化場(chǎng)景帶來(lái)的復(fù)雜需求、智能端側(cè)應(yīng)用不足、網(wǎng)絡(luò)可靠性和系統(tǒng)可靠性差、個(gè)人隱私數(shù)據(jù)與信息安全難以保障等問(wèn)題。

肖嶸認(rèn)為,自進(jìn)化城市智能體需要具備兩個(gè)要素:AI的普適性和自學(xué)習(xí)、自進(jìn)化。

針對(duì)「云側(cè)」可靠性低、延時(shí)高等問(wèn)題,云天勵(lì)飛著重強(qiáng)調(diào)了自進(jìn)化城市智能體體系的底層基礎(chǔ)——「算法芯片化」。自成立之初,云天勵(lì)飛就一直專(zhuān)注于芯片的研發(fā),早在 2016年,云天勵(lì)飛研發(fā)了其第一代深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器NNP100 ,目前正在進(jìn)行第三代處理器架構(gòu)的迭代開(kāi)發(fā)。

同時(shí),城市治理的應(yīng)用場(chǎng)景多樣、需求復(fù)雜,對(duì)算法的場(chǎng)景適用性要求高,云天勵(lì)飛結(jié)合主動(dòng)學(xué)習(xí)、半/弱監(jiān)督學(xué)習(xí)和超大規(guī)模預(yù)訓(xùn)練模型正在打造城市邊緣智能平臺(tái)。

肖嶸展示了云天勵(lì)飛算法平臺(tái)助力龍崗區(qū)12345政府便民熱線、賦能龍華區(qū)城市治理兩個(gè)實(shí)際案例。在真實(shí)的場(chǎng)景下打磨和訓(xùn)練出來(lái)的算法,才會(huì)在實(shí)戰(zhàn)中有突出的表現(xiàn)。基于這些成熟的算法,云天勵(lì)飛打造出來(lái)的芯片,才會(huì)更貼合場(chǎng)景的需求。

知乎合伙人兼CTO李大海

基于AI的智能社區(qū)多模態(tài)數(shù)據(jù)融合研究與實(shí)踐

作為中文互聯(lián)網(wǎng)最大的知識(shí)分享平臺(tái),知乎以問(wèn)答業(yè)務(wù)為基礎(chǔ),以高質(zhì)量?jī)?nèi)容和良好的社區(qū)氛圍受到廣泛贊譽(yù)。從2019年開(kāi)始,視頻化成為大趨勢(shì),知乎也投入了大量資源在富媒體化的工作中。

2021 WAIC•AI開(kāi)發(fā)者論壇,知乎合伙人兼CTO李大海帶來(lái)了知乎在智能社區(qū)時(shí)代多模態(tài)數(shù)據(jù)融合中的研究以及實(shí)踐進(jìn)展。

李大海表示,AI技術(shù)已經(jīng)廣泛應(yīng)用于知乎的每個(gè)核心環(huán)節(jié),構(gòu)建智能社區(qū)實(shí)現(xiàn)知識(shí)普惠。隨著越來(lái)越多的用戶在知乎上通過(guò)視頻分享自己的知識(shí)、經(jīng)驗(yàn)、見(jiàn)解,知乎確定了以多模態(tài)為核心的視頻智能化技術(shù)戰(zhàn)略。

去年10月,知乎發(fā)布了PPT創(chuàng)作工具,圖文創(chuàng)作者可以利用這個(gè)工具快速把自己的文字回答或者文章生成為一個(gè)視頻。轉(zhuǎn)化過(guò)程的主要思路是把文章里每一段話或者每一個(gè)句子,通過(guò)模型找到對(duì)應(yīng)的圖片、動(dòng)圖或者短視頻,然后通過(guò)預(yù)訓(xùn)練模型把每一段文字與素材庫(kù)里圖片的相關(guān)性進(jìn)行計(jì)算。此外還有其他應(yīng)用,創(chuàng)作者可以主動(dòng)輸入關(guān)鍵詞,在素材庫(kù)里面找到和關(guān)鍵詞匹配度最高圖片,讓它自己主動(dòng)構(gòu)建視頻素材流。

未來(lái),知乎將基于積累的海量圖文視頻數(shù)據(jù),致力構(gòu)建綜合圖文、視頻、音頻等媒介于一體的大規(guī)模預(yù)訓(xùn)練模型,并將成果完全開(kāi)放出來(lái),讓學(xué)界、業(yè)界的更多開(kāi)發(fā)者使用。

思謀科技聯(lián)合創(chuàng)始人兼技術(shù)負(fù)責(zé)人劉樞

智能制造中的算法平臺(tái)——不只為客戶降本增效

很多To B公司的初心都是為客戶降本增效,但To B公司可不可以為自己好一點(diǎn)?可不可以為自己降本增效?

2021 WAIC•AI開(kāi)發(fā)者論壇,思謀科技聯(lián)合創(chuàng)始人兼技術(shù)負(fù)責(zé)人劉樞發(fā)表了「智能制造中的算法平臺(tái)——不只為客戶降本增效」的主題演講。

在這里,劉樞介紹了思謀科技的智能制造算法平臺(tái)SMore AI Platform (SMap),同時(shí)指出:「AI制造將顛覆傳統(tǒng)工業(yè),AI是變革的核心驅(qū)動(dòng)力�！�

SMore AI Platform (SMap)具有工具化、平臺(tái)化、范式化、產(chǎn)品化等特點(diǎn):

•工具化:工程師可以輕松使用,也可以將其作為知識(shí)沉淀的載體。

•平臺(tái)化:平臺(tái)具有有優(yōu)秀的抽象功能,為后續(xù)的拓展提供可能;還具有統(tǒng)一不同工具的設(shè)計(jì)與使用界面的功能,功能靈活可插拔。

•范式化:平臺(tái)可以實(shí)現(xiàn)項(xiàng)目流程的范式化,可以快速?gòu)?fù)制,同時(shí)可實(shí)現(xiàn)模型自動(dòng)化生產(chǎn)。

•產(chǎn)品化:該平臺(tái)可打通項(xiàng)目交付最后一環(huán),成為產(chǎn)品的一部分,從而加速價(jià)值傳遞。

未來(lái),思謀科技將持續(xù)運(yùn)用新一代AI系統(tǒng)架構(gòu)和自動(dòng)化硬件能力,通過(guò)AI技術(shù)與制造業(yè)融合中的神奇反應(yīng),進(jìn)一步推動(dòng)傳統(tǒng)制造業(yè)的智能化轉(zhuǎn)型,牽手合作伙伴共同開(kāi)創(chuàng)智能制造新未來(lái)。

MindSpore 開(kāi)源社區(qū)運(yùn)營(yíng)負(fù)責(zé)人黃之鵬

下一代AI基礎(chǔ)軟件能力展望

從2010年開(kāi)始,支撐深度學(xué)習(xí)發(fā)展最重要的就是框架以及支撐框架的基礎(chǔ)軟件,沒(méi)有這些軟件的發(fā)展,就沒(méi)有如今實(shí)現(xiàn)的這么多模型和系統(tǒng)。

2021 WAIC•AI開(kāi)發(fā)者論壇,MindSpore開(kāi)源社區(qū)運(yùn)營(yíng)負(fù)責(zé)人黃之鵬分享了「下一代AI基礎(chǔ)軟件能力展望」的主題演講。

黃之鵬表示,下一代AI基礎(chǔ)軟件核心能力將會(huì)有巨大突破,其發(fā)展的著力點(diǎn)主要集中于發(fā)效率和執(zhí)行性能的提升、AI研究到生產(chǎn)之間巨大鴻溝的突破、AI求解技術(shù)的升級(jí)以及中國(guó)人工智能AI應(yīng)用生態(tài)的建設(shè)等方面。

近年來(lái),華為投入大量資金進(jìn)行人工智能開(kāi)發(fā),建立了MindSpore開(kāi)源社區(qū)、昇騰CANN社區(qū)等一系列人工智能研發(fā)生態(tài)系統(tǒng)。黃之鵬認(rèn)為,MindSpore和CANN的出現(xiàn)代表著下一代基礎(chǔ)設(shè)施的一整套全新思路正式走上舞臺(tái),而未來(lái)的深度學(xué)習(xí)框架發(fā)展會(huì)集中在幾個(gè)重點(diǎn)方向上:

1.互操作性。隨著預(yù)訓(xùn)練模型、跨模態(tài)預(yù)訓(xùn)練模型的大量豐富,解決面向不同框架、不同平臺(tái)、不同硬件的互操作問(wèn)題,尤其是通過(guò)業(yè)界標(biāo)準(zhǔn)解決互操作問(wèn)題只是時(shí)間的問(wèn)題;

2.高階API。能否有非常好用的高階API,是未來(lái)深度學(xué)習(xí)框架能否發(fā)展出茁壯的應(yīng)用及開(kāi)發(fā)者生態(tài)非常重要的一環(huán);

3.SciML。對(duì)科學(xué)計(jì)算/傳統(tǒng)數(shù)值計(jì)算與深度學(xué)習(xí)結(jié)合的支持,完整的端到端自動(dòng)可微能力,將成為深度學(xué)習(xí)框架發(fā)展的一個(gè)重要趨勢(shì)

4.編譯優(yōu)化。如何設(shè)計(jì)、擴(kuò)展能夠更好地優(yōu)化相關(guān)編譯流程,如何進(jìn)行面向域?qū)Ｓ屑軜?gòu)的軟硬件協(xié)同編譯優(yōu)化,將成為深度學(xué)習(xí)框架及編譯基礎(chǔ)設(shè)施需要解決的主要問(wèn)題。