多模態(tài)超級(jí)智能安全北京市重點(diǎn)實(shí)驗(yàn)室在中關(guān)村論壇上正式對(duì)外公開(kāi)。中關(guān)村論壇供圖

北京市重點(diǎn)實(shí)驗(yàn)室作為北京市科技創(chuàng)新體系的重要組成部分，聚焦國(guó)家重大戰(zhàn)略和北京市高精尖產(chǎn)業(yè)領(lǐng)域、經(jīng)濟(jì)社會(huì)發(fā)展的重大需求。作為北京市重點(diǎn)支持的基礎(chǔ)研究機(jī)構(gòu)，多模態(tài)超級(jí)智能安全實(shí)驗(yàn)室旨在推進(jìn)超級(jí)智能領(lǐng)域的基礎(chǔ)研究，開(kāi)展超級(jí)人工智能、人工智能安全等前沿研究，解決復(fù)雜技術(shù)和應(yīng)用問(wèn)題，力爭(zhēng)建成世界一流科研平臺(tái)。

超級(jí)智能（super intelligent），是指超越人類智能的機(jī)器智能系統(tǒng)。與當(dāng)前普遍的預(yù)訓(xùn)練AI相比，超級(jí)智能可在極少量樣本數(shù)據(jù)上自主學(xué)習(xí)，在類人直覺(jué)、規(guī)律洞察、復(fù)雜問(wèn)題解決等方面極具優(yōu)勢(shì)，大幅拓展人類的科學(xué)邊界和想象空間，在科研、金融、醫(yī)療等復(fù)雜場(chǎng)景有廣泛需求。以科學(xué)研究的場(chǎng)景為例，超級(jí)智能可打破學(xué)科界限，直接分析海量實(shí)驗(yàn)數(shù)據(jù)，發(fā)現(xiàn)隱藏其中的科學(xué)規(guī)律和原理，更能打破傳統(tǒng)科研范式中遵循既定理論框架與研究方法的固有局限，直接面向顛覆性科研任務(wù)；極大拓展了人類探索科學(xué)的范圍、尺度和視角，構(gòu)建全新的人機(jī)協(xié)同科研范式，將重塑世界科研格局。

我國(guó)人工智能研究和應(yīng)用已處于世界先進(jìn)水平，近期DeepSeek等高水平應(yīng)用更引發(fā)了新一輪的人工智能熱情，但目前大語(yǔ)言模型仍是基于Transformer架構(gòu)上的創(chuàng)新。這種“大數(shù)據(jù)－大模型－強(qiáng)算力”的技術(shù)路線，依賴大量進(jìn)口高性能芯片，成本高、幻覺(jué)多，難以真正落地到業(yè)務(wù)的核心，高質(zhì)量數(shù)據(jù)的枯竭將進(jìn)一步限制這種范式的發(fā)展?jié)摿Α榇耍覈?guó)一方面需要繼續(xù)挖掘現(xiàn)有技術(shù)路線的潛力，尤其是減少芯片和能源的消耗；另一方面，亟待加強(qiáng)人工智能的基礎(chǔ)研究，提前多元布局，尋找更高效的技術(shù)架構(gòu)和方法體系，精準(zhǔn)規(guī)劃彎道超車的突破點(diǎn)。

多模態(tài)超級(jí)智能安全北京市重點(diǎn)實(shí)驗(yàn)室以中國(guó)科學(xué)院自動(dòng)化所視頻安全團(tuán)隊(duì)與人民中科為核心組建，擬重點(diǎn)突破超級(jí)人工智能等技術(shù)路線，探索類腦智能、自主進(jìn)化學(xué)習(xí)、超級(jí)人類對(duì)齊、自主高質(zhì)量數(shù)據(jù)生成等顛覆性研究，并研究和解決隱私保護(hù)、算法偏見(jiàn)、責(zé)任歸屬等現(xiàn)實(shí)問(wèn)題。

據(jù)介紹，實(shí)驗(yàn)室將重點(diǎn)圍繞五大方向開(kāi)展研究。

一是超級(jí)智能新范式構(gòu)建。探索并構(gòu)建有別于大數(shù)據(jù)、大模型、大算力的全新人工智能范式，尋找更高效、更具創(chuàng)新性的技術(shù)架構(gòu)和方法體系。

二是認(rèn)知能力模擬與增強(qiáng)。深入研究如何模擬及進(jìn)一步增強(qiáng)超級(jí)智能的發(fā)現(xiàn)能力、反思能力、直覺(jué)能力以及科學(xué)規(guī)律發(fā)現(xiàn)能力。例如通過(guò)神經(jīng)科學(xué)與人工智能的交叉研究，讓機(jī)器更好地模擬人類的高級(jí)認(rèn)知功能。

三是智能決策系統(tǒng)的優(yōu)化。提升超級(jí)智能在復(fù)雜且不確定環(huán)境中做出更精準(zhǔn)、更具前瞻性決策的能力，并在政務(wù)、金融、醫(yī)療、交通等關(guān)鍵領(lǐng)域推廣應(yīng)用。

四是自主性和安全性提升。研究在不同場(chǎng)景下提升超級(jí)智能的自主性，包括自主學(xué)習(xí)、自主規(guī)劃、自主適應(yīng)環(huán)境變化等，減少對(duì)人類干預(yù)的依賴；研究系統(tǒng)的安全性和經(jīng)濟(jì)型，避免潛在的風(fēng)險(xiǎn)與威脅的同時(shí)，降低算力消耗和技術(shù)成本。

五是科研范式突破與重構(gòu)。借助超級(jí)智能超強(qiáng)的科學(xué)規(guī)律發(fā)現(xiàn)能力，探索如何對(duì)現(xiàn)有的科研范式和科學(xué)體系進(jìn)行重構(gòu)，突破傳統(tǒng)科學(xué)研究的局限，開(kāi)拓新的科學(xué)領(lǐng)域和研究方法。

當(dāng)模型自我迭代能力占據(jù)主導(dǎo)地位以后，AI會(huì)加速度實(shí)現(xiàn)向超級(jí)人工智能的演化。人民中科相關(guān)負(fù)責(zé)人表示，將圍繞實(shí)驗(yàn)室建設(shè)，開(kāi)展超級(jí)人工智能的研究，并推進(jìn)相關(guān)成果落地應(yīng)用在國(guó)家重大戰(zhàn)略實(shí)施和重點(diǎn)領(lǐng)域安全能力建設(shè)。