在數(shù)字化浪潮的推動(dòng)下,人工智能(AI)正以其獨(dú)特的方式重塑世界。然而,隨著技術(shù)的飛速發(fā)展,AI安全問(wèn)題也日益凸顯,成為我們必須面對(duì)的挑戰(zhàn)。9月10日,作為國(guó)家網(wǎng)絡(luò)安全宣傳周的重要組成部分,一場(chǎng)專(zhuān)注于“具身智能安全”的圓桌討論在“縱橫”論壇人工智能安全論壇上隆重舉行。本次論壇由國(guó)防科技大學(xué)電子對(duì)抗學(xué)院、江淮前沿技術(shù)協(xié)同創(chuàng)新中心承辦,浙江大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院、合肥綜合性國(guó)家科學(xué)中心信息安全研究中心聯(lián)合承辦,安徽華云安科技有限公司協(xié)辦。本次論壇匯聚了來(lái)自全國(guó)頂尖高校的教授和行業(yè)專(zhuān)家,共同探討了具身智能的前沿話題,為現(xiàn)場(chǎng)觀眾帶來(lái)了一場(chǎng)思想的盛宴。

圓桌討論:智慧的碰撞

本次論壇由華云安創(chuàng)始人及江淮創(chuàng)新中心研究員沈傳寶先生主持。參與討論的嘉賓包括復(fù)旦大學(xué)教授張新鵬、武漢大學(xué)教授王騫、中國(guó)科學(xué)技術(shù)大學(xué)教授張衛(wèi)明、東南大學(xué)教授李松澤,以及深信服技術(shù)專(zhuān)家游建舟老師。這些專(zhuān)家學(xué)者在AI領(lǐng)域都有著深厚的造詣,他們的見(jiàn)解和討論為我們提供了寶貴的知識(shí)財(cái)富。

基本概念:AI的未來(lái)形態(tài)

在討論的開(kāi)始,復(fù)旦大學(xué)教授張新鵬首先為我們解釋了人工智能中的AIGC(人工智能生成內(nèi)容)、AGI(通用人工智能)以及具身智能的基本概念。張教授指出,隨著技術(shù)的不斷進(jìn)步,AI正逐漸從單一的任務(wù)執(zhí)行者轉(zhuǎn)變?yōu)槟軌蚶斫狻W(xué)習(xí)和適應(yīng)復(fù)雜環(huán)境的智能體。這一轉(zhuǎn)變不僅為AI的發(fā)展帶來(lái)了新的機(jī)遇,也帶來(lái)了新的安全挑戰(zhàn)。

安全問(wèn)題:具身智能的挑戰(zhàn)

緊接著,武漢大學(xué)教授王騫深入介紹了具身智能的安全問(wèn)題。王教授強(qiáng)調(diào),具身智能系統(tǒng)在與物理世界互動(dòng)時(shí),其安全性直接關(guān)系到人類(lèi)的生活和社會(huì)的穩(wěn)定。因此,如何確保這些系統(tǒng)在面對(duì)各種潛在威脅時(shí)的安全性,是我們必須認(rèn)真對(duì)待的問(wèn)題。

認(rèn)知安全:智能體的思維保護(hù)

中國(guó)科學(xué)技術(shù)大學(xué)教授張衛(wèi)明則從認(rèn)知安全的角度,探討了具身智能中的安全問(wèn)題。張教授提出,認(rèn)知安全涉及到智能體的決策過(guò)程和數(shù)據(jù)處理方式,我們需要確保智能體在處理信息時(shí)的準(zhǔn)確性和可靠性,防止錯(cuò)誤決策帶來(lái)的風(fēng)險(xiǎn)。

大模型的缺陷:技術(shù)的風(fēng)險(xiǎn)

東南大學(xué)教授李松澤則聚焦于具身智能中大模型的缺陷問(wèn)題。李教授指出,盡管大模型在處理復(fù)雜任務(wù)時(shí)表現(xiàn)出色,但它們也可能存在缺陷和漏洞。因此,我們需要對(duì)這些模型進(jìn)行嚴(yán)格的測(cè)試和驗(yàn)證,以確保它們的穩(wěn)定性和安全性。

互動(dòng)環(huán)節(jié):思想的火花

論壇的最后,主持人沈傳寶先生邀請(qǐng)了在場(chǎng)的專(zhuān)家學(xué)者和學(xué)生們進(jìn)行了互動(dòng)。大家就具身智能的安全問(wèn)題進(jìn)行了深入的討論和交流,現(xiàn)場(chǎng)氣氛熱烈,思想的火花不斷碰撞。通過(guò)這些互動(dòng),我們不僅加深了對(duì)具身智能安全問(wèn)題的理解,也為未來(lái)的研究方向提供了新的思路。

結(jié)語(yǔ)

隨著人工智能技術(shù)的不斷進(jìn)步,以及具身智能逐步走向現(xiàn)實(shí)。具身智能的安全問(wèn)題已經(jīng)成為一個(gè)不可忽視的議題。本次縱橫論壇的人工智能安全論壇,為我們提供了一個(gè)寶貴的平臺(tái),讓我們能夠聆聽(tīng)頂尖專(zhuān)家的見(jiàn)解,共同探討和應(yīng)對(duì)未來(lái)的安全挑戰(zhàn)。我們相信,通過(guò)不斷的研究和合作,我們能夠確保人工智能技術(shù)的健康發(fā)展,讓它成為推動(dòng)社會(huì)進(jìn)步的有力工具。

關(guān)于華云安

華云安致力于構(gòu)建人工智能驅(qū)動(dòng)的下一代網(wǎng)絡(luò)安全防御體系,通過(guò)攻擊面管理、防御體系驗(yàn)證、自動(dòng)化防御的技術(shù)創(chuàng)新與突破,以人工智能為核心,打造下一代的云原生安全能力平臺(tái),構(gòu)建面向未來(lái)的智能化防御整體解決方案。

華云安是國(guó)內(nèi)攻擊面管理(ASM)和安全有效性驗(yàn)證(BAS)兩大細(xì)分領(lǐng)域的領(lǐng)導(dǎo)者。公司以攻擊面管理為核心,構(gòu)建了包括網(wǎng)絡(luò)空間資產(chǎn)攻擊面管理(CAASM)、外部攻擊面管理(EASM)、智能滲透與攻擊模擬(BAS)在內(nèi)的完整產(chǎn)品體系,以及智能驅(qū)動(dòng)的自動(dòng)化滲透和紅隊(duì)服務(wù)。華云安在智能攻防領(lǐng)域取得了顯著的成績(jī),其技術(shù)創(chuàng)新、產(chǎn)品能力等得到眾多核心客戶的認(rèn)可。在監(jiān)管、電力、能源、金融、教育等行業(yè)有著廣泛的應(yīng)用。

本文地址：http://www.dayishuiji.com/keji/50991.html - 轉(zhuǎn)載請(qǐng)保留原文鏈接。

免責(zé)聲明：本文轉(zhuǎn)載上述內(nèi)容出于傳遞更多信息之目的，不代表本網(wǎng)的觀點(diǎn)和立場(chǎng)，故本網(wǎng)對(duì)其真實(shí)性不負(fù)責(zé)，也不構(gòu)成任何其他建議；本網(wǎng)站圖片，文字之類(lèi)版權(quán)申明，因?yàn)榫W(wǎng)站可以由注冊(cè)用戶自行上傳圖片或文字，本網(wǎng)站無(wú)法鑒別所上傳圖片或文字的知識(shí)版權(quán)，如果侵犯，請(qǐng)及時(shí)通知我們，本網(wǎng)站將在第一時(shí)間及時(shí)刪除。