8 月 19 日，第 19 屆 XCon 安全焦點(diǎn)信息安全技術(shù)峰會于北京舉行，騰訊朱雀實(shí)驗(yàn)室首度亮相公眾視野。該實(shí)驗(yàn)室由騰訊安全平臺部孵化，專注于實(shí)戰(zhàn)攻擊技術(shù)研究和 AI 安全技術(shù)研究，以攻促防，守護(hù)騰訊業(yè)務(wù)及用戶安全。

　　會上，騰訊朱雀實(shí)驗(yàn)室高級安全研究員 nEINEI 分享了一項(xiàng) AI 安全創(chuàng)新研究：模擬實(shí)戰(zhàn)中的黑客攻擊路徑，通過對 AI 模型文件的逆向分析，跳過傳統(tǒng)利用“樣本投毒”的攻擊環(huán)節(jié)，直接控制 AI 模型的神經(jīng)元，為模型“植入后門”。甚至在保留正常功能的前提下，直接在 AI 模型文件中插入二進(jìn)制攻擊代碼，將模型文件改造為攻擊載體來執(zhí)行惡意代碼，在幾乎無感的情況下，實(shí)現(xiàn)對神經(jīng)網(wǎng)絡(luò)的深層次攻擊。

　　這也是國內(nèi)首個利用 AI 模型文件直接產(chǎn)生后門效果的攻擊研究。

　　騰訊安全平臺部負(fù)責(zé)人楊勇表示，當(dāng)前 AI 已融入各行各業(yè)，安全從業(yè)者面臨著更復(fù)雜、更多變的網(wǎng)絡(luò)環(huán)境。我們已經(jīng)看到了網(wǎng)絡(luò)攻擊武器 AI 化的趨勢，除了框架這樣的 AI 基礎(chǔ)設(shè)施，數(shù)據(jù)、模型、算法，任何一個環(huán)節(jié)都是攻防的前線。作為安全工作者，必須走在業(yè)務(wù)之前，做到技術(shù)的與時俱進(jìn)。

　　針對新型攻擊手法，騰訊朱雀實(shí)驗(yàn)室也對 AI 研究和從業(yè)人員提出了應(yīng)對建議：從第三方渠道下載的模型，要保證渠道的安全性，避免直接加載不確定來源的模型文件。對模型文件的加載使用也要做到心中有數(shù)，通過“模型可信加載”，每次加載模型進(jìn)行交叉對比、數(shù)據(jù)校驗(yàn)，進(jìn)行充分的代碼檢測，可有效應(yīng)對這種新型攻擊手法。
　　（邯鄲網(wǎng)站建設(shè)）

特斯拉與臺積電開發(fā)HW4.0...

蘋果發(fā)布會開始錄制：iPh...