【导(dǎo)语(yǔ)】在(zài)当(dāng)今(jīn)数(shù)字(zì)化(huà)时(shí)代(dài)，人(rén)工(gōng)智(zhì)能(néng)（AI）技(jì)术(shù)正(zhèng)迅(xùn)速(sù)融(róng)入(rù)我(wǒ)们(men)的(de)生(shēng)活(huó)，从(cóng)智(zhì)能(néng)手(shǒu)机(jī)到(dào)金(jīn)融(róng)、医(yī)疗(liáo)、交(jiāo)通(tōng)等(děng)多(duō)个(gè)领(lǐng)域。然(rán)而(ér)，随(suí)着AI应用的普及，其安全问题也日益受到关注。在第二十七届中国科协年会上，“基于密码学视角的人工智能安全新理论和防护体系”成为热议话题。本文将深入探讨这一交叉领域，揭示如何用密码学的“锁”来守护人工智能的“智慧”，确保技术进步的同时，也保障数字安全。

在当今数字化浪潮(cháo)中(zhōng)，人(rén)工(gōng)智(zhì)能(néng)(AI)技(jì)术(shù)正(zhèng)以(yǐ)前(qián)所(suǒ)未(wèi)有(yǒu)的(de)速(sù)度(dù)渗(shèn)透(tòu)到(dào)我(wǒ)们(men)生(shēng)活(huó)的(de)方(fāng)方(fāng)面(miàn)面(miàn)——从(cóng)智(zhì)能(néng)手(shǒu)机(jī)的(de)人(rén)脸(liǎn)识(shi)别(bié)到(dào)金(jīn)融(róng)领(lǐng)域的(de)信(xìn)用(yòng)评(píng)估(gū)，从(cóng)医(yī)疗(liáo)诊(zhěn)断(duàn)到(dào)自(zì)动(dòng)驾(jià)驶(shǐ)。然(rán)而(ér)，随(suí)着(zhe)AI应(yīng)用(yòng)的(de)普及，其安全问题也日益凸显。在第二十七届中国科协年会发布的十大前沿科学问题中，“基于密码学视角的人工智能安全新理论和防护体系”这一议题格外引人注目。本文将带您探索这一交叉领域的奥秘(mì)，了(le)解(jiě)如何用密码学的“锁”来守护人工智能的“智慧”。

图源：北京日报

AI的“阿喀琉斯之踵”

即使是再聪明的AI，也有自己的软肋。黑客们已经找到了几种攻击AI的“窍门”：

1.视觉欺骗：别小看几块不起眼的小贴纸，它们足以让AI“睁眼瞎”。2023年，研究人员在自动驾驶测试中发现，只需在交通标志上贴几个特定图案，AI系统就会把“停车”误认成“限速”，这在高速行驶中可不是小问题。这类“对抗样本”就像是给AI戴上了一副错位眼镜，人眼一看分明是个“STOP”，它却自信满满地读成别的字。想象一下，一辆车因为“看错路牌”误操作，后果不堪设想。

2.模型窃取：别以为人工智能的“大脑”只有开发者才能碰到。2023年，有研究团队展示了如何通过不断向像GPT这样的语言模型提问，然后记录它的回答，最后竟然复刻出了一个山寨版的AI模型。这种“黑盒克隆”就像不停问大厨“你这菜怎么做”，问着问着，把秘方和做法都扒了个干净。当AI越来越值钱，它的“被盗风险”也就成了现实问题。

3.数据投毒：AI虽然聪明，却不懂分辨“好坏朋友”。2024年，研究人员在开源网站上传了不少“带毒”的代码——看上去没毛病，其实暗藏漏洞。而一些AI编程助手在学习这些代码后，把错误逻辑原封不动推荐给用户，相当于“把坑当宝送出去”。这就像你教学生做题，结果书上本身就印错了，学生反而越学越偏，AI也是一样，“喂什么就学什么”，学坏了还不自知。

密码学：AI的防弹衣

传统密码学就像给数据上锁的保险箱，而现代密码学正在为AI打造更智能的防护：

1.同态加密：让AI能在不解密的情况下处理加密数据。好比戴着墨镜读书——虽然看不清文字，但依然能理解内容。医疗AI用这种方法分析患者数据时，连医生都看不到原始病历。

2.安全多方计算：多家医院可以共同训(xun)练诊断AI，但谁都无法看到其他医院的具体病例。就像几个厨师合作开发新菜谱，但各自保留自己的秘方。

3.差分隐私：在数据中加入精心计算的“噪声”。就像在人群中稍作伪装，既不影响整体统计，又保护了个人身份。苹果手机就用这种方法收集用户输入(rù)习(xí)惯(guàn)，改(gǎi)进(jìn)键盘(pán)预(yù)测(cè)功(gōng)能(néng)。

其(qí)实(shí)AI防(fáng)护(hù)已(yǐ)经(jīng)悄(qiāo)悄(qiāo)融(róng)入(rù)了(le)日(rì)常(cháng)生(shēng)活(huó)的(de)方(fāng)方(fāng)面(miàn)面(miàn)：刷(shuā)脸(liǎn)支(zhī)付(fù)时(shí)，你(nǐ)的(de)面(miàn)部(bù)特(tè)征会被转换成加密代码存储，从根源上降低信息泄露风险；智能音箱在听取“唤醒词”时(shí)，其(qí)他(tā)对(duì)话(huà)内(nèi)容(róng)会(huì)进(jìn)行(xíng)隐(yǐn)私(sī)处(chù)理(lǐ)，避(bì)免(miǎn)无(wú)关信息被记录；推荐系统在分析你的购物记录时，使用的是去身份化的群体数据，既保证推荐精准度，又守护了个人隐私边界。

图源：Pixabay

未来挑战：既要聪明，又要安全

目前AI安全防护面临几个现实问题：

1.效率代价：加密保护会让AI运算速度变慢，就像穿着防弹衣跑步肯定不如穿运动服轻快。

2.标准缺失：AI安全防护还缺乏像"密码强度提示"那样直观的标准。

3.攻防竞赛：黑客手段不断升级，防护措施也要持续进化。

图(tú)源(yuán)：Pixabay

未(wèi)来(lái)的(de)AI安(ān)全体(tǐ)系(xì)，也(yě)许(xǔ)能(néng)够(gòu)呈(chéng)现(xiàn)出(chū)更(gèng)智(zhì)能(néng)、更(gèng)坚(jiān)固(gù)、更(gèng)友(you)好(hǎo)的(de)形(xíng)态(tài)：它(tā)可(kě)能(néng)会(huì)进(jìn)化(huà)出(chū)类(lèi)似(shì)生(shēng)物(wù)的(de)“免(miǎn)疫系统”，能凭借自主学习能力精准识别潜在威胁，并迅速启动防御机制抵御各类攻击；在加密技术层面，“量子加密”有望成为标配——这种基于量子力学原理的加密方式，其安全性将达到全新维度，即便是算力惊人的量子计算机也难以破解，为数据筑起一道“无懈可击的防线”；而“透明防护”的实现，则会让安全机制与用户体验达成完美平衡——它在后台默默守护隐私的同时，完全不干扰正常使用流程，就像一层无形的“安全防护罩”，让人们在享受AI便利时毫无感知却又倍感安心。

正如第二十七届中国科协年会上所强调的，“基于密码学视角的人工智能安全新理论和防护体系”是关乎国家数字安全的重要前沿课题。在这个AI无处不在的时代，密码学不再只是保护数据传输的工具，更成为守(shǒu)护(hù)智(zhì)能(néng)系统核心的盾牌。通过密码学与AI的深度融合，麻豆影片色欲在线观看正致力于构建既智能又安全的新一代数字基础设施，让技术进步真正造福人类社会，而不带来新的风险与威胁。这场密码学与人工智能的对话，才刚刚开始。

供稿单位：重庆理工大学计算机科学与工程学院

作者：重庆理工大学 冯嘉宇

审核专家：倪伟

声明：除原创内容及特别说明之外，部分图片来源网络，非商业用途，仅作为科普传播素材，版权归原作者所有，若有侵权，请联系删除。