7月13日，國(guó)家网信办(bàn)联合國(guó)家发展改革委、教育部、科(kē)技(jì )部、工(gōng)业和信息化部、公(gōng)安(ān)部、广電(diàn)总局公(gōng)布了《生成式人工(gōng)智能(néng)服務(wù)管理(lǐ)暂行办(bàn)法》（以下称《办(bàn)法》），自2023年8月15日起施行。國(guó)家互联网信息办(bàn)公(gōng)室有(yǒu)关负责人表示，出台《办(bàn)法》，旨在促进生成式人工(gōng)智能(néng)健康发展和规范应用(yòng)，维护國(guó)家安(ān)全和社会公(gōng)共利益，保护公(gōng)民(mín)、法人和其他(tā)组织的合法权益。

生成式人工(gōng)智能(néng)技(jì )术，是指具(jù)有(yǒu)文(wén)本、图片、音频、视频等内容生成能(néng)力的模型及相关技(jì )术。以ChatGPT為(wèi)代表的生成式人工(gōng)智能(néng)在社会变革中(zhōng)具(jù)有(yǒu)重要作(zuò)用(yòng)，但其可(kě)能(néng)存在数据违法收集、知识产(chǎn)权侵权、生成虚假信息等问题不容忽视。

近期屡屡登上热搜的“AI换脸”、“一键脱衣”是基于生成式人工(gōng)智能(néng)技(jì )术生成虚假信息的典型案例。“一键脱衣”类文(wén)章，详见前文(wén)《科(kē)技(jì )向善|触碰法律底線(xiàn)的AI黑科(kē)技(jì )，该退场了》。生成式人工(gōng)智能(néng)服務(wù)产(chǎn)生的内容逼真度高、迷惑性强，极易误导用(yòng)户，容易传播虚假信息、侵害个人信息权益、数据安(ān)全和偏见歧视等问题。

目前，“AI换脸”诈骗频繁发生，主要有(yǒu)冒充熟人诈骗钱款、冒充明星虚假宣传、盗开账户诈骗钱款等手法。不法分(fēn)子利用(yòng)AI技(jì )术，通过声音合成，伪造成特定人物(wù)的声音，通过AI换脸，伪装(zhuāng)成特定人物(wù)，实时与他(tā)人进行视频通话。更换后的面部表情自然，以假乱真，有(yǒu)人被骗走数百万，而生成露脸说话视频成本极低，且只需提供正面照就能(néng)生成视频，不仅眼睛、嘴巴、头会动，如果提供文(wén)字口型也能(néng)对上，一个晚上就能(néng)完工(gōng)。

深度伪造是人脸识别系统主流攻击手段，另一主流手段為(wèi)对抗样本。

1.深度伪造：可(kě)让攻击者基于受害者静态照片冒充受害者通过人脸识别。有(yǒu)人脸核身深度伪造、实时音视频伪造等。

2.对抗样本：通过对抗贴纸让攻击者冒充受害者欺骗人脸识别。

攻击者A佩戴对抗贴纸被识别為(wèi)B

生成式人工(gōng)智能(néng)技(jì )术带来的人脸识别风险，涉及登陆、注册、修改密码、找回密码、额度调整、信用(yòng)卡激活、银行卡绑定、遠(yuǎn)程投保、证券开户、保险理(lǐ)赔等多(duō)种业務(wù)场景。

针对企业在业務(wù)场景中(zhōng)遇到的安(ān)全隐患，爱加密推出“查、打、防”三位一體(tǐ)的人工(gōng)智能(néng)安(ān)全应用(yòng)體(tǐ)系，从人工(gōng)智能(néng)应用(yòng)的生命周期进行检测、治疗和预防。

查-检测：采用(yòng)主流、最前沿的安(ān)全测评方法对指定人工(gōng)智能(néng)系统进行测试 ，提供全面的测评服務(wù)和可(kě)视化的测评报告。

打-治疗：通过对输入样本安(ān)全进行检测 ，识别输入信息的真伪度 ，从而提升 AI 模型的安(ān)全性 ，打击对AI系统攻击的不法行為(wèi)。

防-预防：利用(yòng)多(duō)种算法、扰动、迭代次数综合评价AI模型的安(ān)全性 ，实战化的攻防训练靶场 ，持续提升AI防御能(néng)力。

爱加密人脸安(ān)全综合防护系统，通过人脸环境监测信息、活體(tǐ)识别、图像鉴伪、智能(néng)核身、反诈数据等多(duō)维度信息对用(yòng)户人脸图像进行智能(néng)风险评估、风险评级，迅速识别虚假认证风险。在确认威胁之后，系统支持自动执行防御策略，设备执行命中(zhōng)防御策略之后对应的防御处置，可(kě)以有(yǒu)效阻断风险操作(zuò)。在防御策略管理(lǐ)模块，业務(wù)人员可(kě)以配置设备维度、异常行為(wèi)等维度的策略，并支持上線(xiàn)审核等操作(zuò)。

当前，生成式人工(gōng)智能(néng)正在加速发展，不断催生新(xīn)场景、新(xīn)业态、新(xīn)模式和新(xīn)市场，作(zuò)為(wèi)可(kě)持续信赖的网络安(ān)全践行者，爱加密坚持发展和安(ān)全并重，将技(jì )术创新(xīn)应用(yòng)于更多(duō)的业務(wù)安(ān)全场景，不断开拓，為(wèi)不同行业用(yòng)户提供全面、专业的人工(gōng)智能(néng)安(ān)全应用(yòng)體(tǐ)系，助力生成式人工(gōng)智能(néng)向上向善发展。