专家：细（xì）化技术标准让“AI数字人”透明化（huà）合规化

　　□ 本报（bào）记（jì）者 　赵 丽（lì）

　　□ 本报（bào）实（shí）习（xí）生 宋昕怡

　　“生西红柿和（hé）生黄瓜不能一（yī）起（qǐ）吃了！黄瓜中的分解（jiě）酶会破坏维生素（sù）C，一起吃轻则影响（xiǎng）西红（hóng）柿（shì）中维（wéi）生素C的吸（xī）收，重则可能导致腹泻、肠胃（wèi）不适甚（shèn）至食物中毒。”电话那头，母亲（qīn）说（shuō）得头头是道，电话这头（tóu）的赵女士却听得一头雾水（shuǐ）。

　　随即，母亲发来一则（zé）视频。赵女士回忆说（shuō）：“一位满头花（huā）白头发、身着（zhe）白大褂的‘医（yī）生’在视（shì）频里侃侃而谈‘养生秘籍’，甚至（zhì）宣称‘清淡饮食就是只（zhī）吃素（sù）食，完全不（bú）吃肉’。我妈把（bǎ）这个‘医生’的话奉为圭臬。”但赵女士仔（zǎi）细（xì）查看后，在视频右下角发现一串几乎透明的标（biāo）注——“此视（shì）频由AI辅助生成（chéng）”。

　　“后来，我妈戴着老花镜，在（zài）我（wǒ）的指点下（xià）找了一会儿才看见那行（háng）字。”赵女士无奈地（dì）说，“这（zhè）也（yě）不能怪老人，现在AI生成的‘数字人’泛（fàn）滥（làn），还难辨真（zhēn）假，实在让人防（fáng）不（bú）胜防。”

　　有此困扰的并非只有赵（zhào）女士一家（jiā）。《法治日报》记者近日（rì）随机采访了数十名路人，至少有七成受访者称曾（céng）刷到过“AI数字（zì）人”视频，并且“难以分（fèn）清（qīng）到（dào）底是真人（rén）还（hái）是（shì）‘数字人’”，而原因主要在于“找不到（dào）有效提示”。

　　很（hěn）多人（rén）担忧：真人“数字人（rén）”傻傻（shǎ）分不清楚（chǔ），背后（hòu）是肖像权侵权乃至敲诈、诈骗等违法犯罪（zuì）的风险隐患。

　　是否数（shù）字人难辨别

　　在重（chóng）庆读（dú）大学的郑媛浏（liú）览某（mǒu）社交平台时（shí），刷到一（yī）则帖子——照片里（lǐ）的女生（shēng）外形温（wēn）婉可人，穿搭清（qīng）爽时尚，很（hěn）夺人眼球。郑媛点赞并关注了该账号。

　　但不多时（shí），郑媛却刷到另一名博（bó）主揭露用“AI生成人”起号的（de）内容，被打假的（de）恰恰（qià）是她（tā）先前所关注的（de）这个（gè）账号。“我仔细翻阅了（le）那个女生的账号（hào）主页，她并未标明使用AI技术，还（hái）在评论区（qū）亲切地与其他用户互动。”面对这（zhè）样（yàng）的局面，郑媛说自己也“糊涂了”。她后来观（guān）察了（le）一个多星期，找到了该账号（hào）图片确为AI生成的证据——有（yǒu）网友在其他账号上发现了妆（zhuāng）容和衣（yī）着（zhe）几乎一样的“数字人”，而人（rén）物介（jiè）绍（shào）却完全不同。

　　习惯在直播间购（gòu）物的（de）北京市民（mín）李菲说，自己经常误入（rù）“数（shù）字人（rén）”直播间，“数字人”主（zhǔ）播侃侃而（ér）谈介绍商品，手部（bù）动作还能随（suí）着她说话的节奏不断变动（dòng），声音流畅而自然。

　　“要仔（zǎi）细看才能看到直播（bō）间（jiān）左侧（cè）一（yī）行（háng）‘现直（zhí）播内容为数（shù）字人直播，非真人直播’的（de）小字提（tí）醒。”李（lǐ）菲（fēi）说，自己现（xiàn）在习惯（guàn）了进直（zhí）播间“先找小字”，确认主播是（shì）否为真人，“但真的‘费眼睛（jīng）’，不是在（zài）犄角旮旯，就（jiù）是字体几（jǐ）乎（hū）透明，不注（zhù）意根本看不到”。

　　袁伟（wěi）(化（huà）名)是某985高校计算（suàn）机系研究（jiū）生。他告（gào）诉记者：“现（xiàn）在一（yī）些（xiē）AI大（dà）模型生成的图，别说中老年人会误以为真，很多（duō）没怎么接触过（guò）AI技（jì）术的年轻人都不（bú）见得能分（fèn）辨真假。”

　　他（tā）随即为记（jì）者演示，向某（mǒu）AI软件输入指令（lìng）“帮（bāng）我生成（chéng）图片：一个容貌姣好的女性，精细的皮肤纹理，室外自然（rán）光”，随即生成的图片与（yǔ）真人照（zhào）片相差无几（jǐ），如果不是右（yòu）下角（jiǎo）自（zì）带的水印，只让人（rén）觉得是一（yī）张普通的美（měi）女照（zhào）片。“如（rú）果说早期的AI软（ruǎn）件大多（duō）不能生成（chéng）自（zì）然的手指和人体比例，现在技术进步得很（hěn）快，生成的手（shǒu）指和人体比（bǐ）例已经（jīng）比较像样了，更加大了分辨的难度。”

　　“这样的AI生成图片或视频，如果不作标（biāo）识（shí）提示，会让很（hěn）多人信以为真。”袁（yuán）伟（wěi）说。

　　大量账号未作标识

　　记者在某（mǒu）社交平台上注意到一名为“××AI打假人”的账户，其发帖称（chēng）自己将致力于“揪出纯（chún）AI生成的内容博主，帮小白识别真伪”，还表示“关注了很多AI生成非真实的帅哥（gē）美女”。

　　在（zài）其关注（zhù）列表（biǎo）里有300多个账号，记者随（suí）机选（xuǎn）取了其中20个账号浏览发现，若没有（yǒu）看到（dào）评论区“这是AI吧，手指的细节很（hěn）诡异（yì）”“背景（jǐng）里的文字都是乱码”等留言，记者第一反应只以为他（tā）们（men）是普通的颜（yán）值时尚类博主（zhǔ）。

　　这20个粉丝量几百（bǎi）到几万不等的账（zhàng）号，仅有3个（gè）账（zhàng）号在（zài）简介（jiè）中写明“虚拟男友”“AI”“友情提示视频由虚拟现（xiàn）实技术制作”，两（liǎng）个账（zhàng）号主页的内容经平台审核（hé）后被打上了“疑似包含AI创作信息（xī），请谨慎甄别”的标（biāo）签（qiān）。其（qí）余账号在简介、内（nèi）容中并（bìng）未提（tí）及“AI”字（zì）眼，平台的监测机制也并未识（shí）别到，这（zhè）些账号甚至还在评（píng）论区熟稔地与其（qí）他用户互动，让自（zì）己看（kàn）上去更有“真人感”。

　　在调查（chá）过程中（zhōng），有（yǒu）超过一半的受访者向记者表示AI生（shēng）成的（de）“数字人（rén）”和（hé）真人难以分辨，相关的提示也并不显眼。

　　此外，记者发现，有人还会特（tè）意教（jiāo）人（rén）如何（hé）绕过平台的“AI打标”。据了（le）解，目前，各平台已普遍升级AI内容识别系统，要求对AI生成作（zuò）品（pǐn）进行显（xiǎn）著标注（zhù）。但在调查中（zhōng），有分享经验的博（bó）主表示花费不（bú）到（dào）千（qiān）元就可以（yǐ）购买所（suǒ）谓的（de）AI工具中预（yù）配置的镜像（xiàng）文件，称（chēng）用这些镜像参数一（yī）键生成的（de）虚拟人形象可（kě）以以假乱真（zhēn），最大限（xiàn）度规避平（píng）台的AI内（nèi）容强制标注（zhù）机制。

　　细化标准加大惩处

　　记者（zhě）梳理公（gōng）开（kāi）信息发现，实践中，一些有心人士利用“数字人（rén）”形象行不法之事。

　　据报道（dào），张文宏、雷军等公众人物（wù）形象曾被（bèi）利用生成（chéng）“AI数字（zì）人”，用（yòng）来带货、恶搞。一些直播间内，“AI数字人”向中老年人群体（tǐ）虚假宣传保健品，诱（yòu）导购买（mǎi）。更（gèng）有甚者，一些不法分子利用“AI数字人”进行敲（qiāo）诈（zhà）、诈骗等犯（fàn）罪。例如，山西忻州公安（ān）机关工作发现，犯罪嫌（xián）疑人王某某利用AI技术，制作合成“数字人（rén）”新闻视频引流（liú），进而进（jìn）行有偿（cháng）发帖、有（yǒu）偿删帖等敲诈勒索活动。2024年，江（jiāng）西一名65岁老人到银行办理业务，声（shēng）称要贷款200万元（yuán）给（gěi）男朋友“靳东”拍戏，后经调（diào）查，老人手机里的“靳（jìn）东”视频是AI合成（chéng）的（de）。

　　重庆大学网络（luò）与大数据研究院副院长罗勇认（rèn）为，就价（jià）值取向而言，AI产业发展不能凌（líng）驾（jià）于网络（luò）安全之上（shàng）。对于（yú）利用AI技术生（shēng）成的短视频，网络用户（hù）特（tè）别是未成年人和老年人由于缺乏必要的（de）鉴别能力，往往（wǎng）会信以为真，由此可能产生负面网络舆情，甚（shèn）至对网络安全（quán）造成负面影（yǐng）响。

　　据（jù）受访专家介绍，当前我国已经出台（tái）了《生（shēng）成式人工智能服务（wù）管理暂行办（bàn）法》《互（hù）联网信（xìn）息服务深（shēn）度合成（chéng）管理规定》等法规（guī），对“AI数字人”和AI生成内容的标识、数据来源等提出了具（jù）体要求。

　　今年3月，国家网（wǎng）信办等四（sì）部（bù）门联合发布《人工智能（néng）生成（chéng）合（hé）成内容标识办法》(以下简称（chēng）标识办法（fǎ）)，通过标识提醒用户辨别虚（xū）假（jiǎ）信（xìn）息，规范内容制作、传（chuán）播各环（huán）节标识行为，为（wéi）规范AI生成（chéng）内容划定红（hóng）线。该办（bàn）法将于9月1日起（qǐ）施行。

　　中国政法大学教授郑飞指出，相关规（guī）定一定（dìng）程（chéng）度存在落地难（nán）的问（wèn）题（tí）。一是监管和技（jì）术手段（duàn）有限（xiàn），难以彻（chè）底（dǐ）发现（xiàn）并纠（jiū）正违规行为。例如，一（yī）些“AI起号”从业（yè）者通过预置（zhì）“镜像参数”生成极为逼真的虚（xū）拟人像，从而（ér）逃避平台的强（qiáng）制标注要求。而（ér）监（jiān）管部（bù）门特别是基层执法部门（mén），通常面临职责不清、执法手（shǒu）段（duàn）和执（zhí）法力量不足的（de）问（wèn）题；二（èr）是部分平台（tái）在一定程度上“管不了”也“不想（xiǎng）管”。“管不了”在于（yú）平台（tái）管理（lǐ）能力与技术手段欠缺，尤其是一些小型平台，缺乏（fá）足够的审核（hé）人力和技（jì）术（shù）支（zhī）持。“不（bú）想管”则是背后利益驱动。未明（míng）显标识“AI数字人”或（huò）合成（chéng）内容，会让受众误以为（wéi）是真人或真实事件，从而更容（róng）易引起人（rén）们的兴趣和好奇（qí）心，吸引更多（duō）的流量和关注（zhù），进而带（dài）来更多（duō）的商业利益（yì）。

　　“以网络社交（jiāo）平（píng）台为代（dài）表的网络服务提供者在AI生（shēng）成内容的应用场景中，应当进一步完善（shàn）用户使用AI协议规定，并强化对（duì）AI生（shēng）成内容的审核（hé）。”罗勇（yǒng）说（shuō）。

　　郑（zhèng）飞建议（yì），应从明（míng）确标识要（yào）求和加大责任追究两方面（miàn）发力。标识办法明确要（yào）求，一旦检测到AI生成内容，传播（bō）平（píng）台（tái）应在发布内容（róng）周边添加显著提示标识，并在（zài）文（wén）件元数据（jù）中（zhōng）加隐式（shì）标识（shí），确保全流程可溯（sù）源（yuán）。在未来落实过（guò）程中，可进一步（bù）细化技术标准，比如规定（dìng）标识文字的最小高度、对比度、展示（shì）时长等，让标识一（yī）目了（le）然。另外，对于（yú）不按（àn）规定（dìng）标注（zhù）的行为，需要严厉处（chù）罚（fá）：除加大行政罚（fá）款、暂停业务或纳入不良（liáng）信用（yòng）记录等行政措（cuò）施外，还要利用法（fǎ）律手（shǒu）段加大威慑。通过明确（què）、显著（zhe）的标识标准和更严厉的责任追（zhuī）究（jiū），才（cái）能从根本上震慑违规不标注行为，实（shí）现“AI数字（zì）人”应用（yòng）的透明化、合规化。