专（zhuān）家：细化技术标（biāo）准让“AI数字人”透（tòu）明化合规化

　　□ 本报记者 　赵 丽

　　□ 本报实习生 宋昕怡

　　“生西红柿（shì）和生黄瓜（guā）不能一（yī）起吃了！黄瓜中的分解酶会破坏（huài）维（wéi）生素C，一（yī）起（qǐ）吃轻则（zé）影（yǐng）响（xiǎng）西红（hóng）柿中（zhōng）维（wéi）生素C的吸收，重则可能导致腹泻（xiè）、肠胃不适甚至食物中毒。”电话那头，母亲说得（dé）头头（tóu）是道，电（diàn）话（huà）这头的赵女士却听得（dé）一头雾水。

　　随即，母（mǔ）亲发来一则视频。赵女士（shì）回忆说：“一位（wèi）满头（tóu）花白头发（fā）、身（shēn）着（zhe）白大褂（guà）的‘医（yī）生’在视频里侃侃而谈‘养生秘籍’，甚至宣称‘清淡饮食（shí）就是只吃素食，完全不（bú）吃肉’。我妈把（bǎ）这个（gè）‘医生’的话奉为（wéi）圭（guī）臬。”但赵女士仔细查看后（hòu），在视（shì）频右下角发现一串（chuàn）几乎透明的标注——“此（cǐ）视频由AI辅助生成”。

　　“后来，我妈戴着老花镜，在我的指点下（xià）找了一（yī）会儿才看（kàn）见那行字。”赵（zhào）女士无奈地说，“这（zhè）也不能怪老人，现在AI生成的‘数（shù）字人（rén）’泛滥，还难（nán）辨真假，实在让人防（fáng）不胜防。”

　　有此困（kùn）扰的并非只有（yǒu）赵女士一家。《法治（zhì）日报》记（jì）者近日随机采访了数十名路人，至少有七成受访者称曾刷到过“AI数字人”视频，并且“难（nán）以分（fèn）清到底是真人还是‘数字人’”，而原因主要在于“找（zhǎo）不到有效提（tí）示（shì）”。

　　很多人担忧：真人“数字人”傻傻分不清楚，背（bèi）后是（shì）肖像权侵权乃至敲（qiāo）诈、诈骗等违法（fǎ）犯罪的风险隐患。

　　是否数字人难辨别（bié）

　　在重庆读大学的郑媛浏（liú）览某社交平台时，刷（shuā）到一则帖子——照片里（lǐ）的女生外形温婉可（kě）人，穿搭（dā）清爽时尚，很夺人眼球。郑媛点赞并（bìng）关注了（le）该账号。

　　但不（bú）多时，郑媛却刷（shuā）到另一名博主（zhǔ）揭露用“AI生（shēng）成人（rén）”起号的内（nèi）容，被打假的恰恰（qià）是她先前所（suǒ）关注的这个账（zhàng）号。“我仔细（xì）翻阅了那个女生的账号主页，她并未标明使用（yòng）AI技术，还在（zài）评论区亲切地与其他用户互动。”面对这（zhè）样的局面（miàn），郑媛说自己也“糊涂了”。她后（hòu）来观（guān）察了一个多（duō）星期（qī），找到了该账号图片（piàn）确为（wéi）AI生（shēng）成的证据——有网友（yǒu）在其他账号上发（fā）现了妆容和衣（yī）着几乎一样的“数字人”，而人物介绍却（què）完全不（bú）同。

　　习惯在直播（bō）间购物的北京市民李菲（fēi）说（shuō），自（zì）己（jǐ）经常误入“数字人”直（zhí）播间，“数（shù）字人（rén）”主播侃侃而谈介绍商（shāng）品，手部动（dòng）作还能随着她（tā）说话的（de）节奏不断变动，声音流畅而自（zì）然。

　　“要仔细看才能看（kàn）到（dào）直播间左（zuǒ）侧（cè）一行‘现直（zhí）播内（nèi）容为数字人直播，非真人（rén）直（zhí）播’的小字提醒。”李菲说，自己现（xiàn）在习惯（guàn）了进直播间“先找小字”，确认主播是（shì）否为真人，“但真的（de）‘费（fèi）眼（yǎn）睛’，不是在犄角旮旯，就是字体（tǐ）几乎透明，不注意根本（běn）看（kàn）不到（dào）”。

　　袁伟(化名（míng）)是某985高校（xiào）计（jì）算机系研究生。他告诉记者：“现在一些AI大（dà）模型生成的图，别说中老（lǎo）年人（rén）会误以为（wéi）真，很多没怎么接触过（guò）AI技术的年（nián）轻人都不（bú）见得能分辨真假。”

　　他随即为记者（zhě）演示，向某AI软件输入指令（lìng）“帮我生（shēng）成图片：一个容貌姣好的女性，精细的皮肤纹理，室（shì）外自然光”，随即生成的图片（piàn）与真人照片（piàn）相差无几，如果不是（shì）右下角自带的（de）水印，只让人觉得是一张普通的美女照（zhào）片。“如果说早（zǎo）期（qī）的AI软件大（dà）多不（bú）能生成（chéng）自然的手指和人（rén）体比例，现（xiàn）在技术进（jìn）步得很（hěn）快，生成的手指和人体（tǐ）比（bǐ）例已经比（bǐ）较像（xiàng）样了，更加大了分辨的难度。”

　　“这样（yàng）的AI生（shēng）成图片（piàn）或视频，如果不作标（biāo）识提示（shì），会（huì）让很多人信以为真。”袁伟说（shuō）。

　　大量（liàng）账号（hào）未（wèi）作标识

　　记者在某社（shè）交平台上注意到一名为“××AI打假人（rén）”的账户，其发帖称自己将致力（lì）于“揪出纯AI生（shēng）成的内容（róng）博主，帮小白（bái）识（shí）别真伪”，还表示“关注了很多AI生成非真实的帅哥美女”。

　　在其关注列表里有300多个账号，记者随机选取了（le）其中20个账号浏览发现，若没有看到评论（lùn）区（qū）“这是AI吧，手指的细（xì）节很（hěn）诡异”“背景（jǐng）里的文字都是乱码”等留（liú）言，记者第一反应（yīng）只（zhī）以（yǐ）为他（tā）们是普（pǔ）通的颜值时尚类博主。

　　这20个粉丝量（liàng）几百（bǎi）到几万不等的账号（hào），仅有3个账号在简介中（zhōng）写明“虚拟（nǐ）男友（yǒu）”“AI”“友情（qíng）提示视（shì）频由虚拟现（xiàn）实（shí）技术制作”，两个（gè）账号主页的内（nèi）容经平台审核后被打上了“疑似包含AI创作信息，请谨（jǐn）慎甄别（bié）”的标（biāo）签（qiān）。其余账号在简介（jiè）、内容中并（bìng）未（wèi）提及（jí）“AI”字（zì）眼，平台的监测（cè）机制也并未（wèi）识别到，这些（xiē）账号（hào）甚（shèn）至还在评论区熟稔地与其（qí）他用户互动，让自己看上去更有“真人感”。

　　在调查（chá）过程中，有超过一半（bàn）的受访者向记（jì）者表（biǎo）示AI生成的（de）“数字人”和真（zhēn）人（rén）难以分辨，相关的（de）提示也（yě）并（bìng）不（bú）显眼（yǎn）。

　　此（cǐ）外（wài），记者（zhě）发（fā）现（xiàn），有（yǒu）人还会特意教人如何绕（rào）过平台的（de）“AI打标”。据了解，目前（qián），各平台已普遍（biàn）升级（jí）AI内（nèi）容识别（bié）系统，要求（qiú）对（duì）AI生（shēng）成作（zuò）品进行（háng）显著（zhe）标注（zhù）。但在（zài）调查中，有（yǒu）分（fèn）享经验的博主表（biǎo）示花（huā）费不到千元（yuán）就可以购买所谓（wèi）的AI工具（jù）中预配（pèi）置的（de）镜像文件，称（chēng）用这些镜像参数一键（jiàn）生成的虚拟（nǐ）人形象可以以假（jiǎ）乱真（zhēn），最大限度规避平台的AI内容强（qiáng）制标注机制（zhì）。

　　细化（huà）标（biāo）准加大惩处

　　记者梳理（lǐ）公开（kāi）信息发现，实（shí）践中，一些有心（xīn）人（rén）士利（lì）用“数字人”形象行不法之（zhī）事。

　　据报道（dào），张文（wén）宏、雷（léi）军等公众人（rén）物形象曾被利用生成“AI数（shù）字人”，用来带货、恶搞（gǎo）。一（yī）些直播间内，“AI数（shù）字人”向中（zhōng）老年人群体虚假宣传（chuán）保健（jiàn）品（pǐn），诱导购买。更有甚者，一（yī）些不法分子利（lì）用“AI数字人”进行敲（qiāo）诈、诈骗等犯罪。例如，山西（xī）忻州公（gōng）安机关（guān）工作发（fā）现，犯罪嫌（xián）疑人王某某利用AI技术，制作合成“数（shù）字人（rén）”新闻视频（pín）引流，进而进行有（yǒu）偿发帖（tiē）、有（yǒu）偿删帖等敲诈勒索活动。2024年，江西一名65岁（suì）老人到银行（háng）办理业务，声称要贷款（kuǎn）200万元给男朋友“靳（jìn）东”拍戏（xì），后经调（diào）查，老人手（shǒu）机里的“靳东”视（shì）频（pín）是AI合（hé）成的。

　　重庆大学网络（luò）与大（dà）数据（jù）研究院副院长罗勇（yǒng）认为（wéi），就价值取向而言（yán），AI产业发展不能凌（líng）驾于网络（luò）安全之（zhī）上。对于利用AI技术生成的短视频，网络用户特别（bié）是未（wèi）成年人和老（lǎo）年人由于缺乏必要的鉴别能力，往往（wǎng）会（huì）信以为真，由此可能产（chǎn）生负面网（wǎng）络舆情（qíng），甚至（zhì）对网络安全造成负面影响。

　　据受访专家介绍，当前我国已经出台了《生成式人工（gōng）智能服务管（guǎn）理暂行办法》《互（hù）联网信息服务深度合（hé）成管理规定（dìng）》等法规（guī），对“AI数字人（rén）”和AI生成内容的标识、数（shù）据来源等提出了（le）具体要求（qiú）。

　　今年（nián）3月，国家网（wǎng）信（xìn）办等四部门联合发布《人工智能（néng）生成（chéng）合成（chéng）内容标识办法（fǎ）》(以下简（jiǎn）称标识办法)，通过标（biāo）识（shí）提醒（xǐng）用（yòng）户辨别虚假信息，规范内容（róng）制作、传播各环节标识（shí）行（háng）为（wéi），为规范AI生（shēng）成内容划定（dìng）红线。该办（bàn）法将于9月1日起施（shī）行。

　　中国（guó）政法大学教（jiāo）授郑飞指出，相关规定一定程度存在落地难（nán）的问题。一是监管和技（jì）术手段有（yǒu）限，难以彻底发现并纠正违规行为。例如，一些（xiē）“AI起（qǐ）号”从业者通过预置“镜（jìng）像（xiàng）参（cān）数”生成极为逼真（zhēn）的虚拟人（rén）像，从而逃避平台的强制标注要求（qiú）。而监管部门特别是基层执法（fǎ）部门，通常面（miàn）临职责不清（qīng）、执法手段（duàn）和执法力（lì）量（liàng）不足的问题；二是部分平台在一定程度上“管不了（le）”也“不想管”。“管不了”在于平台管理能（néng）力与技术手（shǒu）段欠缺，尤其是一些小型平台，缺乏足够的审核人力（lì）和技术支持。“不想（xiǎng）管（guǎn）”则是背（bèi）后（hòu）利益驱动。未明显（xiǎn）标识“AI数字人”或合成内（nèi）容（róng），会（huì）让受（shòu）众误以为是真人（rén）或真（zhēn）实事件，从而更（gèng）容易引起人们的（de）兴趣和好（hǎo）奇心，吸引更多的流量和关注，进而带（dài）来更多的商业利益。

　　“以（yǐ）网络（luò）社交平台为代表的网络服务提供者在AI生成内容的应（yīng）用场景中，应当进一步完（wán）善用户（hù）使用AI协议规定，并强化对AI生（shēng）成内容（róng）的审核。”罗勇（yǒng）说。

　　郑（zhèng）飞建议，应从（cóng）明确（què）标识要求和加大（dà）责任追究（jiū）两方面发（fā）力。标识（shí）办法（fǎ）明确（què）要求，一旦（dàn）检测到AI生（shēng）成（chéng）内容，传播平台应在（zài）发布内（nèi）容周边添加显著（zhe）提示标识，并在文件元数据中加隐（yǐn）式标识，确保全流程可（kě）溯源。在未来落实过程中，可进一步细化技术标准，比如规定标（biāo）识（shí）文字的最小高度、对（duì）比度、展示时长等，让标识一目（mù）了然。另外，对于（yú）不（bú）按规定标注的行（háng）为，需要（yào）严厉处（chù）罚：除加大行政罚款、暂停业务或（huò）纳入不良信用记录（lù）等行政（zhèng）措施外，还要利（lì）用法律手段加大威慑。通过明（míng）确、显著（zhe）的标识标准和更严厉的责任追（zhuī）究，才能从根本上震慑违规不标注行为（wéi），实（shí）现“AI数字人（rén）”应用的（de）透明化、合规化。