近日，安徽一名女子利用人工智能工具生成了一张非常逼真的“无家可归者坐在餐馆里”的照片，并在丈夫外出就餐时将其发送给他。我想测试一下他的反应。谁知她的丈夫竟然信以为真，立即报警求助。
警方对现场情况进行调查，确认该信息不实。他们提醒女性，“人工智能技术生成的内容是真实的，但引起恐慌和警方行动是对公共资源的浪费。”
类似的由人工智能生成的照片引发的“乌龙事件”并非孤例。广东省广州市一社区业主的孩子们用人工智能生成了一张照片并发送给父母，并配上标题“流浪汉试图闯入房屋”。这些照片被发送到业主群，引起业主之间的恐慌。近日，多家电商平台卖家曝出使用AI技术一些消费者。该工具会生成损坏或损坏物品的照片，作为“仅退款”请求的一种方式。为了吸引眼球，山东省威海市的张姓网友利用人工智能工具，编造并发布了“监狱里的直播产品”照片的谣言，引发了众多网友的关注和争论。张先生因扰乱公共秩序已被公安机关行政处罚。
今年9月1日，《人工智能合成内容标注办法》正式实施，强制对人工智能合成内容进行显性和隐性标注，通过特色标识、数字水印等方式保证内容的可识别性。这标志着人工智能内容已经进入“凭证就业”时代。
然而，Rule of 最近对多个主要平台的一项调查显示《法制日报》记者了解到，新规的实施效果好坏参半，未标注内容在各大平台持续大量传播。这些越来越真实的人工智能生成的照片变得无标签和“划痕”，挑战了“图有真相”的传统认知，让公众难以理解。区分什么是真实的、什么不是真实的已经变得很困难。
“随心所欲定制AI照片”
记者在调查中发现，目前网络上有很多AI绘图软件，一些社交平台也有自己的AI生成绘图功能。只需加载相关角色和背景材料，输入命令，几秒钟内就会生成近乎真实的AI图像。您还可以根据个人喜好调整照片的细节和内容。
接受采访的专家指出，现在很难根据面部表情、身体结构等来判断人工智能生成的照片和视频的真伪。如果内容没有明确说明，人们更容易相信它是真实的。
为调查平台和创作者对AI生成内容的实际标注情况，记者一周内随机观看并记录了六大短视频平台和社交平台推荐页面上的100个AI生成或高度疑似AI生成的视频内容，记录了标注情况。
统计数据显示，大约 60% 的随机观看视频都附有作者主动标记的 AI 创作声明。大约30%的内容没有被作者标记，但平台在显着位置标有“内容可能由AI生成”。但各大平台上仍有一些高度怀疑由人工智能生成的视频，没有标明作者身份，也没有注明平台。
作为考试例如，考虑一个拥有超过 30 万粉丝的短视频平台上的帐户。我们发布了很多内容。主题是可爱的宠物、孩子和乡村生活。上面固定的三个视频的内容显示了人工智能生成的明显迹象。小狗可以轻松穿过机场玻璃。您的手提箱的颜色会立即改变。几十个长相相似、头和身体很不平衡的婴儿边走边互相喊“奶奶”。然而，视频右下角只有其中一个是由人工智能创建的。将显示徽标。
主页上的账户介绍明确指出，这是一个私人社交账户，可用于“学习和教学”。当记者添加私聊查询账号时，对方承认所有内容都是AI生成的，并表示：“花120元，就能得到即时单词和全套教程，包括指导和培训”、“制作一个AI视频只需要10分钟”。测试。”
依靠人工智能生成的内容来增加流量和销售产品
此外，人工智能生成的内容也用于吸引流量和推动业务。
“在○○（地名），我的女儿过着老百姓中最好的生活。”最近，记者在社交平台上频繁看到这样的帖子。ulo。在其他出版物中，该地名被北京、长沙、珠海等其他城市取代。
在这些岗位上，孩子父母的“性格”非常一致：父亲经营企业，母亲在国企工作，父母均拥有985学士/硕士学位。内容是不同的账号发布的，但措辞几乎是一样的。所有这些内容都是为了分享可能引起育儿社区共鸣的教育经验和情感激励内容。
此类帖子中的照片通常包括家长和孩子在学校门前的照片l 大门或景点。虽然账号的IP地址出现在不同的地区，背景也时刻在变化，但照片中父子俩的形象却非常一致。
同一张脸，同一个家庭，却有多重“精彩人生”？记者将发布的相关照片拆解，并将其发送给多个人工智能程序，以询问它是否是真实照片。记者总结称，“背景元素存在逻辑不一致，人物细节存在人工智能特征，因此强烈怀疑该图像是由人工智能生成的。”
不过，该平台并未在这些图像中添加任何相关内容来为AI生成提供动力，而且图像本身也不包含水印。
该记者进一步表示，这些账户使用人工智能生成的照片来塑造“成功家庭”的形象，其目的实际上是为了推销课程。有人指出，这是去出售。某账号发布的帖子称，“成功家庭”的核心秘诀在于孩子的教育，随后就孩子数学思维的形成展开了长篇大论。在d区的评论中，不少网友留言表示：“请推荐一门数学思维课程。”记者向他咨询时，对方给他发了一个数学课程的销售账号。该账号经营的商店以5450元的价格出售新的数学和科学课程。
请注意，某些账户的主页直接链接到特定在线教育机构的官方账户，并且后缀带有“产品体验者”或“规划者”等识别标志。虽然这种绑定关系表明了内容与商业推广的明确关系，客观上构成了软广告，但大多数家长往往难以识别其营销本质。
AI生成n技术还广泛应用于直播、产品展示等领域。
人工智能产生的特征在社交平台上一些时尚博主账户分享的内容中最为明显。背景很复杂。杂志中的大部分文字和标题都是乱码，电梯场景中的楼层按钮明显扭曲，并不代表真人。不过，平台和博主都没有给AI生成贴上标签。博主还通过评论区积极与用户互动。当粉丝请求某件衣服的链接时，博主会被定向到产品展示窗口。对于有关身高或体重等个人特征的问题，博主不会询问人工智能生成的属性。
在某个购物平台上，多家销售睡莲的商店使用了该产品的同一张宣传照片。照片中，AI生产特征明显。背景扭曲，花朵半透明。还有更多相关产品的客户评论超过7万条，但评论区几乎没有成功的评论。在开花照片中，花朵的数量和形状可能与宣传照片不同。上述产品宣传图片并没有与人工智能生成的图片相对应的信息。
通过删除徽标您可以在在线表格上“作弊”
为了测试该平台识别人工智能内容的能力，记者购买了一款声称可以“去除品牌水印”的人工智能软件。该软件可用于生成视频和去除水印。随后，该记者在四个主要社交平台上同时发布了带水印和无水印的版本，但没有一个平台积极标记人工智能的创建。
根据我们的调查结果，上述所有平台的版本都带有水印，标记为“包含人工智能生成的内容”。对于无水印内容，只有一个平台后期添加了AI内容标记并发送了RISk 在后台私信中发出警告，而其他人则没有。
为了验证人工智能生成内容识别系统的真实有效性，记者对目前市面上的六款照片生成软件的大量用户进行了调查。结果，在生成内容时，默认情况下会为所有内容添加水印，但发现在某些程序中，可以通过收费并成为“高级会员”来删除“水印去除”功能。
此外，市场上有许多提供商提供低成本水印去除服务。其中一款售价6元的软件包宣传“终身包现化”，明确表示可以去除照片和视频的各种水印，并且没有使用时间和次数的限制。
记者购买了安装包进行测试。完成软件安装后，如果需要的话，我发现我可以合作只需完成水印位置即可彻底去除AI标志，且不影响图像整体效果。记者随后将带水印的照片上传至四个社交平台进行核实。因此，原本带有AI水印的内容在去除水印后，会触发任意平台的AI生成警告机制。我发现事实并非如此。
接受采访的专家认为，该平台在人工智能内容识别的实现上还有很大的改进空间。许多互联网用户认为他们使用人工智能生成的图像作为娱乐或笑话，但却忽视了可能扰乱社会秩序并引发恐慌的风险。因此，在完善技术监管机制的同时，需要加强公众的互联网素养，提高公众对人工智能生成内容的识别能力和社会责任意识。
记者 赵莉
王一飞报社实习生【编辑：付子哈o]
一群中国体育老兵度过了最后的时刻
经济提前进入寒冬，政客违背日本意愿
全国大赛上笑容动人
民营经济将“新旧交替”再出发
如果你每天坐的时间更长，你的大脑就会进入痴呆加速模式。
在台湾问题上胡说八道是不是要打开“潘多拉魔盒”？ |新漫画评论
一篇“从大公司辞职”的帖子如何成为吸引流量的新剧本？应该注意哪些技巧呢？
固体杨花蜜成为网红的甜点。博士：这是一颗超级卡路里炸弹。
冬装节：这个被遗忘的节日，藏着国人最深的牵挂
预计高价会吸引流量，但现实是低价会稳定。为什么旧衣服回收如此普遍？
一劳永逸地澄清一些关于年会的误解请假工资。
您是否渴望参加公开考试并想上学？网警提醒谨防这些陷阱
一生中至少访问凯里一次！
陈玉洁，Sprint AB侧，“天才少女”
服务消费提升打造超大市场新引擎中新网评论：学术骗子为何能如此明目张胆？
小心不要玩火而被烧伤。
警报！多种病毒进入流行期。
