博鱼新华社北京3月14日电 3月14日,《新华每日电讯》发表题为《看似“人工智能”，实则“人为陷阱”——揭开借助AI技术实施诈骗的新套路》的报道。
号称可提供ChatGPT服务，实际是冒牌AI；视频电话中熟悉的“亲友”，是不法分子AI换脸模拟而成；为博取流量，用AI技术编造虚假谣言，流量变“流毒”……
随着人工智能的发展迭代，生成式AI正以前所未有的速度重塑着日常生活，但由此衍生出的新骗局博鱼·boyu体育、新套路也在刷新人们对风险防范的认知。这背后不仅关乎广大消费者的财产安全，还潜藏着人身安全风险和隐患。记者梳理近期管理部门查处的AI相关案件，揭开人工智能“圈套”背后的线使用ChatGPT？其实是“套壳AI”
自人工智能产品ChatGPT爆火，一些企业看到无限“钱景”，强行“关联”。一时间，市场上涌现出不少与ChatGPT“沾亲带故”的服务产品。2023年2月，一个名为“ChatGPT在线”的公众号引起了上海市徐汇区市场监管部门的注意。
执法人员调查发现，该公众号的运营公司与实际ChatGPT开发公司并无关联。所谓“ChatGPT在线”也并非“ChatGPT”产品本身。“当事人为实现销售目的，使用类似图像、名称及服务简介等多种手段实施复合性混淆行为博鱼·boyu体育，利用‘ChatGPT’热点进行攀附，混淆真实情况，谋取交易机会，获取不当利益。”上海市徐汇区市场监督管理局执法稽查科副科长张琦说博鱼·boyu体育，当事人行为违反了《中华人民共和国反不正当竞争法》第六条第（四）项的规定，市场监管部门已责令其停止违法行为，处以罚款，并要求其妥善处置相关消费纠纷。
“人工智能大模型开源生态的建立，让AI发展加速的同时也让生成式AI更容易被滥用。”中国行政法学研究会常务理事、华东政法大学教授沈福俊认为博鱼·boyu体育，考虑到立法的滞后性，监管部门还需更加关注新技术发展对市场端的影响，加大事前监管力度，充分运用现有的法律法规资源实施有效监管，切莫使新问题隐匿在“监管盲区”。
张琦也表示，消费者出于对新兴技术的好奇，往往在不知不觉陷入“圈套”。“如果误用了别有用心的‘套壳AI’，甚至可能被不法分子套取个人信息，埋下安全隐患。”他建议，消费者在选择AI产品时需仔细甄别，避免被商家误导。“如果购买到了仿冒产品，要保留好相应的产品购买凭证，主动联系监管部门，维护自身合法权益。”
只需一通视频电线月，福建省某科技公司法定代表人郭先生接到“好友”的微信视频通话，对方声称自己当下需要430万元保证金用以项目竞标，想借用郭先生公司的账户“走个账”。因为有先前的视频通话，加之对“好友”的信任，郭先生陆续给对方转账共计430万元。随后郭先生再次联系好友时才发现自己被骗。所幸在警方帮助下，成功止付拦截336.84万元。
当前AIGC技术已在文本生成、图片创作等方面广泛应用，输入几个关键词即可由AI快速生成一张画或一篇文章。但一些用户为博眼球、蹭热度，却将人工智能技术用以编“伪消息”，造“假通报”。
2023年6月，一条名为《浙江工业园现大火浓烟滚滚，目击者称有爆炸声！》的视频在网络上流传，引发网友关注博鱼·boyu体育。后经相关部门核实为谣言。据调查，当事人为给自己账号涨粉引流，获取更多利益，通过非法渠道购买了AI视频生成软件。该当事人将网络热门话题通过AI自动生成视频产品，并上传至多个热门视频平台。
简历投递
商务合作
媒体垂询微信二维码微博二维码
