近日，AI行业发展过程中的诸多乱象，引发了市场广泛关注，网络安全问题再次站在聚光灯下，多家产业链上市公司也积极回应网络安全相关布局情况。
AI行业乱象频发
“AI孙燕姿”的热度尚未完全消散，“AI换脸”明星直播便再次成为社交平台上的焦点话题。点开直播间，就可以看到换脸杨幂、迪丽热巴等女明星在直播带货。这让消费者在感叹科技进步的同时，也对AI发展态势及相关安全问题表示担忧。
【资料图】
“现在有很多公司可以直接提供相关明星的算法模型，价格低廉，在3万元至4万元之间，购买之后就可以直接假冒明星进行直播带货。现在AI行业发展乱象很多，到了必须加强监管和治理的时候了。”一位不愿具名的行业人士对记者表示。
近日就有福州市某科技公司法人代表郭先生10分钟内被骗430万元的事件发生。据了解，骗子先攻陷了郭先生的好友微信，进而通过智能AI换脸和拟声技术对郭先生进行诈骗。
深度科技研究院院长张孝荣在接受《证券日报》记者采访时表示：“当前的AI换脸和AI拟声涉及到‘深度伪造’，是AI技术的衍生应用。这种应用一般通过使用‘生成式对抗网络’的机器学习模型，将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习，将个人的声音、面部表情及身体动作拼接合成虚假内容。”
张孝荣还表示，目前还有一种新的发展趋势，即AI训练生成虚拟人接入ChatGPT这样的NLP大模型，再结合语音高仿技术，复刻与真实人物互动的效果，如此一来，就会让线上的“李逵”和“李鬼”更加真假难辨。
面对当前AI行业的发展乱象，网络安全治理已迫在眉睫。天使投资人、资深人工智能专家郭涛在接受《证券日报》记者采访时表示：“一方面，监管部门需尽快建立健全人工智能研发与应用相关法律法规和标准体系，加强对科技企业、媒体平台等的监管。另一方面，提供深度合成服务的企业要严格落实信息安全管理主体责任，建立健全算法机制审核、科技伦理审查、反电信网络诈骗等管理制度，加强合成内容的审查与管理，对智能对话、合成人声、人脸生成、沉浸式拟真场景等生成内容进行显著标识，避免公众混淆或误认。”
网络安全受关注
AI乱象所带来的网络安全问题引发关注，多家产业链上市公司也在积极回应相关业务布局情况。
“AI行业发展过程中负面事件频发，本质上还是因为AIGC是新生事物，对AIGC的应用场景缺乏必要的监管措施和检测手段。以AI欺诈为例，如果各类应用在识别到传输的内容是AI生成的时候，能够对内容接收者进行充分提醒，那么犯罪分子实施欺诈的难度将大大增加。但目前并没有类似的监管条例，也缺乏足够有效、低成本的检测技术。”启明星辰工作人员告诉《证券日报》记者，公司专注于网络安全领域，在AI安全方面主要聚焦三个场景：一是利用AI技术赋能安全检测和运营业务，例如威胁检测、大数据分析、威胁情报、智能化安全运营等；二是应用AI过程中的数据安全和隐私保护问题，例如多方安全计算、联邦学习等；三是AI模型自身的安全问题，包括AI模型鲁棒性、数据投毒攻击等。
永信至诚工作人员在接受《证券日报》记者采访时表示，针对利用人工智能实施的新型电信诈骗，永信至诚旗下“i春秋”品牌基于多年的网络安全一线经验积累，可面向不同用户场景，通过场景化、高仿真、可视化的互动体验系统提升用户的安全意识水平。以AI换脸诈骗为例，用户可通过“i春秋”的AI换脸体验系统了解AI换脸的原理及存在的安全隐患，从而提高安全意识，减少AI换脸诈骗案件的发生。
信安世纪也十分重视网络安全问题，谈及在这方面的布局情况，信安世纪方面对《证券日报》记者表示：“密码技术在对抗身份仿冒、数据伪造方面具有天然的优势，目前信安世纪正积极将人工智能技术与密码技术融合，以提供更友好、更安全的用户体验。”
方正证券表示，AI将带来网络安全产业逻辑的重大改变。从攻击侧来看，大模型、GPT、生成式AI技术将大幅降低黑客攻击的门槛，显著加剧了整体威胁态势，进而带来各类安全软硬件需求以及政企安全预算的提升；从监管侧来看，在类ChatGPT的生成语言工具得到广泛应用之后，监管侧对于内容的监管和审查将成为重中之重，内容安全、数据安全、流量可视等安全监管侧的需求将得到显著提升。
（文章来源：证券日报）
标签：
据各方数据，1月31日上午10时许，深圳出品的动画电影《熊出没·伴我熊芯》票房突破10亿元，在首日票房、档期票房、连续破亿天数等多方面打
1月27日，携程发布的《2023年春节旅游总结报告》显示，今年春节，深圳游客的出境游订单量同比去年增长近5倍。相较国内热门景点的人山人海，
1月27日，记者从深圳市文化广电旅游体育局获悉，2023年春节黄金周期间(1月21日至27日)，深圳共接待游客469 25万人次，旅游收入31 58亿元，
据深圳市春运办统计，1月15日和16日连续两天，深圳对外发送旅客人数都在48万左右，春运进入客流高峰期。1月15日，深圳春运对外旅客发送量达
新年音乐会是观众喜闻乐见的年度重要文化品牌活动，多年来已成为深圳市民跨岁迎新的例牌项目。12月30日、31日晚，深圳交响乐团将在深圳音乐
作为来深科研人员中的一员，中山大学附属第八医院的助理研究员郭雅婕对深圳在人才服务方面的举措赞不绝口：我作为基础研究人员，很希望自己
12月1日晚8点，2023年故宫年票正式开售。相比于去年，今年购票顺畅了许多。据了解，2022年故宫年票发售时，因短时间内购买年票人数过多，曾
昨日，冷空气到达，广州气温逐步下降。据商超方面预测，随着气温的逐渐下降，市民对于御寒类商品消费需求有所上升，不少广州商超准备了有关
小井盖、大民生。今年以来，深圳开展全市窨井盖专项治理工作成效显著。截至11月20日，全市共排查窨井盖约350万个，发现存在问题的窨井盖约3
备受关注的汕汕(汕头至汕尾)铁路汕头站及站区工程近日传出最新动态：项目已顺利完成工程招标工作，由中铁建设集团有限公司中标承建。目前，
青岛：天福苑人行过街天桥现雏形
5月25日，青岛市市南区天福苑人行过街天桥工程完成天桥主体基本完工，桥两侧的上下楼梯已经安装完毕，等候
会场村网格员化身交通引导员，为村民
期盼已久的616路公交车终于通行了，会场村的老百姓们欢呼雀跃，网格员们纷纷化身交通安全引导员，积极为通
用智能机玩抖音，编织海鲜提笼“健身
文 图半岛全媒体首席记者王永端他俩不是上班族，却笑称自己是“上班族”。他俩是一对年逾八旬的高龄夫妇，
焦点播报:浮山湾畔，月季花开
5月25日，音乐广场附近海滨，成片的月季花盛开在浮山湾畔，构成了夏日海岸线上一道靓丽的风景。每年五月，
技术先锋丨青大附院成功完成罕见蝶顶
近日，青大附院介入医学中心徐锐主任团队成功完成罕见蝶顶窦硬脑膜动静脉瘘患者介入治疗。莱西患者姜先生今
企业行政职务怎么填写（行政职务怎么
1、填职员就可以,因为你是在公司工作,又不是公司的管理人员,没有行政职务。本文到此分享完毕，希望对大家有
狗怎么繁殖(狗狗强制繁衍怎么办)-每
1、自然繁衍这是大多数人知道的一种方式，会出现在两只有繁衍经验的狗狗身上。这对狗狗来说是最舒服、伤害
振华股份：公司重铬酸盐产品中不止包
同花顺（300033）金融研究中心5月25日讯，有投资者向振华股份（603067）提问，公司一季报显示，重铬酸盐平
血友病去献血会被检查出来吗（血友病
1、血友病和血管性血友病是临床上常见的由于凝血因子遗传性缺陷所引起的出血性疾病。2、血友病一般可分为血
欣旺达创始人王明旺：不管二级市场还
每经记者：孔泽思每经编辑：杨夏5月23日下午，欣旺达（SZ300207，股价16 28元，市值303亿元）在深圳市光明
焦点讯息：阿里纳斯谈勇士：只要库汤
近日，前NBA球员阿里纳斯在自己的播客节目中谈到了勇士队。阿里纳斯表示：“只要你还有库里、克莱、追梦，
全球聚焦：长城汽车：公司经营状况稳
长城汽车公告，公司于2023年5月25日上午通过长城汽车官方微信公众号等渠道发布《声明》，公司了解到《声明
【世界聚看点】生产力结构_关于生产
生产力结构，关于生产力结构介绍这个很多人还不知道,我们一起来看看！生产力结构，认识生产力结构发展变化
最新：广州黄埔举行首届区域协作消费
南都讯贵州长顺县黔南山孜然粉、贵州三都县水乡农家米、清远英红茶叶……5月24日，广州市黄埔区首届区域协
环球焦点！东莞消防开展锂电池企业消
文 羊城晚报全媒体记者王雷为深刻汲取近期涉锂电池火灾事故教训，坚决遏制锂电池企业火情多发、频发态势，
鲁媒：山东男篮阵容老龄化严重 缺乏
齐鲁网·闪电新闻5月25日讯山东电视体育频道消息，如今，2022-2023赛季的CBA联赛已经落下帷幕，山东男篮也
焦点观察：生于80后_关于生于80后介绍
生于80后，关于生于80后介绍这个很多人还不知道,我们一起来看看！1、《生于80后》是由汪涛、金也执导，唐嫣
最高可获100万，《广州市河长制工作
近日，广州市水务局印发《广州市河长制工作有奖举报办法》（以下简称“办法”）。根据规定，提供违法行为线
队记：尼克斯不会执行罗斯1560万的球
直播吧5月25日讯 今天，尼克斯记者StefanBondy谈到了罗斯下赛季的去留问题。StefanBondy表示：“显然，尼
唱出年轻的“深圳梦”，《先行者》亮
“互联网？物联网？是否还有心联网？”、“下一个爆款请跟我来”、“为何辞职下海，陡转顺意人生”……听到
青岛：天福苑人行过街天桥现雏形
5月25日，青岛市市南区天福苑人行过街天桥工程完成天桥主体基本完工，桥两侧的上下楼梯已经安装完毕，等候
【当前独家】生事扰民_关于生事扰民
生事扰民，关于生事扰民介绍这个很多人还不知道,我们一起来看看！1、生事扰民，汉语成语，拼音是shēngshì
每日快播：生产作业流程控制与管理_
生产作业流程控制与管理，关于生产作业流程控制与管理介绍这个很多人还不知道,我们一起来看看！1、《生产作
生产关系体系_关于生产关系体系介绍
生产关系体系，关于生产关系体系介绍这个很多人还不知道,我们一起来看看！1、人们在物质资料生产过程中所结
杰伦-格林谈乌度卡：我告诉他新赛季
近日，火箭球员杰伦-格林在《PodcastPwithPaulGeorge》播客节目中谈到了乌度卡。杰伦-格林表示：“我给他打
ChatGPT 官方 App 现已在欧洲、韩
OpenAI今天在推特宣布，ChatGPT官方App现已在更多地区的AppStore上线 OpenAI表示，ChatGPT的App
全球热点评！天合光能：控股子公司天
南方财经5月25日电，天合光能公告，控股子公司天合富家能源股份有限公司拟进行增资扩股，公司放弃本次天合
【新要闻】拓尔思(300229.SZ)：截至2
格隆汇5月25日丨拓尔思(300229 SZ)近日接受机构调研及召开电话会议，问答环节中，就“在同一个行业内，不同
国泰航空下跌！
美国债务上限问题仍未解决，A股走弱叠加近期地缘政治、人民币汇率波动等因素，港股受压创下今年以来低点。
天天快看：中集天达即将上会，欲成为
中集天达即将上会，欲成为创业板首家红筹企业,红筹企业是指注册地在境外、主要经营活动在境内的企业。在资