知晓：AI时代如何筑牢安全防火墙

源杭丝绵

近日，北京互联法院针对一起“人工智能生成图”著作权侵权纠纷案，作出一审判决，这是我国首例涉及“AI文生图”著作权案件。在如今的智能时代，AI技术正加速融入人们的生活中，人工智能安全和隐私保护问题逐步成为人工智能系统在开发和应用中面临的“成长的烦恼”。
人工智能安全挑战诸多

AI进厂，现全流程自动化生产；AI入田，水肥一体机自动检测、调控，现智慧农耕；AI人脸识别、语音识别、智能算法推送融入人们日常生活中……近几年，人工智能技术呈现蓬勃发展之势，加速融入社会生活生产之中，成为引领新一轮科技革命和产业变革的战略性技术，并推动经济社会各领域向智能化加速发展。工信部公布的比较新数据显示，我国人工智能企业数量超过4400家，我国人工智能产业已进入全球首梯队。赛迪顾问此前预计到2035年，人工智能产业规模将达173万亿元，全球占比超成，为306%。

正如每个硬币都有正反面，人工智能在为社会生活带来智能便利的同时，数字化安全风险行驶进入了迭代、高智能、全覆盖的新格局，给社会治理带来全新挑战。

AI安全风险可分为类，首是内生安全，由软硬件系统组成的人工智能系统，也会存在技术本身的脆弱性和数据依赖性等缺陷，此前微软的人工智能研究团队就曾意外在软件开发平台GitHub上露了大量私人数据，其中涵盖了3万多条微软团队的内部信息；第二是衍生安全问题，即人工智能被利用或不恰当使用而可能引发其他领域的一些重大安全事故，例如人们熟知的深度合成伪造声音和视频的通信诈；第是人工智能系统面临的外部入侵和攻击。

产业发展需兼顾安全

在资源共享、信息互通的智能时代，人工智能发展疑为社会经济发展带来新的机遇，但安全是发展前提，正如上文所言，产业各方在享受AI红利的同时，也要扎紧安全的藩篱。

我国对人工智能安全高度重视，近年来，关于络安全的法律法规、标准规范，包括各种团体标准、地方政策不断出台。例如，针对人工智能科技伦理方面，陆续发布《新一代人工智能治理原则――发展负责任的人工智能》《新一代人工智能伦理规范》等；在智能算法治理方面，发布了《互联信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》，政策、规定的发布进一步促进AI健康发展规范应用。

除各级管理组织外，产业各方也在积极推进人工智能安全建设。作为通信央企，电信认真贯彻总体安全观，以打造安全型企业为目标，持续开展数字安全工作，此前，电信、字节跳动、西安电子科技大学、金融测评中心等30余家机构成为“AI安全工作组”首批发起单位，将致力于“共同解决AI技术速发展所带来的安全难题”。

AI辅助全方位筑起安全屏障

星河通用视觉大模型是电信针对视觉领域推出的大模型，当前已升级至20，模型参数从十亿提升至百亿，数据量从百万提升至亿级，构建了“视频监控+AI+云播”的智感安防体系，赋能千行百业。如广东清远的交通违章治理、惠州的社会治安治理场景，取得显著成效，形成全国性标杆。

这只是电信安全服务的生动缩影。近年来，电信将“安全”融入企业发展之中，坚持科技创新，将AI技术和5G、云、物联等能力相结合，加推动科技成果转化应用，护航各行各业数字化转型升级。在中科光芯光电生产车间，采用电信5G商企专，现了5G+重点区域AI监控、5G+AI穿戴识别等多个智能场景，时管控生产人员的操作与服装穿戴规范，有力提升车间生产安全。

此外，电信还推出了天翼安全大脑、量子密话、电信数盾等系列产品与服务，以及国内仅有有全覆盖和全球触达能力的“云堤”平台，为行业客户提供业界领先的安全服务，护航AI产业高质量发展。

人工智能安全是一个复杂又不可避免的问题，随着人工智能技术发展与应用深入，其安全性越来越重要，需要、企业和个人共同努力。



文中提到电信宽带天生有着强韧的生命力，经过风吹雨打也能化茧成蝶成为最优秀的自己。安全有保障！让广大用户以最优惠的价格得到最便捷、实惠、优良的通信服务。http://www.sdzj189.com/