中国工业报记者 曹雅丽
“最近Sora再次引发了人们关于人工智能的热议，从正向角度来说，Sora的问世刷新了我们对人工智能大模型成长速度的认知，为千行百业提高生产力提供了一个更强大的工具。同时，也加剧了我们对于网络和数据安全隐患的担忧。”
全国政协委员、奇安信集团董事长齐向东告诉记者，今年带来了一份关于《创新发展“AI+安全”护航中国式现代化》的提案。
全国政协委员、奇安信集团董事长齐向东
齐向东表示，AI是新一轮科技革命的核心技术，它极大提升了生产力，但是加大了数据泄露、“深伪”诈骗等安全威胁，针对AI的网络攻击和利用AI技术攻击网络的问题日益凸显。希望我国能大力探索‘AI+安全’创新应用，抢占国家安全的人工智能战略制高点，提高我国应对网络空间安全风险与不确定性的能力。
“Sora是一个比ChatGPT更加强大的人工智能大模型。当前，利用人工智能技术进行网络攻击的事件已经不在少数。Sora的出现进一步加深了网络和数据安全威胁，未来利用人工智能发动网络攻击的活动会更频繁，‘深伪’诈骗、换脸变声等引发的网络犯罪会更猖獗。”齐向东强调。
齐向东认为，人工智能技术带来的新型网络安全风险主要有三方面：一是AI本身加剧安全威胁，比如数据泄露、欺诈攻击、社会治理安全等，“以ChatGPT、Sora为代表的生成式AI技术可以快速生成钓鱼邮件、编写恶意软件与代码，导致攻击数量爆发式增长，AI欺诈事件频繁发生。此外，不法分子可以通过‘深度伪造’技术换脸变声、伪造视频，‘眼见未必为实’将成为常态。”
二是AI或将加剧网络安全领域的“攻防失衡”，网络安全将更加“易攻难守”。人工智能大幅降低了网络攻击门槛，不懂代码、不懂技术的普通人也能成为黑客，将扩大网络攻击数量，而专业化的黑客组织可以利用人工智能工具对网络攻击进行改造和升级。
三是AI加剧军事威胁，AI武器化趋势显现。齐向东表示，人工智能可被用在“机器人杀手”等致命性自主武器上，通过自主识别攻击目标、远程自动化操作等，隐藏攻击者来源、建立对抗优势，也可以将网络、决策者和操作者相连接，让军事行动针对性更强、目标更明确、打击范围更广。事实上，越来越多的国家开始探索人工智能在军事领域的应用。
对此，齐向东表示，“人工智能的源头是大数据，要先解决数据安全，才能解决人工智能的安全。”齐向东认为，要应对这一挑战，要“标本兼治”，不仅要用“智能对抗智能”，也要做到“人和机器的协同发展”。
“面对新技术可能带来的安全风险，不仅要筑起一道用智能对抗智能的防线，更重要的是要做到人和机器的协同发展。既发挥人的引领作用，也要充分利用极其强大的智能分析和自动研判能力。不能盲目陷入技术决定论，只有人与机器的力量有机结合，生产力才能真正的新质、高质。”齐向东表示。
“具体来说，是要善用人工智能技术做好盘家底、建系统、抓运营三件事。盘家底，利用人工智能大模型高效梳理清楚各类资产，为做好网络安全建设工作打好‘地基’；建系统，建立纵深防御的内生安全体系和全链条的数据安全防护体系；抓运营，用‘人+智能’的高水平运营队伍让安全能力‘活起来’。”齐向东表示。
请输入验证码