在4月29日于福州举行的第八届数字中国建设峰会上，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东接受媒体采访时，对人工智能尤其是大模型在垂直领域落地应用加速背景下的数据安全问题的看法。他指出数据安全面临三重挑战，同时也看到数据安全市场的重大机遇。文章还提及《全国数据资源调查报告（2024年）》相关数据，以及在当前形势下不同企业应对数据安全的方式等内容。
4月29日，第八届数字中国建设峰会于福州盛大开幕。在此期间，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东接受了包含《每日经济新闻》在内的媒体采访。在齐向东的视角中，人工智能（尤其是大模型）在垂直领域加速落地应用之时，数据安全正遭受着全新的三重挑战。其一，数据密度日益增高，那些失去珍贵“小数据”的企业，将会遭受巨大损失。这里所说的“小数据”，实则是企业在多年竞争中积累的核心资产，它规模虽小，却能用硬盘拷走。在大模型垂直应用场景下，大数据经过标注、清洗、学习转化而成的“小数据”，价值更高且集中度更强。然而，在相关产业里，接触这些数据的各类工程师以及数据管理员、标注员等都拥有较高的数据访问权限，这使得权限滥用、身份盗取等安全风险更难防范，一旦企业的精华小数据被窃取、泄露或者篡改，企业常年积累的核心竞争力将瞬间崩塌。其二，大部分大模型处于“裸奔”上线状态，这极有可能引发业务停摆的链式危机。大模型深入融合到智慧城市、工控系统、智慧政务等领域时，风险会串联成网，一旦遭受攻击便会“牵一发而动全身”。根据奇安信资产测绘鹰图平台的监测数据，在8971个Ollama大模型服务器里，有6449个处于活跃状态，其中近九成处于“裸奔”状态。这就意味着任何人都能在无需认证的情况下随意调用，或者未经授权就访问服务，甚至能够发送指令删除所部署的DeepSeek、Qwen等大模型文件，进而导致与大模型关联的应用业务中断。其三，用户对AI（人工智能）过度依赖。随着人工智能在各行各业深入应用，大模型能力愈发强大，用户对其辅助决策和判断能力也过度依赖。从外部攻击角度看，黑客可利用漏洞、数据“投毒”等手段干扰大模型决策，披着大模型的外衣作恶。从内部运营角度看，内部员工在更新知识库时若引入错误信息，就会污染模型学习环境，致使输出错误结论。不过，齐向东也看到了人工智能时代下数据安全市场蕴含的巨大机遇。他预测，数据安全市场即将“引爆”，虽然其增速难以预估，但至少会高于其他行业。从细分领域和利好产业来看，数据基础设施底座、算力网平台、数据应用动态管控、数据流通利用安全等方面将成为企业构建自身数据安全“护城河”的重点关注对象。在“车路云一体化”趋势下，智能网联车产业对数据安全的需求将大幅增加，万亿级市场即将出现。在峰会现场，从人形机器人到智能眼镜再到各类AI解决方案，2025年大模型在垂直领域的应用和落地呈现爆发态势。齐向东作为经历过上一轮互联网“狂欢”的过来人，在看到新生产力的同时，也察觉到随之而来的安全风险。4月29日，《全国数据资源调查报告（2024年）》于第八届数字中国建设峰会期间正式发布。该报告显示，我国数据资源规模优势不断扩大，数据资源开发利用活跃度稳步提升，2024年全国年度数据生产总量达41.06泽字节（ZB），同比增长25%，智能家居、智能网联汽车、无人机等智能设备数据增速名列前茅。然而，与高速增长的数据资源池相比，近年来数据安全市场的增速并不理想。齐向东向《每日经济新闻》记者表示，以前数据多以大数据形式存在，一个单位内有成百上千甚至上万台服务器用于存储数据，且当时数据单位的体系和数据价值密度不高，即便有数据丢失，企业也不太“痛”。但现在情况发生了显著变化，随着DeepSeek降低大模型部署成本，垂直领域应用开始爆发，企业在数据安全方面的“痛感”会愈发强烈。因为企业要部署大模型，就需要将质量稀疏的大数据转换为密度极高的“小数据”，否则将消耗大量算力和显卡，耗费大量资金。在这种模式下，密度极高的数据一旦丢失，带来的影响远超从前。值得注意的是，除了预测总量的增长，齐向东还发现了更多机遇。他表示，过去几年，网络安全行业一直在挑战中创造“历史”，像“脱钩断链”“小院高墙”等情况，客观上加速了我国的信创替代进程，极大释放了信创安全需求。再看这波AI浪潮，随着各类利好政策密集发布，国家数据基础设施建设将全面提速，全流程动态防护必然成为重点。对企业而言，围绕数据基础设施底座、算力网平台、数据应用动态管控、数据流通利用安全等四个方面开展的数据安全建设将成为主流趋势。此外，在产业方面，齐向东重点提及了“车路云一体化”行业的潜在机遇。他认为，“车路云一体化”是智能网联车领域落实和发展新质生产力的重要实践，也是未来新型的交通关键基础设施。一旦遭受网络攻击或数据泄露，将引发严重的交通秩序问题和公共安全事件。所以，保障数据安全合规是智能网联车产业稳健发展的前提。齐向东预测，随着相关政策的密集推出，国家将以超长期国债等方式支持地方投入车路云一体化项目，万亿级市场即将到来。在第八届数字中国建设峰会的背景下，齐向东阐述了人工智能时代数据安全面临的挑战，包括“小数据”相关风险、大模型“裸奔”风险、用户过度依赖风险等，同时也指出数据安全市场即将迎来大发展，增速将高于其他行业，且在细分领域和产业方面有着诸多机遇，如数据基础设施相关建设、智能网联车产业的巨大市场潜力等内容。
原创文章，作者：Admin，如若转载，请注明出处：https://www.camerich.net/archives/698.html
