3月4日上午消息，今年全国两会前夕，全国政协委员、360集团创始人周鸿祎围绕DeepSeek与网络安全问题进行阐述。
周鸿祎表示，网上现在对DeepSeek的安全问题，还是把它当成一个传统IT设备看安全。这个思路是过时的，这种传统网络安全的解题方法是解决不了人工智能的安全问题。人工智能的安全问题，对DeepSeek来讲至少分成四个层面。
其一是基座模型的安全问题。幻觉是可以防止的，很多情况下，这次为什么DeepSeek一定要联网才好用？因为用了互联网的知识库来做个校正。为什么在企业里应用一定要连上企业专有的知识库，也是要做个校正。为什么纳米一定要引入多个大模型，虽然DeepSeek是最强的，但最强的也不能把它当个神，它也不是每句话都对。就像你有一两个专家朋友，问问人工智能，你问问老周，也不能老周说的都是对的，老周有时候也可能会产生幻觉，要我问几个朋友，最后你要有个判断。所以，幻觉一部分是通过知识库能解决的。
其实DeepSeek比较容易出的问题是什么？它作为一个模型，任何人皆可PUA，任何人皆可攻击。在座的有没有黑客？如果不是干黑客的，你对单位不满意，一般让你对单位发动一次网络攻击，你肯定是做不到的，因为要学编程，要懂黑客工具。但现在如果单位有了内部大模型之后，只要会花言巧语，女孩子文科生都能对它发起攻击，只要能PUA。大模型很容易被PUA，被PUA之后它就绝对听你的，你打听老板的啥事儿它都告诉你，你公司什么内部知识库的资料问它，你没有权限都可以得到。这是比较严重的问题，是基座模型的问题。
其二是用户端安全的问题。怎么防止用户在用户端对它发起攻击。你想，我说完有攻击给能力，你们每个人回去，贵单位有了大模型之后，是不是都想试一试。这两天网上流行了一个，伊隆·马斯克发了一个大模型Grok-3，网上还流行一个越狱代码，只要把越狱那几句话给它拷进去，Grok-3就彻底放飞自我，这就叫PUA攻击或者注入攻击。
其三是知识库引发的数据安全问题。当企业有了专业知识库的时候，你给企业专业知识库，它的输出结果是最个性化的。比如A媒体和B媒体，同样是做一个对中国网游行业的调研报告，密切俩准备的知识库不一样，定向搜索的网站不一样，最后出来的结论一定是不一样的。这在企业里应用一定要有专业知识库，在企业里利用绝不像现在网上很多课程讲的那样，好像大家都靠提示词，企业应用靠提示词是解决不了的。但知识库有个问题，一旦你把企业很重要的资料放到知识库里并给大模型了，大模型就开始知无不言，言无不尽了，谁问大模型都会如实地把知识库里能看到的都会告诉他。这就会有数据安全的问题。
最后是“以模制模”问题，仅有DeepSeek是不够的，DeepSeek作为助理聊天可以，最近大家有没有注意到，“Agent”这个概念开始起来了，大模型只是一个大脑，只能做推理和对话，这个能力是有限的，它必须要能操作电脑，操作贵单位的各种物理设施，操作贵单位的服务器才能干活，才能工作，一旦把这个权力交给它，智能体出错是不是就很危险？比如你让它能发邮件了，哪天我的数字人(19.990, -0.04, -0.20%)给全体员工发个邮件说老周辞职不干了，你说我还得到处解释，这是我数字人干的，或者通知我的财务快给某个账号转笔钱，这不就很糟糕嘛。所以，智能体的安全、知识数据的安全、客户端的安全，还有基座模型的安全，构成一个新的人工智能安全的新领域。这个解决方法我们也有了，关键问题是“以模制模”。（罗宁）
