“人工智能（AI）帶來的安全問題，是數字安全的一部分。”全國政協委員、360集團創始人周鴻祎近日在接受中國證券報記者采訪時表示，大模型快速迭代與成本降低，使得AI技術快速普及，成為帶動千行百業生產力提升的新工具，但同時也帶來AI幻覺、數據泄露、深度偽造等新出現的大模型應用風險。

全國政協委員、360集團創始人周鴻祎

　　“大模型的廣泛應用正在構建網絡安全新生態。”周鴻祎將大模型帶來的安全問題分為基座模型的安全問題、客戶端的安全問題、知識數據的安全問題、智能體的安全問題四個層面，給出的解決思路是“以模制模”——用安全大模型來應對人工智能產生的安全問題，為數字世界的新發展構建一個安全底座。

　　關注大模型幻覺

　　今年以來，大模型領域各家企業爭相發布新品，大模型性能不斷提升，同時使用成本大幅降低，“大模型幻覺”也成為公眾關注的熱點。所謂“大模型幻覺”是指大模型有時會編造出看起來合理或可信的信息，令人真假難辨。原因一方面來自大模型的運行原理，它通過海量的數據訓練，生成出現概率最大的內容，另一方面也來自訓練數據的局限性，訓練數據本身也可能包含錯誤信息。

　　周鴻祎認為大模型的幻覺問題需要辯證看待。“幻覺是大模型的固有特點，沒有幻覺的大模型不聰明。”周鴻祎在接受記者采訪時說，大模型的幻覺使其擁有類似人們所擁有的想象力，可以創作劇本、撰寫文章；在有些科學研究領域，大模型的想象力可以發揮關鍵作用。例如人工智能公司DeepMind開發的AI模型AlphaFold，能準確預測蛋白質與DNA、RNA等生物分子的相互作用，為藥物研發和結構生物學帶來革命性的進展。

　　“但同時，大模型幻覺如果出現在醫療、法律、金融、證券、生產制造等不能出錯的環節，就會帶來非常嚴重的影響。”周鴻祎說，隨著大模型的發展從“不可用”“湊合用”，到“完全可用、能用”，需要采取措施防止大模型幻覺帶來的安全風險。

　　周鴻祎表示，大模型應用軟件可以通過鏈接互聯網上的知識庫來對信息進行校正，企業在應用大模型時可以接入企業專有知識庫對幻覺進行校正。“大模型輸出結果的差異來自其訓練數據，把企業的重要資料放入知識庫提供給大模型，大模型就可以依據知識庫，知無不言，言無不盡了。”

　　解決大模型應用安全

　　近期，中國初創企業DeepSeek發布開源推理模型DeepSeek-R1，以極低的成本實現高性能表現，攪動了大模型市場格局，同時掀起了大模型領域的開源革命。據不完全統計，已有數百家公司接入DeepSeek研發的大模型，其中包括國內三大基礎運營商，國內外云服務企業、金融機構、手機廠商、車企等。大模型的應用已經逐漸滲透到內容創作、金融、電信、自動駕駛等領域。

　　大模型的快速推廣使得大模型應用的安全問題日益突出。周鴻祎認為，在基座模型層面，要解決大模型產生幻覺的問題，可通過連接知識庫來校正。在客戶端層面，周鴻祎表示：“以后人們許多工作會和公司里的大模型交流互動，因此要防范客戶端產生的安全問題，防止來自客戶端的安全攻擊。”

　　而當大模型的應用催生出更多智能體（Agent），人們將自己的一部分工作職責移交給智能體，則會帶來新的安全風險。“假設以后我的智能體能操作電腦，比如給財務員工發送郵件讓對方轉一筆錢，豈不是帶來風險。”周鴻祎稱。此外，如果大模型對接的知識庫包含龐雜的知識數據，其中涉及個人隱私、商業機密等內容，則存在知識數據層面的安全問題，需要防范信息泄露風險。

　　面對大模型應用帶來的基座模型、客戶端、智能體、知識數據四個層面的網絡安全新挑戰，傳統網絡安全模式的局限性愈發明顯。周鴻祎的解決思路是“以模制模”，通過研發安全大模型，來管理企業知識庫的使用、智能體的調用，并參與管理基座模型產生幻覺的問題等。

　　激發產業新活力

　　周鴻祎認為，大模型的開源策略將幫助傳統企業降本增效，要推動大模型的應用。“AI要引發工業革命，一定要推動AI技術在企業、政府等各類場景深入地使用，進入千家萬戶，進入千行百業。”

　　大模型不僅擁有海量知識，還具備出色的對話和推理能力。以醫療行業為例，大模型可以成為個人的醫學顧問或慢性病專家，為人們提供健康指導。對于傳統醫院，大模型能加速其數字化改造，如有醫院利用AI幫助病人完成自動預約、處理病歷傳真，大幅縮短病人候診時間。對于新興的生物制造產業，大模型可作為研究工具，助力探索未知領域。

　　從挖掘生產力的角度看，大模型能在企業的決策、管理、業務流程等多個環節發揮作用。周鴻祎表示，大模型能為企業管理者提供決策支持，增強員工工作能力，改善內部管理和業務流程，提升產品與服務的質量，有效解決產業發展中的卡點和堵點，實現降本增效。

　　在企業落地方面，周鴻祎認為企業應用大模型要找準方向。首先是找場景，大模型適合解決企業特定專項、專業場景下的垂直問題，企業應結合自身業務，確定大模型的應用場景。其次，要打造專業知識庫，收集企業內部的各種知識，讓大模型更專業。最后，要打造智能體，并將其接入企業的OA辦公流程，形成完整的應用體系。