【編者按】

　　在全國兩會召開之際，本報今起推出“尋擎記”特別策劃，以“新質生產力發展圖譜”為坐標，觀察科技創新與產業創新的共振效應。通過具有代表性的企業樣本，探尋它們在科技創新、模式革新、轉型升級等方面的獨到之處，挖掘企業如何在新質生產力的賽道上脫穎而出，成為行業發展的引擎。

　　近期，AI成為各界關注的焦點。在全國兩會召開之際，接受中國證券報記者采訪的部分代表委員表示，網絡安全建設需要與時俱進，可以通過技術革新，用安全大模型來應對AI存在的潛在安全問題。“安全”必須要“快一步”——快一步抓產品、抓技術，既要看到技術的長板，也要看到技術的短板。

　　全國政協委員、360集團創始人周鴻祎：大模型廣泛應用正構建網絡安全新生態

　　“人工智能（AI）帶來的安全問題，是數字安全的一部分。”全國政協委員、360集團創始人周鴻祎近日在接受中國證券報記者采訪時表示，大模型快速迭代與成本降低，使得AI技術快速普及，成為帶動千行百業生產力提升的新工具，但同時也帶來AI幻覺、數據泄露、深度偽造等新出現的大模型應用風險。

　　“大模型的廣泛應用正在構建網絡安全新生態。”周鴻祎將大模型帶來的安全問題分為基座模型的安全問題、客戶端的安全問題、知識數據的安全問題、智能體的安全問題四個層面，給出的解決思路是“以模制模”——用安全大模型來應對人工智能產生的安全問題，為數字世界的新發展構建一個安全底座。

　　關注大模型幻覺

　　今年以來，大模型領域各家企業爭相發布新品，大模型性能不斷提升，同時使用成本大幅降低，“大模型幻覺”也成為公眾關注的熱點。所謂“大模型幻覺”是指大模型有時會編造出看起來合理或可信的信息，令人真假難辨。原因一方面來自大模型的運行原理，它通過海量的數據訓練，生成出現概率最大的內容，另一方面也來自訓練數據的局限性，訓練數據本身也可能包含錯誤信息。

　　周鴻祎認為大模型的幻覺問題需要辯證看待。“幻覺是大模型的固有特點，沒有幻覺的大模型不聰明。”周鴻祎在接受記者采訪時說，大模型的幻覺使其擁有類似人們所擁有的想象力，可以創作劇本、撰寫文章；在有些科學研究領域，大模型的想象力可以發揮關鍵作用。例如人工智能公司DeepMind開發的AI模型AlphaFold，能準確預測蛋白質與DNA、RNA等生物分子的相互作用，為藥物研發和結構生物學帶來革命性的進展。

　　“但同時，大模型幻覺如果出現在醫療、法律、金融、證券、生產制造等不能出錯的環節，就會帶來非常嚴重的影響。”周鴻祎說，隨著大模型的發展從“不可用”“湊合用”，到“完全可用、能用”，需要采取措施防止大模型幻覺帶來的安全風險。

　　周鴻祎表示，大模型應用軟件可以通過鏈接互聯網上的知識庫來對信息進行校正，企業在應用大模型時可以接入企業專有知識庫對幻覺進行校正。“大模型輸出結果的差異來自其訓練數據，把企業的重要資料放入知識庫提供給大模型，大模型就可以依據知識庫，知無不言，言無不盡了。”

　　解決大模型應用安全

　　近期，中國初創企業DeepSeek發布開源推理模型DeepSeek-R1，以極低的成本實現高性能表現，攪動了大模型市場格局，同時掀起了大模型領域的開源革命。據不完全統計，已有數百家公司接入DeepSeek研發的大模型，其中包括國內三大基礎運營商，國內外云服務企業、金融機構、手機廠商、車企等。大模型的應用已經逐漸滲透到內容創作、金融、電信、自動駕駛等領域。

　　大模型的快速推廣使得大模型應用的安全問題日益突出。周鴻祎認為，在基座模型層面，要解決大模型產生幻覺的問題，可通過連接知識庫來校正。在客戶端層面，周鴻祎表示：“以后人們許多工作會和公司里的大模型交流互動，因此要防范客戶端產生的安全問題，防止來自客戶端的安全攻擊。”

　　而當大模型的應用催生出更多智能體（Agent），人們將自己的一部分工作職責移交給智能體，則會帶來新的安全風險。“假設以后我的智能體能操作電腦，比如給財務員工發送郵件讓對方轉一筆錢，豈不是帶來風險。”周鴻祎稱。此外，如果大模型對接的知識庫包含龐雜的知識數據，其中涉及個人隱私、商業機密等內容，則存在知識數據層面的安全問題，需要防范信息泄露風險。

　　面對大模型應用帶來的基座模型、客戶端、智能體、知識數據四個層面的網絡安全新挑戰，傳統網絡安全模式的局限性愈發明顯。周鴻祎的解決思路是“以模制模”，通過研發安全大模型，來管理企業知識庫的使用、智能體的調用，并參與管理基座模型產生幻覺的問題等。

　　激發產業新活力

　　周鴻祎認為，大模型的開源策略將幫助傳統企業降本增效，要推動大模型的應用。“AI要引發工業革命，一定要推動AI技術在企業、政府等各類場景深入地使用，進入千家萬戶，進入千行百業。”

　　大模型不僅擁有海量知識，還具備出色的對話和推理能力。以醫療行業為例，大模型可以成為個人的醫學顧問或慢性病專家，為人們提供健康指導。對于傳統醫院，大模型能加速其數字化改造，如有醫院利用AI幫助病人完成自動預約、處理病歷傳真，大幅縮短病人候診時間。對于新興的生物制造產業，大模型可作為研究工具，助力探索未知領域。

　　從挖掘生產力的角度看，大模型能在企業的決策、管理、業務流程等多個環節發揮作用。周鴻祎表示，大模型能為企業管理者提供決策支持，增強員工工作能力，改善內部管理和業務流程，提升產品與服務的質量，有效解決產業發展中的卡點和堵點，實現降本增效。

　　在企業落地方面，周鴻祎認為企業應用大模型要找準方向。首先是找場景，大模型適合解決企業特定專項、專業場景下的垂直問題，企業應結合自身業務，確定大模型的應用場景。其次，要打造專業知識庫，收集企業內部的各種知識，讓大模型更專業。最后，要打造智能體，并將其接入企業的OA辦公流程，形成完整的應用體系。

　　全國政協委員、奇安信董事長齊向東：人工智能面臨“成長”煩惱 需煉就兩只慧眼

　　春節以來，國產AI大模型DeepSeek持續引發關注，各行各業展開“DeepSeek+”行動，人工智能應用加速普及。近日，全國政協委員、奇安信科技集團董事長齊向東在接受中國證券報記者專訪時表示，DeepSeek憑借優異的性能、較低的成本、開源開放的生態，將推動人工智能大模型垂直應用的快速發展。

　　齊向東同時表示：“人工智能也有‘成長’的煩惱，隨著人工智能技術的深度應用，安全挑戰也日益嚴峻，保障人工智能時代的網絡空間安全是扛在我們肩上的重任，網絡安全公司要兼具兩只慧眼，一只眼睛要看到技術的長板，一只眼睛要看到技術的短板。”

　　人工智能加速普及應用

　　談及DeepSeek，齊向東說，它將訓練成本和推理成本都大大降低，對使用AI模型的應用開發者來說，是極大利好。

　　“過去受技術封鎖與商業壁壘雙重禁錮，人工智能領域難以實現資源的高效共享與全方位協同發展。又因為大模型訓練需要大資金、大數據、大周期，門檻很高，中小創新公司很難參與其中，甚至有言論說，只有大公司才有資格玩大模型。”齊向東表示，DeepSeek的開源策略，就像發令槍，讓人工智能行業開始擺脫“大公司大模型俱樂部”，中小公司得以與大公司在大模型技術上平等競爭，實現“技術平權”，人工智能應用將邁向資源共享、攜手共進的未來。

　　在討論DeepSeek所帶來影響的同時，很多人也開始思考，如何孵化培育更多的像DeepSeek這樣的創新成果。對此，齊向東認為，要繼續守護并延續AI創新的“草根化”趨勢，保持自下而上的創新張力。

　　安全與治理成為必答題

　　DeepSeek推動人工智能技術加速向千行百業滲透，與此同時，人工智能也有“成長”的煩惱。齊向東表示，隨著人工智能技術的深度應用，大模型所面臨的安全挑戰也日益嚴峻。

　　“我們發現，現在越來越多的企業、個人開始將DeepSeek大模型私有化部署，而將近90%的服務器都沒有采取安全措施，服務運行和數據安全岌岌可危。未來隨著人工智能大模型的基礎設施地位越來越突出，有針對性的惡意手段和風險場景也將激增，伴生的數據隱私、基礎設施等安全風險超乎想象。對于整個人工智能行業來說，平衡技術創新與安全風險必將成為重要課題。”齊向東強調。

　　齊向東認為，要系統提升安全能力，確保人工智能安全發展。“安全”必須要“快一步”——快一步抓產品、抓技術。所有技術都有短板，網絡攻擊者捕捉的就是技術的短板，而我們使用者看到的都是技術的長板，我們安全公司要兼具兩只慧眼，學會用兩只眼睛瞄兩個方向，一只眼睛要看到技術的長板，一只眼睛要看到技術的短板。我們要練出特殊的功能和本領，為保障人工智能時代的網絡空間安全貢獻力量。

　　推進軟件產業高質量發展

　　齊向東表示，包括安全在內的軟件產業，是支撐新技術發展的關鍵，也是助推數字經濟發展的重要力量。但目前，我國軟件產業高質量發展遇到了不小的挑戰。

　　他坦言，軟件產業是“內卷式”競爭的重災區，拖慢了軟件產業的創新步伐。

　　他建議，加快開展集中整治，從國家、行業、地方政府等層面系統性強化產業激勵、行業自律、人才吸引力，全面優化營商環境。比如相關部門出臺適配不同產業的投標管理辦法和實施細則，促進各個行業進行全方位自我規范。

　　全國人大代表，TCL創始人、董事長李東生：AI技術促進科技制造業發展

　　全國人大代表，TCL創始人、董事長李東生近日接受記者采訪時介紹，針對大型科技制造業企業融資受限、融資規模與企業發展需求不匹配等問題，他提出優化科技制造業融資環境的建議。對于近期市場關注的AI相關話題，李東生提出加強對AI深度偽造欺詐管理的建議。他表示，以DeepSeek為代表的AI技術的發展，對科技制造業的發展提供了很大幫助，TCL計劃在未來兩三年的時間里，大幅提高自身算力中心能力。

　　建議優化科技制造業融資環境

　　TCL成立四十多年來，從最初生產磁帶的小作坊工廠，已發展成為具有全球競爭力的科技產業集團。TCL科技上市后，公司得以通過資本市場融資，為持續在高端科技制造領域的研發投入和產能建設提供資金支持；借助深交所平臺，提升公司在行業內的知名度和影響力，吸引更多科研人才和加強與科研機構的合作，有利于技術攻關和自主創新能力提升；規范的資本市場監管促使公司不斷完善創新管理體系，保障創新活動高效開展，進而推動新質生產力發展，實現業績可持續增長。

　　李東生深耕科技制造業，多年來，他一直積極為科技制造業的發展建言獻策。隨著全球科技變革和中國經濟轉型升級，科技制造業已成為中國經濟高質量發展的重要基石，但與全球領先的科技企業相比，在集成電路制造、半導體顯示等產業，中國企業仍處于追趕超越階段。

　　針對目前大型科技制造業企業融資受限，融資規模與企業發展需求不匹配等問題，李東生提出優化科技制造業融資環境的建議。他認為，科技制造業具有高科技、重資產、長周期的產業屬性，投入資本金高、回收周期長，投資規模往往超過百億元，且有持續投資需求，需要相應的權益性資本融資。

　　李東生表示，借助資本市場再融資是企業處于積累階段推動發展的必要條件，也是企業走向全球領先的必經階段。

　　加強AI深度偽造欺詐管理

　　近期，人工智能技術發展備受關注。李東生認為，把AI技術應用于供應鏈的智能化改造和升級，可以提高生產制造的質量和效率；把AI技術應用到產品的設計研發中，可以提高技術發展的速度。事實上，在制造業中，AI技術早已被應用，2018年TCL在波蘭設立的歐洲研發中心就已聚焦人工智能的研發，此外TCL華星建立了自己的垂類大模型——星智大模型。

　　“我們做了個統計，去年TCL通過AI應用創造的經濟效益超過5億元，而同期我們在AI上的投入成本不到這個數。”李東生表示，以DeepSeek為代表的AI技術的發展，對科技制造業的發展提供了很大幫助。未來兩三年，TCL將大幅提高其算力中心的能力，更好地支撐企業的智能化發展。

　　今年，李東生針對AI深度偽造欺詐問題提出相關代表建議。一方面，生成式人工智能技術的進步給各個領域帶來機遇，另一方面，AI深度偽造內容侵權現象愈演愈烈，欺詐事件頻發。針對AI深度偽造內容管理問題，近年來，我國相關立法雖有關注這一議題，但已出臺的規章制度還不具備可操作的細則和明確的處罰標準。

　　對此，他提出了四點具體建議：一是加快人工智能深度合成內容標識管理規章制度的出臺。二是明確對人工智能深度合成服務商未履行標識義務的懲罰制度，完善未按要求進行標識的行為界定、分類細則，以及相應的處罰標準。三是加強對深度合成內容標識技術標準和發布的管理，保證標識的有效性，對相關內容平臺出臺要求，用戶在發布深度合成的視頻、音頻等內容時，有義務對其進行標識。四是加強國際合作，形成對人工智能生成合成內容的有效監管。