在AI快速發展和普及的背景下，伴隨著技術進步而來的還有信息安全與隱私保護、自然資源消耗、算法歧視、替代人工、商業壟斷等治理挑戰，同時這些議題還體現了技術的兩面性。世界經濟論壇最新發布的《2025年全球風險報告》顯示，錯誤信息和虛假信息連續第二年成為全球最大的短期風險。2024年8月，歐盟《人工智能法案》正式生效，全球對人工智能風險的治理已經提上日程。從ESG視角來看，AI大模型行業包含了算力、算法、數據三大要素，需要從法律法規、行業倡議到企業內部治理等多個層面逐漸搭建AI治理體系。

　　信息安全風險顯現

　　人工智能發展帶來的深度偽造技術讓網絡世界的錯誤信息和虛假信息日漸增多。人們發現AI合成的知名醫生張文宏在網絡視頻中帶貨，犯罪分子利用人工智能變臉冒充公司高管并騙取員工2億港元，專業團伙利用ChatGPT制作情緒飽滿、博取眼球的假新聞。

　　“人工智能高速發展給人們對網絡世界虛假信息的識別帶來嚴峻挑戰?！敝袊嗣翊髮W新聞學院副教授方潔說，“人們對所處環境作出判斷，依賴一個真實可信的信息傳播系統，但現在人們經常會在信息世界里面臨難辨真偽的境況?！?/p>

　　《2025年全球風險報告》列出了未來兩年人類面臨的十大短期風險，錯誤信息和虛假信息連續第二年排在首位，其次才是極端天氣事件和國家間的武裝沖突。

　　人工智能技術尤其是自然語言處理（NLP）和生成對抗網絡（GANs），使得虛假信息的生成和傳播變得更加容易和高效。深度偽造技術可以生成逼真的虛假圖片、視頻、音頻，誤導公眾，誘發詐騙行為，甚至影響社會秩序。據網絡安全公司奇安信統計，2023年基于人工智能的深度偽造欺詐事件數量激增3000%，AI釣魚郵件數量增長1000%。

　　“人工智能帶來的技術變革會對監管部門、互聯網平臺、媒體、網絡用戶都帶來影響。令人頭疼的是，利用人工智能生產虛假內容的成本很低，但人們識別虛假信息的成本卻要高得多?！狈綕嵳f。

　　據報道，韓國警方近日宣布將投資91億韓元，開發可以查出深度偽造文件和虛假信息的系統，應對利用人工智能生成圖像和聲音犯罪激增的情況，開發工作預計在2027年底完成。

　　此外，人工智能發展還會帶來新的網絡安全風險，奇安信董事長齊向東表示，具體包括數據信息安全風險、認知安全風險和基礎設施安全風險。人工智能技術演進依賴大量數據訓練，這些數據往往包含敏感的個人信息，如果數據保護措施不到位，可能導致數據泄露和隱私侵犯。此外，AI系統本身也可能成為網絡攻擊的目標。

　　相關風險暴露的原因是人工智能時代正加速到來，并且超越了互聯網時代的發展速度和影響力。

　　中國互聯網絡信息中心去年11月發布的《生成式人工智能應用發展報告（2024）》顯示，我國生成式人工智能產品用戶達2.3億人，人工智能核心產業規模接近6000億元。投行數據顯示，2024年三季度全球近三分之一的風險投資資金流向了人工智能領域。

　　人工智能大模型成為時代的新底層生產工具。被稱為“百模大戰”的人工智能競技大賽已然開啟，參與者涵蓋了從科技巨頭到初創企業。國際市場上，有谷歌的Gemini、微軟的OpenAI以及Meta的LLaMA等大模型。在國內市場，百度的文心一言、阿里巴巴的通義千問、騰訊的混元、字節跳動的豆包、科大訊飛的星火等紛紛加入大模型發展浪潮。此外，DeepSeek、智譜AI、MiniMax、Kimi、零一萬物等初創企業研發的大模型也已嶄露頭角。

　　隨著硬件優化和算法改進，大模型的訓練和推理成本持續下降，使得AI技術能夠更快滲透到中小企業乃至個人開發者中，推動大模型應用從通用場景向垂直行業拓展，如醫療、金融、法律、交通等各個領域。

　　人工智能治理議題的兩面性

　　ESG重視企業對社會的影響。從ESG視角分析不同行業企業的重要性議題，按照行業特性會有差異，而人工智能的重要性議題跨越了不同行業。

　　“人工智能有三個關鍵要素，算力、算法、數據，既有軟件行業的特質，也有芯片、存儲設備等算力基礎設施的特質，還有互聯網行業的特質。”中央財經大學綠色金融國際研究院副院長、中財綠指首席經濟學家施懿宸對記者表示，人工智能企業需要關注的重要性議題包含了算力基礎設施需要關注的碳排放、能源消耗、水資源使用等環境維度議題，也包含了軟件和互聯網行業需要重視的信息安全與隱私保護等社會維度的議題。此外，人工智能企業還需要關注算法透明度，以避免算法歧視。

　　“這些議題中，信息安全與隱私保護的議題可以沿用互聯網行業的思路，通過技術和法律手段加以解決，同時需要企業自我約束和平臺的監管?！笔┸插氛f。據了解，OpenAI將GPT-4模型引入內容審核系統，提高內容審核效率。德國基爾大學科學家近期研制出一款新型人工智能工具，可以精準識別出虛假新聞。騰訊旗下朱雀實驗室也推出了朱雀AI大模型檢測系統，幫助用戶識別AI生成的文本與圖像。

　　算法歧視則來自人工智能決策過程所依賴的歷史數據，人工智能算法可能會延續甚至放大歷史數據中的偏見。例如，亞馬遜曾用人工智能工具篩選人才，發現這一篩選系統對女性存在偏見。為應對算法歧視問題，微軟開發出一套系統工具，用來判斷人工智能算法是否存在偏見。微軟、谷歌、IBM等企業都曾設置對人工智能進行倫理審查的治理機構和相應機制，商湯科技也成立了人工智能倫理與治理委員會。

　　而在另外一些ESG議題上，人工智能帶來的影響尚難以界定，并呈現出技術的兩面性。例如，人工智能的訓練過程需要消耗大量能源與水資源，但它同時能應用于提升能效、節約能源、保護環境、應對氣候問題等領域。有研究人員估算，訓練GPT-3所需的清水量相當于填滿一個核反應堆的冷卻塔所需的水量。另有研究稱，GPT-3大模型每次訓練耗電量為1287兆瓦時，能支撐3000輛特斯拉電動汽車共同開跑，每輛車跑20萬英里。

　　但同時，在黃河上游的羊曲水電站，人工智能與大數據技術構建的數字孿生智慧電廠助力新能源發電站平穩運行。中國電信通過自研AI節能系統，年均節電8億度，節省電費5.2億元。微軟推出低成本的人工智能工具，幫助解決與水、農業、生物多樣性和氣候變化相關的環境問題。

　　在替代人工議題上，人工智能的應用引發了網約車司機等群體對就業前景的擔憂，但同時其也在勞動強度高、危險性強的工作中開始發揮作用。例如，泰科電子應用人工智能技術，在快速運轉的流水線上精準檢測連接器產品的瑕疵，避免了員工的高強度工作。萬勛科技生產的軟體機器人借助人工智能賦予的性能，進行大廈外墻和風力發電機葉片的高空清洗，替代人工完成具有高度危險性的工作。

　　“人工智能使自動駕駛技術快速發展，而無人駕駛讓人們出行更方便甚至更安全，但也可能讓網約車行業受到影響?！笔┸插繁硎?，在技術發展推動社會變革過程中，需要監管機構、企業、公眾、媒體等各方不斷溝通，形成具有共識的基本原則與行業倡議，保障社會轉型過程中的公平。

　　如何約束與治理

　　德勤中國可持續發展研究院院長謝安認為，從ESG角度來看，建立健全人工智能治理體系，需要國家、行業和企業的多層次協同，共同推動人工智能的健康有序發展。

　　在國家層面，政府應制定全面的法律法規和倫理指引，為人工智能的發展提供制度保障。例如，中共中央辦公廳、國務院辦公廳2022年出臺的《關于加強科技倫理治理的意見》，為科技倫理治理提供了明確的指導。此外，國家網信辦聯合國家發改委、科技部、工信部等部門2023年聯合發布的《生成式人工智能服務管理暫行辦法》也對生成式人工智能服務的規范應用提出了具體要求。

　　國際上，歐盟《人工智能法案》2024年8月正式生效，并于近日發布了更詳細的條款，規定企業若濫用人工智能技術對用戶進行潛意識操控、欺騙誤導，區別對待個人或群體，抓取用戶面部信息等，都有可能面臨高額處罰。

　　在行業層面，謝安認為，各行業應結合自身特點，制定人工智能倫理指引和標準。例如，中國人民銀行2022年發布的《金融領域科技倫理指引》，為金融行業的人工智能應用提供了具體的倫理規范。其他關鍵行業，如醫療等，也應制定相應的倫理指引。在企業層面，企業應建立完善的人工智能內部治理體系，確保AI技術安全合規應用。

　　此外，業內人士認為，相關部門需要提前研判，優化公共治理體系。大力發展人工智能衍生行業，如人工智能風險管理機構，以人工智能為基礎的服務業、教育培訓業等；在全社會健全職業生涯終身培訓體系，為低技能勞動者提供便捷的新技術培訓服務，增加他們的就業機會。