人工智能加速普及 風險治理提上日程
近日,DeepSeek憑借優異的推理能力和極具性價比的成本優勢,獲得了各行各業用戶青睞,人工智能技術加速擴散應用。與此同時,也有種種不合理使用人工智能技術的負面案例出現。專家表示,人工智能技術創新、應用與治理均需探索,每一個人工智能的使用者也都應加強對技術潛在風險的認識。中國電子信息產業發展研究院人工智能研究室主任鐘新龍向記者表示,在大模型技術逐步滲透到經濟社會各個層面的過程中,應當因勢利導,營造良好的創新環境,推動大模型技術實現健康應用與高質量發展。
AI加速應用落地
奇安信董事長齊向東在接受記者采訪時表示,DeepSeek憑借技術先進性和徹底開源,推動了AI大模型技術應用實現“技術平權”,無論是大公司還是小公司,無論是IT行業還是傳統行業,如今都可以站在同一起跑線來應用AI。
浙江義烏的“襪子老板”傅江燕便是DeepSeek應用的受益者之一。她介紹:“只要拿著產品、對著鏡頭說三遍‘12345’,再搭配上DeepSeek生成的文案,就能快速搞定多語種帶貨視頻?!?/p>
眾所周知,以往大模型訓練需要大資金、大數據、大周期,門檻高,中小公司很難參與。齊向東表示,DeepSeek通過開源策略,讓中小公司與大公司在大模型技術上平等競爭,有利于推動AI應用和普及。
據鐘新龍觀察,AI大模型的產業應用正在經歷由易到難、由表及里的三階段擴散過程。第一階段主要以智能終端為突破口,例如AI手機、AI電腦等。他表示,這些領域往往具有顯著的用戶痛點和較強的付費意愿,預計將在未來三年內實現規?;虡I落地。第二階段是面向工業領域實現應用,需要突破行業的知識壁壘,實現AI大模型與具體場景的深度融合。第三階段則是面向全社會,將重塑教育、醫療等基礎領域的運行模式。
記者注意到,在教育和醫療領域,已經有多家高校和醫院宣布接入DeepSeek,探索進一步的智能化應用。例如,中國人民大學、北京師范大學、北京交通大學等高校近日稱,正在探索開展有關DeepSeek的實踐應用,部分高校已在自主研發的教學課程平臺中接入了大模型,DeepSeek化身智能“助教”,為師生深度思考賦能。包括北京友誼醫院、北京大學第一醫院等多家醫院也宣布部署DeepSeek模型,這些醫院紛紛表示,大模型應用將加速新藥研發、提升診療效率,為患者提供更精準、便捷的醫療服務。
警惕技術濫用風險
與此同時,AI廣泛應用過程中也出現了部分不正當使用的“副作用”。例如,不少老師和家長發現,學生們寒假作業“AI味”十足,不免憂心學生們過度依賴AI而失去自主思考能力;還有一些大學生或研究人員,對AI工具產生依賴,用AI工具自動生成論文、偽造數據、圖像等。
面對這一新形勢,復旦大學不久前發布《復旦大學關于在本科畢業論文(設計)中使用AI工具的規定(試行)》,明確列出了禁止和允許使用AI工具的范圍,出現嚴重違規者,論文成績將被認定不合格,影響學生取得學位。北京郵電大學、中國傳媒大學、天津科技大學等高校也在出臺或試行相關規定和辦法,對學生借助AI進行論文寫作予以規范。
中國圍棋協會近日對一名在比賽中使用AI作弊的職業棋手進行處罰,不僅對其撤銷職業段位、取消成績,并禁止其參加中國圍棋協會及會員單位組織或授權組織的所有圍棋賽事和活動8年。
湖南省醫保局近日發布《關于進一步加強基本醫療保障定點零售藥店管理的通知》,其中規定,嚴禁使用人工智能等自動生成處方,要求互聯網醫院要與患者或患者家屬進行有效、充分的溝通問診。事實上,國家衛生健康委早在2022年發布的《互聯網診療監管細則(試行)》就對人工智能使用有明確規定:處方應由接診醫師本人開具,嚴禁使用人工智能等自動生成處方。
所有技術都既有長板,也有短板,AI發展伴生的安全風險也不容忽視。齊向東介紹,DeepSeek一問世,針對性的高強度網絡攻擊就爆發了?,F在越來越多的企業、個人開始搭建DeepSeek大模型私有化部署,而將近90%的服務器都沒有采取安全措施,服務運行和數據安全岌岌可危?!拔磥黼S著人工智能大模型的基礎設施地位越來越突出,具有針對性的惡意手段和風險場景也將激增,伴生的數據隱私、認知安全、基礎設施等安全風險超乎想象。對于整個人工智能行業來說,平衡技術創新與安全風險必會成為重要課題?!?/p>
北京大學數字治理研究中心主任邱澤奇在接受記者采訪時表示,DeepSeek極大推動AI應用落地的同時,應用場景的治理也應提上日程。他認為,治理的核心問題是數據,如何提供高質量數據、如何用好高質量數據,如何防范對知識產權的侵蝕等,都是各界需要考慮的問題。
倡導合理使用AI
清華大學新聞與傳播學院副院長張錚近日撰文表示,每一項帶來偉大變革的技術總是讓人類面臨逐漸沉迷的風險,從電視依賴、智能手機依賴到人工智能依賴,技術烏托邦的吸引力呈現出相似的邏輯,但必須承認,從未有任何一項技術像AI一樣,如此徹底地接管人類生活的方方面面。這意味著,“AI過度依賴癥”將給人類帶來更大的風險與挑戰,亟須社會各界的警醒與重視。
張錚也表示,對風險的警示,并不意味著要陷入“新技術恐懼”之中,面對人機共生時代的種種隱患,只有敢于問診并開出藥方,才能讓AI為人類所用、向良善而生。
把握人工智能帶來的發展機遇,更好地應對其帶來的挑戰,這是全人類共同面對的新課題。鐘新龍表示,當前,全球在人工智能發展領域競爭激烈,在此背景下,如何構建更加包容、公平、有效的人工智能治理體系,如何平衡技術發展與安全管控的關系,已經成為國際社會面臨的重要課題。