10月13日，第38次全國計算機安全學術交流會在京召開，三六零(601360.SH，下稱“360”)公司創始人周鴻禕以“構建‘安全、向善、可信、可控’大模型”爲題發表演講，並透露360大模型安全解決方案細節。他表示，大模型發展已經進入第二階段，重點是放低身段，賦能產業數字化發展，最大的障礙是如何打造真正安全可用的大模型。
周鴻禕指出，大模型是一把“雙刃劍”，將帶來前所未有的安全挑戰，他將安全風險劃分爲短期、中期、長期三個階段。其中，短期風險是當前最迫切要解決的問題，主要圍繞大模型自身引發的安全問題，如網絡安全、數據安全、生成內容安全。中期風險主要指人爲的對大模型的惡意應用，如日益猖獗的AI換臉、AI換聲詐騙。長期風險則是當更強大的人工智能誕生，對人類生存帶來的安全挑戰。
周鴻禕表示，基礎大模型的安全問題，都會“遺傳”給垂直大模型。爲此，360躬身入局，在國家級安全能力基礎上，打造原生安全大模型“360智腦”。周鴻禕介紹，在“安全、向善、可信、可控”這一安全四原則的基礎上，360已經構建體系化的大模型安全解決方案，保證大模型在企業級場景落地。細節上，他透露，爲了讓大模型不作惡，360“向善”解決方案的核心是研發安全垂直“小模型”訓練和監控大模型，保證大模型輸出結果安全。
在解決大模型“可控”問題上，360將推出Agent框架，把人的能力賦予大模型，一方面讓大模型變得更強大，另一方面也能起到對大模型的約束作用。面對國內大模型安全需求的井噴，周鴻禕表示，360的原生大模型安全解決方案能夠平移、複製給有需求的行業合作伙伴和客戶，以外掛式的“360大模型安全管家”的形式對外賦能，提供網絡與數據安全、內容護欄、搜索知識增強、可視化數據監測等能力。
最後，周鴻禕爲大模型“正名”，指出大模型不僅會帶來新型安全風險，也可以作爲“正義助手”服務安全發展。實踐中，360已經推出“360安全大模型”，助力企業的安全運營。
