栏目导航

www-434455.com

您的位置: 主页 > www-434455.com >

隱私洩露、AI換臉存風險 11家企業被約談

时间:2021-10-02

  3月18日,網信辦、公安部宣佈,針對近期未履行安全評估程式的語音社交軟體和涉“深度偽造”技術的應用,國家網際網路信息辦公室、公安部指導地方網信部門、公安機關依法約談映客、阿裏等11家企業。

  當下不少語音社交和AI換臉的産品一上線就成為爆款,但涉及用戶隱私洩露、內容是否合規等問題也被曝光,隨即被下架。針對此類産品,相關部門強化安全評估,這給平臺提出了更高的安全挑戰,但對保護用戶個人資訊、打擊違法違規內容傳播則是直接利好。

  據國家網際網路信息辦公室官方微信公眾號“網信中國”披露:針對近期未履行安全評估程式的語音社交軟體和涉“深度偽造”技術的應用,國家網際網路信息辦公室、公安部指導北京、天津、上海、浙江、廣東等地方網信部門、公安機關依法約談映客、小米、快手、字節跳動、鯨準數服、雲賬戶、喜馬拉雅、阿里巴巴、網易雲音樂、騰訊、去演等11家企業,督促其按照《網路安全法》《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》等法律法規及政策要求,認真開展安全評估,完善風險防控機制和措施,並對安全評估中發現的安全隱患及時採取有效整改措施,切實履行企業資訊內容安全主體責任。

  根據《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》要求,出現具有輿論屬性或社會動員能力的資訊服務上線,或者資訊服務增設相關功能;使用新技術新應用,使資訊服務的功能屬性、技術實現方式、基礎資源配置等發生重大變更;用戶規模顯著增加等情形,網際網路資訊服務提供者應當自行開展安全評估,對評估結果負責,並向網信部門和公安機關提交報告。網信部門和公安機關根據對安全評估報告的書面審查情況,認為有必要的,應當依據各自職責對網際網路資訊服務提供者開展現場檢查。

  説到語音社交和AI換臉,2021年國內最火的應用非“對話吧”和“螞蟻呀嘿”莫屬,前者是“Clubhouse中國版”,後者類似之前爆紅的“ZAO”73471.com

  按照對話吧項目負責人江宇航透露的資訊,對話吧是2月3日晚上立項的,2月10日對話吧在蘋果和安卓應用商店全部上線進行內測。2月20日,對話吧母公司映客CEO奉佑生邀請金沙江創投董事總經理朱嘯虎、崑崙萬維CEO周亞輝等大佬在對話吧討論。當天,對話吧在網際網路圈走紅。

  沒過幾天,對話吧在蘋果和安卓應用商店下架,對話吧相關人士對北京商報記者的解釋是:“目前是在進行整體技術和形態的升級調整,技術産品人員在加班加點進行更新。”截至北京商報記者發稿,對話吧沒有恢復上架。

  2月底3月初,網際網路圈再因一系列“螞蟻呀嘿”搞笑短視頻沸騰。用戶在AI換臉軟體Avatarify上傳一張照片,就可以讓任何人實現變臉特效。操作簡單、畫面魔性諸多因素讓“螞蟻呀嘿”視頻在各大社交平臺瘋狂傳播,但不到一個星期,Avatarify遭遇下架。

  Avatarify的經歷和2019年上線的ZAO如出一轍。當年ZAO上線僅一天,就在各大社交平臺刷屏,隨後在蘋果應用商店的免費App下載登頂。但3天后,ZAO被下架。

  “Avatarify和ZAO涉及的問題一樣,主要是可能存在個人隱私數據洩露、侵權等隱患,也不排除數據被不法分子用於偽造照片或視頻實施詐騙等。”比達諮詢分析師李錦清向北京商報記者表示。

  他進一步説,“相比圖文社交,語音社交,尤其是像對話吧這樣的多人參與的語音群聊,在內容安全性上更難把控,涉黃涉非等違法違規內容更容易出現,且在現有技術條件下,隱蔽性更強,給平臺提出了安全合規挑戰”。

  事實上,上述問題一直是相關部門的關注重點。2019年9月,針對媒體公開報道和用戶曝光的ZAOApp用戶隱私協議不規範,存在數據洩露風險等網路數據安全問題,工業和資訊化部網路安全管理局9月3日對北京陌陌科技有限公司相關負責人進行了問詢約談,要求其嚴格按照國家法律法規以及相關主管部門要求,組織開展自查整改,採取有效措施防範自有業務平臺被利用實施電信網路詐騙等風險隱患。

  “相比之下,傳統的圖文是審核最嚴格、流程最成熟的,巨頭網際網路公司都有上萬人巨大的審核團隊,基本上杜絕了大的欺騙事件發生。短視頻時代出現了新的問題,比如騙子冒充明星行騙,監管部門、視頻平臺還沒有做好確認身份,剔除假資訊的流程。不過2018-2019年視頻平臺加大投入,用AI和人工審核,基本上擦邊的色情暴力以及詐騙等審核也成熟很多。現在語音和人臉AI合成又出現了新問題,如果流行開來,肯定會造成假消息氾濫,衝擊正常的輿論空間,甚至被不法分子利用詐騙。”文淵智庫創始人王超總結。

  王超還告訴北京商報記者,“目前來看,這類惡意語音和人臉AI合成製造假消息和詐騙還沒苗頭,但隨著這些技術進一步發展,肯定會出現這一問題。監管層未雨綢繆,很有遠見,而且這個詐騙的逼真程度更高,就連高學歷高知識人群也辨別不了。不過,一定有技術可以識別這些虛假合成的語音和視頻,平臺總會想到簡單易行、成本較低的鑒別辦法的”。

  國家網際網路信息辦公室、公安部表示,下一步將繼續指導各地網信部門和公安機關加大巡查檢查力度,督促屬地網際網路企業嚴格遵守相關法律法規,積極主動履行安全管理義務,切實履行企業主體責任,共同維護網路傳播秩序,營造良好網路生態。

  【視頻】【續寫絲路新篇章】中省媒體採訪團走進“共和國軍墾第一城”石河子市



友情链接:

Copyright 2018-2021 主页 版权所有,未经授权,禁止转载。