首頁 > 人工智能 > 正文

人工智能造假值得警惕

2019-04-25 10:36:32  來源:中國國防報

摘要:人工智能技術在軍事上可以幫助隱真示假,造勢用勢,在民用上可以提高產品的實用性。然而近年來,大量人工智能合成信息充斥互聯網空間和人們日常生活中,如“騷擾電話”“好評灌水”、合成聲音、人工智能生成真人視頻或圖像等。
關鍵詞: 人工智能
  任何技術都是雙刃劍,人工智能技術也不例外。人工智能技術在軍事上可以幫助隱真示假,造勢用勢,在民用上可以提高產品的實用性。然而近年來,大量人工智能合成信息充斥互聯網空間和人們日常生活中,如“騷擾電話”“好評灌水”、合成聲音、人工智能生成真人視頻或圖像等。鑒于此,不少專家認為,人工智能的快速發展使得在現實和網絡空間中,人與人的交流正在被智能化、自動化的交互影響。那么,該如何認識人工智能造假現象,進而改變這一現象?這是當前需要深入思考的一個重要問題。
 
  本質上說,機器不會造假。機器的工作原理是將輸入變為輸出,只計多少,不問是非,所以,人工智能造假本質上是人在造假。一個成熟的算法配上豐富的數據資源,就能生成逼真的照片、視頻及文本材料,技術上不難實現,其目的是使人產生感覺上的錯亂,進而虛擬真實。
 
  然而,從根本上講,就算人工智能能夠對人類行為模仿造假,但無法模仿構成人類行為背后的各種作用關系。換句話說,如果抓住“事物之間的聯系”這個本質,則大多數人工智能造假都可能被識破。
 
  人工智能造假可以通過機器的深度態勢感知或上下文感知技術進行過濾、篩選和排除,如一個正常人不會輕易做不正常的事,一個正常機構也不會肆無忌憚地違法違規一樣,可以通過觀察對比一個人一個機構的以往表現,判別是否作假。然而,一般性地識別不難,難的是特殊情形下的細微區分。所以,面對人工智能造假,除常規性的防偽技術手段之外,還需要開發新的深度態勢感知技術和工具,盡可能在造假前期進行識別干預,從態、勢、感、知等幾個階段展開深入分析和應對。此外還可以研究相應的管理應急機制方法和手段,及早制定相關法律法規,做好知識普及,促進反人工智能造假技術相關應用廣泛落地,從而形成人-機-環境系統聯動的反人工智能造假生態鏈。
 
  俗話說,假的真不了,真的假不了,魔高一尺,道高一丈。畢竟,再好的人工智能都是人造的,而人類本身就是對付不完備性最好的“獵人”。

第二十八屆CIO班招生
法國布雷斯特商學院MBA班招生
法國布雷斯特商學院碩士班招生
法國布雷斯特商學院DBA班招生
責編:kongwen
日本熟妇色在线视频