事件簿香格里拉對話2017

人工智能介入軍事侵道德底線

國防科技大學國家安全與軍事戰略研究中心主任朱啟超下午在「新興技術的防務啟示」子論壇上,發表題為《人工智能介入軍事或沖擊人類道底線》演講指出,這時世界上已有70多個國家在發展無人化系統平台,各種無人機、無人車以及無人船艇出現,機器人技術呈現井噴式發展,各類仿生機器人不斷問世,「不知疲倦的機甲戰士與人類士兵並肩作戰的機器人軍團、快速編隊的無人機蜂群等人工智能驅動的新型部隊,預計將在防務領域扮演越來越重要的角色」,將對人類道德帶來新的挑戰。他舉出5方面的例子。

  1. 軍人被置於比平民更加安全的環境;
  2. 人工智能的濫用,將降低觸發戰爭的門檻;
  3. 機器故障等因素帶來的誤差在所難免,無人系統平台的失控可能成濫殺無辜;
  4. 智能系統犯錯比人犯錯更難以追溯責任。這些因無人機反恐作戰的人道災難責任追究,可能涉及操控者、程序員、採購官、戰地指揮官等多個方面。
  5. 人工智能可以被恐怖分子所使用,且人類面臨著新的跨域攻擊和戰爭誤判的風險更高,比如基於人工智能支術的網絡攻擊可使國家基礎設施遭受破壞,甚至導致核武器乃至生化武器的失控,誘發戰爭的判與升級。