[導(dǎo)讀]隨著科技的發(fā)展，技術(shù)的競爭越來越激烈，在引領(lǐng)新興科技競賽和未來戰(zhàn)爭戰(zhàn)場的競爭中，人工智能(ai)正迅速成為大家關(guān)注的焦點。正如大家所看到的，自主武器系統(tǒng)(aws)正在迅速發(fā)展，而人工智能武器化的發(fā)展成為了一個高風(fēng)險不可控因素。

本文由騰訊數(shù)碼獨家發(fā)布

圖片來源：圖蟲創(chuàng)意

自主武器系統(tǒng)崛起

隨著科技的發(fā)展，技術(shù)的競爭越來越激烈，在引領(lǐng)新興科技競賽和未來戰(zhàn)爭戰(zhàn)場的競爭中，人工智能(ai)正迅速成為大家關(guān)注的焦點。正如大家所看到的，自主武器系統(tǒng)(aws)正在迅速發(fā)展，而人工智能武器化的發(fā)展成為了一個高風(fēng)險不可控因素。這不僅給各國帶來了復(fù)雜的安全挑戰(zhàn)，也給人類的未來帶來了安全威脅。

如今，人工智能正在引領(lǐng)我們走向一個新的時代同時也把我們領(lǐng)進了一個全新的戰(zhàn)場，這個戰(zhàn)場沒有邊界，可能涉及也可能不涉及人類，將控制整個人類生態(tài)系統(tǒng)的網(wǎng)絡(luò)空間、地理空間和空間(cgs)。人工智能武器化帶來的風(fēng)險是肉眼可見的，人工智能無需人類設(shè)計者或操作者的進一步干預(yù)，可以自主選擇和攻擊人類和非人類目標(biāo)，給人類帶來巨大威脅。

一旦人工智能武器化，人工智能和武器就會脫離人工參與和干預(yù)，只需使用交互的嵌入式傳感器、計算機編程和算法，這個有必要引起我們的注意和重視，也是一個不容忽視的現(xiàn)實。

人工智能武器化

隨著人工智能、機器學(xué)習(xí)和深度學(xué)習(xí)的進一步發(fā)展，人工智能從概念到商業(yè)化，加上其計算能力、內(nèi)存、大數(shù)據(jù)和高速通信的快速發(fā)展，不僅帶來了市場創(chuàng)新、投資的熱潮，也加劇了對人工智能芯片的追求。我們可以看到人工智能正在為戰(zhàn)爭帶來革命性的變革，各國也很重視開發(fā)人工智能以及其人工智能自動化武器系統(tǒng)。

當(dāng)各國在著力發(fā)展科學(xué)技術(shù)，爭取在這方面取得競爭優(yōu)勢時，人工智能的進一步武器化是不可避免的。因此有必要為未來的人工智能自主武器系統(tǒng)做好準備。隨著科技的發(fā)展，人工智能逐步進軍事行業(yè)，正如我們所看見的，自動化戰(zhàn)爭已經(jīng)開始有了苗頭，我們有必要做好應(yīng)對措施。

自動武器系統(tǒng)被認為提供降低武器系統(tǒng)的運營成本的一種方式，特別是通過更有效地利用人力資源，會使武器系統(tǒng)能夠?qū)崿F(xiàn)更高速度、更高準確性、持久性、精度，但同時技術(shù)、法律、經(jīng)濟、社會和安全問題仍然不能忽視。

程序員和編程人員扮演的角色

在應(yīng)對這些復(fù)雜的安全挑戰(zhàn)和未知的技術(shù)是，為了保障人類的安全，最根本的仍然是關(guān)注程序員和編程人員在其中扮演的角色。原因是程序員可以在開始時定義和確定aws的性質(zhì)，直到ai開始編寫自己的程序。

不過設(shè)想一下，如果一個程序員有意或無意地編寫了一種自動武器，而且這個武器違反了當(dāng)前和未來的國際人道主義法(ihl)，那么人類將如何控制人工智能武器化?而且問題的核心是，誰該為此負責(zé)？

網(wǎng)絡(luò)安全挑戰(zhàn)

簡而言之算法的安全性不是很可靠，也不能忽視漏洞、惡意軟件、惡意操縱帶來的危險。雖然自主武器系統(tǒng)存在許多風(fēng)險和挑戰(zhàn)，但我們要重視的是，我們不能讓人工智能將推動并決定我們的人類生存和安全戰(zhàn)略，我們自己掌控。基于這個問題，risk group與markus wagner發(fā)起了關(guān)于自主武器系統(tǒng)的討論，markus wagner是澳大利亞伍倫貢大學(xué)(university of wollongong)的一名出版作家和法學(xué)副教授。

接下來我們要做什么?

各國都在科學(xué)技術(shù)方面卯著一股勁爭取在科技領(lǐng)域獲得競爭優(yōu)勢，而且人工智能的進一步武器化是不可避免的。重要的是要理解和評估，如果不能阻止，那么就該接受這樣一個事實了，僅僅因為技術(shù)允許和aws成功開發(fā)，并不意味著我們就應(yīng)該這樣做。如果人工智能武器化不符合人類的利益那就必須暫停。