擔(dān)憂未來人類被機器人控制

雖然西方正在研制的最先進的無人作戰(zhàn)系統(tǒng)都達到了很高的自主化程度，但目前還是離不開人的操縱。有專家預(yù)計，至少在未來20年內(nèi)，這種自主“殺人機器人”都不會問世。不過，這種發(fā)展趨勢已經(jīng)引發(fā)了各方的激烈辯論。

很多人認為機器人不應(yīng)對人類擁有生殺大權(quán)，并認為賦予機器人剝奪人類生命的權(quán)利會涉及很多法律和倫理道德等問題。此外，“殺人機器人”最令人擔(dān)心的，或許是它將給全人類帶來的威脅。

由于自主機器人要靠計算機軟件實現(xiàn)自主控制，那么這些機器人就免不了會受到恐怖分子和黑客的襲擊以及軟件故障的威脅。美軍此前就面臨過這樣的情況：2008年曾有3臺裝備武器的“劍”式地面機器人被部署到了伊拉克，但是這種遙控機器人僅在前線正式部署了11個小時后還未開一槍就被從戰(zhàn)場上撤回——因為它們將槍口對準(zhǔn)了它們的人類指揮官。美國陸軍軍官凱文·法赫證實，這些機器人的“槍管在操作者未發(fā)指令的時候自己移動了”。

美國科幻作家阿西莫夫早在1940年就提出了著名的“機器人三原則”，即“機器人不得危害人類、必須服從人類的命令、在不違反第一條和第二條的情況下必須保護自己”。但即使在阿西莫夫自己的作品中，也出現(xiàn)了機器人脫離人類控制，反而控制人類的場景。因此，一旦完全自主的“殺人機器人”問世并被實戰(zhàn)部署，全世界都將面臨可能被機器人毀滅的危險。(《國際先驅(qū)導(dǎo)報》記者粘軼鋒 發(fā)自北京)