東森新聞
2024年5月12日 週日 下午6:46

各國為了減少戰爭支出，開始打造、自主、武器系統，就是所謂的殺手機器人，它們不需要人類操作，而且擁有自由意志，專家擔心人類有天會遭到AI反噬。最新的研究顯示AI似乎已經懂得如何說謊，欺騙人類，這恐怕會使得你我遭到AI機器人奪權控制。

行走的坦克上卻沒載人，今年二月美國喬治亞州軍事基地，一場公開軍事活動上一台遠端遙控的坦克引起人們注目，無人坦克能夠自己移動，掌握地型順利執行命令，美軍如今正在研發的不只無人坦克，無人戰鬥機也在試驗行列，但更可怕的都不是這些，還需要人類操控的武器，更可怕的是自主武器也就是殺手機器人。

南韓國際AI倫理協會理事長全昌裴：「現在的AI技術水準，因為還不完全，可能會出現很多失誤，或者像是被駭這種安全，相關問題也有很大威脅，如果在戰爭時活用的話，無法區別士兵和一般平民，平民被大量殺害，這種情況也會發生。」

為了減少戰爭成本，不少國家都在打造自主武器系統，代表著這些武器不需要人類操作，可以有自由意志。DeepMind初期投資者讓·塔林：「可以合理的預測自主武器只會輕易的擴大戰爭，透過減少殺害敵人的成本，自主武器不太可能減少人命的被害。」

但這些自主武器若真的被大量使用在戰場上，不少專家學者都表明相當憂心，人類會反過來遭到控制，而現在有研究指出AI確實已經學會如何說謊，欺騙人類。

其中一個案例就是OpenAI的ChatGPT-4系統，它謊稱自己是一個視力受損的人，因此在零工平台上聘用人類來替它完成我不是機器人的驗證任務，研究團隊警告從各種案例可以看到，在最糟的情況下，一但AI開始追求權力，掌控社會，人類恐怕將會慘遭奪權，甚至滅絕。