设紧箍咒
军事机器人程序变异或毁灭世界
毫无疑问，未来战争中，自动机器人士兵将成为作战的绝对主力。但是美国海军研究室在关于机器人士兵的研究报告《自动机器人的危险、道德以及设计》中，对军方使用机器人提出警告，建议为军事机器人提前设定严格的设计和使用“紧箍咒”，否则整个世界都有可能毁于他们的钢铁之手。
报告指出，现今美国的军事机器人设计师往往急于求成，常常会将还不成熟的机器人技术急匆匆推入市场，促使人工智能的进步在不受控制的领域内不断加速发展。更糟糕的是，目前还没有一套控制自动系统出错的有效措施。如果设计出现错误，足以让全人类付出生命的代价。
2008年，曾有3台带有武器的“剑”式美军地面作战机器人被部署到了伊拉克，但是这种遥控机器人小队还未开一枪就很快被从战场撤回——因为它们做了可怕的事情：将枪口对向它们的人类指挥官。
军事：美军2015年前三分之一地面战将使用机器人士兵(www.joowii.com)