自主武器系统最早出现在科幻电影中，但近年来，它们已经进入工程实验室和战场。这些武器能够在很少或没有人类监督的情况下执行先进的军事功能。

除了在战场上提供显著的战略和战术优势外，自主武器系统在道德上也比使用人类战斗人员更优越。专家们声称，在高压力的战斗情况下用机器人代替人类可能有道德上的好处。他们认为，在极端压力下，负责有意识的自我控制的神经回路可能发生故障，导致性侵犯和其他犯罪，否则士兵就不太可能犯下这些罪行。

对于一个特定的任务，需要更少的作战人员，并且由于机器人作为一个力量倍增器的能力，每个人都更加有效。自主武器系统具有罕见的能力，比人类行动更快，即使在通信联系中断的情况下，它们也能进行攻击。此外，它们使战斗能够到达以前无法进入的地区，并通过将人类战士从危险的任务（如处理爆炸物）中移除来降低伤亡。

未来的自主机器人在战斗中可能表现得更加 "人性化"，因为它们不需要被编程为自我保护的本能，有可能消除 "先开枪，后问话 "的心态。自主武器系统将能够处理比人类多得多的传入感官信息，而不会为适应先入为主的观念而丢弃或扭曲这些信息。这些系统也将能够在不受恐惧或歇斯底里等情绪影响的情况下做出决定。

有六个领域，自主性的进步将大大有利于目前的系统：感知、计划、学习、人与机器人的互动（HRI）、自然语言和多代理协调。

优势

据专家介绍，自主武器系统的潜在优势通常分为三类：提高军事效能的作战优势、与资源分配效率相关的经济优势，以及因可能使用此类系统以减少战斗情况下的伤亡而产生的人类优势。

作战优势

自主武器系统有几个操作优势，包括速度（它们可以比人类操作员更快地做出决定）和敏捷性（它们不需要不断地与人类操作员沟通来发挥作用；因此，它们可以更快适应）。由于人类操作员的认知和身体限制可能也比这些操作员更准确和更有弹性。

自主武器系统可能比传统武器系统更适合在偏远地区作战，因为它们不需要与人类操作员沟通。此外，自主武器系统可能使军队更容易渗透到敌方领土。这种远距离作战可能会造成较少的伤亡，而且供应和通信网络可能不那么必要。

经济

自主武器系统可能具有经济上的优势，它以各种方式降低军事行动的成本，尽管最初的研究和开发成本很高。例如，有了这样的系统，完成同样的任务可能需要更少的军人，使军队能够重新分配人员和其他资源，从 "枯燥、肮脏或危险 "的工作中转移到更复杂的任务中。此外，自主武器系统可以节省人员费用。2013年，一个小型武装机器人的成本为23万美元，而美国国防部在阿富汗装备和维护一名士兵的年度成本为85万美元。

人类

自主武器系统可能有利于人类，因为使用它们可能导致更少的伤亡。例如，军队可以使用这种系统来取代手动操作的战斗机，消除飞行员的风险。一些评论家用战争中的错误和暴行的历史事例来支持他们的主张，即自主武器系统可以减少平民伤亡。这种系统不会因为报复、恐惧或愤怒而进行攻击，也不会因为疲劳或压力而犯错。

此外，他们还提请注意，缺乏科学证据支持机器人有朝一日可能拥有 "准确识别目标、了解情况或决定按比例使用武力所需的功能 "的说法。因此，他们有可能造成大量的附带损害。赋予人工智能对目标的控制权，几乎肯定会导致不可接受的附带损害和平民死亡。

使用自主武器系统时的问责问题是另一个重要的担忧。国际人道主义法律的根本前提是要对平民的死亡负责。因此，如果在战斗中使用武器或其他战争工具会导致无法确定谁应该为其造成的死亡负责，那么就不应该在战斗中使用。

要判断一个有缺陷的决定是由编程错误还是由配备了人工智能（所谓的智能）的机器的自主审议造成的，是具有挑战性的，因为配备了人工智能的机器是独立作出决定的。当一个人决定对一个目标使用武力时，有一个明确的责任链，从 "扣动扳机 "的人开始，到发出命令的指挥官结束。在自主武器系统的情况下，没有这样的明确性。

尽管自主系统可以实现极大的灵活性，以应对具体的战争情况，但也会出现一些不可预见的情况，例如。

故障和bug随着系统变得越来越复杂，机械部件和代码行的数量也越来越多，增加了可能发生故障或编码不当的元素的数量。

系统故障系统故障的发生不是因为任何特定部件的故障，而是因为系统元素之间意外的相互作用。随着系统复杂性的增加，验证系统内部工作的所有可能组合变得越来越困难。

系统对人类操作者来说是不透明的。虽然在许多情况下，自动化的好处之一是减少人为错误的可能性，但更大的复杂性的负面效应是，即使是受过训练的用户，系统的功能也可能越来越不透明。

与环境的非预期的互动。随着系统和/或其操作环境的复杂性增加，潜在的交互作用的数量急剧增加。这可能会使测试自主系统在每一种可能的环境条件下的操作成为不可能。

对抗性黑客攻击。在敌对环境中，例如在战争中，敌人可能会试图利用系统的漏洞，无论是通过黑客攻击、欺骗（发送虚假数据），还是行为黑客攻击（利用可预测的行为来 "欺骗 "系统以执行某种方式）。虽然任何计算机系统在原则上都容易受到黑客攻击，但更大的复杂性会使其更难识别和纠正任何漏洞。

缺点

批评者认为，由于一些道德和法律原因，这些武器应该受到限制，如果不是完全被禁止。他们认为，虽然人工智能有可能帮助人类，但如果军事人工智能之间的军备竞赛发展起来，其声誉可能会受损。公众的反感可能会限制人工智能的未来优势。