在过去的几年中，我们已经看到人工智能从阴影转移到了主流。从我们前室的智能音乐扬声器到口袋里手机的数字助理，我们可能每天都在与AI互动或受到AI的引导-常常不知道它的影响或影响。

系统具有对输入进行快速分类以及从经验中学习的能力，例如，这意味着安全供应商已迅速利用AI来支持其威胁分析过程。当抵御即使是最好的人为威胁时，这也可以提高准确性，更快地识别威胁并全面降低风险。

安全供应商采用AI的相同原因也使该技术对网络罪犯具有吸引力，因为拥有可以非常快速地对其目标进行分类，从其失败中吸取教训并成功利用其攻击的攻击系统，而这完全是无需人工干预的情况，对于任何攻击者。

人工智能与人工智能

这导致了一个非常奇怪和未知的场景，在该场景中，我们将看到攻击AI与检测AI相对立。与选择取决于经验，技能和偏见的人不同，人工智能通常会部署出乎意料的策略。如果我们想到AI战胜人类的头条新闻，例如Google的AlphaGo 4-1击败Go Grandmaster Lee Se-Dol或IBM的Deep Blue战胜Garry Kasparov，这表明AI的思维可能是非常不可预测的，常常会发疯胸有成竹的人不会采取任何自杀或简单化的举动。然后，将这种左场方法作为更大的获胜策略的一部分。

随着AI与AI的对立，对于人类来说，战场可能会成为一个高度误解的地方，其攻击和防御策略还无法被理解，因此，几乎不可能知道获胜者。实际上，这种反复无常的战斗可能永远不会结束，从而导致持续的战斗场景，即使我们认为战斗获胜，这也可能只是攻击者战略的下一个阶段，而真正的战斗却是完全不同的面前。

我们应该做什么？

因此，重要的是我们采用不能完全消除人为触动的安全策略。我们需要采用多种系统来提供来自源的足够信息，以便我们可以确定威胁是否确实已成为违规行为，因此可以理解该违规行为的影响。

再一次，评估过程很可能会由某种基于AI的决策引擎来支持，该决策引擎突显了人眼通常可能会忽略的潜在威胁。但是，如果攻击者AI怀疑将由AI对其进行监视，则他们可能会采取成功逃避检测的策略。

您可能会问我们如何在这个新的AI领域中运作。我认为，我们需要采取一种务实的方法，假设我们的一个或多个防御措施已被破坏，并且入侵者处于隐蔽状态。我们还必须验证所有活动以及访问系统和数据的任何尝试，而不是一次依赖一个活动。

简而言之，我们需要采用零信任模型，并且只有在举证责任表明请求有效且响应不会受到破坏的情况下，才允许访问。