当前位置: 网站首页 > 新闻中心
新闻中心
AI算法复制人类大脑功能?这种AI正通过三种方式欺骗你
时间:2020-03-02  来源:www.oaled.com

人工智能(AI)算法的网络攻击新闻不再罕见,几乎每天都在发生。研究人员发现算法在实验室环境和实践中都非常脆弱。在许多头条新闻中,我们看到人脸识别系统可能被特殊眼镜和黑客控制的医疗应用欺骗,例如AI癌症诊断系统。

人工智能的发展,新神经网络的组成以及神经科学新模型的出现表明我们正在接近人工智能算法可以复制大脑功能的现实。虽然这些技术远非完美,但AI与人脑之间存在许多惊人的相似之处,特别是在图像处理技术方面。

最近,科学家们发现,黑客不仅可以对神经网络发动对抗性攻击,还可以对人类发动类似的攻击。通过一些操作,他们成功地修改了狗的图像,使人们误认为是猫。然后,科学家改变了蛇的形象,使其看起来像蜘蛛,反之亦然。

这项研究引起我注意的原因是因为它提供了一个很好的例子,我们可以将它付诸实践并检查在各种情况下欺骗的可能性。这促使我做一个实验来调查人们对这些照片的反应,特别是那些有蜘蛛恐惧症的照片。喜欢蛇的人(也有对蜘蛛的深深恐惧)当他们看到蜘蛛变成蛇时会感到不舒服。

然而,当他们意识到照片中的主题确实是一只蜘蛛时,他们的不安就变成了恐惧。这些实验表明,这种对抗性攻击可以在潜意识中发挥作用。换句话说,有人没有意识到图像有什么问题,就像算法不识别攻击一样。

因此,当谈到对抗性攻击和网络安全时,我们必须考虑到即使是人眼,这种复杂的器官和长期进化的产物也无法抗拒这种攻击。从这个意义上讲,很容易看出对感官的攻击可以与对算法的攻击进行比较。

尽管神经语言程序设计(NLP)尚未得到科学证明,但对语言或其他感官的对抗性攻击可能与该领域相关。事实上,对AI的隐私攻击可以被视为呕吐或催眠,让我们研究以下AI欺骗人脑的例子:

潜意识感知广告

可以通过大量图像数据训练深度学习模型,以基于照片识别人的信任水平。使用AI进行对抗性攻击可以为任何人创建最“可靠”的照片,并提高对受众的信任度。

我们所需要的只是更改照片,以便照片可以激发信任。它可用于广告,并且由于照片的快速调整,您将更有可能吸引客户!

使用音频

现在让我们来看看音频信息和语音感知的过程。当我们听到一个单词时,没有上下文我们无法解释它的含义,我们经常会在脑海中猜测一些。当我们听到句子结束时,我们的大脑会修复信息并推断出一个词的最终含义。这种机制类似于递归神经网络中基于注意力的模型。

在我们解密信息之前,所有没有上下文存在的意义都会在某种程度上在潜意识中处理,它们会对我们的思维产生轻微的影响。如果人类大脑能够识别出由多义词组成的句子的不同可能含义,那么人们就会无意中接受平行甚至相互矛盾的命令。庞大的数据集可以自动执行此过程并创建具有隐藏双重含义的文本。

人工智能支持的测谎仪

我再举一个例子。隐私攻击是试图暴露某人的隐藏信息。在交流中,人们倾向于用面部表情、身体姿势、手势和眼睛来推断意思。体态语通常可以显式或隐式地揭示说话人的心理状态、情绪和情感。事实上,有许多类似的隐藏数据泄漏通道,如人体体温、瞳孔大小、辐射水平或人类呼吸的化学成分。

如果有人建立了一个精确的设备,捕捉所有这些隐藏的通道,他们可以读取人类对外部刺激的反应,如图像和挑衅问题。这类似于对神经网络的隐私攻击,攻击者通过测试不同的输入数据来访问信息。

自我保护措施

对人类的潜意识攻击,如我提到的例子,通常是可怕的。最糟糕的是,它们不是虚构的,可以随时实现。有了这些建议,您可以武装自己并抵御这些攻击:

重复检查您使用的媒体中的所有关键信息,并重复检查您发送的信息;

学习心理学,了解大脑是如何工作的,然后将这些知识应用到你每天看到的视觉刺激上;

不要在社交媒体上发布太多不必要的个人信息,您当然不希望额外的数据为黑客提供有针对性的信息。

如果我们能戴上特制的眼镜或助听器,以保护自己在未来免受视听网络攻击,我也不会感到惊讶。但在此之前,使用这些策略来尽可能多地了解人工智能及其不那么吸引人的用例是很重要的,以确保您自己和您的公司的安全。请记住,只要您对这些应用程序有更好的理解,您就比那些不具备相同知识的人有很大的优势。