探索网络安全新技术
攀登黑客技术最高峰

内幕问答:军事技术中的人工智能和网络安全

Shift5创始人Josh Lospinoso讨论了人工智能以及武器系统中的软件漏洞如何成为美国军方的主要威胁。

内幕问答:军事技术中的人工智能和网络安全-威武网安

Josh Lospinoso的第一家网络安全初创公司于2017年被Raytheon/Forcepoint收购。他的第二架Shift5与美国军方,铁路运营商和包括捷蓝航空在内的航空公司合作。这位36岁的前陆军上尉是2009年西点军校毕业生和罗德学者,花了十多年时间为国家安全局和美国网络司令部编写黑客工具。

洛斯皮诺索最近告诉参议院军事小组委员会人工智能如何帮助保护军事行动。首席执行官/程序员与美联社讨论了这个问题,以及武器系统中的软件漏洞如何对美国军方构成重大威胁。

为了清晰和长度,采访已经过编辑,以下是正片内容:

 

[admonition]

问:在你的证词中,你描述了人工智能技术面临的两个主要威胁:一个是盗窃。这是不言自明的。另一个是数据中毒。你能解释一下吗?

答:考虑数据中毒的一种方法是数字虚假信息。如果对手能够制作人工智能技术看到的数据,他们可以深刻影响该技术的运作方式。

[/admonition]

 

 

[admonition]

问:是否会发生数据中毒?

答:我们没有广泛地看待它。但它已经发生了。最著名的案例之一发生在2016年。微软发布了一个名为Tay的Twitter聊天机器人,该聊天机器人从在线对话中学习。恶意用户合谋在推特上发布辱骂性、冒犯性语言。Tay开始产生煽动性内容。微软将其下线。

[/admonition]

 

 

[admonition]

问:人工智能不仅仅是聊天机器人。长期以来,它一直是网络安全不可或缺的一部分,对吧?

答:AI 用于电子邮件过滤器,以尝试标记和隔离垃圾邮件和网络钓鱼诱饵。另一个例子是端点,例如笔记本电脑上的防病毒程序 – 或在网络上运行的恶意软件检测软件。当然,攻击性黑客也使用人工智能来尝试击败这些分类系统。这就是所谓的对抗性AI。

[/admonition]

 

 

[admonition]

问:我们来谈谈军事软件系统。2018年政府问责局的一份报告称,几乎所有新开发的武器系统都存在关键任务漏洞。五角大楼正在考虑将人工智能放入这样的系统中?

答:这里有两个问题。首先,我们需要充分保护现有的武器系统。这是我们的技术债务,需要很长时间才能偿还。然后是保护人工智能算法的新领域——我们将安装的新东西。GAO的报告并没有真正谈论人工智能。所以暂时忘记人工智能。如果这些系统保持原样,它们仍然非常脆弱。我们正在讨论突破极限并添加支持 AI 的功能,以改善维护和运营智能等。都很棒。但我们正在纸牌屋之上建造。许多系统已有数十年的历史,采用数字技术进行了改造。飞机、地面车辆、太空资产、潜艇。它们现在是相互关联的。我们正在交换数据。这些系统漏洞百出,难以升级,可能会受到攻击。一旦攻击者获得访问权限,游戏就结束了。有时,构建新平台比重新设计现有系统的数字组件更容易。但人工智能在保护这些系统方面可以发挥作用。如果有人试图破坏它们,人工智能可以用来防御。

[/admonition]

 

 

[admonition]

问:你作证说,正如一些人所敦促的那样,暂停人工智能研究将是一个坏主意,因为它有利于中国和其他竞争对手。但你也担心人工智能产品的一头扎进去。为什么?

答:我讨厌听起来宿命论,但所谓的“燃烧使用”案例似乎适用。匆忙上市的产品经常着火(被黑客入侵,失败,造成意外损坏)。我们说,’孩子,我们应该建立安全感。我预计人工智能发展的步伐会加快,我们可能不会停下来以安全和负责任的方式做到这一点。至少白宫和国会正在讨论这些问题。

[/admonition]

 

 

[admonition]

问:似乎包括国防部门在内的许多公司都在急于宣布半生不熟的人工智能产品。

答:每家科技公司和许多非科技公司都几乎向人工智能做出了不和谐的转变。经济混乱即将到来。商业模式将从根本上改变。错位已经发生或即将到来——企业领导者正试图不被措手不及。

[/admonition]

 

 

[admonition]

问:人工智能在军事决策中的应用情况如何,例如瞄准?

答:我不认为,断然不认为人工智能算法——我们正在收集的数据——已经准备好让致命武器系统做出决定。我们离那还很远。

[/admonition]

 

赞(0) 打赏
版权声明:本文采用知识共享 署名4.0国际许可协议 [BY-NC-SA] 进行授权
文章名称:《内幕问答:军事技术中的人工智能和网络安全》
文章链接:https://www.wevul.com/1388.html
本站所有内容均来自互联网,只限个人技术研究,禁止商业用途,请下载后24小时内删除。

评论 抢沙发

如果文章对你有帮助 可以打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

支付宝扫一扫打赏

微信扫一扫打赏

登录

找回密码

注册