“Resistant AI融资275万美元 用于保护算法免受对抗性攻击”

resistant ai已经筹集了275万美元的风险投资，开发了保护算法免受自动攻击的人工智能系统。

索引供应商和信用供应商在此次投资中处于领先地位，包括seedcamp、ui路径首席银行和avast ctomichal pechoucek的参与。 resistant ai总部设在布拉格，正在解决黑客利用ai操作机器学习系统这一日益严重的问题。

专家曾预测，网络安全最终将在攻击者及其目标之间进行ai军备竞赛。

resistant ai联合创始人兼首席执行官martin rehak表示，公司目前正在学习如何部署ai。 另一方面，我们看到了罪犯和骗子利用这些程序谋取利益和大规模偷钱的方法。 我们的工作是保护ai和机器学习模式。

resistant ai的团队包括在被Cisco系统收购的cognitive security工作的核心团队。 rehak表示，该团队最初于2006年开始从事ai的安全工作，但此时该技术似乎已经捉襟见肘。

他说。 “头五年，当我告诉任何人我们在做什么的时候，他们都说我疯了。

思科期间，与ai相关的工作越来越重要。 但是，这个小组最终独自出击，集中精力把ai用于ai攻击的问题上。 或者，如rehak所说明的那样，ai被用于攻击各种自动化决策系统。

专家们越来越担心对抗性攻击的兴起。 这是有人在外部将元素引入机器学习模型以破坏或操纵它的想法。

resistant ai 2019年上市时，其决定首先集中于金融企业，金融企业开始转向自动化系统以批准各种产品的应用。

欺诈可以发生在各种各样的游戏中。 基本情况下，人们采用公用事业发票或银行对帐单，其名称改为由算法驱动的验证系统，成为开户或融资或融资审批的工具。 反抗者的ai通过检测视觉异常或识别可疑数据来阻止对授权系统的访问。

抵制服务还可以审查金融系统做出的决定，审查所有输入，并大量搜索相关性和不一致之处。 例如，一个批准请求看起来无害，但在100，000个请求组中，可能存在与其他一些请求相同的例外。

rehak先生这样说。 “这样，可以看到不同身份的人实际上在对系统进行指纹认证，并试图找出其漏洞。

通过指纹识别，rehak意味着有人在提交一系列文档和新闻，试图了解企业的算法和机器学习功能。

这次攻击的目标可能是双重的。 首先，黑客可能会为了进行诈骗而试图弄清算法的参数。 但是，他们可能会尝试采用攻击来理解并复制算法。 然后，他们可能会向其他想要诈骗的人出售新闻，也可能卖给被攻击企业的同行竞争对手。

rehak表示，在所有情况下，黑客常常采用ai来检测这些机器学习系统，并自动适应他们的做法。

展望未来，resistance计划采用这笔钱扩大20名员工的规模，扩大在西欧的销售业务。

本文：《“Resistant AI融资275万美元 用于保护算法免受对抗性攻击”》