调查发现您的ai很容易被黑客入侵-k8凯发天生赢家

调查发现您的ai很容易被黑客入侵
作者:汇世界网 发布时间:2020-07-01

人工智能正逐渐成为主流,并嵌入到越来越多的日常生活应用中。从医疗保健,金融到交通运输和能源,机遇无限。每个部门都充满了节省时间,金钱和其他资源的机会,而ai提供了许多k8凯发天生赢家的解决方案。

20200630025025389 副本.jpg

然而,与ai安全相关的关键问题仍未得到解答。当ai安全扩展到企业时,it组织如何管理ai安全,您是否具有审计功能来回答监管机构的问题?

对于数据科学家,您如何确保自己的ai模型随时间推移保持可靠?对于开发人员,您如何将常规devops流程扩展到支持ai的软件开发?提出正确的安全问题必须是您扩展ai策略的基本组成部分。

组织刚刚投资于管理和监视其ai的工具,以实现企业规模,从而导致了适合其现有技术堆栈的mlops和modelops工具市场的增长。

但是,这反映了更广泛的趋势-他们没有像系统或应用程序开发那样对ai开发和部署过程应用相同的严格性。人工智能安全也是如此—因为许多组织仍处在解决其人工智能管理的困境中,他们将安全优先事项推到了线下,这只会导致更大的问题。

在ai部署方面存在很多风险,安全性不是事后才想到的-在企业ai部署开始之初,解决安全性问题就显得更为必要。

全方位攻击

支持ai的系统的现实情况是,攻击者的攻击面越来越大,可供恶意行为者利用。幸运的是,mlops工具可以帮助您解决组织内部正在使用的ai的访问控制,并且其中许多工具还可以帮助提高api安全性和可追溯性。同时,还有其他类型的威胁需要解决,许多组织尚未考虑如何将这些威胁纳入其整体安全状况或响应中。

对抗性ai是指机器学习的一个特定分支,致力于通过创建错误信息或降低模型性能来对ai模型性能产生负面影响。如今,不良行为者可以将不良或“中毒”的数据馈送到模型中以影响输出,或者通过反向工程模型的权重以影响其输出。

来源:

网站地图