AI也能助纣为虐：《人工智能恶意使用报告：预测、预防和缓解》
2018年2月20日，电子前沿基金会EEF和牛津大学人类未来研究所、剑桥大学现存风险研究中心、人工智能组织Open AI等14个机构的26位科技与公共政策学者共同发表了《人工智能恶意使用报告：预测、预防和缓解》报告(以下简称报告)。报告警告大家提防流氓国家(注释1)、罪犯和恐怖分子利用人工智能技术作恶。同时，报告预测未来12年中利用AI技术和电子信息的犯罪将会增多，这让信息安全岌岌可危。因此报告呼吁全球政府及企业正视广泛运用的人工智能技术所带来清晰而直接的危害。
近几年，人工智能(AI)和机器学习技术正在改变我们生活的方方面面。这些改变大部分都是往好的方向，举例说涉及领域有：医疗、交通、城市规划、艺术、科技和跨文化沟通。在机器学习系统中，我们已经目睹了用于预测暗网和潜在犯罪分子的软件“Machine Bias”会进行有偏见的预测。逐渐增多的带有偏见学习系统的AI机器将把我们的世界改变的面目全非。尤其是如果这项技术被错误的使用，这将为我们的生活带来许多不可预料的风险。
这里就有一个案例关于人工智能在安卓系统信息安全方面应用。报告预测未来五年内，犯罪分子可能利用AI发动攻击，无人驾驶汽车可能失控、商业用无人机会被当成锁定目标的武器。人工智能一旦被恶意操作，它能够采取大规模的高精准锁定攻击，不管是资讯的还是政治的安全都会面临即刻的威胁。
安全威胁分类
虚拟威胁：利用钓鱼网站、虚假电子邮件等手段，利用软件漏洞、人工智能系统漏洞发动黑客攻击，最终非法的获取用户信息或其他数据。
现实威胁：恐怖分子利用AI技术操纵机器人，实现远程攻击，控制无人机和无人汽车实施恐怖袭击，或者破坏自动驾驶系统使自动驾驶汽车崩溃。
政治威胁：利用人工智能技术生成虚假的宣传图像和视频，也可以进行言论控制，用深度学习删除不利的文本或图像，利用公开信息进行有针对性的宣传，从而增强说服力。
预防控制广泛运用的人工智能技术带来危害的建议
政策制定者和技术研究员应通力合作来预测、预防和缓解人工智能的恶意使用。
人工智能技术改善了我们生活的方方面面， 但它是一把“双刃剑”。人工智能研究员和工程师应考虑到误用带来的后果，调整研究重点，提前提防这项技术的恶意使用。
优秀的技术的使用者可以并且应该被要求遵守法纪，这项法纪是基于长期处理技术性威胁风险的历史案例，比如电脑信息安全。
利益相关方在提供和使用新技术时应注意提防这项技术的潜在恶意使用。
随着人工智能技术逐渐发展完善，报告期待未来AI系统可以考虑到以下方面的威胁：
现存威胁的扩大。随着人们用AI系统完成任务频率的增多，AI系统应用场景的增加，规模效应会同时导致发动袭击的成本降低。原本需要人力资源、学者和研究员才能解决的问题，被人工智能系统取代后，针对同样的任务，由人工智能系统发动的攻击速度更快，攻击目标更多，范围更广。
创造新的安全威胁。人工智能系统的安全漏洞一旦被发现，恶意攻击者可以利用漏洞，操纵人工智能系统完成之前人类攻击者做不到的攻击任务。
改变原有威胁的特征。报告发布者相信未来随着人工智能技术的广泛应用，针对AI系统的攻击将更高效，威胁种类将增多，针对性将变强。尤其是针对AI系统漏洞的攻击将变成未来的主流威胁。
最后，报告建议将人工智能视为 “军事兼商业”科技加以管制，具体细分四个领域进行研究：网络安全、技术开放性、责任文化、政策制定。报告同时呼吁人工智能界的学者，要对发表他们的研究成果保持谨慎，静待其他学者研拟出因应风险的办法。
注释：
1. 流氓国家(Rogue State):或称无赖政权，是一种国际外交政治概念，带有贬义。
流氓国家主要用来指集权体制、违背其他国家的愿望，试图获得其他国家设法控制的武器、对内或对外挑起其他国家憎恶的战争、进行反人类的罪行、窝藏恐怖份子、容许其他国家不容许的犯罪活动(如贩毒)、或者寻求颠覆或损害其他国家的政治实体。
美国政府曾经使用流氓国家一词十多年之久，用来称呼某些符合以上含义的国家，但自2000年开始，美国国务院开始使用“受关注的国家” (States of Concern)，代替流氓国家一词。
2. 电子前沿基金会EEF：是一个非营利性的国际法律组织，成立于1990年，她的行动包括以下几个方面：对那些EFF认为遭受了毫无根据的或错误的法律威胁的个人和新技术提供资金援助或法律辩护服务;向政府和法院提供法律指导;组织行动支持那些有助于维护个人权利的新技术;维护相关新闻和信息的数据库及网站，监视和挑战那些它认为会侵犯个人权利和公平的法律;寻找专利滥用的行为并挑战这些没有意义的专利。
