您现在的位置:中国物联网 > 应用 > 智慧城市 > 智能生活
有理有据!全球26名专家撰写百页报告:警惕AI
http://www.sbk22.com 物联中国
日期:2018-03-06 09:46:58来源:网易智能 点击:567
核心提示:来自14个组织的26名研究人员对恶意AI所造成的危险进行了全面的报告。当我们想到人工智能时,我们往往会想到机器学习的人性化表现,比如Siri或Alexa,但事实是,人工智能在我们身边主要是作为后台进程来运行。从医学到金融,人工智能向各种事物的的缓慢蔓延可能很难让人理解,因为它看起来与好莱坞在《机械姬》或《她》等...

中国物联网 www.sbk22.com

有理有据!全球26名专家撰写百页报告:警惕AI

来自14个组织的26名研究人员对恶意AI所造成的危险进行了全面的报告。

当我们想到人工智能时,我们往往会想到机器学习的人性化表现,比如Siri或Alexa,但事实是,人工智能在我们身边主要是作为后台进程来运行。从医学到金融,人工智能向各种事物的的缓慢蔓延可能很难让人理解,因为它看起来与好莱坞在《机械姬》或《她》等电影中所构思的人工智能有很大的不同。事实上,与人类相比,如今大多数“人工智能”都是相当愚蠢的——机器学习算法可能会在特定任务中给予人类一个重击,比如下围棋,但在更普通的任务上,比如区分乌龟与枪对其来说就很困难。

尽管如此,去年2月,一组由26名人工智能研究人员组成的团队在牛津会面,讨论超人类AI(superhumanartificialintelligence)在未来可能被应用于恶意目的的方式。这次为期两天的会议产出了一份长达100页的报告,内容是关于人工智能不良应用所带来的风险以及降低这些风险的策略。

工作组提出的四项建议中,有一项是“人工智能的研究人员和工程师应当谨慎对待其工作的双重使用特性,在研究的优先级和规范中考虑相关使用不当所产生的影响,并在有害应用程序可预见时主动联系相关的参与者?!闭庖唤ㄒ橛绕涫视糜谧罱似鸬摹癲eepfakes”,主要把机器学习用于将好莱坞女演员的脸换接到色情演员的身体上(制作人工合成的假色情片)。由Motherboard的SamCole最先报道,这些deepfakes是通过改编一个名为TensorFlow的开源机器学习库来实现的,该库最初由谷歌工程师开发。Deepfakes强调了机器学习工具的双重使用特性,同时也提出了一个问题:谁应该使用这些工具?

尽管报告中特别提到了Deepfakes,研究人员还强调了将这种类似的技术用于处理世界领导人视频所产生的危害,这会对政治安全构成威胁,这是研究人员考虑到的三大威胁领域之一。人们只需想象出一段虚假的视频,如特朗普在平壤向朝鲜宣战以及由此引发的后果,就会明白这种情况的危险性。此外,研究人员还发现,通过数据分析和大规模有针对性的宣传,利用人工智能技术,能实现前所未有的大规模监控,这是对政治领域考量的另一个侧面。

另外两个被认为是恶意人工智能的主要风险领域是数字和物质安全(physicalAI?security)。在数字安全方面,使用人工智能进行网络攻击将“缓解现有的攻击规模和效率之间的权衡?!贝蠊婺5耐绻セ骺赡芑嵋匀斯ぶ悄艿男问浇?,比如大规模的网络钓鱼,或者更复杂的攻击形式,比如使用语音合成来模拟受害者。

在物质AI威胁方面,研究人员观察到物质世界对自动化系统越来越依赖。随着更多智能家居和自动驾驶汽车上线,人工智能可能被用来颠覆这些系统,并造成灾难性的破坏。此外,还有故意制造恶意人工智能系统所带来的威胁,比如自动化武器或微型无人机。

其中一些场景,比如微型无人机所带来的灾难,似乎还很遥远,而其他的一些,比如大规模网络攻击、自动化武器和视频操控等,已经引发了一些问题。为了应对这些威胁,并确保人工智能被用于造福人类,研究人员建议开发新的政策解决方案,并探索不同的“开放模式”以降低人工智能的风险。例如,研究人员认为,中央访问许可模式(centralaccesslicensingmodels)可以确保人工智能技术不会落入坏人之手,或者建立某种监控程序来密切记录人工智能资源的应用途径。

报告的作者写道:“目前的趋势强调了对前沿研究和发展成果的广泛开放。如果这些趋势在未来5年持续下去,我们预期攻击者用数字和机器人系统造成危害的能力会显著提高?!?/p>

另一方面,研究人员认识到,开源人工智能技术的扩散也将越来越多地吸引决策者和监管机构的注意,他们将对这些技术施加更多限制。至于这些政策应该具体采取何种形式,必须从地方、国家和国际层面上加以考量。报告总结说:“这份报告的合著者之间仍然存在许多分歧,更不用说世界上不同的专家群体了。随着各种威胁和反馈被发现,在我们得到更多的数据之前,这些分歧不会得到解决。但这种不确定性和专家分歧不应阻止我们在今天尽早采取预防措施?!?/p>


出处:网易智能
郑重声明:本文仅代表作者个人观点,与物联中国(中国物联网 www.sbk22.com)无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
分享到:
  • 资讯
  • 产业
  • 服务
  • 应用
打字兼职 正规网上兼职赚钱 淘宝刷好评兼职靠谱吗 淘宝刷好评兼职靠谱吗 淘宝刷单兼职靠谱吗 淘宝兼职靠谱吗 淘宝兼职 淘宝刷单平台 淘宝刷单 淘宝刷单兼职靠谱吗 花呗套现 淘宝刷好评兼职靠谱吗