联合国应该为后人类时代的人工智能指明方向吗?金博宝官网

布兰登佩里
头像

Brandon Perry研究了AI政策,并为Emerj Research提供了贡献分析。他在印第安纳大学布卢明顿研究了公共政策(以人工智能为中心),目前在UC Berkel金博宝官网ey的人类兼容AI中心工作。

联合国应该为后人类时代的人工智能指明方向吗?金博宝官网(AI FutureScape 5 of 6)

本文是AI FuturesCape系列中的第五款,在其中,我们讨论了我们的调查参与者在被问及的职位上的国际组织应该在对冲违反AI的风险时所说的那样。

我们采访了32位人工智能博士研究人员,并询问了他们关于技术奇点的问题:一个假设的未来事件,即计算机智能将超过并超过人类智能。这样的事件会对社会产生剧烈的影响,无论是好是坏。

读者可以浏览下面的其他FutureScape文章,但阅读它们并不是理解本文的必要条件:

  1. 我们什么时候会到达奇点?-来自人工智能研究人员的时间线共识
  2. 我们将如何达到奇点-人工智能,神经技术,和更多
  3. 人工智能将金博宝官网形成单身人士,也会有许多AGI代理商?- AI研究人员共识
  4. 奇点后,人类会很重要吗?- AI研究人员共识
  5. (你在这里)联合国应该为后人类时代的人工智能指明方向吗?金博宝官网
  6. 商业和政府领导人在引导人文智力方面的作用 - AI研究人员共识

国际机构是否像联合国会参与?

如果AI可能成为威胁,那么国际社会是否应该协调解决这个问题?我们决定向我们的专家询问这个问题并得到了一个压倒性的是的。

  • 63%的受访者认为国际组织有一定的参与作用。
  • 只有23%,少于四分之一的受访者,相信国际组织不应干涉AI发展。
  • 我们的其余受访者认为有一个角色,但是国际组织还不应该做任何事情,并且这太难了,否则他们应该。

国际组织应该干预智能技术的轨迹

迄今为止,最大的一类答案是,国际组织需要监管人工智能,以对冲风险:

让我改变问题:AI应该是国际协议的主题吗?对人类未来作为AI的一些关键的东西应该是在桌面上进行认真的国际讨论和谈判。这对于AI来说是真实的,因为它是人类未来依赖的任何其他因素.-丹尼尔伯莱恩

我认为某种国际监管是必要的,与强大的AI一样强大,就像它与核武器一样 - 出于同样的原因。- - - - - -凯文拉格芒尔

人工智能是一种工具,它可以用来作恶,也可以用来做好事。然而,人工智能对于这两个目标都有巨大的潜力,如果人工智能系统被恶意使用,尤其是当它们变得更智能时,其影响可能是灾难性的。”- - - - - -Miguel Martinez.

我们的受访者也非常担心使用自主武器。这些已经成为AI研究人员的普遍问题。一个未来生命研究所的公开信近4000名人工智能研究人员签署了禁止自主武器的法案。的争议项目Maven.还突出了这个领域的许多人不喜欢他们对武器使用的研究的想法。

是的,联合国应该在[武器化] ai的发展中发挥作用。AI控制武器系统不应授权决定应用暴力。联合国需要一个新的国际条约来禁止狩猎,瞄准和杀死没有人类的人的武器,以检查每次攻击的目标的合法性。- - - - - -Noel Sharkey.

在那些认为人机合并可能发生的受访者中,神经科技的监管也被列为一个问题。关于人类扩增的一个担忧是,市场力量会让任何不扩增自己的人变得过时。这令人担忧,因为那些在宗教或道德上有异议的人,那些担心风险的人,以及那些根本负担不起风险的人,将不再在社会上具有竞争力。

市场力量将迫使人们进入认知假肢。这是从人们的大脑中取出的内容,可以并应受到限制和减缓滥用。立即影响取决于此类知识和信息供应的AI。规范后者将有助于规范和防止前者的滥用。- - - - - -eyal amir.

我们的一些受访者认为,国际治理机构不仅会涉及减少风险,而且还要确保我们获得AI的福利。

人工智能造福世界的方式有很多。它的应用程序药物单凭这一点就能大大改善我们的生活。尽管存在一些必须管理的风险,但政策制定者应该知道,也有一些真正的好处可以让世界变得更美好。

由于基于AI的系统越来越多地使用的社会破坏将具有消极的方面......它们也将具有积极的好处,例如对文盲的重要终端,这将使许多人在与[政府]的互动中遭受诸于与[政府]的互动行业被赋予权力。奇点的整个概念......看起来我是一个分散注意力,这是一个非常重要的问题:我们如何控制影响这项新技术。- - - - - -詹姆斯亨德勒

但是,也存在国际机构是否在治理AI中有效的问题。

专家讨论各国政府是否能够调节AI。新兴技术往往难以规范,因为政府无法跟上技术增长的步伐,更不用说塑造了技术的未来轨迹。

AI的性质也使得难以调节。AI本身的术语是模糊的,所需的是需要进行的大规模基础设施,使项目易于检测,其部分可以在世界任何地方制作,软件本身是不透明的;让它难以真正知道是否有可能对此有害。

如果他们能够......他们当前观察的动态似乎对我们的动态似乎太慢了,所以我不确定他们可以。- - - - - -迈克尔布克汀

是的,尽管充满希望,21世纪将看到更有效的跨国治理机制的创建,直接联系全球公民。联合国、世贸组织等是我们目前最好的。- - - - - -詹姆斯j hughes.

这将是困难的,因为未来的AI可能会被分散,因此难以定义为传统的法人实体。它不会符合当前试图符合实际管理机构的层次结构,以符合自上而下的方向或调节挑战,如果不可能。- - - - - -帕特里克Ehlen

国际组织还不应该介入

部分这些限制是缺乏可以在此完成的具体工作领域。我们的三个受访者认为国际机构应该介入,但不是现在。

在提高警报之前,我们的一些受访者认为,最好有一些明确的想法。与此同时,许多政策制定者和社会一般,缺乏对AI实际的理解。

现在不行,因为这些机构的协调能力非常有限,因此应该保留给非常明确和重要的任务。我们还不能确定这些与人工智能有关的任务。- - - - - -罗宾汉森

是的,但应该在人类社会更好地了解AI系统的工作之后发生。- - - - - -裴王

国际组织根本不应该参与其中

10%的受访者认为,由于这些机构是无效的,他们最好不要尝试管理人工智能。对他们来说,这是浪费时间。甚至更糟的是,它实际上可能带来更多的伤害。7%的受访者甚至认为,这些机构的利益相关者会有自己的议程,并试图保护自己的政治权力:

那些官僚机构效率低下,往往有害……他们往往也无能。在全球发展中,一群有能力的人与一般智力共同工作,而不是相互对立,是更好的合作伙伴。- - - - - -皮特Boltuc

当然不是。世界上的所有政治机构都在那里保护境内(物质利益)经常与贪婪有关。这些机构对AI没有任何贡献。他们只能通过注射偏执狂,恐惧,宗教信仰,民族和民族主义议程来减缓进展。- - - - - -Riza Berkan.

其中一位受访者建议还有其他迫切的担忧专注于。对他们来说,核武器和生物安全等问题似乎在长期的情况下更危险:

没有。核武器总是比ai更危险的百万倍。- - - - - -Danko Nikolic.

太难了

我们的一个受访者占据了中间位置,说这太难了。就像在上一个问题一样,国际治理组织有效地管理这些风险的能力将完全取决于我们的集体选择。

当政府(或联合国)的政治实体)涉及时,要么真的很好......或者他们真的很糟糕......所以,政府可能会以单向或另一方的方式放大AI的影响。问题是,它会放大它的[奇妙]和美丽的优势,或者它会产生另一个相同的核武器吗?我不知道。- - - - - -基思威利

分析

国际反应和年份

本节探讨受访者预期奇点以及他们是否相信国际组织应该参与其中的关系。

从图表中看来,预计奇点发生的受访者更有利于国际组织在AI中发挥作用。然而,受访者在远期更不确定。

从2021年到2035年之间,只有一个受访者不希望参与国际组织。然后,从2036年到2060年,两个受访者不希望国际组织参与。这是有道理的,因为如果奇点发生越早发生,那么来自国际社会的回应可能会更加紧迫。

然而,这一趋势在2061年至2100年之间发生了变化,只有一名受访者表示,国际社会还不应参与进来。2021年至2060年的趋势仍在继续,2101年至2200年的受访者中,“是”、“否”和“很难说”的人各占一半。

另一个有趣的发现是那些没有认为奇点的人的一半仍然会倡导国际组织参与其中。这是因为甚至目前的AI水平对社会的许多问题造成了许多问题,例如自主武器和深迎家。

深入了解数据,所有响应在2021 - 2016年之间,即表示国际组织不应参与其中,这是由于他们被认为无效。与此同时,两个回复说,国际组织应该参与其中,但可能是无效的。

如果我们假设这种缺乏效率的现象是整个人工智能社区的代表,那么有相当多的研究人员认为国际组织不会有效地解决这些问题。

除了奇点可能“从未发生”这一类别之外,国际组织只会简单地推进自己的议程,这属于“3000人之前”类别。因此,在那些认为奇点会发生的受访者中,机构有效性似乎是他们对国际参与的主要担忧。

奇点情景和国际反应

本节看着不同路径与奇点的关系以及受访者对国际组织的作用。

类别和国际反应

从这个图表来看,我们可以看到大多数类别,除了另一个类别,而且从未发生的类别,绝大多数地倡导国际组织的某种形式的治理。例外是神经形态的AI,其中三名受访者中有两个人表示,国际组织不应管理AI。

进一步看待数据显示,没有以为国际组织的神经形态AI中的两名受访者应该介入这些组织是无效的。

回顾了最初类型的反应,神经形态的AI受访者对组织本身悲观,似乎并不是其管理AI的能力。为什么这个群体更加悲观的最可能解释是这是调查的低样本大小的结果。

保持领先于AI曲线

发现在业务未来将赢家分开获奖者的关键AI趋势和应用程序。

注册“AI Advantage”时事通讯:

" data-trigger="manual" data-title="Notice" data-placement="bottom" data-content="Thanks - check your inbox for a confirmation email">
" data-trigger="manual" data-title="Notice" data-placement="bottom" data-content="Error - There was some problem.">
订阅
订阅镜像
保持领先于机器学习曲线

加入超过20,000名以上的可调性的商业领袖,并收到每周提供的最新的AI研究和趋势。

感谢您订阅EMERJ“AI Advantage”时事通讯,请检查您的电子邮件收件箱进行确认。