本篇文章5454字，读完约14分钟
随着人工智能进入人们的生活，工作和收入之间的关系可能会变得越来越弱，我们必须做出许多困难的决定。
很难想象除了人工智能之外，还有哪一项技术能更有力地帮助我们构建未来世界。深度学习使我们的计算机能够自主学习。然后，从医疗诊断到自动驾驶汽车，出现了一波巨大的技术突破。当然，人们担心:谁拥有这些技术？这会让我们失业吗？有多危险？
现任美国总统巴拉克·奥巴马正试图解决人们的这些疑虑。最近，奥巴马和麻省理工学院媒体实验室主任伊藤穰一在白宫接受了《连线》的独家采访，并就人工智能带来的希望、恐慌和泡沫发表了看法。
我整理了问答环节的内容给大家分享。
问:你是什么时候开始意识到人工智能时代即将到来的？
奥马巴:我自己的观察是，人工智能已经以各种方式进入我们的生活，但也许我们还没有注意到。当然，部分原因是我们很多人都理解的人工智能实际上是受流行文化影响的。或者许多有线读者已经熟悉这个问题。我说的是广义人工智能和专业人工智能的区别。
在科幻小说中，我们都应该听说过一般的人工智能。电脑开始变得比我们聪明，最终让我们知道人类并不像我们想象的那样无所不能。他们甚至有可能控制我们。根据我与顶尖科学顾问的交流，我自己的感觉是，在计算机比我们人类更聪明之前，还有很长的路要走。
当然，我们上面所说的值得思考，因为它可以扩展我们的想象力。然后我们继续思考可能的问题，我们应该使用算法和计算机来开发特殊的人工智能来解决日益复杂的问题。
在我们生活的各个方面，我们已经可以看到特殊人工智能的许多应用，从医疗到交通到供电。它们的出现向我们展示了一个更具生产力和效率的经济体系。如果这些能得到适当的利用，将会带来巨大的繁荣和机遇。与此同时，我们不得不面对随之而来的一些问题，如失业。它们可能加剧社会不平等。
伊藤穰一:这可能会给我在麻省理工学院的学生带来很大压力。但我自己担心的一点是，男性，尤其是白人，正在主宰人工智能的核心技术。此外，他们对计算机比对人类更熟悉。他们中的许多人相信，如果他们能够实现科幻小说中描绘的蓝图，实现普遍的人工智能，我们就不必担心政治和社会这些乱七八糟的事情。他们认为这台机器会帮助我们控制一切。
但是他们低估了困难。我觉得人工智能已经不仅仅是计算机科学中的一个难题。每个人都需要理解人工智能的行为，这很重要。在我们的麻省理工学院媒体实验室里，我们为此定义了一个叫做扩展智能的术语。问题是，我们如何将社会价值观融入人工智能？
奥马巴:就在我和伊藤吃午饭的时候，伊藤举了一个开车的例子。有了这样一台能够做出一篮子快速决策的机器，我们可以大幅降低交通事故死亡率，提高交通边界的效率，并帮助减少二氧化碳排放和全球变暖。
但伊藤也提到，我们将在这些自动驾驶汽车中植入什么价值观？这意味着我们面临着各种选择。传统的问题如下:如果汽车在路上行驶，你可以选择急转弯避开行人，但你可能会撞到墙上而死亡。这是一个道德决定。谁将制定这些指南？
伊藤穰一:当我们试验电车问题时，我们发现大多数人会选择牺牲乘客和电车司机来拯救更多的人。他们还说他们永远不会买自动驾驶汽车。(笑声)
问:在人工智能的道德问题上，政府将扮演什么角色？
奥马巴:随着人工智能的成功，我们一直在思考监管结构。政府应该少干预，多投资于科学研究，以确保基础研究和应用研究之间的交流。随着技术的发展和成熟，我们将找到如何将它们纳入现有的监管结构。当然，这将成为一个日益困难的问题。到时候，政府会更加介入。我们应该确保监管反映更广泛的价值观，而不是试图将新技术强行引入现有体系。
伊藤穰一:我不知道你是否听说过运动神经的多样性，但是坦普尔·格兰丁经常提到这个词。她认为莫扎特和爱因斯坦，以及特斯拉，如果他们在现在的世界里，会被认为是自闭症患者。如果我们消除自闭症，让每个人的神经都正常，我相信很多麻省理工的学生不会像今天这样。其中一个问题是，无论我们谈论的是自闭症还是多样性，我们什么时候应该让市场自己做出决定。或者你不想让爱因斯坦成为你的孩子，但是一个正常的孩子不会最大化社会利益。
奥马巴:如果我们总是为人工智能做好准备，这将导致更大的问题。我们是人类的部分原因是我们的异想天开。正是一些突变、不幸甚至缺陷带来了新艺术和发明的出现。如果一个系统是完美的，它也将是静态的。当然，挑战之一是，我们需要在何时何地介入，让事情如我们所想的那样发展，而不出意外？
问:将扩展智能应用于政府、私营企业和学术界的研究中心在哪里，或者有这样的中心吗？
伊藤穰一:当你问麻省理工学院的一个人时，他必须说他会在麻省理工学院。(众笑)从过去的历史来看，很可能是一群在政府帮助下的研究人员。但目前，商界有许多价值数十亿美元的实验室。
奥巴马:在新技术上投入了大量资金的从业者，比如拉里·佩奇，有一种普遍的态度，那就是我们在追求独角兽的过程中最不希望看到的事情是，一系列官僚机构会减缓研究进展。当然，这是可以理解的。
然而，我们看到的一个问题是，社会对基础研究的关注和投资正在减少。意识形态和夸张在一定程度上削弱了人们对集体行动的信心。
五十年过去了，但是登月计划仍然是一项伟大的技术成就，我们可以用来和现在相比。有人向我提到，泰空计划占美国国内生产总值的0.5%。这看起来不多，但今天这意味着人工智能的投资将高达每年800亿美元。现在我们的投资可能不到10亿。毫无疑问，我们将在未来加快人工智能投资。但我们也需要认识到，如果我们想给以技术突破为代表的多样化人群带来巨大价值，政府投资可以是其中的一部分。如果政府不参与，伊藤穰一提出的关于技术价值的问题将得不到回答，甚至得不到考虑。
问:你提到的是伊藤穰一有趣的矛盾。个体生态位的创新不同于像泰空计划这样的创新。那么，我们如何保证这些想法最终会实现呢？
奥巴马:我一直强调的一点是，政府在收集数据方面的财政支持和帮助并不意味着我们应该私下隐藏它，或者它只能用于军事目的。一个具体的例子:精密医学项目的一部分是从各种各样的美国人那里收集一个足够大的人类基因组数据库。我们没有给斯坦福或哈佛一笔钱来吞下这些样本。相反，现在每个人都可以访问基因数据库的所有内容。这是一个全民共享的价值观和框架。我们必须确保这项研究将与每个人分享，而不仅仅是个人组织将从中受益。
问:但是有一些风险。埃隆·马斯克和尼克·博斯特罗姆都表示担心人工智能有一天会超越人类的理解能力。随着我们继续研究，你认为我们应该如何对待这些问题，因为我们不仅在保护我们自己，也在保护全人类？
奥巴马:让我从一个我认为更紧迫的问题开始。目前，它可以在人工智能领域解决，所以我们应该把它提上日程。很快，可能会有一台电脑可以和你下棋，或者开发一种算法，使你在纽约证券交易所的收益最大化。如果有人或公司率先意识到这一点，他们很快就能控制股市。
在那之后，很有可能会有一种算法跳出来说，破解核武器代码，看看那些导弹是如何发射的。如果这只是它的任务，而且它能从自身中学习并保持效率，那么问题就会出现。因此，我想告诉我们的国家安全局，在担心机器会占领世界之前，首先要担心的是无政府主义者或恐怖分子对国家系统的监视。这与我们目前的计算机安全工作完全不同，这意味着别有用心的坏人比过去强大得多，所以我们必须做得更好。
伊藤穰一:我基本上同意你的观点。另一点是，对于一些相信强大的人工智能将在未来十年实现的人来说，我们必须突破十几个或二十个技术难题，才能监测这种情况是否发生。最重要的是找到一个能很好利用人工智能的人。
奥巴马:过去，当我们谈论安全和自我保护时，我们首先想到的是盔甲或城墙。慢慢地，我发现自己越来越关注医疗、病毒和抗生素。计算机和网络安全不会像一列坦克一样在你面前隆隆作响。一个小错误可能会导致系统瘫痪。因此，我们应该重新审视安全。
例如，一直困扰我的传染病。你不能真的建一堵墙把空气中的传染性病毒与我们隔离开来，所以我们能做的是建立一个全球性的公共医疗系统，它能更快地看到病毒的出现，反应迅速，并开发出更智能的疫苗系统。当你想到这些问题和我们可以采取的措施来处理它们的时候，ai恐慌就不会那么可怕了。
伊藤穰一:我特别感兴趣的另一个话题是微生物。许多证据表明，这是一种用好细菌来消灭坏细菌而不是杀死它的方法。这开始让我们重新思考清洁的定义。(奥巴马:哈哈，是的，虽然我现在还是不想让我的狗舔我。)这类似于你所说的网络安全和国家安全的概念。很难制定严格的法规或消除所有潜在的病原体。
问:这是否会导致新一轮的军备竞赛？
奥巴马:目前，毫无疑问，网络安全的国际标准、协议、认证机构的发展，以及人工智能的发展一般都处于最早阶段。有趣的是，攻击和防御的分界线非常模糊。尤其是在现阶段，人们对政府的不信任越来越高，这就更加困难了。其他国家会认为美国拥有最大的网络力量，但我们必须说，如果你限制自己，那么我们只能限制自己。这里的挑战是其他大国，如俄罗斯、中国、伊朗等。他们对标准和价值观的看法与我们不同。我们必须先把这个问题提到国际问题上来，然后才能有效。
伊藤穰一:我认为我们正处于黄金时代，人们愿意互相交流和分享。你不可能在真正的空环境中成功。我们需要的是一个全球共同体。
奥马巴:伊藤是对的。这就是为什么我们与人工智能相关人员举行了一系列会议。有一件事我们谈得不多，但我想在这里提到的是经济意义。因为目前，大多数人并不担心奇点的到来，而只是担心如果我的工作被机器取代了该怎么办。。
我倾向于乐观地看待它。从过去的历史来看，我们吸引了许多新技术，人们找到了新工作。我当然明白今天可能是一个不同的时代，因为今天我们有大规模的人工智能应用和其他新技术。高技能的人可能在家。他们将利用他们的智慧和智能与机器互动，以扩大他们的联系、产品、销售和服务。
这些没有高技能的人可能会变得越来越多余。他们的工作可能还没有被取代，但是他们的工资会越来越低。如果我们想成功地度过这一转变，我们需要整个社会之间的对话。当越来越多的生产技术掌握在少数精英手中时，如果我们开展培训以确保我们的经济具有包容性？我们如何确保其他人获得生存的资本？这对支持艺术和文化的事物意味着什么？社会必须接受这些新技术，我们的经济模式也必须接受。
伊藤穰一:事实上，我们不知道哪些工作会被取代。因为如果计算机能够理解医疗系统并做出诊断，医生比护士和药剂师更有可能丢掉工作，因为后两者的工资更低。像律师和审计师这样的高技能工作也可能会消失。然而，像服务业和艺术这样的行业，如果没有被计算机很好地掌握，就不可能被取代。
我不知道你对普通工资水平的看法，但当人类工作不断被取代时，我们可以借此机会重新认识像学术界和艺术界这样不追求金钱的行业。我相信一个根深蒂固的想法是，当你没钱的时候，你如何变得聪明？然而，在学术界，许多聪明人都是穷人。
奥马巴:我同意你的观点。目前，普通工资水平是一个正确的模式吗？它会被广泛的人接受吗？这是一个我们将在未来10到20年一直争论的问题。不仅低技术服务工作将被人工智能取代，而且高技术但重复性的工作也可能被取代。
有争议的是，随着人工智能进入人们的生活，社会财富反而可能增加:生产和分配的关系，以及工作和收入的关系将变得越来越弱。电脑可以做很多工作。因此，我们必须做出许多艰难的决定。目前，教师的待遇太低，因为这不是一个容易的工作，电脑很难做。
因此，当我们重新审视我们的价值观时，我们会更愿意支持那些留在家里的人获得更高的工资，例如教师、护士、护士、母亲或父亲、艺术家以及所有对我们来说极其重要但目前工资不高的人。
问:你在寻找什么样的技术来解决你在政府中看到的问题？
奥马巴:我们仍有很多工作要做，以使政府更加友好，并改善纳税申报，因为这些不如订购外卖或机票方便。我们需要联邦政府、州政府和地方政府共同做出改变，我们还有很多事情要做。事实上，联邦政府和私营企业之间的人才差距并没有那么大。但是技术上的差距是巨大的。
当我第一次就职时，我总是想，如果有一个能像《少数派报告》中的汤姆·克鲁斯那样四处走动的情况室，那该有多酷。但是，现在你明白了，事实并非如此。(笑声)
谈到围绕技术的更广泛的问题，我坚信我们能够解决气候变暖的问题。我们做了很多工作，但仍有很多未完成的工作。此外，在网络问题上，我们如何确保我们的互联网是负责任的、透明的和安全的，并能及时抓住坏人，但同时确认政府没有太大的权力？这也是一个我们仍在努力解决的问题。有一些技术问题，加密是很多方法。我见过许多民间自由主义者和国家安全人士。这的确是一个非常困难的问题，因为没有人能给我一个好的答案，如果你想缓解这些问题的话。
我想提及的最后一件事与泰空.有关目前，这是一个重要的财政支持领域，我们探索如何为下一代旅行。私营企业做了很多好工作。
问:我知道你是《星际迷航》的粉丝。它如何影响你对未来的想象？
奥马巴:我从小就对这部电影着迷。那时，它是如此有趣！在我看来，这部剧经久不衰的原因不在于技术，而在于它所传达的价值观和人与人之间的关系。它是关于人性和我们通过自己的能力解决问题的信心。
近年来发布的火星救援也传达了这种精神。它之所以吸引人，不是因为情节有多复杂，而是因为许多人一直在努力解决问题。只要我们有创造力、毅力、勤奋和自信，我们就能解决它们。我也是我热爱美国的原因，这就是为什么我们可以吸引来自世界各地的这么多人一起面对挑战。
