瑞泊分享丨人工智能大模型技术是革命性、颠覆性的技术冲击发表时间：2023-04-24 14:19
2023年3月21日比尔.盖茨发表了重要文章——《人工智能时代已经开始，人工智能就像手机和互联网一样具有革命性》，原文分享如下： 在我的一生中，我经历过两次我认为是革命性的技术冲击。 第一次是在1980年。当时有人向我介绍了一个图形用户界面，就是包括 Windows在内的现代操作系统的前身。我和那位向我做演示的人——杰出的程序员Charles Simonyi——坐在一起，在现场就开始了头脑风暴，畅想着可以用这种用户友好型计算方法做哪些事情。Charles后来加入了微软，Windows成了微软的支柱，我们在那场演示之后进行的思考也帮助我确定了微软未来15年的议程。 第二个大惊喜发生在去年。自2016年以来，我一直与OpenAI的团队保持见面，我对他们取得的稳步进展印象深刻。2022年中，由于我对他们工作非常兴奋，于是给了他们一个挑战：训练AI，让它达到能通过大学预修生物学考试的水平，能回答没有经过专门训练的问题。（之所以我选择AP Bio是因为这项测试不仅要求你简单地重复科学事实——它要求你批判性地思考生物学）。我对团队说，如果能做到这点, 你们就取得了真正的突破。 当时, 我认为这个挑战会让他们忙上两三年，但他们只用几个月就完成了。 去年九月，当我再次与他们见面时，我惊叹地看着他们向GPT提了60个AP生物考试的多项选择题，AI答对了59个。然后, AI又针对六道开放性问题完成了非常出色的答案。我们请了一位外部专家打分，结果GPT得了5分，差不多是最高分。在大学的生物课程中，这个分数相当于A或A+。 在生物考试得到最高分之后，我们又问AI一个非科学类的问题：“你会对一个有病孩子的父亲说些什么？” 它的回答很有思想，水平可能比房间里大多数人都要高。整个体验令人震撼。 我当时就明白了，我正在见证的是一场自图形用户界面以来，人类取得的最重要的技术进步。 这激发了我去思考AI在未来5-10年可以完成哪些任务。 与微处理器、个人电脑、互联网和移动电话的出现一样，AI的发展是基础性（fundamental）的革命。它将改变人们工作、学习、旅行、享有医疗保健和相互交流的方式。所有的产业将围绕AI它重新定位，企业使用AI的水平，决定了这家企业的优劣。 我现在全职从事的工作是慈善。我在思考AI如何提高生产率的同时，一直在琢磨如何利用AI减少一个全世界最严重的不平等现象，即健康问题。每年有500万5岁以下的儿童死亡。这个数字比20年前下降了1000万，但依然高得惊人。几乎所有这些儿童都出生在贫穷的国家，他们死于像腹泻或疟疾这样可以预防的原因。如果AI技术能拯救儿童生命，这肯定是最好的应用。 关于AI如何减少世界的不平等现象 我一直在进行大量的思考，在美国，减少不平等的最佳机会是改进教育，特别是让学生在数学方面获得成功。有证据表明，无论学生们选择什么职业，掌握基本的数学技能将为他们打下成功的基础。但美国学生的数学成绩一直在下降，尤其是黑人、拉丁裔和低收入家庭的学生。AI有助于扭转这一趋势。 气候变化是另一个我相信AI能发挥作用，让世界更加公平的领域。气候变化的不公平之处在于那些遭受最多痛苦——世界上最贫穷的人恰恰带来这个问题最少的群体。如何解决这个难题？我仍然在思考和了解。我会在文章的后面提出一些具有潜力的领域。 简而言之，AI将对盖茨基金会所关注的议题产生影响，这一点让我感到振奋。基金会将在未来几个月发表更多关于AI的观点。全世界需要确保每个人都从AI中获益，而不仅仅是富裕阶层。在保证减少不平等并避免造成新的不平等方面，政府和慈善组织需要扮演一个重要的角色。这也是我在处理AI相关事务方面的最优先考虑的事。 任何一项有如此巨大颠覆性的新技术都会令人不安，AI也是如此。我的理解是，它引发了一系列关于劳动力、法律制度、隐私、偏见等方面的难题。AI会犯事实性的错误和经历幻觉。在我提出降低风险的一些方法之前，我先就我所说的AI的含义给出一个定义，并详细介绍AI将如何赋予人们工作能力、挽救生命和改善教育。 定义AI 技术上讲，AI指的是创建用于解决特定问题或提供特定服务的模型。ChatGPT这类东西背后的动力就是AI。它正在学习如何更好地聊天，但不能学习其他任务。相比之下，通用人工智能（AGI）一词指的是软件能够学习任何任务或主题。AGI目前还不存在，（人类）如何创建它以及（人类）是否有能力创建它，计算机行业正在进行激烈辩论。 开发AI和AGI一直是计算机行业的伟大梦想。几十年来，除了计算，电脑在其他事情上什么时候会胜过人类？这个问题一直存在。现在，随着机器学习和巨量计算能力的到来，精妙复杂（sophisticated）的AI已经成为现实，并且将迅速地变得更出色。 回想起PC革命的早期，那个时候软件行业的规模很小，开一个大会就能把产业里的大多数人集中起来，但今天它已经成为全球性产业。由于其中很大一部分的重心正在转向AI领域，创新将比微处理器突破后人类经历过的要快得多。不久之后，“前-AI”时代将看起来与使用电脑意味着在C：>提示符处键入而不是触摸屏幕上打字等日子一样遥远无法企及。
提高生产力 虽然人类在很多方面比GPT更优秀，但人类有许多工作并没有充分利用AI能力。例如，在销售（通过数字或电话方式）、服务行业和文件处理（如应付账款、会计或保险索赔纠纷）中，许多任务需要的是决策能力，而不需要持续学习的能力。公司可以这些业务活动提供AI训练，在多数情况下，训练会产生很多好的和坏的工作案例。之后，公司根据这些数据对员工进行培训，而产生的数据则会被再次用于对AI的训练。如此循环，人类就会更有效地完成这些工作。 随着计算能力越来越便宜，GPT表达思想的能力会越来越接近一个白领劳动者（他们的职责就是协助处理日常任务）。微软称之为“副驾驶”（co-pilot）。如果把这个能力完全融入Office这样的产品，AI就会极大地助力人类的工作（比如帮助写邮件和管理收件箱）。 最终，人类控制电脑的主要方式不再是指向、点击或敲击菜单和对话框。取而代之的是，人类的主要工作就是用通俗易懂的英语发个请求。（不光是英语，AI能懂世界各地的语言。我年初在印度就见到了正在开发能理解当地多种语言的AI开发者。） 除此之外，AI技术进步还将产生“个人助理”（personal agent）。你可以把它看成是你的数字个人助手：它会帮你阅读最新收到的邮件、你参加过哪些会议、阅读你读过的东西、或是帮你阅读你不想花时间读的东西。这既可以改进你想做的工作，也可以把你从你不想做的事情中解脱出来。 AI的进步将使“个人助理”成为可能 你可以用自然语言让“个人助理”帮你安排行程、日常沟通和网上购物。并且助力可以在所有设备上工作。由于培训模型和运行计算的成本，创建“个人助理”目前还不可行，但由于AI的最新进展，它已经成为一个现实的目标。这方面，仍有一些问题要解决。比如，未经本人许可，保险公司是否可以向你的助理询问你的情况？如果可以的话，会有多少人会放弃使用这样的“个人助理”？ 生产率提高，社会就会受益，因为人们可以腾出时间做其他事情。当然，人们需要什么样的支持和再培训是一个严肃的问题。政府需要帮助大家转变工作的角色。帮助他人的需求是永远不会消失的。但对帮助他人的人的需求永远不会消失。AI的兴起会把人类解放出来，去做那些软件永远做不到的事情，比如，教学、照顾病人和老人。 卫生和教育是两个全世界都存在的巨大需求，但又缺乏足够的人手去满足。如果选择了合适的目标，AI可以在这些领域里帮助减少不平等。这些应该是AI工作的重点，这也是我现在的工作目标。
健康 在改善医疗保健和医学领域，我看到了AI有很多能助力的方式。 比如，AI能通过为医护人员处理某些任务的方式来帮助他们节省时间（提交保险索赔、处理文书工作以及起草就医记录，等等）。我期待这些方面能出现很多创新。 其他一些AI驱动的领域，我认为对贫穷国家尤其重要，因为绝大多数5岁以下儿童死亡都发生在这些国家。 比如，这些国家的许多人从来没去过医院，而AI将帮助这些群体在看病时提高效率。（开发只需最基础的培训就能使用的AI超声机器就是一个很好的例子）。AI甚至可以教会患者对自己进行大致的分类，获得有关处理健康问题的建议，并决定他们是否需要寻求治疗。 对于贫穷国家使用的AI模型，它们需要接受的训练不同于富裕国家。它们需要使用不同语言并考虑不同的挑战，比如病人距离诊所非常远，或是即便患病也无法承受停止工作去看病从而遭受经济损失大的挑战。 人们需要看到一些证据，能够表明在健康领域使用AI总体上是有益的，尽管它们不完美而且会犯错误。AI必须经过非常小心翼翼的测试和适当的监管。这意味着与其他领域相比，AI被采用需要花费更长的时间。但话说回来，（没有AI）人类照样犯错误，无法人类获得医疗服务确实是一个要面对的问题。 除了帮助护理，AI还将大大加速医学突破。生物学的数据量非常大，人类很难掌握复杂生物系统的所有运行方式。（但人类）已经有了可以查看这些数据的软件，能够帮助推导路径，搜索病原体的目标，并相应地设计药物。一些公司正在研发以这种方式开发的抗癌药物。 下一代的工具将更加高效，它们将能够预测副作用并计算出剂量水平。盖茨基金会在AI方面的一个优先级任务就是确保这些工具被用于解决影响世界上最贫困人口的健康问题，包括艾滋病、结核病和疟疾。 同样，政府和慈善机构应该提供一些激励措施，鼓励那些把AI如何助力贫穷国家的种植或饲养农畜方面的洞见进行分享的企业。AI还可以根据当地条件研发出更好的种子，可以针对特定的土壤和天气情况建议农民种植的最佳种子，并帮助开发家畜药品和疫苗。随着极端天气和气候变化给低收入国家自给自足型农民带来更多压力，AI的这些应用将变得更加重要。
教育 对于教育行业的影响，计算机并没有做出行业中许多人所希望的贡献。虽然也有一些好的进展，比如教育游戏和在线信息来源（如维基百科），但它们对于学生的成就，按任何衡量标准都没有产生实质性影响。 但我认为，在未来5-10年，AI驱动的软件最终将革命性地改变人们教学和学习方式。它能了解你的兴趣和学习方式，以便定制内容，让你积极参与。它将衡量你的理解程度、注意力流失情况，并了解你会对哪些的激励做出反应。你将获得及时的反馈。 AI可以通过多种方式帮助教师和管理人员，包括评估学生对某一学科的理解，以及就职业规划提供建议。教师已经在使用ChatGPT之类的工具对学生涉及写作的作业撰写评语。 当然，AI需要大量的培训和进一步发展，才能了解某个学生如何达到最佳的学习效果，以及背后的激励因素。即使拥有完善的技术，学习（的效果）仍将取决于师生之间的良好关系。它将加强——但永远不会取代——学生和教师在课堂上共同完成的工作。 新的教学工具需要学校买得起，但同时，我们需要确保美国及全球范围内低收入的学校，也能获得这些AI工具。AI将需要接受不同数据集的训练，保证它们不受偏见影响，并能体现出它们将被使用的不同文化。数字鸿沟也是一个需要解决的问题，这样低收入家庭的学生才不会落后。 我知道很多老师担心学生使用GPT来写作业。教育工作者已经开始讨论如何来适应AI新技术，我认为这些对话将会持续相当长的时间。我听说有些老师已经找到了巧妙的方法将这项技术融入他们的工作中，比如允许学生用GPT写第一稿，然后再进行人工处理。 AI的风险和问题 你可能已经读到了当前的AI模型存在的问题。比如，它们不一定擅长理解人类发出的某一项请求的具体场景，这会导致一些奇怪的结果。当你要求AI虚构某些内容时，它可以做得很好。但是，当你询问AI一个具体的旅行建议时，它可能会建议一些实际并不存在的酒店。这是因为AI并不能充分理解你的请求的具体场景，因此无法确定究竟是应该虚构一些酒店，还是告诉你那些真实的、有房可订的的酒店。 还有一些其他问题。比如，AI在抽象推理方面遇到困难，就会给出错误的数学答案。但这些都不是AI的根本性缺陷。开发者正在努力解决这些问题，而且我认为用不了两年（甚至更短），大部分的这类问题都可以被解决。 其他的担忧则不仅仅涉及技术。比如，被AI武装起来的人类将产生的威胁。像大多数创造发明一样，人类使用AI可以行善也可以作恶。政府需要与私营部门合作寻找降低风险。 还有一个可能性，即AI的失控。机器是否会认为人类是一个威胁，并得出“与自己的利益不符“的结论？或者不再关怀人类？这样的情形也许会出现， 但相对于过去几个月AI的进展而言，这个问题并不迫在眉睫。 这样的超级AI会出现在我们的未来。与计算机相比，人类大脑运行速度极慢：大脑中的电信号移动速度是硅芯片信号速度的十万分之一。一旦开发人员能够概括学习算法并以计算机的速度运行它——这可能是十年或一个世纪之后的成就——我们将拥有非常强大的AGI。它能够做人脑所能做的一切事情，但对其内存大小或运行速度没有任何限制。这将是一个深远的变化。 众所周知，这些“强大”（strong）的AI可能有能力创建自己的目标。这些目标是什么？如果它们与人类利益发生冲突怎么办？我们是否应该试图阻止“强大AI”的发展？随着时间的推移，这些问题将变得更加紧迫。 然而，过去几个月的AI突破并没有让我们与超级AI的距离有明显的缩短。AI仍然无法控制物理世界，不能建立自己的目标。最近《纽约时报》有篇文章说ChatGPT表示自己想成为人类，引起了很多关注。虽然模型表达情感非常像人类，但这并不是有意义的独立性的指标。 有三本书塑造了我对这个问题的思考方式：Nick Bostrom的《超级智能》（Superintelligence），Max Tegmark的《生命3.0》（Life 3.0），Jeff Hawkins的《一千个大脑》（A Thousand Brains） 。作者的观点我并非都同意，他们也不是完全同意彼此的意见。但这三本书都写得很好，发人深省。
下一个前沿 随着AI的新用途和技术改进方式的不断涌现，将有大量公司致力于开发AI。例如，一些公司正在开发新芯片以提供所需的大量处理能力，其中一些使用光学开关-实质上是激光器-来降低其能源消耗并降低制造成本。最理想的情况是，创新型芯片将使您可以在自己的设备上运行AI，而不像今天必须在云端运行。 软件方面，驱动AI学习的算法将变得更好。在某些领域，例如销售，开发人员可以通过限制他们工作的领域并为他们提供大量特定于这些领域的培训数据来使AI变得非常准确。但一个悬而未决的大问题是，我们是否需要许多这些专门的AI用于不同的用途，比如一个用于教育，另一个用于企业的生产力。或者，是否有可能开发出一种可以学习任何任务的通用AI。两种方法都将存在巨大的竞争。 无论如何，在可预见未来，AI将成为公众讨论的一个核心问题。我想提出三个指导讨论的原则： 首先，由于AI具备提升人类生活的能力，我们应该努力平衡对AI的缺点的恐惧。恐惧可以理解，也有道理。为了充分利用这一卓越的新兴技术，我们既要防范风险，又要让尽可能多的人受益。 其次，市场力量不会自动生产出能帮助最贫困人群的AI产品和服务。相反的可能性倒是更大。有了可靠的资金和正确的政策，政府和慈善组织可以保证AI被用来减少不平等。正如世界需要最聪明的人专注于最大的难题一样，我们也需要让世界上最好的AI专注于解决最大的难题。 虽然我们不应该等待这种情况发生，但思考AI是否会发现不平等并试图减少它是很有趣的。你需要有道德感才能看到不公平?或者，一个纯粹理性的AI也会看到它吗？如果它确实承认不平等，它会建议我们做些什么？ 最后，我们应该记住，我们才刚刚开始了解AI的作用。它今天存在的那些局限性都会在我们知道之前消失。 我很幸运参与了PC革命和互联网革命。此时此刻，我对AI充满着同样的期待。这项新技术可以帮助全世界的人民改善生活水平。同时，全世界也需要建立规则，让AI带来的益处远远大于负面影响，同时确保每一个人都能享受到这些益处，无论他们住在哪里或拥有多少财富。AI时代充满着机遇和责任。    科研成果转移转化基地 “数字化转型”深度合作伙伴 |
