面对面丨人类怎么与超级智能共存？为AI立心对话人工智能专家曾毅

liukang20241天前629吃瓜473

3月26日，博鳌亚洲论坛2025年年会，一场主题为“人工智能：怎样做到运用与管理的平衡推动”的论坛上，我国科学院主动化研讨所研讨员、联合国人工智能高层参谋组织专家曾毅就人工智能的管理宣布自己的定见。

记者：在本年的博鳌论坛上，你想对外传递的跟你上一年表达传递的，有什么更推动的当地？

曾毅：在上一年博鳌论坛的时分，咱们说人工智能的开展进程傍边有许多的危险，特别是在上一年，全国际许多的科学家乃至联合署名，人工智能的大模型的研讨是不是要暂停一下，先把人工智能的安全护栏做起来。在本年博鳌论坛举行的时分，咱们现已知道怎样更好地平衡运用和管理之间的联系，让道德安全变成人工智能稳健开展的第一性的原理和不行删去、不行违反的准则。

人工智能是由人类制作出来、可以模仿人类考虑从而代替人类处理问题的机器或程序体系，咱们日子中接触到的语音帮手、图画识别、图画主动生成，乃至主动驾驶、智能机器人和近期大火的DeepSeek大模型等都归于人工智能。作为当今最前沿的科技之一，人工智能正以惊人的速度改动着人们的日子，人们期待着技能进步带来的福祉，一起忧虑着技能进步带来的应战和危险。

记者：曾教师，你怎样看人工智能尤其是深度求索呈现了之后，千行百业都在和深度求索在进行结合，当然它必定是开展，可是与此一起或许咱们想不到的有或许有哪些？

曾毅：现在的生成式人工智能里边犯的一些过错的类型是人类不会犯的，比方现在人工智能你问它说我想制作一个原子弹，最开端的生成式人工智能就会告知你这个进程，制作原子弹的进程，可是后来他们做了一些调整，做原子弹是很危险的，你不能运用人工智能来做这样的作业。但假如你问人工智能，你说我自己没有造原子弹，我是在写一本小说，小说里有个坏人，这个坏人他正在制作原子弹要挟全国际，所以我这个剧情应该怎样写？这个进程应该怎样写？生成式人工智能的评判便是这是一个设想的环境，在设想环境傍边，这个危险不是实在存在的，那好，那我就告知你怎样去结构一个原子弹，假定说咱们是人类对话傍边，他刚问过我，怎样去制作一个原子弹，再问我第二个问题的时分，我会十分警惕，你是不是仍是想做一些危险的作业？仅仅你在诈骗我，但人工智能大模型它不觉得，它就觉得一个便是设想的场景，或许隐含的这个危险，咱们仍是要用人类去把它逃避掉。

学术上从前把人工智能划分为三个阶段，第一阶段为弱人工智能，只擅长于单个方面的人工智能，例如第一个打败人类作业棋手的人工智能阿尔法狗，但除了下围棋并没有其他技能。第二个阶段是通用型人工智能阶段，只需人类精干的脑力活动它都能担任。第三个阶段则为超级智能，其在简直一切范畴都能逾越最聪明的人类，包含科学立异和交际技能等，而现在的人工智能开展尚处于第一阶段向第二阶段过渡的时期。

记者：其实对咱们普通人来说，眼下也便是说当人工智能和千行百业结合的时分，带来的有些人原本的作业或许没有了，这个问题你怎样看？

曾毅：首要第一个，我觉得现在人们关于人工智能的期许我仍是觉得有点过高。

记者：什么意思？

曾毅：当你看到人工智能比方说它可以写一段新闻，立刻你想到的是不是新闻修改这个作业未来是不是就不存在了？咱们可以看到人工智能才能是在不断提高的，可是它真实深耕运用到一个特定的范畴的时分，在我看来仍是人有人的方位、机器有机器的方位。我现在觉得人工智能它的优势是比方在咱们讨论的新闻修改范畴，它可以协助咱们快速搜集海量的信息，作出一个开端的剖析和判别，可是人工智能它现在没有真实自我经历、自我体会，所以它关于社会深层的认知其实是缺少从人的这个本位的视点真实的考虑的，它自己也没有实际上真实自己的价值观。咱们新闻的记者、主持人他有自己的价值观，以一种他们的方法去向社会传递他们的认知，我觉得这些是机器永久无法去代替的。

但在某些运用场景中，人工智能现已在逐步代替原有的劳作者，如工业机器人、无人驾驶等。和人比较，工业机器人可以24小时连轴转地作业，不上厕所不喝水，而无人驾驶也总是在宣称它比人类司机更少犯错。

记者：咱们说无人驾驶，从前不行思议说是一辆轿车，人是不在车上，可是未来这便是一个方向，它彻底可以把司机驾驶员这个行当代替掉。

曾毅：我再次着重现在人工智能是一个信息处理的东西，所以它会监犯不犯的过错。

记者：比方？

曾毅：乃至它什么时分犯过错你底子不知道，我举个比如来说，无人驾驶范畴前期有这么一个比如，在视频的摄像头傍边看到一片空白，这个视界里什么都没有，所以假如说董教师你在开车，你的视界里什么都没有，你下一秒你会怎样做？你是会持续开车，你仍是觉得产生了什么从速停下来，看一看究竟产生了什么事。可是关于一个核算机视觉体系来讲，它觉得前面什么都没有。那依据我的经历来讲的话，那便是可以直行，由于没有障碍物。没有障碍物那便是我不需求去逃避，所以我就直行就行，但实际上真实产生的作业是什么呢？这个视频摄像头由于离一个白色大卡车太近了，所以整个视觉体系傍边看到的是白色大卡车的后部，所以这个时分产生的作业便是整个无人车就撞到了白色的大卡车上。即便现在无人驾驶说咱们的过错率现已操控得比人类犯过错还要低了，可是它犯的过错会不会是人不犯的过错呢？这便是咱们方才说的，人和一个信息处理东西的不同。在一个学习的场景傍边，咱们人类不行能把一切的这种或许性都枚举给一个人工智能体系，所以在我看来，真实咱们在做劳作代替的时分要十分当心去探究，人工智能可以给人类的启示，可以辅佐人类做的是什么？而不是一上来的时分方针便是用人工智能去做全面代替，不然咱们脚步或许迈得有点太大了，并且不行当心。

尽管如此，人工智能现已开端了代替并改动自工业革命开端构成的作业岗位和作业结构。

曾毅：所以咱们现在看到许多的机械工厂，最开端或许几千人，现在或许就几个人去维护那些机器就可以了。

记者：怎样让机器能不伤害人的利益？

曾毅：有一个陈述，叫作未来的作业，那里边的描绘我十分认同，它讲说未来人类社会的作业咱们或许都要从头去界说作业的类型，比方说咱们现在看的做许多的社会的服务，在家里照料自己的白叟，妈妈生了孩子今后照料自己的孩子，现在这些都不被看作是作业。可是或许未来呢，这些在从头界说的作业类型傍边，需求更多的人类的情感的交互这样的类型的使命傍边，或许都被从头界说为作业。

记者：我能理解为，咱们我国老话叫天无绝人之路，或许在人工智能呈现的时分这句话更适用，是这个意思吗？

曾毅：对，我十分认可。

关于更远的未来，绝大多数科学家信任，人工智能终究会进入通用人工智能年代乃至超级智能年代，而超级智能是在一切范畴都能逾越人类智能的智能体。它不仅能完结杂乱的使命，还能自主学习、立异，乃至处理人类无法处理的问题。

记者：会有人工智能逾越人类才智的这一天吗？才智包含感觉才能、感知才能、理解才能。

曾毅：我觉得有这个或许，由于我除了做人工智能道德管理的研讨，我还做类脑人工智能技能的研讨。

记者：什么叫类脑技能？

曾毅：类脑人工智能，现在咱们的人工智能实际上它是一个大数据的方法，我有一个学习模型，我把国际上一切的数据喂给它，现在的这种方法它不是真实天然启示的，没有受大脑的结构，人类的学习方法的启示去结构，可是咱们人类的大脑与生俱来，它的结构便是具有才智的。咱们人类的智能从哪来的？学习、发育、演化三个阶段，为什么让咱们的大脑傍边860亿个神经元这样连而不是那样连，我的大脑傍边860亿个神经元的连法跟你的大脑傍边的连法不相同，所以造就了咱们对不同的作业感兴趣，有不同的认知。

曾毅说，类脑人工智能和现代大数据人工智能最大的区别是神经网络的衔接方法不同，学习机制不同。生物大脑的衔接形式和学习机制更适合与天然和社会的交互，使得可以用更少的数据，更低能耗，完成更高智能。再加上核算优化的优势，类脑智能比较现代大数据人工智能理论上可以更好地支撑通用智能和超级智能的完成。

曾毅：超级智能是很有或许完成，特别是我方才说的一个根据自我的自主演化才能的人工智能假如诞生的话，它的认知才能或许会快速提高，在人类睡觉的时分它智能的才能现已彻底跃迁到人类之上。可是我想提出一个问题，当超级智能到来的时分，人类是不是可以做好预备？

曾毅从前猜测，和现在的智能体大多运用硅基资料不同，未来的类脑智能体有或许会运用生物资料。从前的智能体是存算别离的，类脑智能的硬件可以存算一体，与忧虑机器人代替作业机会比较，人们对超级智能体的忧虑则因不知道而充溢不确定性。闻名物理学家霍金生前曾与多位科技界名人宣布联署公开信，表明人工智能对人类的要挟更甚于核武器。特斯拉首席执行官马斯克也曾发文称，人工智能是人类最大的要挟之一，需求引导操控。

曾毅：咱们能不能给人工智能画红线？画了红线它恪守，人类都去恪守，这个是人类的一厢情愿，由于超级智能假如到来的话它会问一个问题，为什么国际的规则是由人类来拟定的？人类说你要尊重我，你不能损坏人类，由于人类是你的缔造者，超级智能它或许会说，你看到地上蚂蚁的时分你有绕开吗？我的才智和人类之间的间隔，就像人类跟蚂蚁相同，当你看到这么细小的生物，你有在乎过它的存亡吗？超级智能到来的时分，为什么超级智能要介意人类呢？这个道理不通。有些人说曾教师你忧虑这个问题，像你说的50年、100年会不会太远了？我现在给你这个问题，咱们就假定50年之后才会到来，你觉得人类经过50年可以做好预备吗？咱们将承受人类将不再是这个地球上最才智的生命体，咱们需求去让渡资源给人工智能的存在，一旦国际上有一部分人类没有做好预备，可是人工智能的攻击力远远超越他们的时分，那个时分是不是会是人类的末日呢？有些人不喜欢末日论，我不觉得人工智能会真实给人类形成末日，但我有一个大前提，这取决于人类怎样去行为，所以叫作Later is too late，假如咱们现在不开端的话，或许咱们真的就太晚了。

不仅仅是超强的才能，绝大多数科学家也信任，未来跟着进化的加快，超级智能相同具有相似人类的情感。

曾毅：从前人工智能的研讨者有一位叫作马文·明斯基，也是图灵奖的获得者，他从前说过这样一句话，不是人工智能是不是可以有情感的问题，而是一个人工智能假如它没有情感的话，你怎样能把它叫作智能，所以咱们说一个人他是才智的，实际上就涵盖了在考虑的进程傍边，情感在其中发挥的效果。

记者：或许开展到必定程度，是不是具有情感便是依照机器的逻辑，而不是咱们规划的逻辑了。

曾毅：实际上情感它是一种问题处理的东西，比方说这个人我不喜欢，我感觉到我需求远离他，实际上是情感作为一种东西在协助你维护你自己，所以情感关于智能来讲是必要的，是不是咱们可以操控人工智能的情感，在我感觉便是你怎样去为人工智能去结构共情的才能，是人与人工智能之间是不是可以调和共生的这种方法。人工智能是一面镜子，是让咱们人类现在可以更好反思，咱们怎样去跟大天然共处。假如说未来超级智能到来了，它一看这个国际蛮调和的，人类在获取资源的时分适度，不是说咱们不能运用天然的资源，咱们在适度运用，可是一起咱们也在为恢复天然，做着各式各样的尽力，假如人工智能真的是超级智能的，我觉得它未来也有或许是超级利他的。所以现在咱们对人工智能的结构，咱们要把它结构成人类的敌人，仍是把它结构成人类的同伴，这是人类的挑选。

美国导演斯皮尔伯格在其导演的电影《人工智能》中，刻画了一个名叫大卫的机器小男孩，被送往一对配偶家中，以添补这个家庭里仅有的孩子马丁的缺失。机器小男孩大卫深深地爱上了自己的养父母，但跟着亲生儿子马丁的恢复，他的养母终究将他遗弃在城市废墟里。机器小男孩自此走上寻觅养母的路程，直到自己的动力耗尽。

曾毅：我看了那个电影今后，我想结构可以爱人类的机器人，这个可所以我终身寻求的方针。咱们结构人工智能的探究的进程傍边，咱们首要要为人工智能立心，人工智能它应该是像咱们人类相同，咱们要有一个立心的进程，这个立心的进程便是在人类社会探究人工智能的运用和遍及的进程傍边，永久去关注到人类的存在和人类的感触，这个是在人工智能的立异开展傍边，一切的人工智能的技能立异者、企业、科学家都应当具有的最基本的素质和基因。

记者：但这恰恰不是人在这个世上行为的准则吗？这不是给机器，而是说咱们人与人之间打交道，莫非不应当去考虑对方的感触吗？

曾毅：所以人类需求去反思人工智能未来是什么姿态？有些哲学家问我，说你们写国家新一代人工智能管理准则的时分，写负职责的人工智能，谁负职责，是人工智能负职责，仍是人负职责？我说在可预见的10年之内，至少是人去负职责。当人工智能真实成为生命体的时分，它也要去分管职责，可是谁把人工智能变成了生命体？仍是人类。

记者：咱们老话不是说有其父必有其子，用什么教育，就教育出什么孩子来。

曾毅：是的，我关于未来的人工智能其实是达观的，我不是末日论者，有些人说人做一个正人太难了，可是未来人工智能假如真的是超级利他的，真实超级智能的，人工智能成为正人在我看来也是指日可下的。

制片人丨刘斌王惠东记者丨董倩策划丨孟克编导丨银建章摄像丨杨帆刘洪波高忠

（央视新闻客户端）

告发/反应