你对着老师布置的作文题犯难,不知道怎么来下笔,你问一个朋友:“能帮我以《我最敬爱的人》为题写一篇作文吗?”它立刻洋洋洒洒地写出了一篇;它还能为你解答数学问题;你对它倾诉烦恼,它也能用文字安慰你……
它就是目前最火爆的人工智能(AI)聊天机器人——ChatGPT,能模仿人类说话。但就在它功能越来越强大时,科学家们却突然叫停了对它的研究……
ChatGPT是一个擅长 “说人话”的AI,也许你觉得说话没什么大不了的,每个小朋友都能说,但对于电脑而言,这可不是一件简单的事情。例如,妈妈问你:“你觉得这么做对吗?”她可能在责问你做错的事。你弟弟也可能问出一模一样的问题,却是在请教你数学题。同样的语言能表达完全不同的意思,电脑难以分辨其中的区别。
ChatGPT却能联系上下文,从中理解你的意图,予以合理、流畅的回应,还能回答无厘头的问题:“一本书减去一只笔等于多少? ”它会说:“我不清楚书和笔之间的关系,因此没办法提供正确答案。”你紧接着对它说:“一本书18元,一只笔4元。”它就会回答“14。”
ChatGPT的语言能力令世界惊叹,但它还在飞速成长,一代又一代地升级。就在人们期待升级版ChatGPT更强的功能时,世界顶级科技巨头和一众研究人员却呼吁:所有实验室在6个月内停止训练更强大的AI系统,同时制定相关规则。他们担心高级AI会威胁到人类。
科技从来都是双刃剑,但AI这把剑不仅法力无边,而且难以捉摸,使人不免害怕。
ChatGPT从海量信息中学习人的喜好,对人的回答进行模仿。最初由人类对其回答进行评分,它则根据问题、答案、人类评分不断精进自己的回答,并训练出了自己的评分模型,即自己对自己的回答进行评分,再根据评分调整回答策略,相当于有了自学能力。
通过循环提问-回答-评分-调整的过程,ChatGPT能快速获得和人类相似、甚至比许多人更好的语言能力。
有人问ChatGPT:“床明月光的作者是谁?”这与李白的《静夜思》中的“床前明月光”就差了一个字。ChatGPT居然回答道:“《明月光》这首诗的作者是唐代诗人白居易。”它从问题中得出了另一首诗的名字,张冠李戴给了另一位诗人。
ChatGPT通过庞大的数据来进行学习,这一些数据中不乏谣言、偏见和过时的信息,这是它的回答走偏的一个原因。
有学生用ChatGPT写作文,而且是大学论文,还得到老师的赞赏,当老师得知这篇文章其实是ChatGPT写的,能想象他有多么震惊。文章抄袭或代笔是很严重的错误,如同作弊,是学校不能容忍的,但ChatGPT语言流畅,还能够写出与他人不重复的语句,让老师无法判断这究竟是学生自己写的还是AI写的。
为了防止学生过度依赖AI,老师们只好出招破解,例如,建议学生提交作业时提供一段短视频,在视频中重述自己作业的思路,以此保证学生真的学进去了。
人被机器或技术取代的案例在历史上曾多次上演,之前是简单重复的工作被机器取代,如流水线工人的工作,而现在的ChatGPT展示了AI承担超强专业性工作的可能性。它学习效率高,就像考试大神。
一些人类要学习若干年才能通过的职业或科目考试,它都能取得不错的成绩,甚至能在一些考试中名列前茅。未来AI或许能成为作家、画家、会计、律师、医生、程序员,甚至法官和政府官员。因此,很多人担心自己赖以为生的工作被AI抢走。
科幻电影《我,机器人》中,AI执行着“保护人类的整体利益不受伤害”的命令。当它发现人类常常会发起战争、破坏地球生态,为保护全人类的未来,便决定杀死一部分人类。这种策略当然是人类无法容忍的。
AI杀人事件曾线年,德国一名司机驾驶汽车时突发疾病,在失去意识之前,他握紧方向盘急转,试图让汽车在失控前,于路旁的灌木丛中停下。但车上的车道保持辅助系统认为司机这项操作很危险,又让车行驶回了马路上,结果撞死两人、撞伤一人。这是自动系统给人类造成了严重的伤害的首个案例。
在上面的事件中,AI只是在执行命令,但它执行命令的方式伤害了人类,因为它的设置还没囊括所有人类希望顾及的细节,悲剧就发生了。而人类社会、道德和情感太过庞杂,许多道德法规连人类自己还在争论不休呢,如何给AI设置清楚!
既然AI这么厉害,我们每天背书、做题,即使不分昼夜,也赶不上AI分毫,那么,学习的意义在哪呢?AI是由人创造的,它的算法是人类设计的,其运用的知识也都来自于人类的研究成果,假如没有人学习和探究,AI也只会停滞不前。何况,地球、宇宙和生命还有无尽的谜团等着人类探索。
其次,再先进的AI也可能出错。我们在使用电子地图时,就常遇到被带入错路的情况,因此,人不能放弃思考,任由AI决定我们的走向。
针对被替代的职业,正如过去工作岗位被取代之后,总会诞生很多新职业,如程序员、整形师、主播等,只要创造力在,人类总会开辟出新的职业。
更可怕的是,当AI持续进化,可能会成为拥有自主意识、能独立思考的强人工智能。到那时,AI或许不再甘心任人摆布,而是要做自己想做的事,也不会受制于人类道德,干出各种伤天害理的事,甚至取代、灭绝人类。
科幻电影《终结者》讲述了未来人类研发了名为天网的AI,其逐渐产生思想,对人类开战,让30亿人丧生。幸存的人类在指挥官的领导下艰苦反击,终于反败为胜。不甘心的天网又派出机器人穿越时空,想在指挥官出生之前杀死他的母亲,从而改变未来。
当然,强人工智能出现时,人类也不可能坐以待毙,也许一批人类技术高手会利用电脑病毒或其他手段与AI对抗。
不过,强人工智能也有一定可能会有意保留人类,视之为地球上独特的物种,用来饲养、观察和研究。科幻短片《逃出牢笼》讲述了在人类濒临灭绝的未来,地球由AI控制。
男主角被AI圈养在一个房间里,不需要学习,不需要工作,衣食无忧,可以尽情娱乐,只是要像动物园里的动物一样供AI参观。当来自外界的人类女孩试图让他逃离时,他一开始回答:“在这里很开心。”最后,他还是被女孩打动,向往人与人之间的情谊,逃出了AI的牢笼。
许多研究者急于开发更强的AI产品,使AI的发展势头迅猛得让人害怕,一旦它变成强人工智能,人类再采取行动恐怕已经来不及了。
虽然现在的AI还处于遵照程序指令工作的弱人工智能阶段,但ChatGPT已经会编造逼真的假消息,也被很多人滥用,眼看着它快速成长的同时渐渐失控,科技巨头和研究人员这才想叫停AI,让大家的技术狂热冷静下来,三思而后行。
虽然强人工智能还没再次出现,但类似科幻短片中的牢笼已然浮现了。许多人沉浸在科技带来的便利和欢娱中,即使是等红灯的几十秒时间,也需要手机来度过;许多人只要加入游戏或短视频平台,就会沉迷好几个小时,迫不得已才会下线。
探索、学习或创造活动的时间被电子娱乐挤占,进行这些活动所需的好奇心、毅力、创造力等人类特质也在相应地减弱,然而,人类能发展到今天,依靠的就是这些特质。
无论是AI还是手机、电脑,总归都是人类发明的工具,应该是人类掌控它们,而非被它们掌控。
你会选择在科技牢笼中彻底“躺平”,还是和人类同胞一起逃出牢笼,自主体验人生、探索世界呢?返回搜狐,查看更加多