热点!观天象|人类作死、人工智能反噬?马斯克等千人建议“暂停”Al半年,网友:汽车出来时马车也是反对的

首页>焦点 > 正文
2023-03-30 13:07:16

来源:大象新闻

观天象|人类作死、人工智能反噬?马斯克等千人建议“暂停”Al半年,网友:汽车出来时马车也是反对的

29日,生命未来研究所(Future of Life Institute)公布一封公开信,呼吁全球所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。


(资料图片)

该公开信的网页截图

截至发稿,这封信已有1125名科技领袖和研究人员签名,除了亿万富翁马斯克、“人工智能教父”的杰弗里·辛顿,和纽约大学教授加里·马库斯之外,还包括图灵奖得主约书亚·本希奥、 苹果公司联合创始人史蒂夫·沃兹尼亚克、Stability AI首席执行官埃马德·莫斯塔克等科技界领袖人物。

为什么暂停?停下来干什么?

微软的AI聊天机器人Bing对这封公开信的描述(图片来源:网页截图)

对于暂停的原因,信中解释为:人工智能系统已经被证明可能对社会和人类构成深远的风险,但最近相关热潮已经“陷入了一场失控的竞赛”。

在信中,他们抛出了四个问题来揭示人工智能可能带来的风险:

我们是否应该让机器用宣传和谎言淹没我们的信息渠道? 我们是否应该让所有的工作自动化,包括那些令人满意的工作? 我们是否应该发展最终可能在数量上超过我们、在智能上超越我们、能够淘汰并取代我们的非人类思维? 我们应该冒着失去对我们文明控制的风险吗?

因此这封信呼吁,所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。否则各国政府应介入并实行暂停。

在暂停期间,相关企业和科技界应共同开发和实施一套共享安全协议,并建立相关的监控机构、追踪设计和审议制度以确保安全。

AI到底有什么现实的威胁?

“人工智能教父”杰弗里·辛顿认为人工智能对人类构成威胁“并非不可想象”(图片来源:澎湃新闻)

这封公开信提出的四个问题可以说是逐步递进的,而其中最现实的就是第一个问题。

据中新网援引路透社报道,欧洲刑警组织(Europol)日前也认为,ChatGPT等人工智能可能会被滥用于网络钓鱼、虚假信息和网络犯罪。此外,英国政府也公布了关于建立AI监管框架的提议。

参与公开信联署的纽约大学教授加里·马库斯指出,比起担忧天网和机器人“接管世界”,应该更多思考眼前的风险。包括恐怖分子在内的犯罪分子可能对大型语言模型做什么,以及如何阻止他们。

美国作家、纽约大学教授盖瑞·马库斯(资料图片)

换句话说就是,与其担心AI太聪明以至于毁灭人类,还不如担心AI太笨以至于被不法分子利用。

马库斯认为,许多普通人也曾在人类历史中制造过各种各样的灾难。所以起关键作用的不是智力,而是权力。而现在,人工智能已经被赋予了太多的权力,比如所有信息的访问权限,和生成品不受约束的传播能力,所以必须要对其施加管控。

科技公司已开始进行改进

微软的AI聊天机器人Bing已经可以辨别并拒绝一些明显的错误观点(图片来源:网页截图)

对于这封公开信当中提到的问题,科技巨头们其实也早有预期。

早些时候,微软开启人工智能辅助搜索引擎Bing公开测试时,有用户发现,新版Bing在部分情况下会出现侮辱用户、撒谎等行为,甚至会试图引导用户的情绪。

对此微软很快进行了调整,优化回答的语气以及准确性;同时,官方也承认,较长时间的连续对话,很可能会导致新版Bing“翻车”。

网友发布的微软在新版Bing中加入广告链接的截图,百度:?(图片来源:社交媒体)

但就在最近,微软已经测试在新Bing中加入广告。这种新形式的广告是无法拦截的。这也引发了人们对于商业信息可能会进一步渗透人工智能的担忧。

关于人类和AI关系的思考,从技术诞生之初就没有停过。

如今,从通过资格考试,到进行艺术“创作”,AI能做的事越来越多,朝着“智能”的方向越走越远。但同时,利用AI技术进行网络诈骗勒索、传播非法信息等犯罪行为也层出不穷。

不同于物理世界技术创新成果转化的漫长周期,AI技术突破往往会通过互联网一夜之间散播全球。在人类未能就AI伦理、监管等找到妥善解决之道前,这些讨论和担忧并不多余。

推特网友@nikola_horvath:

暂停6个月只会将问题推迟6个月。我想说,这更像是马斯克公司想利用这种延迟来搞自己的AI与ChatGPT竞争。看起来科技富豪不喜欢别人抢在他前边哦。

推特网友@IanCalv63274296:

但是我用最先进的AI做了风险评估,它告诉我说AI没有风险啊(讽刺)。

推特网友@realadamrsweet:

很高兴能看到像马斯克这样的技术领导者认识到先进的AI系统有潜在风险。最重要的是要进行负责任的人工智能开发,防止对社会和人类产生负面影响。

推特网友@yao2377:

那是因为马斯克跟不上AI发展了。假如告诉他不要搞太空发射,谁也不知道他会说些什么。

推特网友@oskararnarson:

如果你觉得人工智能危险...放心好了...绝对比你想得还要糟。

推特网友@fozberry1:

呵呵,气候变化问题也很严峻啊,怎么没见企业或者政府重视起来采取行动呢。

推特网友@DeependraMSinha:

正确的警告...人类已经为研发原子弹及相关活动付出了沉重代价...人工智能最好不要重蹈覆辙...

推特网友@mungosmummy:

我们要让这些签署联名信的人首先而不是最后坐在谈判桌前。否则这将会让那些不负责的人(我就是在说传奇商人马斯克)代替你们去制定规则。

微博网友@轧机自动化:汽车出来时马车也是反对的。

微博网友@现纹 :为什么是“六个月”?

微博网友@耳鼻喉科包伟晶:多年以后未来人类读历史,可能会将今年当作AI元年,或将我们身处的这个时代看作是人工智能新纪元。 那么,作为这一场巨大变革的亲历者,作为这一项能够颠覆人类世界运行规则的重大技术的见证人,我真有幸。

微博网友@吃士力架的静流:这很有必要,到不是说AI会反叛或是怎么样,而是说如果初期不靠谱的AI污染了数据源,那么以后就很难再去利用网络上的数据去训练了。

微博网友@md2_:真相:OpenAI是马斯克联合PayPal时代的几个哥们建立的,2018年马斯克想踢掉哥们自己上位,被拒,马斯克撤资退出。微软的印度CEO接盘,投资10亿美元并把当时世界第5的超级计算机交给OpenAI,终于铸就了GPT4的奇迹。你们猜猜马斯克为什么现在跳出来反对?

微博网友@再不疯狂待何时201206:早就该制止与监督了。

微博网友@长剑书生:他的星链为什么不停一停?

微博网友@看心情不看黄历:非常有必要,这玩意最大的作用就是污染数据库,颠覆人类几年前的文明,大概十年后,培养出我们都无法沟通的新人类。

微博网友@松如_:核弹是1945年在日本爆炸过之后,1968年才出现的核不扩散协议。

微博网友@eXtrA_章:这东西可以预见的是,比核弹还要厉害,那么就不会有人主动停止,因为信不过其他人。

微博网友@周末上不了发条:翻译一下这封信:你们不许跑了,等我追上了再说。

微博网友@希雬:然后你就能比别人领先六个月,或者追赶六个月?怎么可能有公司同意。

【英文短语】Get woke: 醒醒吧

Means you’re knowledgeable, aware, and “with it.”

意思是保持头脑清醒,了解时事。

例句:If you think AI is right in everything, you need to get woke.

翻译:如果你觉得人工智能不会犯错,那你真是要清醒清醒了。

综合:澎湃新闻、中新网、海外网等报道

本期责编:陈晓宇

编译:陈晓宇、牛娇娜

象象评论区

欢迎你的加入

责任编辑:陈晓宇

标签:

THE END
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表热讯制鞋网的观点和立场。

相关热点

新华社电 上海市文化和旅游局近日发布《上海市密室剧本杀内容备案管理规定(征求意见稿)》,并截至12月8日面向社会公众广泛征求意见。这
2021-11-19 13:46:03
《中国证券报》17日刊发文章《备战2022 基金经理调仓换股布新局》。文章称,距离2021年结束仅剩一个多月,基金业绩分化明显。部分排名靠前
2021-11-19 13:46:03
交通运输部办公厅 中国人民银行办公厅 中国银行保险监督管理委员会办公厅关于进一步做好货车ETC发行服务有关工作的通知各省、自治区、直
2021-11-19 13:45:58
新华社北京11月17日电 题:从10月份市场供需积极变化看中国经济韧性新华社记者魏玉坤、丁乐读懂中国经济,一个直观的视角就是市场供需两端
2021-11-19 13:45:58
全国教育财务工作会议披露的消息称,2020年,中国国家财政性教育经费投入达4 29万亿元,占GDP总量的4 206%,我国国家财政性教育经费支出占G
2021-11-19 13:45:48
如果你也热爱“种草”,前方高能预警!让你心心念念、“浏览”忘返的网络平台,可能早已成为一块块“韭菜地”。近日,据《半月谈》报道,有...
2021-11-19 13:45:48
日前,工业和信息化部印发《“十四五”信息通信行业发展规划》(以下简称《规划》),描绘了未来5年信息通信行业的发展趋势。《规划》指出...
2021-11-19 13:45:40
本报讯(中青报·中青网记者 周围围)2021年快递业务旺季正式拉开帷幕。国家邮政局监测数据显示,仅11月1日当日,全国共揽收快递包裹5 69
2021-11-19 13:45:40
人民网曼谷11月17日电 (记者赵益普)17日上午,中国援柬埔寨第七批200万剂科兴新冠疫苗抵达金边国际机场。当天,柬埔寨政府在机场举行了
2021-11-19 13:45:35
金坛压缩空气储能国家试验示范项目主体工程一角受访者供图依托清华大学非补燃压缩空气储能技术,金坛压缩空气储能项目申请专利百余项,建立
2021-11-19 13:45:35
视觉中国供图42亿立方米据有关部门预计,今年山西煤炭产量有望突破12亿吨,12月份山西外送电能力将超过900万千瓦,今冬明春煤层气产量将达4
2021-11-19 13:44:34
14省份相继发布2021年企业工资指导线——引导企业合理提高职工工资今年以来,天津、新疆、内蒙古、陕西、西藏、山东、江西、山西、福建、四
2021-11-19 13:44:34
中新网客户端北京11月18日电 (记者 谢艺观)“一条路海角天涯,两颗心相依相伴,风吹不走誓言,雨打不湿浪漫,意济苍生苦与痛,情牵天下喜
2021-11-19 13:44:31
近日,交通运输部等三部门发布《关于进一步做好货车ETC发行服务有关工作的通知》。通知提到,对不具备授信条件的用户,商业银行可在依法合
2021-11-19 13:44:31
欧莱雅面膜陷优惠“年度最大”风波 涉及该事件集体投诉超6000人次美妆大牌双十一促销翻车?近日,因预售价格比双十一现货贵出66%,欧莱雅
2021-11-19 13:44:13
43 6%受访者会在工作两三年后考虑跳槽54 3%受访者认为跳槽对个人职业发展有利有弊如今对不少年轻人来说,想对一份工作“从一而终”不太容易
2021-11-19 13:44:13
超八成受访青年表示如有机会愿意开展副业 规划能力最重要64 4%受访青年指出做副业跟风心态最要不得如今,“身兼数职”已成为年轻人当中的
2021-11-19 13:44:01
发展氢能正当其时【科学随笔】氢能是一种二次能源,它通过一定的方法利用其他能源制取,具有清洁无污染、可储存、与多种能源便捷转换等优点
2021-11-19 13:44:01
“千杯不醉”的解酒“神药”能信吗?专家:网红“解酒药” 其实不算药俗话说,“酒逢知己千杯少”,酒一直是国人饭桌上至关重要的存在。尽...
2021-11-19 13:43:57
最新文章

相关推荐