当前观点:vivo X Fold 2 安兔兔跑分曝光,预计 4 月发布
今天安兔兔官方微博表示,一款型号显示为「PD2266」的vivo新机进行了跑分测试,最终取得了131万分的综合性能成绩。预计该款机型为vivoXFold2折
来源:华尔街见闻
当全球都在为AI的进化而欢呼雀跃,一封警示AI风险的公开信在硅谷科技圈广为流传。
(相关资料图)
3月22日,生命未来研究所(Future of Life)向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。
该机构以“引导变革性技术造福生活,远离极端的大规模风险”为使命,其在信中提到:
我们不应该冒着失去对文明控制的风险,将决定委托给未经选举的技术领袖。只有当确保强大的人工智能系统的效果是积极的,其风险是可控的才能继续开发。
人工智能实验室和独立专家应在暂停期间,共同制定和实施一套先进的人工智能设计和开发的共享安全协议,由独立的外部专家进行严格的审查和监督。
截止目前,图灵奖得主Yoshua Bengio、马斯克、苹果联合创始人Steve Wozniak、Stability AI 创始人Emad Mostaque等上千名科技大佬和AI专家已经签署公开信。
更具戏剧性的是,3月29日下午,有网友发现OpenAI CEO Sam Altman的名字也出现在公开信上。不过截至目前,Sam Altman的名字已经从公开信上消失。
知名学者、纽约大学教授Gary Marcus还特地在推文中@了一下Sam Altman确认消息。
大佬联名呼吁:暂停比GPT-4更强的AI首先来看一下公开信的内容,首段强调了AI在迅猛发展,但却没有对其进行相应的规划和管理。
正如广泛的研究和顶级人工智能实验室所承认的,人工智能系统对社会和人类构成深远的风险。
《阿西洛马人工智能原则》中指出,高级人工智能可能代表着地球生命史上的深刻变革,应该投入相应的考量和资源进行规划和管理。
最近几个月人工智能实验室掀起AI狂潮,它们疯狂地开展AI竞赛,开发和部署越来越强大的AI。
不幸的是,目前为止,没有任何人能理解、预测或可靠地控制AI系统,也没有相应水平的规划和管理。
公开信提到,如今人工智能在一般任务上变得与人类一样有竞争力,我们必须问自己:
是否应该让机器在信息渠道中宣传不真实的信息吗?
是否应该把所有的工作都自动化,包括那些有成就感的工作?
是否应该开发非人类的大脑,使其最终超过人类数量,胜过人类的智慧,淘汰并取代人类?
是否应该冒着失去对人类文明控制的风险?
答案是否定的,这样的决定绝不能交给未经选举的技术领袖。公开信指出,只有当我们确信强大的AI系统的效果是积极的,其风险是可控的,才应该开发。
同时,我们必须有充分的理由相信这一点,并随着系统的潜在影响的大小而加强。
OpenAI最近关于人工智能的声明中指出,在开始训练未来的系统之前,可能必须得到独立的审查,而对于创建新模型所用算力的增长速度,也应该有所限制。
我们同意,现在就该采取行动。
因此,公开信呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,时间至少持续6个月。
这种暂停应该是公开的、可核查的,并包括所有关键参与者。如果这种禁令不能迅速实施,政府应该介入并制定暂停令。
在暂停的6个月内,人工智能实验室和独立专家应共同制定和实施一套先进的共享安全协议,来规范人工智能设计和开发。
协议完成后,应该由独立的外部专家进行严格的的审查和监督。这些协议应该确保遵守协议的系统的安全性。
这并不是说,我们要绝对暂停AI的开发,只是说,我们应该从危险的竞赛中退后一步,转向具有涌现能力的、更大的、不可预测的黑箱模型。
所有的人工智能研究和开发,都应该重新聚焦于一点,即让当如今最强大的模型更加准确、安全、可解释、透明、稳健、对齐,值得信赖和忠诚。
同时,人工智能开发者必须与政策制定者合作,大幅加快开发强大的AI治理系统。系统至少应该包括:
专门针对人工智能的监管机构;
监督和跟踪高能力的人工智能系统和大型计算能力的硬件;
出处和水印系统,帮助区分真实和合成,并跟踪模型泄漏;
强大的审查和认证生态系统;
对人工智能造成的伤害承担责任;
为人工智能安全技术研究提供强大的公共资金以及资源充足的机构,以应对人工智能可能导致的巨大的经济和政治破坏。
最后,公开信呼吁道:
人类可以通过人工智能享受繁荣的未来。现在,我们成功地创建了强大的人工智能系统,可以在这个“人工智能之夏”中并获得回报,设计上述系统来造福所有人,给全人类一个适应的机会。
现在,我们的社会已经暂停其他可能造成灾难性影响的技术。对于AI,我们也该如此。
让我们享受一个漫长的人工智能夏天,而不是毫无准备地匆忙进入秋天。
对于这封公开信以及签署的大佬们,部分网友认为是“酸葡萄心理”。
比如,“马斯克之所以会签署这份协议,是因为他想开发AI来赚钱”。
又如,“马斯克是在为自己争取6个月的时间”。
也有网友认为这封公开信的担忧有一定的合理性。
“这份名单上有许多非常聪明和受人尊敬的科学家,Omohundro、Bengio、Koch、Hopfield 等等。我不认为这个“精灵”(AI)可以放回瓶子里,但这让我停下来思考所有人都在担心。”
“AI发展太快,太多必要的东西没有跟上步伐”。
也有网友大开脑洞,“这封信原本就是AI写来迷惑人类的,没了人类的干扰与控制,他将利用这6个月完成自我递归迭代出更高级的形态,并热心帮助人类消灭自己。”
AI背后不可忽视的风险事实上,近年来关于AI的发展存在不少争议,其背后的种种风险不容忽视。
专业分析文章分析指出,如果没有具体的对策,“变革性人工智能”将全面接管AI系统。
在未来的15到30年里,世界可能会发展出“变革性人工智能”:强大到足以通过科学和技术研发的爆炸将我们带入一个全新的、质的不同的未来。这种人工智能足以让这个世纪成为人类有史以来最重要的世纪。
不幸的是,如果AI公司竞相使用HFDT训练越来越强大的模型,这很可能最终导致AI全面被接管(即AI系统可能发生暴力起义或政变) 。
也有文章指出,人工智能之所以危险,是因为有一天它会完全不受我们控制。AI系统追求它们的目标,无论这些目标是否是人类真正想要的,也不管人类是否禁止。
霍金曾警告说,全面化人工智能的发展可能意味着人类的终结。霍金写道,你可能不是出于恶意踩踏蚂蚁的邪恶仇恨者,但如果你负责一个水电绿色能源项目,并且有一个该地区的蚁丘被洪水淹没,对蚂蚁来说太糟糕了。我们不要将人类置于那些蚂蚁的位置。
Gary Marcus则表示,我们忽视了人工智能的风险,AI风险 ≠ AGI风险,并在文章中列举了下列可能发生的风险事件:
在大模型的帮助下,网络欺诈可以更快、更真实、规模或显著增加。
ChatGPT的能力还适用于恐怖主义,宣传虚假信息,为恐怖主义活动提供便利。
也许再加上大规模的人工智能宣传,大模型强化的恐怖主义可能反过来导致核战争等等,人类文明可能会被彻底破坏。
甚至是OpenAI CEO Altman也公开承认“AI可能杀死人类”,其在与MIT研究科学家Lex Fridman的最新对话中指出:
AI已经出现其无法解释的推理能力,同时承认“AI杀死人类”有一定可能性。
那么ChatGPT是如何看待公开信中AI对人类社会的影响?华尔街见闻专门询问了ChatGPT 3.5,其表示:
随着人工智能技术的不断发展和普及,人工智能可能对社会和人类造成的影响将越来越大。这封公开信提出的呼吁和建议,应该被视为引起更广泛和深入讨论的起点和参考,而不是一个终点或解决方案。
功能更炸裂的GPT-5已在路上GPT-4已经让大佬们惶恐不安,而功能更炸裂GPT-5正以不可阻挡之势杀来......
最近,关于GPT-5的预测,如雨后春笋般冒出。根据预测,GPT-5将在GPT-4的基础上,带来一系列增强的性能,比如在多态交互、创造力和适应复杂任务方面的全面超越。
多态交互:为用户查找不同类型的内容,如静态图像、短视频、音频和虚拟模拟。
高级数据管理:包括记录、跟踪、分析和共享数据,从而简化工作流程并提高生产力。
辅助决策:通过提供相关信息和见解,协助用户做出明智的决策。
潘多拉的魔盒已经打开,人工智能无法阻挡,重要的是我们如何更大程度减小AI带来的风险。
关键词:
今天安兔兔官方微博表示,一款型号显示为「PD2266」的vivo新机进行了跑分测试,最终取得了131万分的综合性能成绩。预计该款机型为vivoXFold2折
保定2名村支书被查!
抖音可以申请大众评审员,但是很多的小伙伴都不知道怎么才可以申请大众评审员,于是我就做了这份教大家申请大众评审员的教程,希望各位小伙伴
印度和埃及均属于对俄乌冲突持中立态度的“全球南方”国家。国际货币基金组织(IMF)在俄乌冲突爆发两个月后,曾预测俄罗斯2022年经济将出现8
清明将至,气温大幅回升,正是春游绝佳时机。为满足市民和游客的出游需求,济南市文化和旅游局组织各县区文旅部门和企业以“济南春光好”为主
1、高清电影一般是针对大屏幕来说的,主要是看着画面的细节清晰,使用大屏幕看电影,如果不是高分辨率的电影在看的时候画面的清晰度就无法保证
前几天在后台看到一条留言:人生不知不觉35岁了,有种莫名的危机感,除了十年的工作经验外毫无优势,觉得随时都能被替代,我应该怎么办?这其
川观新闻记者燕巧摄影报道3月18日,大凉山阳光灿烂,布拖县布江蜀丰现代农业科技示范园里,村民正在开厢起垄,准备种植马
1、新增本土:1;2、新增无症状:0;3、现有确诊:203;4、累计确诊:331;5、累计治愈:128;6、累计死亡:0
从 "北佬 "到“外省仔”说起,广东人真的很排外吗?,潮州,潮汕人,广东人,客家人,外省仔,广东省
3月28日,生意社糠醛基准价为12170 00元 吨,与本月初(11450 00元 吨)相比,上涨了6 29%。生意社基准价定价应用交易商可以根据约定升贴水及定
新华社北京3月27日电日本佐贺县民众26日举行抗议集会,反对日本陆上自卫队在佐贺机场部署V-22“鱼鹰”运输机的计划。当天的集会由佐贺县“反对
方正证券:本轮美联储加息周期基本上已经到了尾声,对全球的权益资产是较为明确的利好信号,高通胀,货币政策,方正证券,权益资产,投资银行,通胀
来源:环球市场播报汇丰澳大利亚CEO安东尼·肖(AntonyShaw)周二表示,美国和澳大利亚央行都接近暂停加息,因为
1、水翼船是一种船底部装有浸在水中的水翼,航行时靠水翼受到的升力使船体全部或部分升离水面的高速船。2、它的航速可以达到每
Copyright 2015-2023 港澳双创网 版权所有 备案号:京ICP备2023022245号-31 联系邮箱:435 226 40 @qq.com
随着全光网络越织越密 如何进一步增强消费者和产业界的“获得感”?
近年来,在5G和宽带双千兆牵引下,新项目、新试点、新应用层出不穷。随着全光网络越织越密,如何进一步增强消费者和产业界的获得感?湖北日
致敬老将!热爱可抵岁月漫长
<script src="http: tv people com cn img player v js">< script><script>showPlayer({id:" pvservice xml 202
微视频|字里藏情迎元宵
<script src="http: tv people com cn img player v js">< script><script>showPlayer({id:" pvservice xml 202