使用“扫一扫”即可将网页分享至朋友圈。
马斯克等千人签署公开信 人工智能开发危及“文明控制权”？
美剧《西部世界》和好莱坞电影《终结者》里曾描绘，人工智能(AI)的“觉醒”可能危及人类。最近，科幻片中的担忧照进现实，有不少人工智能业界“大佬”突然呼吁暂停开发更强大的AI系统，提出具有人类水平智能的AI系统可能“对社会和人类构成潜在风险”。
他们的担忧从何而来？人工智能开发会否危及人类的“文明控制权”？AI的发展是否已来到需要按下“暂停键”的转折点？
一封公开信，四问AI风险
近期，美国亿万富翁埃隆·马斯克和人工智能领域顶尖专家、图灵奖得主约书亚·本吉奥(Yoshua Bengio)等人联名签署了一封公开信，呼吁暂停开发比GPT-4更强大的AI系统至少6个月，称其“对社会和人类构成潜在风险”。
呼吁暂停巨型AI训练的公开信。图片来源：“未来生命研究所”网站
这封发布在非营利性组织“未来生命研究所”(Future of Life Institute)网站上的公开信主张，在开发强大的AI系统之前，应先确认其带来影响是积极的、风险是可控的。
信中详述了具有人类水平智能的AI系统可能对社会和人类带来极大的风险，称“这一点已经得到大量研究和顶级AI实验室的认同”，并连续抛出四个疑问：
- 我们是否应该让机器用宣传和谎言淹没我们的信息渠道？
- 我们是否应该让所有的工作自动化，包括那些令人满意的工作？
- 我们是否应该发展最终可能在数量上超过我们、在智能上超越我们、能够淘汰并取代我们的非人类思维？
- 我们应该冒着失去对我们文明控制的风险吗？
公开信指出，如果不能迅速实施此类暂停，政府应当介入并采取措施。此外，“AI实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级AI设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督”。
信中还呼吁开发人员和政策制定者合作，大幅加快强大的AI治理系统的开发。这其中至少应当涉及监管机构、审计和认证系统、监督和追踪高性能AI系统、人工智能造成伤害后的责任问题、为AI技术安全研究提供公共资金等方面。
公开信在最后提到，如今，我们的社会已经暂停其他可能造成灾难性影响的技术，对于人工智能也应该如此，“让我们享受一个漫长的‘AI之夏’，而不是毫无准备地进入秋天”。
技术、伦理、利益，呼吁放慢脚步为哪般？
从这些内容中不难看出，比起技术，公开信的支持者更在意的，是人工智能可能出现的“野蛮生长”，以及它的发展可能带来的社会和伦理难题。
公开信中提到，此番暂停并不意味着从总体上暂停人工智能的开发，而是从危险竞赛中“后退一步”。人工智能的研究和开发应该重新聚焦于使当今强大的、最先进的系统变得更加准确、安全、可解释、透明、稳健、一致、可信且可靠。
纽约大学教授加里·马库斯所人为，“这封信并不完美，但精神是正确的”，他认为，人们需要放慢脚步，直到可以更好地理解这一切带来的后果。
目前，该公开信已获上千人签署，其中不乏开源人工智能公司Stability AI首席执行官莫斯塔克(Emad Mostaque)、谷歌母公司Alphabet旗下人工智能企业DeepMind研究人员、计算机科学家斯图亚特·罗素(Stuart Russell)等专家学者和科技公司高管。
发布公开信的“未来生命研究所”则主要由马斯克基金会、硅谷社区基金会等资助。特斯拉首席执行官马斯克正在将人工智能应用于自动驾驶系统，他也一直坦率表达自己对人工智能的担忧。
路透社还称，欧洲刑警组织(Europol)日前也表达了对ChatGPT等先进人工智能在伦理和法律方面的担忧，警告此类系统可能会被滥用于网络钓鱼、虚假信息和网络犯罪。此外，英国政府也公布了关于建立AI监管框架的提议。
在网络上，这封信也引起热烈讨论，有网友表示认同，人们需要知道发生了什么，“仅仅因为我们知道可以建造它，并不意味着应该建造”。
但也有人怀疑马斯克的动机，“马斯克之所以会签署它，因是为他想用自己的人工智能来赚钱。”
还有人分析，“这很可怕，但我认为有些项目不需要停止。技术正在发展迅速，负责任的创新也是必要的。”
关于人类和AI关系的思考，从技术诞生之初就没有停过。著名物理学家霍金也曾说过，“成功创造了人工智能，很可能是人类文明史上最伟大的事件。但如果我们不能学会如何避免风险，那么我们会把自己置于绝境”。
如今，从通过资格考试，到进行艺术“创作”，AI能做的事越来越多，朝着“智能”的方向越走越远。但同时，利用AI技术进行网络诈骗勒索、传播非法信息等犯罪行为也层出不穷。
不同于物理世界技术创新成果转化的漫长周期，AI技术突破往往会通过互联网一夜之间散播全球。在人类未能就AI伦理、监管等找到妥善解决之道前，这些讨论和担忧并不多余。
“广东财经网”的新闻页面文章、图片、音频、视频等稿件均为自媒体人、第三方机构发布或转载。如稿件涉及版权等问题，请与
我们联系删除或处理，客服邮箱1098101642@qq.com，稿件内容仅为传递更多信息之目的，不代表本网观点，亦不代表本网站赞同
其观点或证实其内容的真实性。
- 声音提醒
- 60秒后自动更新
【民政部回应何时恢复婚姻登记】民政部社会事务司二级巡视员杨宗涛表示，婚姻登记场所是人群聚集场所，部分地区暂停婚姻登记工作是对人民群众安全负责。未停止登记的地方推广用电话、网络、qq群预约登记，控制登记人数，分批分段登记，减少人员聚集和在登记机关停留时间。已停止婚姻登记地方将根据当地疫情控制情况逐渐恢复。
15:54欧洲央行副行长金多斯：欧洲央行还没有达到逆转利率。宽松政策的副作用更明显了。
15:54财经网站Forexlive分析师Justin Low评瑞士1月CPI月率：尽管通胀年率保持稳定，但核心通胀率有所下降，这一点令人更加担忧。这只是进一步巩固了瑞士央行维持现有货币政策不变，并可能在未来寻求更多宽松措施的观点。
15:54【武汉两大批发市场商户开业率超过80%】商务部市场建设司司长朱小良10日称，目前武汉生活必需品供应基本正常，除冷鲜肉、鲜叶菜等少数品种存在结构性短缺外，大部分重要生活物资供应充足，未发生明显抢购或脱销断档情况。当地白沙洲和四季美两大批发市场正常营业，商户开业率超过80%，日交易量上升至3000吨以上。（国是直通车）
15:53【日本2019年经常项目顺差增长4.4%】日本财务省10日发布的国际收支初步统计报告显示，主要受外国人入境游消费扩大影响，2019年日本经常项目顺差增长4.4%。报告显示，2019年日本经常项目顺差为20.06万亿日元（1美元约合109.8日元）。其中，商品贸易方面，由于液化天然气价格下跌等因素，进口下降5.6%至75.56万亿日元；由于汽车部件及钢铁等产品出口减少，出口下降6.3%至76.12万亿日元。货物贸易顺差减少53.8%，为5536亿日元。（新华社）
15:53欧元兑美元EUR/USD短线波动不大，现报1.0952。
15:53瑞士1月CPI年率：0.2%，前值：0.2%，预期：0.1%；瑞士1月CPI月率：-0.2%，前值：0%，预期：-0.2%。
15:52英镑兑美元GBP/USD短线走低13点，现报1.2890。
15:52【宁德时代“供电”国产特斯拉 有望拉低售价20%】全国乘联会秘书长崔东树分析认为，“随着特斯拉国产化率提升和产能爬坡，未来特斯拉国产车型的价格下探空间还是很大的。”他预计今年下半年，国产Model 3车型的售价就有望降至25万元，降幅接近20%。（新京报）
15:51【内蒙古：对不裁员或少裁员企业返还上年度50%失业保险费】据内蒙古新型冠状病毒肺炎疫情防控工作指挥部消息，疫情期间，内蒙古对不裁员或少裁员的企业返还上年度实际缴纳失业保险费的50%，对面临暂时性经营困难的中小企业，返还标准提高到上年度6个月企业及其职工缴纳社会保险费的50%。
15:51【商务部：2019年服务进出口总额54152.9亿元 同比增长2.8%】商务部新闻发言人表示，2019年，在服务贸易创新发展试点等政策的激励下，我国服务贸易总体保持平稳向上态势，逆差明显下降，结构显著优化，高质量发展成效初步显现。全年服务进出口总额54152.9亿元（人民币，下同），同比增长2.8%。其中，出口总额19564.0亿元，同比增长8.9%；进口总额34588.9亿元，同比减少0.4%。（第一财经）
15:51【振华股份：疫情导致下游客户开工推迟 产品库存上升】振华化学公告，公司目前生产经营稳定，所有产能均正常开工，原材料采购能基本满足生产需要，由于疫情导致下游客户开工推迟，公司出货量减少，产品库存有所上升。公司将根据客户需求、疫情及市场变化，适度调整生产经营策略，尽可能保持生产经营的稳定。
15:50环旭电子2月10日晚间公告，公司2020年1月合并营业收入为23.27亿元，较去年同期的合并营业收入减少27.83%，较2019年12月合并营业收入环比减少37.23%。
15:49精测电子：与京东方集团签订了多份销售合同，合同累计金额达到6.96亿元。
17:12华夏银行：银保监会同意本公司在全国银行间债券市场发行不超过100亿元人民币的金融债券，募集资金全部用于绿色信贷。
17:03
