天梯

超800名科技领袖联合呼吁：停止研发超级智能_我的网站

A |     “师傅，来喝杯凉茶歇歇脚！”杭州日报讯 盛夏高温来袭，市政环卫工人、外卖快递员、园林养护工人等户外一线工作者依旧头顶烈日坚守岗位。    本文来自微信公众号：财联社 （ID：cailianpress），作者：黄君芝                    包括苹果联合创始人史蒂夫·沃茲尼克（Steve Wozniak）和维珍集团董事长理查·布兰森（Richard Branson）在内的800多名知名人士，近日签署了一份公开声明，要求立即停止超级智能的开发。

B | 为了给户外“高温下的坚守者”送去一份实实在在的清凉，临安区“流动凉茶铺送清凉”活动如约而至，这已经是它连续第五年出摊了。由杭州市综合行政执法局环卫固废中心、临安区综合行政执法局以及多家爱心保洁公司联手打造的“流动凉茶铺”，采用“定点驿站纳凉+流动车辆派送”的双线模式，在临安区多个街道为户外工作者送上解暑关怀。五年来，从最初送一杯凉茶，到如今升级为体系化的“双线服务”，“流动凉茶铺”以持续不断的清凉服务，向所有在高温下默默付出的劳动者致敬。今年，“流动凉茶铺”共规划10条服务线路，覆盖临安城区、青山湖科技城等核心区域。                   “超级智能”是指在所有领域超越人类认知能力的人工智能系统。由百余人组成的10支服务队各配备专属服务车，打造移动式便民服务点。在户外作业高峰时段，志愿者随车满载凉茶、矿泉水、棒冰等解暑物资，穿梭于主城区、青山湖科技城等重点作业路段，向道路清扫、市政施工、路面执勤等一线岗位劳动者进行派送。                   这个史无前例的联合声明警告称，超越人类智能的人工智能（AI）系统带来了从经济崩溃到人类灭绝的风险。

C | 除流动派送点位外，本次活动还设置了14个爱心凉茶固定服务点，涵盖唐宁郡驿站、大塘路驿站、武肃街驿站、青山湖街道寺前路8号城管驿站、天柱街536号城管驿站等。所有驿站不仅全天候供应自制凉茶、矿泉水，还备足了藿香正气水、清凉油等防暑药品，户外工作者在劳作间隙可随时入内，吹吹空调、纳凉补水，短暂卸下劳作的疲惫。

D | 该声明等同于直接向OpenAI、Meta和其他科技巨头正在大肆鼓吹的AI模型竞赛“泼了一盆冷水”，可能成为AI行业的一个重大转折点。                   据悉，这份联合声明的签名名单包含了世界上最有影响力的科技领袖、科学家和公众人物，甚至就连被广泛认为是现代人工智能教父的约书亚·班吉欧（Yoshua Bengio）和杰佛瑞·辛顿（Geoffrey Hinton）也在其中。                   “超级智能的前景已经引起了人们的关注，其影响从人类经济的落伍和权力的剥夺，自由、公民权力、尊严和控制权的丧失，到国家安全风险，甚至可能导致人类灭绝，”签名者用直言不讳的语言警告说。                   这不仅仅是学术上的绝望。

E | 就在这份请愿书发布之际，Meta将其人工智能部门更名为“Meta超级智能实验室”（Meta Superintelligence Labs），而OpenAI和马斯克（Elon Musk）的xAI则陷入了一场越来越公开的竞赛，看谁能首先实现人工通用智能。从事环卫工作三年多的汪桂娟，是清凉驿站的常客。

F |                    但这些行业资深人士却在此时呼吁“踩刹车”，希望不要发展太快。“这里有空调、凉茶，累了能歇一会儿，不用四处找地方避暑，在杭州做环卫工作挺好的。

G |                    不仅如此，这份联合声明签名者名单的覆盖范围远远超出了硅谷。前国家安全顾问Susan Rice和前参谋长联席会议主席Mike Mullen都签名支持，这表明了对国家安全的严重担忧。

H | 我们要把城市街道清扫干净，不能辜负大家对咱们的这份善意与关心。”端着凉茶，她笑着说道。甚至连英国王妃梅根·马克尔也出现在名单上，与特朗普的盟友史蒂夫·班农和格林·贝克一起——这种政治团结实属罕见。

I |                    加州大学伯克利分校（UC Berkeley）的Stuart Russell是一位领先的人工智能安全研究员，多年来一直在对超级智能发出警告，他帮助组织了这项工作。根据他之前的研究，挑战不在于人类能否建立超级智能系统，而是一旦它们存在，人类能否控制它们。                   该声明呼吁全面禁止超级智能的发展，“直到公众强烈支持并达成广泛的科学共识，即它可以安全可控地进行。这是一个很高的标准，它可能会有效地冻结当前人工智能开发的时间表。”                    这份联合声明与此前任何相关警告都不同，这里面的许多人都并非来自“外界”，恰恰相反，他们是建立了今天的人工智能能力的研究人员和企业家。

J | 当班吉欧和辛顿之类的顶级科学家——他们的工作使现代大型语言模型得以实现——说“踩刹车”时，整个行业很可能会认真思考。                   不过，接下来会发生什么，可能取决于各国政府如何应对。欧盟已经在实施人工智能法规，美国一直在探索人工智能安全框架。这份请愿书为立法者提供了借口，可以对最先进的人工智能研究实施更严格的控制。

Current article:http://ee3yz.pisezuibanzoukou.cyou/list_9h1n/65dkl.html

Published on:19:59:45