当前位置: 主页 > 汽车资讯 >

    采纳更强有力步履提防AI风险

     时间:2024-05-22 10:20  

    原标题:采取更强有力行动防范AI风险

    当以后的人们为人工智能(AI)撰写一部编年史时,这可能是一个里程碑。

    因为这是人类第一次由一个庞大的国际顶尖专家组,就先进AI的风险推进全球政策制定。

    人们已清晰认识到:我们离不开AI,亦需要大力推动AI技术发展,但我们必须有能力防范其中的风险。

    自6个月前在英国布莱奇利公园举行第一届AI安全峰会以来,世界各国领导人承诺以负责任的方式管理AI,但是AI专家认为这依然不够。随着第二届AI安全峰会(5月21日至22日)在韩国首尔举行,25位世界顶尖AI科学家呼吁,全世界应对AI风险采取更强有力的行动。

    发表于《科学》杂志的一份专家共识文章中,专家组概述了全球应采取的紧急政策优先事项。文章作者之一、英国牛津大学工程科学系教授菲利普·托尔表示:“在上届AI峰会上,世界一致认为我们需要采取行动,而现在是时候将模糊的建议转变为具体的承诺了。”

    安全性研究严重匮乏

    这25位全球顶尖的AI及其治理专家来自中国、美国、欧盟、英国和其他AI技术强国,其中包括图灵奖获得者以及诺贝尔奖获得者。这也是首次由国际专家组就AI风险的全球政策制定达成一致。

    文章指出,全球领导人需认真考虑,在未来十年内可能开发出超越人类能力的通用AI系统。他们表示,尽管世界各国政府一直在讨论先进AI,并尝试引入初步指导方针,但这与许多专家期望的快速、变革性进展仍有距离。

    目前关于AI安全的研究严重缺乏,只有1%—3%的AI出版物涉及相关安全问题。此外,全球没有适当的机制或机构来防止滥用和鲁莽行为,包括如何使用能独立采取行动和自行实现目标的自治系统。

    在快速发展中防范极端风险

    文章建议,各国政府需建立可快速行动的AI监管机构,并为这些机构提供资金。美国AI安全研究所目前的年度预算为1000万美元,听起来并不少,但相比之下,美国食品和药物管理局(FDA)的预算达67亿美元。

    AI领域需要更严格的风险评估并制定可执行的措施,而不是依赖一些不甚明确的模型评估。应要求AI研发企业优先考虑安全性,并证明其系统不会造成伤害,AI开发人员要承担起证明安全性的责任。

    人们还要有一个与AI系统带来的风险水平相称的缓解办法,解决之道是制定一个“自动”政策,当AI达到某些能力里程碑时“自动触发”——如果AI发展迅速,这一严格的要求就会自动生效;如果进展缓慢,要求将相应放缓。

    对于能力超凡的未来AI系统,政府必须作好带头监管的准备。这包括许可开发,限制其在关键社会角色中的自主权,停止部署部分能力,强制执行访问控制,以及要求对国家级黑客采取强有力的信息安全手段,直到人们准备好足够的保护措施。

    谨记AI不是玩具

    不列颠哥伦比亚大学AI教授、强化学习领域专家杰夫·克伦纳表示,太空飞行、核武器和互联网等技术在数年内就从科幻变成了现实,AI也不例外。“我们现在必须为那些看似科幻小说的风险做好准备”。

    现在,AI已经在黑客攻击、社交操纵和战略规划等关键领域取得了快速进展,并可能很快带来前所未有的关于“控制”的挑战。AI系统可能会为了实现某个“不良目的”而骗取人类信任、获取资源并影响关键决策者。为了避免人为干预,它们还可以在全球服务器网络上复制自身算法。

    在这种情况下,大规模网络犯罪、社会操纵和其他危害会因此迅速升级。而在公开冲突中,AI系统能自主部署各种武器,甚至包括生物武器。因此,当AI的进步不受控制,很可能最终导致大规模生命损失、生物圈破坏、人类边缘化甚至灭绝。

    美国加州大学伯克利分校计算机科学教授斯图尔特·卢塞尔表示:“此次是权威专家的共识文章,其呼吁政府严格监管,而不是自愿制定一些规范行业的行为。”

    “企业可能抱怨说满足这些法规太难,但所谓‘法规扼杀创新’的说法是荒谬的。”卢塞尔这样说,“是时候认真对待先进AI系统了,它们不是玩具。在我们了解如何确保它们的安全性之前,轻易增强它们的能力是完全鲁莽的行为。”

  •  
第二届中国基础教育高质量发展·北京论 今起陆续出分!31省份公布2024年高考查分 广东外语外贸大学:9个双学士学位项目首 一些高考自愿填报办事有“套路” 年夜湄公河次区域国际道路运输试运行在 欧美同窗会第三届国际智库论坛进行 中欧约定就欧盟对华电动汽车反补助查询 渝昆高铁渝宜段进进联调联试阶段 延续晋升中波周全计谋火伴关系程度(年 周全生效一周年:RCEP重实效惠全球 全国人年夜常委会办公厅在沈阳举行“为 情系鹭岛 爱我国防(国防视野) 中企承建刚果(金)首都环线公路项目开 何故中国·运载千秋|MV《漂来的人世》 “五十六个平易近族凝集在一路就是中华 “五十六个平易近族凝集在一路就是中华 在推动青躲高原生态庇护和高质量成长上 累计浇灌农田超21万亩(扎实做好防汛抗 “清冷补助”、暑期免佣……出行平台多 助力下降社会物流本钱 “铁路运费贷”在 标普上调中国房企评级,开释楼市企稳旌 福州鼓岭家族故事展示馆开馆 引美国“鼓 聚焦数智教育 2024国际出版企业高层论坛 我国主雨带北抬至贵州、江汉、江淮一带 4名中国理工科学生遭美方滋扰盘查 一人 东西问|王铭:中国大运河如何以文化遗 欧洲杯丨C罗刷新多项纪录 E组混战四队同 AI眼中的中国|枕水而居,安乐富足,丰 4名中国学生遭美方滋扰盘查,一人与外界 海南三亚接待东南亚游客大幅增长 文旅产 国际篮联三人篮球顶级赛事成都举行 【运载千秋】漫画大运河|清风来,蛙声 皮划艇马拉松竞渡大运河最南端 千年运河 (高质量发展调研行)留下“富民之水” 东西问丨丁纯:世界中国学大会首进欧洲 第26届金爵奖揭晓 哈萨克斯坦影片《离婚 第十四届“中华学人与21世纪上海发展” 复旦大学将推100门“AI+”大课 金力指重构 广东梅州灾后有序恢复 所有进村镇道路已 广东梅州抢通“生命通道” 韩国一核电站发生储存水泄漏 中法两国联手探秘来自宇宙深处的伽马暴 旅巴侨青:愿做中巴交流合作的融合剂 “申遗十年看运河”大型融媒活动发布北 美国华裔青少年拜谒云南建水文庙 东西问丨短评:中欧为何需要文明对话? 一次开发多端适配,百余App与蚂蚁数科 复旦大学推动AI+融合创新人才培养 打造三 (经济观察)展望2024年下半年全球经济, 法国工商界期待通过参与链博会促进法中 市场监管系统持续督促平台和外卖商家规 第七届枸杞产业博览会闭幕 招商引资签约 中新健康丨罚没近18亿!一份报告,揭医 智能机器人 未来新场景 国家卫健委:结合时令推进健康知识普及 回顾科普作品展望创意未来 人保财险百万预付赔款 助力企业排忧纾困 行业首个!景德镇郎酒陶瓷文化艺术中心 首份心脏细胞综合图谱绘成 新技术可发现基因突变初期迹象 分屏大师 最新版 绘梦AI 免费版 screen手机版 鸟语翻译 官方版 完美对战平台 免费版 葵花籽 免费版 点到家 最新版 喵嗷漫画正 免费版 剧情搜搜看 官方版 本地陌约 官方版 ar试衣 官方版 雪梨社交 最新版 termius中文 官方版 Tapas 官方版 学习资料 最新版 新斗罗大陆小y游戏最新版 我的世界国际最新版 口袋进化4399官方版 梦想城镇4399最新版 明日方舟单机离线最新版 果宝无双无限金币无限钻石最新版 原神无限原石手机版 迷你枪战精英无限钻石官方版 飞吧龙骑士正最新版 逃离暗影游戏官方版 kards官方版 BUD中文官方版 疯狂厨房2双人游戏免费版 三国谋定天下官服最新版 自由之刃折扣平台0.1折最新版 BUD虚拟社交国际服手机版 康婷云生活 官方版 黄桃书屋 免费版 神眸智品 免费版 书林文学第八区 免费版 乐享搜书 最新版 高德车主司机2024 手机版 白马屋 官方版 众兼职赚客 官方版 广角助手9.0 手机版 对聊交友软件 免费版 阿Q棋钟 官方版 小米指南针 免费版 仁天花极速 最新版 美杜莎漫画 官方版 演唱会抢票神器 手机版 圆通速递 免费版 红颜交友 免费版 中天人力 手机版 酷爱漫画 免费版