当前位置: 主页 > 汽车资讯 >

    采纳更强有力步履提防AI风险

     时间:2024-05-22 10:20  

    原标题:采取更强有力行动防范AI风险

    当以后的人们为人工智能(AI)撰写一部编年史时,这可能是一个里程碑。

    因为这是人类第一次由一个庞大的国际顶尖专家组,就先进AI的风险推进全球政策制定。

    人们已清晰认识到:我们离不开AI,亦需要大力推动AI技术发展,但我们必须有能力防范其中的风险。

    自6个月前在英国布莱奇利公园举行第一届AI安全峰会以来,世界各国领导人承诺以负责任的方式管理AI,但是AI专家认为这依然不够。随着第二届AI安全峰会(5月21日至22日)在韩国首尔举行,25位世界顶尖AI科学家呼吁,全世界应对AI风险采取更强有力的行动。

    发表于《科学》杂志的一份专家共识文章中,专家组概述了全球应采取的紧急政策优先事项。文章作者之一、英国牛津大学工程科学系教授菲利普·托尔表示:“在上届AI峰会上,世界一致认为我们需要采取行动,而现在是时候将模糊的建议转变为具体的承诺了。”

    安全性研究严重匮乏

    这25位全球顶尖的AI及其治理专家来自中国、美国、欧盟、英国和其他AI技术强国,其中包括图灵奖获得者以及诺贝尔奖获得者。这也是首次由国际专家组就AI风险的全球政策制定达成一致。

    文章指出,全球领导人需认真考虑,在未来十年内可能开发出超越人类能力的通用AI系统。他们表示,尽管世界各国政府一直在讨论先进AI,并尝试引入初步指导方针,但这与许多专家期望的快速、变革性进展仍有距离。

    目前关于AI安全的研究严重缺乏,只有1%—3%的AI出版物涉及相关安全问题。此外,全球没有适当的机制或机构来防止滥用和鲁莽行为,包括如何使用能独立采取行动和自行实现目标的自治系统。

    在快速发展中防范极端风险

    文章建议,各国政府需建立可快速行动的AI监管机构,并为这些机构提供资金。美国AI安全研究所目前的年度预算为1000万美元,听起来并不少,但相比之下,美国食品和药物管理局(FDA)的预算达67亿美元。

    AI领域需要更严格的风险评估并制定可执行的措施,而不是依赖一些不甚明确的模型评估。应要求AI研发企业优先考虑安全性,并证明其系统不会造成伤害,AI开发人员要承担起证明安全性的责任。

    人们还要有一个与AI系统带来的风险水平相称的缓解办法,解决之道是制定一个“自动”政策,当AI达到某些能力里程碑时“自动触发”——如果AI发展迅速,这一严格的要求就会自动生效;如果进展缓慢,要求将相应放缓。

    对于能力超凡的未来AI系统,政府必须作好带头监管的准备。这包括许可开发,限制其在关键社会角色中的自主权,停止部署部分能力,强制执行访问控制,以及要求对国家级黑客采取强有力的信息安全手段,直到人们准备好足够的保护措施。

    谨记AI不是玩具

    不列颠哥伦比亚大学AI教授、强化学习领域专家杰夫·克伦纳表示,太空飞行、核武器和互联网等技术在数年内就从科幻变成了现实,AI也不例外。“我们现在必须为那些看似科幻小说的风险做好准备”。

    现在,AI已经在黑客攻击、社交操纵和战略规划等关键领域取得了快速进展,并可能很快带来前所未有的关于“控制”的挑战。AI系统可能会为了实现某个“不良目的”而骗取人类信任、获取资源并影响关键决策者。为了避免人为干预,它们还可以在全球服务器网络上复制自身算法。

    在这种情况下,大规模网络犯罪、社会操纵和其他危害会因此迅速升级。而在公开冲突中,AI系统能自主部署各种武器,甚至包括生物武器。因此,当AI的进步不受控制,很可能最终导致大规模生命损失、生物圈破坏、人类边缘化甚至灭绝。

    美国加州大学伯克利分校计算机科学教授斯图尔特·卢塞尔表示:“此次是权威专家的共识文章,其呼吁政府严格监管,而不是自愿制定一些规范行业的行为。”

    “企业可能抱怨说满足这些法规太难,但所谓‘法规扼杀创新’的说法是荒谬的。”卢塞尔这样说,“是时候认真对待先进AI系统了,它们不是玩具。在我们了解如何确保它们的安全性之前,轻易增强它们的能力是完全鲁莽的行为。”

  •  
高质量成长调研行|探访选矿“黑灯工场 我科学家成功研发全集成多路手表 科幻作家刘慈欣:总要有人敢往做如许的 西气东输累计向长三角地域输送自然气冲 首条长三角列车“环线”开行 本年炎天为什么这么热 数读中国 | 三类产物市场需求不变 我国外 长三角开行首趟全程时刻表中欧班列 我国高铁迎来多项“新动作” 中国特点之乡|打火机“一块钱”的生意 财经不雅察:夜间经济热力全开 各地加速 12项涉税办事办法落地 小微企业向“新” 更快!看中国高铁“新动作” 全球80%的手工真丝地毯,从这里“展”向 做科研,要“蒙学善问,泰定求真” 利用新手艺 晋升“含绿量” 我国铁路实施新的列车运行图 为经济延续 京港间初次开行高铁动卧列车 让两地搭客 中国货色商业整体连结稳中有进态势 三部分挑唆3万件中心救灾物质撑持处所抗 恒年夜海花岛有小区被疑“海砂楼”,官 万亿GDP都会新秀,楼市太难了 报导指恒年夜清盘人委托状师查询拜访普 北京向阳、丰台启动结业年夜学生保障性 存量房贷利率会下调吗? 龙岗留用13宗地,涉面34.6公顷!多旧改计 “坐高铁,可以周游长三角了”(记实中 中塔媒体启动“高质量共建‘一带一路’ 上海:沪港高铁动卧列车筹办停当 我国新型储能投运装机范围超3500万千瓦 人平易近网评:果断打赢抗旱保供水硬仗 增添村级养老办事点 “鞭策更多中国影视作品在巴西落地” 我国53%的可治理沙化地盘获得有用治理 “想方设法引水,保种保苗保秋收” 首创我国高质量成长新场合排场 “乡建乡创,让我们筑梦圆梦”(两岸脉 京港沪港夕发朝至高铁动卧列车开行 2024中欧贸易岑岭论坛呼吁欧盟与中方增强 红馆沸腾 中国女排逆转世界第一土耳其队 小浪底水库下泄流量增至每秒1800立方米以 中新教育丨东北亚国家汉学家齐聚大连 (聚焦海峡论坛)两岸基层调解员联谊交 “左宗棠与新疆”学术研讨会在新疆哈密 杭州倡导文明观赛 打响“赛”“会”之城 钱学森工程与技术科学研讨会举行 4位学 中新教育丨中德工业设计学院落户安徽芜 两汉罗马女性文物展长沙开幕 叙说两千年 (聚焦海峡论坛)近300名两岸嘉宾参与“ 美国青年参访杜立特行动纪念馆:历史已 (聚焦海峡论坛)跨越海峡 两岸青少年挥 中新教育丨第五届西北教育装备博览会在 中美青年孔子故里感知儒家文化 中国女排逆转战胜土耳其女排 收获三连胜 万人骑游夜跑“英雄城” 江西南昌点亮体 中医药横琴大模型启动 日本百名青年看新疆:“在新疆读懂中国 第十六届海峡论坛大会今日举行 重点聚焦 多方在长白山共话生物圈保护区可持续发 “从上海到上海” !长三角首条超级环线 易点投屏 手机版 魔方盒子 手机版 世界地图册 免费版 锤定 官方版 buff手游折扣平台 最新版 lbcx出行 官方版 M社区 最新版 桃红世界 最新版 小二备用库 最新版 亲语畅聊 手机版 超快wifi助手 免费版 上网伴侣 手机版 信越智选 最新版 隐形摄像头扫描 最新版 喵趣漫画 手机版 正念睡眠 手机版 WiFi加速大师 免费版 阳光闹钟2024 最新版 多玩云游戏 手机版 四季之春完整免费版 迷雾大陆游戏本官方版 宗源阅读 手机版 家电清洗一步到家 手机版 万乐思 官方版 欢乐猫宝库 手机版 佐伊社区轻量 手机版 用工宝 最新版 食在广州 手机版 小鳄鱼交友 官方版 记路者行车记录仪 手机版 也马智行 免费版 淘大集创客 官方版 辽宁公交一卡通 最新版 谷歌翻译软件 免费版 萌趣壁纸 手机版 茄子快传备份 官方版 360智能门锁 免费版 猫趣漫画免广告 手机版 铁路12306 官方版 滴宠生活 最新版 贵州数字乡村建设监测平台 最新版 油条漫画平台 最新版 i信阳师院 手机版 紫藤天气 官方版 本地陌聊2024 免费版 山东一卡通 手机版 氢时钟 免费版 空模交友 手机版 新新漫画正 官方版 考点 官方版