科技日报记者 刘霞
在近期于美国乔治敦年夜学举行的一次会议上,由美国国防部(DoD)录用的国防立异委员会(DIB)提出了一套在战争期中利用人工智能(AI)的伦理准则。
据俄罗斯卫星网11月4日报导,DIB提出,该准则的根基原则是:在战争中利用AI必需确保其公允、可溯、靠得住和可控。
虽然如斯,美国国防部在操纵AI方面也饱受很多争议。
公允、可溯、靠得住、可控
在这份伦理准则清单中,DIB建议在战争中利用AI必需确保公允、可溯、靠得住和可控。DIB还指出,任何人在利用美国国防部的AI系统时,应当负责并“进行精确的判定”。
在DIB提出的准则中,有一项是:“国防部应采纳响应办法,避免在战役或非战役AI系统的开辟和摆设中呈现料想以外的成见,以避免这些成见对人造成危险。”
该参谋委员会还催促美国国防部继续深切进行AI系统的研究和开辟,由于它们仍在快速成长转变。
据悉,在发布此项道德准则此前,DIB成员进行了多项研究,并在拟定伦理准则清单之前咨询了AI范畴的多位专家。
空军大将约翰·N·T·沙纳罕在一份声明中说:“DIB的贵重定见是其与贸易界、当局、学术界和美国公家进行长达15个月的商量、咨询的产品。”
声明弥补说:“DIB的建议将帮忙国防部在秉承对手艺立异进行严酷测试并遵照相干尺度的悠长汗青传承下,遵照国防部AI计谋(DoD AI Strategy)中概述的最高伦理尺度的许诺。”
美国国防部将决议是不是接管、更改或完全谢绝DIB提出的建议。
利用AI蒙受攻讦
沙纳罕是结合人工智能中间(JAIC)的主任。据该中间网站先容,该中间的主旨是“经由过程加快AI的交付和利用来改变国防部,以对作战使命发生影响。”借助该中间,美国国防部在AI的操纵方面获得了长足前进,但也蒙受了一些攻讦。
2018年4月,谷歌公司4000多名员工签订了致该公司首席履行官桑达尔·皮查伊的一份公然信,要求公司终止介入由美国国防部运行的“专家项目”(Project Maven)。该项目于2017年4月启动,在该项目中,谷歌公司负责帮忙美国当局操纵人工智能阐发无人机拍摄画面,激发员工不满。
美国着名科技博客“小缔造”(Gizmodo)在2018年6月的报导中指出,谷歌公司颠末严酷审查后决议不再与五角年夜楼一路进行该目,在长达两个月年夜量员工的抵制之下,谷歌抛却了潜伏收进可达每一年上亿美元的军事AI范畴。
不外,谷歌随后与美国国防手下属的高级研究打算局(DARPA)合作进行了“下一代AI”(AI Next)项目。
据悉,2018年9月7日,DARPA颁布发表启动“下一代AI”项目,将来5年将为此投资高达20亿美元。“下一代AI”项目基于DARPA曩昔60年引领开辟的两代人工智能手艺,旨在解决国防部最辣手的题目,并界说和塑造将来的成长趋向。俄罗斯卫星网的报导称,“下一代AI”项目触及在非战役范畴利用AI手艺。
本年8月,美国国防部暗示,他们担忧在AI手艺方面掉队于中国,出格是斟酌到美国科技巨子对与五角年夜楼合作持保存立场。
沙纳罕说:“若是我们没有找到增强美国当局与产业界和学术界之间纽带的方式,那末我们确切存在在AI方面掉队于中国的风险。”
加载更多>>