大数据文摘出品
来历：venturebeat
黑镜中的无人机杀手让人惊惧，一起也激起了业界关于人工智能在军事范畴运用的讨论。五角大楼近来在相关军事范畴迈出了重要一步。
美国国防立异委员会（The Defense Innovation Board）今天官网上放出了一个音讯，国防部投票经过了一份叫做《AI运用准则：人工智能运用品德规范的若干定见（AI Principles:Recommendations on the Ethical Use of Artificial Intelligence）》的文件。
这份文件耗时15个月完结，16位出色技能专家组成了专家小组担任为五角大楼供给这份陈述，这份陈述也寻求了李飞飞、Yan Lecun在内的人工智能范畴的专家的定见。
这份陈述包含五个首要准则，以及关于美国军方在未来如安在战役和非战役人工智能体系中运用品德规范的12条主张。
先来看看这五条基本准则。
担任任。
慎重判别，对国防部人工智能体系的开发、布置、运用和成果担任。
公正。
经过深思熟虑的程序，防止在开发和布置战役或非战役人工智能体系时无意中对人形成损伤。
可追踪。
国防部的人工智能工程研讨应该满足先进，使技能专家对其人工智能体系的技能、开发进程和操作办法有满足了解，包含通明和可审计的办法、数据源、规划程序和文档。
牢靠。
国防部人工智能体系应该有一个清晰的、界说杰出的运用范畴，这些体系的安全性、安全性和稳定性应该在其运用范畴的整个生命周期中得到测验和保证。
可控。
国防部人工智能体系的规划和工程运用应能完结其预期功用，一起具有勘探和防止意外损伤或搅扰的才能，并在发现已布置体系发生意外晋级或其他行为时，可以主动脱离或人工停用。
此外，这份陈述还包含12条主张。
经过国防部官方途径将这些准则正式化；
树立一个全网规模的人工智能辅导委员会；
进一步培养和开展人工智能工程范畴；
加强国防部的训练和人才方案；
出资于人工智能安全方面的新研讨；
出资于研讨以增强技能的可重复性；
界说（人工智能）牢靠性的基准；
加强人工智能测验和评价技能；
开发风险管理办法；
保证AI品德准则的正确履行；
将研讨扩展到了解怎么施行AI品德准则；
举行关于人工智能安全性、安全性和稳定性的年度会议。
文件链接：
https://media.defense.gov/2019/Oct/31/2002204458/-1/-1/0/DIB_AI_PRINCIPLES_PRIMARY_document.PDF
“你或许会在这里看到公正这个词。可是要提示的是，在许多情况下，国防部不该该是公正的，DIB 董事会成员和卡内基梅隆大学研讨副总裁 Michael McQuade 今天说。“咱们的准则应该是，在咱们的体系中不存在无意的成见。”
运用创造公司联合创始人、计算机理论家Danny Hillis和董事会成员共同以为该文件草案还需求修正，运用准则还应包含“防止意外损伤和损坏，以及人类脱离布置的体系，”Hillis说，这份陈述应该清晰无误地指出，军方运用的人工智能体系应该带有一个封闭开关，以便人类在呈现问题时可以马上封闭。
他说:“我以为这是最大的问题，由于他们具有展现和演化行为方法的才能，这对规划师来说是很难猜测的，有时这些行为方式实际上是一种自我维护的行为方式，或许与规划师的目的和方针不同步，所以我以为这是他们潜在的最风险的方面之一。”
国防立异委员会是一个科技精英荟萃的安排，由前谷歌CEO Eric Schmidt 担任主席，成员包含麻省理工学院CSAIL主任 Daniela Rus，海顿天象馆奈尔·德葛拉司·泰森研讨中心主任，linkedIn联合创始人Reid Hoffman，Code for America主任Jennifer Pahlka，以及Aspen Institute主任Walter Isaacson。
一位国防部讲话人在接纳海外媒体VentureBeat采访时称，这份文件以及相应的白皮书将在国防立异委员会网站上共享。两者现在都会呈交国防部领导层，由他们来决议是否选用其间的准则。
此前，英国《卫报》曾报导称，五角大楼正寻觅适宜的人选，协助其在被称为21世纪战场的人工智能范畴应对不置可否的品德问题。五角大楼联合人工智能中心（JAIC）主任杰克·沙纳汉中将曾对记者表明：“咱们即将添补的职位之一需求的人选不只可以考虑技能标准，并且得是一名品德学家。”
未来，委员会期望担任领导国防部人工智能方案的联合人工智能中心与国防部部长马克·埃斯珀协作，拟定交流和政策，以保证准则可以成功被运用，加强人工智能的测验和评价，并创立一个每年一度的人工智能安保会。
这些品德准则经过两次假想敌演习来调查AI怎么影响作战决议计划，并认识到AI或许呈现的意外结果，当然，这些准则也契合现有的辅导国防部品德的文件，如美国宪法、2015年国防部战役法手册和1949年日内瓦条约。
这份陈述还强调了我国和俄罗斯在人工智能上日益增长的出资。
本次发布的条款耗时15个月完结，收录了来自公共论坛和人工智能社区首领的定见和见地，如Facebook首席人工智能科学家Yann Le Cun，前麻省理工学院媒体试验室主任Joi Ito，OpenAI 研讨主任Dario Amodei博士，以及斯坦福大学前首席人工智能科学家Dr Fei-Fei Li。别的，准则还征集了广泛的大众定见。
相关报导：
https://venturebeat.com/2019/10/31/defense-innovation-board-unveils-ai-ethics-principles-for-the-pentagon/
点「在看」的人都变好看了哦！
