火星网校
人工智能是如何做出决策的?
发布时间：2024-03-15 10:01:30 浏览量：157次
这是我们许多人在童年时都会遇到的问题:“你为什么要这么做？”随着人工智能（AI）开始越来越多地做出影响我们生活的重要决定，我们也希望这些机器能够回答这个简单而深刻的问题。毕竟，我们为什么要相信人工智能的决定呢？
这种渴求令人满意解释的想法促使美国国家标准与技术研究院(NIST)的科学家们提出了一套评判原则，通过这些原则我们可以判断人工智能是如何解释它所做的决定的。他们发布的草案《可解释人工智能的四个原则》(NISTIR 8312草案)，旨在激发一场关于我们应该对AI决策系统有何等期望的讨论。
根据作者的观点，可解释人工智能决策的四个基本原则是:
• 人工智能系统应该为其所有决策结果提供相应的证据或理由
• 系统应该提供对使用者有意义和可理解的解释
• 该解释需正确反映AI系统进行决策的过程
• 系统仅在设计的条件下或当系统对其决策结果达到足够的置信度时运行。(其理念是，如果系统对其决策结果没有足够的信心，它就不能向用户提供决策。）
该报告是NIST帮助开发“可信”人工智能系统的一部分。NIST的基础研究旨在通过理解AI系统的理论功能和局限性，以及提高它们的准确性、可靠性、安全性、稳定性和可解释性来建立对AI系统的信任，这将是该报告重点讨论的内容。
草案作者正在征求公众的反馈意见，因为这个主题涉及范围非常大，从机械工程、计算机科学到心理学和法律研究都有所涵盖，所以他们希望可以对此进行广泛的讨论。
该草案的作者之一，NIST电子工程师乔纳森·菲利普斯说：“人工智能越来越多地参与到高风险的决策中，没有人希望机器在不了解原因的情况下做出决定。但是一个能让工程师满意的解释可能并不适用于其他职业背景的人。因此，我们希望能从不同的角度和观点来完善这个草案。”
理解人工智能系统做出决策背后的原因可以使决策所涉及的每个人都受益。例如，如果人工智能有助于改进贷款批准决策，那么这种理解可以帮助软件设计师改进系统。同时申请人也会想深入了解人工智能的推理过程，或许是想知道为什么被银行拒绝，或许是在贷款批准后帮助申请人继续保持良好的信用评级。
菲利普斯说，虽然这些原则看起来很简单，但使用者通常有不同的标准来判断人工智能是否成功地满足了他们的需求。例如，第二个原则中的“解释”有多种含义，对不同的人来说有不同的意义，这取决于他们的角色同人工智能工作之间的联系。
提到《星际迷航》中的角色时，菲利普斯说：“想想柯克和史波克他们是如何交谈的，使用人工智能系统来协助诊断疾病的医生可能只需要史波克解释为什么这台机器会推荐其中一种特殊的治疗方法。而病人可能不太需要知道其中的技术细节，但他们会希望了解柯克的背景，了解柯克与他的生活有何关系。”
菲利普斯和他的合著者们将可解释AI决策依据的概念与之前AI的相关工作联系起来，同时他们也将人类对机器的可解释性的要求与人类对自己的要求进行了比较。我们的设定是否达到了人类对AI的需求？在使用报告的四个原则探索了人类的决策支撑过程后，作者得出结论——我们的设定没有达到。
研究员们引用了几个例子，写道：“人类对自己做出的选择和推论的解释在很大程度上是不可靠的。在没有意识的情况下，人们会将不相关的信息整合到各种决策中，从人格特质判断到陪审团裁决都会有这样的问题。”
然而，这种意识上的显著的双重标准体系最终会帮助我们更好地理解自己所做的决定，并创造一个更安全、更透明的世界。
菲利普斯说：“随着在AI可解释性研究方面取得的进步，我们可能会发现人工智能系统的某些部分比人类自己更能满足社会的期望和目标。”他过去的研究表明，人类和人工智能之间的合作比任何一方单独工作都能产生更高的准确性。“理解人工智能系统和人类决策行为的可解释性为人类与AI不断融合各自优势的实现打开了大门。”
菲利普斯说，目前作者希望他们收到的评论能推进这一课题的讨论更深一步展开。他说：“我认为我们尚不清楚什么才是正确的解释基准。说到底，我们并不是想回答所有的问题，而是努力地充实这一领域，从而让我们的讨论富有成效。”
热门课程推荐
热门资讯
-
1. 华为手机神奇“AI修图”功能，一键消除衣服！原图变身大V领深V！
最近华为手机Pura70推出的“AI修图”功能引发热议，通过简单操作可以让照片中的人物换装。想了解更多这款神奇功能的使用方法吗？点击查看！
-
想将照片变成漫画效果？这篇文章分享了4个方法，包括Photoshop、聪明灵犀、VanceAI Toongineer、醒图，简单操作就能实现，快来尝试一下吧！
-
近年来,人工智能逐渐走入公众视野,其中的AI图像生成技术尤为引人注目。只需在特定软件中输入关键词描述语以及上传参考图就能智能高效生成符合要求的...
-
4. AI视频制作神器Viggle：让静态人物动起来，创意无限！
Viggle AI是一款免费制作视频的AI工具，能让静态人物图片动起来，快来了解Viggle AI的功能和优势吧！
-
5. Logo Diffusion——基于sd绘画模型的AI LOGO 生成器
这下LOGO设计彻底不用求人了。接下来详细演示一遍操作流程首先进入Logo D... 想学习更多AI技能,比如说关于怎么样利用AI来提高生产效率、还能做什么AI...
-
6. 一款免费无限制的AI视频生成工具火了!国内无障碍访问!附教程
人人都可以动手制作AI视频! 打开网址https://pixverse.ai/,用邮箱注册后,点击右上角Create,就可以开始创作了。 PixVerse目前有文案生成视频,和图片生...
-
7. 零基础10分钟生成漫画，教大家如何用AI生成自己的漫画
接下来,我将亲自引导你,使用AI工具,创作一本既有趣又能带来盈利的漫画。我们将一起探索如何利用这个工具,发挥你的创意,制作出令人惊叹的漫画作品。让...
-
以下是一些免费的AI视频制作网站或工具,帮助您制作各种类型的视频。 1. Lumen5:Lumen5是一个基于AI的视频制作工具,可将文本转换为视频。 用户可以使...
-
9. AI显卡绘画排行榜:4090无悬念，最具性价比出人意料
在AI绘图领域，Stable Diffusion的显卡绘图性能备受关注。本文整理了Stable Diffusion显卡的硬件要求和性能表现，以及2023年3月显卡AI绘图效率排行榜和性价比排行榜。欢迎查看最新的AI显卡算力排行榜。
-
就能快速生成一幅极具艺术效果的作品,让现实中不懂绘画的人也能参与其中创作!真的超赞哒~趣趣分享几款超厉害的AI绘画软件,提供详细操作!有需要的快来...
最新文章
