火星网校
如何构建负责任的AI?中科院曾毅:可持续发展与治理须协同
发布时间：2024-01-26 13:37:18 浏览量：200次
“放眼全球可以看到，谈人工智能伦理最多的公司，往往爆出的伦理问题也很突出，甚至有些公司的伦理研究团队还承担着广告和公关的职能，由于与研发和应用团队的分离，他们很难将伦理研究成果应用到设计、研发、部署等步骤中，甚至是起到了伦理清洗的作用。”8月3日，首届全球数字经济大会人工智能产业治理主题论坛上，中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员曾毅发表《负责任的人工智能：可持续发展与治理的深度协同》主题演讲，他认为，应该将人工智能伦理和治理嵌入到企业全流程和产品全生命周期中来。
曾毅
曾毅的建议也在此次会上得到积极回应。北京智源人工智能研究院和瑞莱智慧共同发起，百度、华为、蚂蚁集团、寒武纪等数十家研究机构与创新企业联合参与的首个《人工智能产业担当宣言》正式发布，该宣言强调科技企业在推动人工智能自律自治稳健发展中应积极承担的责任。
AI技术应具有可持续性
“谈到人工智能，为什么要治理？”在演讲中，曾毅抛出这个问题。他总结说，人工智能在发展过程中出现了伦理问题或者有潜在风险，人工智能伦理通俗来讲可以概括为两件事情，第一，人工智能应该做什么，什么是正当的？第二，人工智能不应该做什么，什么是不当的。
曾毅认为，人工智能技术应该具有可持续性。“什么是不可持续的人工智能？”曾毅说，看似智能，实际上几乎没有理解能力的信息处理工具，不是真正可持续的人工智能，在这个基础上再扩张其应用场景和能力，却缺乏对其负面影响的关注，这样的人工智能非常有问题。
反之，如果是创建具有真正意义的智能机器，应用到人类生态和社会以及全球的可持续发展中，避免和最小化对社会和生态产生的负面影响，这样的技术是可持续的人工智能。
“比如说人工智能应用于健康、教育，但是它也可能给健康和教育带来负面影响，要真正做到人工智能赋能可持续发展，也要同步关注它产生的负面影响。”曾毅说。
遗憾的是，曾毅团队曾分析了计算机科学和人工智能领域发表的英文文献，发现800万篇人工智能和计算机科学相关论文中，只有0.1%是真正和可持续发展目标高度关联的；而且，绝大多数论文的应用偏向于教育、健康，究其原因，还是这两个领域机遇多、能赚钱。
“如果人工智能创新的目标就是赚钱，那么大多数可持续发展目标无法通过人工智能来实现。”曾毅还呼吁，人工智能的创新者和企业更多地关注人工智能赋能野生动物保护、环境保护与气候行动等议题。
AI治理与发展从来不存在冲突
在曾毅看来，可持续的人工智能，必须是善治的。治理先行还是发展优先？它们从来不是竞争关系，因为人工智能稳健发展，二者缺一不可，而且需要深度协同，从来不存在治理阻碍发展的问题，治理管控的是野蛮生长。
“尽管很多企业关注隐私问题，也有企业在隐私计算方面努力，但现在的技术进展真的足以保护用户吗？现状恐怕很惨痛。”曾毅说。
他举例说，很多国家禁用人脸识别，我国也颁布了人脸识别的规范，尽管人脸识别在一些场合被禁用，并没有得到更多相关企业的反对，一个不争的事实就是企业恐怕可以找到替代方案，步态识别、指纹识别、声纹识别等等相关技术存在的技术和伦理风险和人脸识别是非常相似的，但是没有引起公众关注。
“人脸识别技术的禁用并不代表这个问题被解决了，实际上人脸识别存在的风险，比如隐私泄露对公平性的侵犯，技术不成熟性导致种族和性别之间的歧视，在任何一个生物特征识别的方法中都存在。”曾毅说，禁用一个特定技术并不能解决问题，应当通过学术界和产业界的共同努力解决这些技术中存在的技术和伦理痛点。
再比如，AI“监控”进校园，学生再无隐私可言，国外则发展出了一套反人脸识别的技术，比如在人脸上贴胶带或者戴特定的眼镜，以规避人脸的检测。
但在曾毅看来，针对校园霸凌、师生之间的纠纷，发生问题缺失证据等场景人工智能仍有发挥善用的空间。如果设计一个产品，平时保护学生隐私，发生异常事件时被激活并记录异常事件，及时通知校方或报警，这样的设计才是负责任的人工智能设计。
尚未能完全有效保护用户
尽管不少人工智能手段，有助推动社会善治，但也存在不少尚未解决的大问题。
曾毅以用户应该享有的“数据撤销”权利为例，人工智能企业目前仅能做到的只是停留在可以从数据库中删除用户数据。
然而，如何在人工智能的模型和服务中删除用户的数据和特征，这在技术上存在巨大挑战，几乎没有人可以做到在一个深度学习模型中删除单个用户对模型形成的影响。
“蛮力的解决办法就是重新训练人工智能模型，而多长时间训练一次，一个月？半年？一些大模型训练一次耗费五百万元。”曾毅说，更新数据的代价就是，很多企业选择不去更新。
有些方法试图保护用户数据，代价是牺牲其它方面。曾毅再举例说，联邦学习可以在不分享自己数据的情况下，在分享的数据模型基础上联合学习，在保护用户隐私数据的同时受益于其他企业的模型，服务于自己的企业，但这回避了一个关键问题，即用户知情同意，“用户是否同意把自己的数据，以模型的形式改善或服务于其它的企业和应用？如果没有，这就违反了用户知情同意”。
在曾毅看来，这似乎是为了解决问题A引入了问题B，更完善的用户知情同意机制需要进一步建立。差分隐私是隐私保护中应用比较多的技术，但为了保护隐私而使模式识别率下降10%到30%，可能很多企业也会犹豫。
【记者】郜小平
【出品】南方产业智库
【作者】 郜小平
南方产业智库
来源：南方+ - 创造更多价值
热门课程推荐
热门资讯
-
想将照片变成漫画效果？这篇文章分享了4个方法，包括Photoshop、聪明灵犀、VanceAI Toongineer、醒图，简单操作就能实现，快来尝试一下吧！
-
2. 华为手机神奇“AI修图”功能，一键消除衣服！原图变身大V领深V！
最近华为手机Pura70推出的“AI修图”功能引发热议，通过简单操作可以让照片中的人物换装。想了解更多这款神奇功能的使用方法吗？点击查看！
-
近年来,人工智能逐渐走入公众视野,其中的AI图像生成技术尤为引人注目。只需在特定软件中输入关键词描述语以及上传参考图就能智能高效生成符合要求的...
-
4. AI视频制作神器Viggle：让静态人物动起来，创意无限！
Viggle AI是一款免费制作视频的AI工具，能让静态人物图片动起来，快来了解Viggle AI的功能和优势吧！
-
5. Logo Diffusion——基于sd绘画模型的AI LOGO 生成器
这下LOGO设计彻底不用求人了。接下来详细演示一遍操作流程首先进入Logo D... 想学习更多AI技能,比如说关于怎么样利用AI来提高生产效率、还能做什么AI...
-
6. 零基础10分钟生成漫画，教大家如何用AI生成自己的漫画
接下来,我将亲自引导你,使用AI工具,创作一本既有趣又能带来盈利的漫画。我们将一起探索如何利用这个工具,发挥你的创意,制作出令人惊叹的漫画作品。让...
-
以下是一些免费的AI视频制作网站或工具,帮助您制作各种类型的视频。 1. Lumen5:Lumen5是一个基于AI的视频制作工具,可将文本转换为视频。 用户可以使...
-
8. AI显卡绘画排行榜:4090无悬念，最具性价比出人意料
在AI绘图领域，Stable Diffusion的显卡绘图性能备受关注。本文整理了Stable Diffusion显卡的硬件要求和性能表现，以及2023年3月显卡AI绘图效率排行榜和性价比排行榜。欢迎查看最新的AI显卡算力排行榜。
-
9. 一款免费无限制的AI视频生成工具火了!国内无障碍访问!附教程
人人都可以动手制作AI视频! 打开网址https://pixverse.ai/,用邮箱注册后,点击右上角Create,就可以开始创作了。 PixVerse目前有文案生成视频,和图片生...
-
就能快速生成一幅极具艺术效果的作品,让现实中不懂绘画的人也能参与其中创作!真的超赞哒~趣趣分享几款超厉害的AI绘画软件,提供详细操作!有需要的快来...
