干货 | AI算法透明性实现与评估|今日精选
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。
我们主要从分析问题、解决问题、效果评估和实际验证四方面，推动这一课题的研究，并形成相应的研究成果。
(资料图片)
第一部分：AI算法透明概述
第一部分，AI算法透明概述，主要凝练了当前AI算法透明性存在的挑战。
近年来，人工智能技术的发展使得其透明性问题日益凸显，为保障用户对算法知情，实现监管机构对算法进行有效规范治理与问责，算法透明性必不可少。
然而，算法透明性更类似于原则性的提议，具体如何落实透明性要求，并对其进行有效评估，尚未形成共识。
因此，我们对AI算法透明当前存在的诸多挑战进行了总结，主要涉及三个维度：技术、评估和制度。
技术上，很难处理AI算法的黑箱问题；
评估上，对透明程度的要求很难把握尺度；
制度上，算法问责机制仍然模糊。
为有效应对这些挑战，我们首先给出算法透明性实现路径，解决技术和制度问题，之后提出算法透明评估清单应对评估问题，最终在推荐系统下进行实践与应用。
第二部分：实现AI算法透明
宏观上，我们首先需要AI算法透明性治理范式，针对当前在算法监管立法等多个层面的挑战。我们希望打破透明性中耦合的机制主义和管理主义，形成一种以法律规制为主导，技术适配为基础的多元一体、多方协作的AI算法透明性治理范式。
微观上，这一范式的实施措施落实到学术、法律、技术和场景四方面。
学术上，国内外学者研究主要从多方视角相关主体出发，提出了若干在法律规制和技术适配方面的思考。
法律上，鉴于算法透明，是实现算法问责的重要机制。主要可以总结为两种实现AI算法透明的模式：赋权模式和行为规范模式。赋权模式属于事后救济，而行为规范模式属于事前预防和事中约束。
这里我们具体对比了不同国家地区的法律，发现各国都采取健全算法问责机制等措施。此外，我们也注意到欧盟还强调对算法参数的公开。
技术上，我们聚焦于实现从不透明模型向可诠释模型、可理解模型转变的可解释技术，该技术具体分为事前解释、事后解释和可诠释模型。针对不同的应用实例，又会有更为细致的方法。
不同的应用场景，对AI算法透明体现出不同的场景需求。我们也分别在自动驾驶、材料化学、智能教育和建筑设计，四个细分领域内进行了需求分析和方法探索。
第三部分：评估AI算法透明
鉴于现有法律规制大多在宏观层面强调算法透明监管原则，却鲜小有具体措施。因此，我们提出一套相对详细、可实施的评估标准，以细化并落实算法透明度合规要求。
首先，面向算法使用者的AI透明度评估清单的设计目标，在于保障知情权。内容主要分为算法概述与技术信息，要求算法开发方对这些内容进行说明。
算法使用者的AI透明度评估清单相较于面向用户的清单，由于监管方需要根据算法评估内容进行等级评估，所以该技能较为严格，需要说明的内容也更为复杂。
为配合透明度评估清单的使用，我们还提出了透明度评估等级表。面向不同使用场景的算法分为五个等级进行评估，不同等级对于算法开发者应当达到的透明度有不同要求，且逐步加强。
具体这个清单是如何工作的呢？如左图所示，评估流程有助于监管方对算法开发者在事前、事中和事后阶段做出责任分配。
在开发方与使用者方面，开发方遵照透明度用户指南向算法使用者提供算法的透明度指南。之后，使用者需要阅读指南，以此确立两方权责分配并获得知情。
第四部分：AI算法透明实践
我们选择推荐系统作为典型实例，也是因为推荐系统最能体现AI算法透明的要求。如果能让外界理解为什么信息被推荐给乙方，其实就达到了这个场景下的透明度要求。
通过实现推荐系统的透明性，也能提升用户对系统的信任程度，使系统推荐结果得到检验，同时受到有关方面的监管。
考虑到推荐系统目前采用的AI推荐算法众多，所以我们设计了一个推荐系统外的解释系统或算法，用于对推荐系统进行解释或直接作为一个整体对外提供具有解释性质的推荐。
其核心算法是采用知识图谱与强化学习的技术，充分挖掘推荐系统中的可解释模型，以此进行相关的路径挖掘，并利用解释路径对推荐系统行为加以解释。
这里我们采用一九年一个公开的购物网站公布数据进行结果演示，在利用上述算法完成解释系统后，对数据集进行路径挖掘，得到左图所示的结论。
基于上述深层的推理路径，对推荐系统的多个推荐实例进行解释。结果表明，方法不仅能够帮助推荐系统获得有希望的推荐结果，而且能够有效为推荐系统找到不同的用于推荐解释的推理路径。
之后，我们分别将未加入和加入这一解释算法的推荐系统，按照前一章节设计的流程进行算法评估。结果表明，融入解释算法后的推荐系统，在透明度上有明显提升，但监管方也注意到，新的具有解释性质的推荐系统，在技术和社会风险上处理方法上有缺，要求对当前算法做进一步改进，并对提交的材料进行补充。
感谢各位的聆听！以上就是我们小组要汇报的全部内容。
编辑整理：陈龙相关文章
干货 | AI算法透明性实现与评估|今日精选
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。我们主要从分析问题、解决问题、效果评估和实际验证四方面，
业绩快报：视源股份2022年净利润20.69亿 同比增长21.80%_环球讯息
视源股份发布业绩快报，2022年实现营业总收入209 66亿元，同比下降1 23%；归属于母公司股东的净利润20 69亿元，同比上涨21 80%。
Windows定时开启或关闭声音音量_当前热文
场景电脑通常不关机，连接了音箱，部分软件会可能有声音，所以睡觉前需关闭系统声音，有时候忘记关声音就比较烦。于是找到了定时开启或关闭Win
天天微头条丨老黑策略：1.17外汇、黄金、原油分析策略
1 17外汇、黄金、原油分析策略：【美指】美指昨日低开回撤101 5下方后震荡回弹，晚间测压至102 2 3，随后行情基本处于102上方运行，日线最终收
天天视点！入股珠海最大旧改项目,山东能源迈出战投奥园第一步?
焦点财经讯2023年1月15日，据财联社报道，山东能源集团旗下子公司山东健康已入股中国奥园在珠海最大旧改项目翠微项目，持有该项目60%股权，中
甘肃白银：交通网“添翼” 铁旅融合打造“流动名片”
近年来，甘肃省白银市加强文旅融合发展，打造新的经济增长极。（资料图）白银市委宣传部供图中新网兰州1月16日电(刘玉桃)“一年没有回家了...
“三线四档”面临调整，房企头上的“紧箍咒”有望松一松
房企持续两年的降杠杆大潮，或许将面临轻微调整。1月13日，据新华社报道，为贯彻落实中央经济工作会议部署，有效防范化解优质头部房企风险，改
当前视点！马刺主场不敌国王惨遭五连败！萨博尼斯狂轰18+18+8，巴恩斯29分
马刺主场不敌国王惨遭五连败！萨博尼斯狂轰18+18+8，巴恩斯29分,巴恩斯,萨博尼斯,马刺队,萨克拉门托国王队,理查德森
51岁“央视一哥”康辉，疫情下现状曝光：他活成这样，我一点都不意外……|新要闻
2023年春节临近，各地疫情已经陆续过峰。“阳康”的人们开始逐渐回归日常的生活节奏，而没阳的人则成为网友口中“冲进决赛圈”的“天选之人...
干货 | 涉疫数据的安全应用方案_全球速讯
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。第一部分：涉疫数据分类及问题剖析一、涉疫数据分类我们以新
天天热资讯！2023春节成都熊猫基地周边道路交通管制情况
一、2023年1月22日至1月27日每日7：00—16:00，熊猫基地南门(老园区)周边道路实施预约通行管理措施。(一)预约通行管理的道路为：熊猫大道(翠竹
快船8战7负防守正8变倒三：小卡场均23.7+6.7负效果 兼职侵蚀团队
快船8战7负防守正8变倒三：小卡场均23 7+6 7负效果兼职侵蚀团队,小卡,快船队,泰伦·卢,步行者队,丹佛掘金队,保罗-乔治,科怀·伦纳德,篮网险胜老鹰
成功祝福唯美句子(合集154句)
成功祝福唯美句子合集142句1 如果说人生是一望无际的大海，那么挫折则是一个骤然翻起的浪花。如果说人生是湛蓝的天空，那么失意则是一朵飘浮的
世界速递！加息收益抵消投行业务下滑，美银Q4营收和利润均超预期 | 财报见闻
由于利率上升带来的好处，美银2022年Q4净利息收入148亿美元，同比增长29%。由于投资银行和资管收入的下降，抵消了销售和交易收入的增加，非利
【网络中国节·春节】2023年宁夏年货节暨兴庆区“瑞兔迎新 乐逛兴庆”系列促销活动启幕
宁夏新闻网讯（记者姚振国）1月13日，2023年宁夏年货节暨兴庆区“瑞兔迎新乐逛兴庆”系列促销活动正式启幕。兴庆区人民政府投入200万元现金...
新动态：警惕me better“陷阱”，FRα ADC新星前途生变背后
一直以来，“mebetter”策略，为药企打造了一个动听的故事。就像一条捷径，它能够让药企降低原始创新研发的风险，快速通向成功。“药王”礼...
戴璐宣誓时的照片曝光，穿着打扮朴素，举起右手信誓旦旦……
扬州通报干部作风问题 戴璐宣誓时的照片曝光，穿着打扮朴素，举起右手信誓旦旦，一本正经，像良家妇女。更像是有文化，有素质，有内涵，低调
武汉将打造全球领先无人驾驶运营区_世界今热点
武汉将打造全球领先无人驾驶运营区---昨日，百度智能网联汽车产业战略合作项目、集度武汉总部项目双双落户武汉东湖高新区
当前速递！1月12日两市机构大单抢筹40股(名单)
实时行情截至:2023-01-1214:57:01资金流入流出统计股票名称股票代码收盘价涨跌幅大单(万股)买入净量占流通盘比列买入卖出买卖差当日T-1T-2
提升医疗救治能力！南华附一开展新冠医疗重症救治理论培训工作 天天观点
近期，南华大学附属第一医院针对全院医护人员开展为期3天的新冠重症救治理论培训工作。培训以“新型冠状病毒感染诊疗方案”“呼
阿斯利康收购美国生物技术公司CinCor:天天动态
参考消息网1月10日报道据法新社1月9日报道，英国瑞典共同拥有的制药业巨头阿斯利康制药公司周一同意以18亿美元收购美国生物技术(@参考消息)
IPv6板块1月11日涨0.17%，美格智能领涨，主力资金净流出1.56亿元
1月11日IPv6板块较上一交易日上涨0 17%，美格智能(002881)领涨。当日上证指数报收于3161 84，下跌0 24%。深证成指报收于11439 44
富满微(300671.SZ)：拟使用不超1.5亿元闲置募资暂时补充流动资金
格隆汇1月11日丨富满微(300671 SZ)公布，公司于2023年1月10日召开第三届董事会第十八次会议及第三届监事会第十五次会议，审议通过了《关于使用部分闲
“劝百姓拿出1/3存款买房”引热议 专家这样回应-环球热门
近日，知名学者孟晓苏在一次公开采访中称：“中国居民存款又增加了15万亿元，如果有1 3拿出来恢复对房屋、装修等购买，中国经济不就能顺利...
英国军费预算大幅增长 环球微头条
卡塔尔半岛电视台网站1月4日报道，尽管英国所经历的经济危机使其不得不削减政府开支，但这种削减并未体现在国防预算上——英国的国防预算将...
国银金租(01606)与许昌市建设投资订立融资租赁合同 赚息8027.5万元
智通财经APP讯，国银金租(01606)发布公告，该公司作为出租人与承租人许昌市建设投资有限责任公司于2023年1月10日订立融资租赁合同，出租人以代
达仁堂(600329):达仁堂关于对子公司投资的关联交易公告
证券代码：600329证券简称：达仁堂编号：临2023-003号津药达仁堂集团股份有限公司关于对子公司投资的关联交易公告
热推荐：新一部古装爱情剧来袭，替嫁双生女VS冰山王爷，甜宠＋先婚后爱
近几年，古装爱情剧的市场还是蛮不错的，像《梦华录》、《星汉灿烂》等，均取得了不错的成绩，高质量和高口碑的加持下，直接带动了古偶剧的市
