主题一负责任的智能研究进展

ditihekhatun16

主题二负责任的人工智能产品研究主题三工具与技术主题四展示人工智能的社会效益主题一负责任的人工智能研究进展机器学习研究当机器学习系统在现实世界中使用时它们可能无法按预期方式运行从而降低其实现的收益。我们的研究确定了可能出现意外行为的情况以便我们可以减轻不良结果。在几种类型的机器学习应用中我们发现模型通常是不明确的这意味着它们在训练的情况下表现良好但在新情况下可能不稳健或不公平因为模型依赖于虚假相关性—不可概括的特定副作用。这给机器学习系统开发人员带来了风险并需要新的模型评估实践。


我们调查了机器学习研究人员目前使用的评估实践并在解决常见机器学习陷阱的工作中引入了改进的评估标准。我们确定并演示了缓解因果捷径的技术这些捷径导致机器学习系统缺乏稳健  格鲁吉亚电话号码列表 性以及对年龄或性别等敏感属性的依赖。快捷学习年龄影响正确的医疗诊断。为了更好地了解鲁棒性问题的原因和缓解措施我们决定深入研究特定领域的模型设计。在计算机视觉领域我们研究了新的视觉变换器模型的鲁棒性并开发了新的负数据增强技术来提高其鲁棒性。对于自然语言任务我们同样研究了不同的数据分布如何提高不同群体的泛化能力以及集成和预训练模型如何提供帮助。我们机器学习工作的另一个关键部分涉及开发技术来构建更具包容性的模型。




例如我们寻求外部社区来指导我们使用参与系统来了解我们的评估何时以及为何不足该系统明确支持预测的共同所有权并允许人们选择是否披露敏感主题。社会技术研究为了在人工智能开发和评估中纳入多种文化背景和声音我们加强了基于社区的研究工作重点关注代表性较少或可能经历人工智能不公平结果的特定社区。我们特别研究了对自然语言和性别包容性健康等背景下的不公平性别偏见的评估。这项工作正在推进对不公平性别偏见的更准确评估以便我们的技术能够评估和减轻对酷儿和非二元身份人士的伤害。除了公平性方面的进步之外我们在开发文化包容性人工智能方面也取得了重要里程碑。