揭露人工智能中的偏见
图片来源:Getty Images
By 肯尼迪瑞安
2023年12月15日
24岁的李培钊博士是一名计算机科学专业的候选人，她获得了55500美元的奖学金 国家司法研究所研究生研究奖学金.
他的提案被选为24位获奖者之一, “在智能决策中调节数据偏差。.这笔资金将支持他在人工智能公平性方面的研究——纠正有偏见和不公平的人工智能技术，使其非歧视.
而人工智能则被用于为大公司做出自动化决策和完成任务, 许多用于构建软件的数据集包含先入为主的偏见. 这些投入可以直接影响少数民族.
人工智能正被大公司积极用于各种预测, 比如信用风险应用, 欺诈检测, 招聘系统. 这些系统都会影响基于性别、种族和其他形式的身份认同的决策.
“我认为这对美国和社会都非常重要，”李说. “我们每天都在谈论歧视, 但在技术创新中仍有许多对个人的偏见. 我们需要为一个更公平的社会而努力.”
在他的博士课程中，李一直与他的导师， 刘洪福助理教授，以检查人工智能数据集中的偏见. 他们决定在开发这些人工智能系统时, 在处理信息之前清理数据集并寻找这些偏差可以减少这些事件.
“我认为人工智能可以更负责任地使用. 对我们来说，在早期阶段提出关注是很重要的。. “有了这一进展，我们可以期待一个更安全、更公正的结果.”
