加拿大移民部使用的AI 居然也被指责种族歧视

蜡笔小刚

加拿大移民部使用的AI 居然也被指责种族歧视
| 2018-09-27 09:02:06
一份来自多伦多大学的报告显示，加拿大移民局目前使用的人工智能筛选系统，存在着歧视候选人的问题。报告认为，移民及难民申请对于申请者来说意义重大，有时甚至是生死一线的区别。研究报告的作者Petra Molnar呼吁联邦政府公开更多的信息，让移民流程更加透明。 2 V' l' k1 l* b% A 0 X5 f% a; N( {" w) W 　　报告中提到，政府在尝试着使用最新的技术，但在缺乏明确的保护措施下，在移民与难民问题上使用AI将会是是一件风险极高的事情。Molnar表示，AI并不是一个中立的机器。当样本有偏差时，算法也会根据这些偏差样本形成难以被改变的偏见性判断。 　　在今年早些时候，加拿大移民局开启了两个实验性项目，用于审核来自中国与印度的临时签证申请者。移民局方面表示，这样的实验性项目，是为了检测目前的人工智能技术能否帮助提高处理签证的效率。这些试验项目将仅仅会将申请者归类，而不会做出最终的决定。是否向这些申请者颁发签证，还是会有移民官员最终决定。   f2 M- h& l, u' K6 k/ e 　　而在难民申请方面，机器学习下的人工智能暴露了更多的问题。在过去的研究当中发现，人工智能在种族与性别上存在的很大的偏见。在过往的案例中，存在着一部分种族受到过度审查的不良案例。 　　对此，移民部方面回应称，采用最新技术的最终目的并不是为了取代人工在决策方面的作用，而是为了帮助移民官员做出更好的决定。

; m0 M- |6 |: i4 D; O