无人驾驶汽车更难检测到孩子和深肤色行人

据报道，无人驾驶汽车不能像检测浅色皮肤的成年人那样检测到儿童和深色皮肤的行人。

伦敦国王学院的研究人员对8000多张图像测试了8个人工智能行人检测系统，发现成年人检测行人的能力比儿童高20%。研究还发现，该软件对浅色皮肤的行人的准确率比对深色皮肤的行人高7.5%。

研究人员指出，这个问题很大程度上是因为人工智能模型是针对照片进行训练的，这些照片中白皮肤的人比黑皮肤的人更多。因此，这些程序更容易检测到白皮肤的行人，因为他们知道这一点。

进行这项研究的科学家之一张杰博士在一份声明中表示，尽管不公平的人工智能系统的影响已经有了很好的记录，从有利于男性申请者的人工智能招聘软件，到针对黑人女性的面部识别软件不如白人男性准确，但自动驾驶汽车可能构成的危险是尖锐的。以前，少数族裔个人可能被剥夺了重要的服务，现在他们可能面临严重的伤害。

与此同时，在该系统对深肤色个体的检测中，它还发现，在低对比度和低亮度的情况下，偏见会明显恶化，当夜间使用人工智能行人检测系统时，可能会导致更危险的情况。

汽车制造商没有公布他们用于行人检测的软件的细节。但科学家们声称，这些程序通常建立在他们在研究中使用的相同的开源系统上。

研究人员建议政府与汽车制造商合作，围绕人工智能及其培训方式制定法规，特别是确保其得到公平培训。