이 기사는 해당 기사의 후속 기사입니다. 6개월 전, 마이크로소프트가 인종 차별적인 것으로 판단된 안면 인식 소프트웨어를 수정하기 위해 노력하고 있다는 소식을 전했습니다. 이제 같은 회사가 편견을 방지하기 위해 안면 인식을 규제해야 한다고 요구하고 있습니다. 편향된 소프트웨어로 미세하게 조정해 온 마이크로소프트는 이제 다른 누구도 인종 차별적인 소프트웨어를 사용하지 못하도록 업계 전체를 규제해야 한다고 주장하고 있습니다.
로압 스리유에스
초기 문제
20.8월에 보도했듯이, 마이크로소프트의 Azure 기반 UI API는 연구 논문에서 비판을 받았습니다. 해당 프로그램은 피부색이 어두운 사람이나 여성을 인식하는 데 어려움을 겪었습니다. 오류율은 XNUMX%에 달했지만, "남성보다 밝은" 얼굴의 경우 오류율은 XNUMX%였습니다.
이러한 인식의 불일치는 AI가 사람에 의해 프로그래밍되어야 하기 때문입니다. 결과는 프로그래밍한 사람에 따라 달라질 것입니다. 마이크로소프트 프로그래머들은 피부색이 어두운 사람이나 여성을 충분히 활용하지 않았습니다.
Microsoft는 훈련 데이터를 다양화하고 시스템 배포 전 내부 테스트를 시작하여 이 문제를 해결했습니다. 그 결과, 피부색이 어두운 사람의 오류율은 최대 20배, 여성의 오류율은 최대 9배까지 줄일 수 있었습니다.
입법을 추진하다
6개월 후에 나는 물었다 Microsoft는 정부에 얼굴 인식 기술 테스트를 요구하는 법안을 통과시킬 것을 촉구했습니다. 정확성을 보장하고, 편견을 방지하며, 사용자의 권리를 보호하기 위해 독립적으로 운영됩니다.
마이크로소프트의 수석 컨설턴트인 브래드 스미스는 블로그 게시물에서 "얼굴 인식 기술은 말하자면 막 병에서 나온 것"이라고 말했습니다.
우리가 행동하지 않으면 5년 후, 안면 인식 서비스가 사회 문제를 악화시키는 방식으로 확산된 것을 발견하게 될 위험이 있습니다. 그리고 그때쯤이면 이러한 문제들을 해결하기는 훨씬 더 어려워질 것입니다.
이 회사에서는 얼굴 인식 결과를 컴퓨터에 맡기는 대신, 사람이 직접 검토하도록 요구합니다.
"여기에는 소비자에게 신체적 또는 정서적 피해를 입힐 위험이 있는 결정, 인권이나 기본권에 영향을 미칠 수 있는 결정, 소비자의 개인적 자유나 사생활이 침해될 수 있는 결정이 포함됩니다."
또한 스미스는 얼굴 인식을 사용하는 사람들은 "개별 소비자나 소비자 그룹에 대한 차별을 금지하는 법률을 준수해야 하는 의무에서 면제되지 않는다는 사실을 인식해야 한다"고 제안했습니다.
그는 또한 정부의 얼굴 인식 사용이 국민의 민주적 자유와 인권을 침해하지 않는지 확인하고 싶어했습니다.
그는 "우리는 2024년이 1984년의 한 페이지처럼 보이지 않도록 해야 합니다."라고 결론지었습니다.
게다가 그것
물론 마이크로소프트의 말이 맞습니다. 6개월 전까지만 해도 소프트웨어가 차별을 두지 않도록 주의해야 한다는 사실을 깨닫지 못했다는 점이 흥미롭습니다. 하지만 이제는 그 사실을 깨달았을 뿐만 아니라, 다른 누구도 같은 실수를 저지르지 않도록 하려는 의지를 보이고 있습니다. 그리고 실제로 그렇게 되었습니다.
이전 입장과는 관계없이, 마이크로소프트가 얼굴 인식 옵션에 대한 입법 및 감독을 요구하는 것은 정당할까요? 아래 댓글란에 마이크로소프트의 요청에 대한 여러분의 생각을 남겨주세요.
