라이트 에이드, 얼굴인식 기술 동결 5년 동안! FTC와 합의

라이트 에이드, 안면 인식 기술 5년 사용 금지에 합의하고 공정위와 합의

미국 드럭스토어 체인인 Rite Aid가 미국 연방거래위원회(FTC)와 5년간 감시 목적으로 안면 인식 기술을 사용하지 않기로 합의했습니다. 이 결정은 Rite Aid의 기술 오용이 소비자에게 부정적인 영향을 미쳤다는 FTC의 고발에 따른 것입니다. 2012년부터 2020년까지 Rite Aid는 잠재적 절도범을 식별하기 위해 AI 기반 안면 인식 소프트웨어를 도입했습니다. 그러나 FTC는 이 시스템이 무고한 고객을 오인하는 경우가 많았고 유색인종에게 불균형적인 영향을 미쳤다는 사실을 발견했습니다.

라이트 에이드가 사용한 안면 인식 시스템에는 수백 개의 매장에 설치된 AI 기반 얼굴 스캔 기술이 포함되었습니다. 그 목적은 도난 사고를 감지 및 방지하고 기타 고객 관련 문제를 해결하는 것이었습니다. 그러나 FTC는 적절한 안전장치가 부족하고 시스템의 부정확성과 인종적 편견으로 인해 직원들이 종종 고객에게 부당하게 절도 혐의를 씌운 사실을 발견했습니다.

FTC의 소비자 보호국 국장인 사무엘 레빈은 Rite Aid의 무분별한 얼굴 감시 시스템 사용에 대해 우려를 표명하며 고객에게 굴욕감과 피해를 입혔다고 말했습니다. 그는 불공정한 생체 인식 감시 및 데이터 보안 관행으로부터 대중을 보호해야 한다고 강조했습니다. 따라서 Rite Aid에 대한 FTC의 명령은 획기적인 조치입니다.

부당한 고발과 미흡한 안전장치

FTC는 라이트 에이드의 안면 인식 시스템이 매장에 들어오는 고객의 얼굴을 스캔하여 절도 용의자 또는 확진자의 광범위한 데이터베이스와 비교하는 방식으로 작동한다고 밝혔습니다. 일치하는 사람이 발견되면 Rite Aid 직원에게 경고를 보내 신원이 확인된 사람을 면밀히 모니터링하도록 했습니다. 하지만 이 시스템은 거친 감시 영상과 휴대전화의 저화질 이미지에 의존했기 때문에 일치하는 사람을 찾아내는 데 신뢰성이 떨어졌습니다. 그 결과, Rite Aid의 직원들은 범죄 행위를 목격하지 못한 채 무고한 고객을 추적하거나 법 집행 기관에 연루되는 경우가 많았습니다.

또한 Rite Aid는 고객에게 안면 인식 기술의 활용에 대해 알리지 않았고 직원들에게 고객과 언론으로부터 안면 인식 기술 사용 사실을 비밀로 하도록 지시했습니다. FTC는 또한 Rite Aid가 미공개 회사 두 곳과 협력하여 수만 장의 이미지가 포함된 ‘요주의 인물’ 데이터베이스를 구축한 사실도 발견했습니다.

영향 및 규제 환경

10월에 파산 보호를 신청한 라이트에이드는 현재 진행 중인 파산 소송을 감독하는 법원의 승인을 조건으로 FTC와 합의했습니다. 이 사건은 AI에 초점을 맞춘 일관된 규제와 엄중한 처벌을 약속하는 유럽연합의 AI 법과는 대조적으로 미국 내 AI 규제의 분산된 특성을 강조합니다.

도미노 데이터 랩의 데이터 과학 전략 및 에반젤리즘 책임자인 켈 칼슨은 진화하는 미국의 규제 환경에 대해 언급했습니다. 그는 기업들이 연방 기관, 주 및 지방 자치 단체 의원들의 다양한 규제에 직면해 있으며, 주로 AI 자체보다는 데이터 오용을 겨냥하고 있다고 강조했습니다. 이로 인해 AI 관련 위반에 대한 처벌은 비교적 경미합니다.

결론적으로, Rite Aid와 FTC의 합의는 안면 인식 기술의 오용 문제를 해결하고 소비자의 권리를 보호하는 데 있어 중요한 진전이라고 할 수 있습니다. 감시 목적의 안면 인식 금지는 이 기술과 관련된 인종적 편견과 부정확성을 바로잡는 동시에 미국 내 포괄적이고 일관된 AI 규정의 필요성을 강조하는 데 목적이 있습니다.