페이스 북의 광고 시스템이 자체 차별 금지 정책을 시행하지 않음

https://techcrunch.com/2017/11/22/facebooks-ad-system-shown-failing-to-enforce-its-own-anti-discriminatory-policy/?ncid=rss

Facebook은 자신의 명시된 표준조차도 준수 할 수 있습니까? 인터넷 정치 광고의 경우 사회 거대한 원하는 자기를 계속하도록 허용하는 규제 -의 스캔들에도 불구하고 러시아어 사회적 분열 광고 구입 (우리가 지금 알고 ) (그리고 2016 년 미국 대통령 선거 기간 동안 민주적 인 토론을가 오염 된 있었다 이상을 ).

' 우리를 통제하지 마라. 우리는 스스로를 조절할 수있다. '는 CEO 인 마크 주커 버그 (Mark Zuckerberg)가 2018 년에 대대적으로 발표 한 새해 프로젝트로 구체화되고있다.

그러나 새로운 ProPublica 조사의 결과에 따르면 단순한 자체 정책으로도 기술 대기업이 실패하고 있음을 알 수 있습니다. 즉 플랫폼을 통해 실행되는 불법적 인 결과를 책임있게 관리 할 수있는 주장을 훼손하고 사례를 보강합니다. 보다 공식적인 규제.

사례 : 1 년 전에 페이스 북은 주택 광고, 고용 광고 및 신용 관련 광고에 대한 민족 호감도 광고 타겟팅을 사용할 수 없게 될 것이라고 말했다.  ProPublica의  조사에 따르면 플랫폼의 광고 타겟팅 기능을 차별 광고, 특히 주택 및 광고에 사용할 수 있다고 제안했다. 그러한 관행은 불법입니다.

이달에 ProPublica 는 수십 개의 임대 주택 광고를 구매하고 Facebook의 광고 플랫폼이 아프리카 계 미국인 및 유대인과 같은 미국 연방 공정 주택 법에 따라 차별을받지 않는 그룹을 제외하도록 요청하면서 Facebook의 활동 을 다시 확인했습니다 .

그 테스트 광고는 뉴욕에 살고있는 집에서 사냥하고 움직일 가능성이 높은 18 세에서 65 세 사이의 사람들을 대상으로 가상의 아파트를 홍보했습니다. 현재 프로페 리아는 특정 "행동"을 제외시켜 관객을 좁히고 있으며, 현재 페이스 북에서 통화하고 있습니다 "히스패닉", "아프리카 계 미국인"및 "아시아 계 미국인"을 포함한 "다문화 계 친척".

그러나 잠재적으로 차별적 인 광고 구매를 막는 플랫폼 대신 ProPublica는 모든 광고가 "이슬람, 수니파 이슬람 및 시아파 이슬람에 관심이있는"잠재적 인 세입자를 제외하는 광고를 포함하여 "수분 만에"Facebook에 의해 승인되었다고보고합니다. 광고는 모든 구매 (22 분)를 승인하는 데 가장 오래 걸렸지 만 나머지는 3 분 안에 승인되었다고합니다.

또한 페이스 북의 시스템은 보호 범주의 다른 구성원을 제외하려고했기 때문에 자기 인증을 위해 적어도 플래그를 붙여야한다고 판단한 광고를 성공적으로 구입했습니다. 그러나 플랫폼은 방금 '축구 엄마', 미국 수화에 관심있는 사람들, 게이 남성 및 휠체어 경사로에 관심있는 사람들을 비롯하여 카테고리에 표시되지 않도록 차단 된 주택 광고를 허용했습니다.

그러나 2 월 에 페이스 북은 새로운 카테고리의 차별 금지 광고 정책을 발표하면서 관심 분야 카테고리의 광고를 식별하는 데 도움이되는 기계 학습 기술 도구를 배포하고 있다고 밝혔다.

"우리는  기존의 차별 금지가 더 강력 해 지도록 정책 을 개정했습니다  . 인종, 민족, 피부색, 출신 국가, 종교, 연령, 성별, 성적 취향, 성 정체성, 가족 상태, 장애, 의학적 또는 유전 적 상태와 같은 개인적 특성을 기반으로 광고주를 차별하지 않을 수 있음을 분명히합니다. 그때 썼다.

새로운 기술 도구 중 Facebook은 다음과 같이 말했습니다. "이렇게하면 광고주에게 알림 및 교육 정보를보다 신속하게 제공하고 정책 위반에 신속하게 대응할 수 있습니다."

Facebook은 새로운 시스템이 어떻게 작동 할 것인지를 설명하면서 "주택, 고용 또는 신용 기회를 제공하는 것으로 광고하는 광고"와 "우리의 다문화 광고 세그먼트를 포함하거나 배제하는 광고를 게재하려고 시도한 광고주는 아프리카 계 미국인, 아시아계 미국인 및 미국계 히스패닉계 지역 사회와 관련된 콘텐츠는 플랫폼이 광고를 승인하지 않는다는 것을 알게 될 것입니다.

새로운 시스템은 또한 우려 카테고리에서 타겟 광고를 구매하려는 모든 광고주가 Facebook의 차별 금지 정책 및 "적용 가능한 차별 금지법"을 준수하고 있음을 스스로 증명하도록 요구할 것입니다.

ProPublica는 이러한 자체 인증 화면을 만나지도 않았으며 광고 구매를 차단하지도 않았다고 말합니다.

"자체 정책에 따라 Facebook은 이러한 광고를 신고해야하며 일부는 게시를 막아야했습니다. 그렇게하지 않으면 회사가 연방 공정 주택 규칙을 준수하고 있는지, 세계에서 가장 큰 소셜 네트워크에서 경찰이 차별적 인 광고를 할 수 있는지에 대한 질문이 되살아납니다.

ProPublica의 발견에 따라 페이스 북은 제품 관리 담당 부사장 인 Ami Vora에 기고 한 성명서를 보냈다. "이것은 우리 집행의 실패 였고 우리는 우리의 공약에 미치지 못해서 실망했다. ProPublica가 구매 한 임대 주택 광고는 기술적 인 실패로 인해 추가 검토 및 인증을 실시했으나 시행하지 않아야합니다. "라고 Vora는 말했습니다.

그녀는 페이스 북의 차별 금지 시스템이 신용, 고용 및 주택 카테고리에서 "수백만 개의 광고를 성공적으로 표시했다"고 주장하면서 계속 진행했지만 페이스 북은 이제 모든 카테고리의 광고에 대해 자기 인증을 요구하기 시작할 것이라고 말했다. .

"우리 시스템은 계속 개선되지만 더 잘할 수 있습니다."라고 덧붙여 말했습니다.

후자의 문구는 이제 콘텐츠 검토 및 검토가 관련된 Facebook에 매우 익숙하지 않습니다. 사회적으로 분열적인 정치적 정보를 제외하고는 올해 극단주의 선전 과 아동 착취 와  같은 콘텐츠의 확산 뿐 아니라 자살과 살인 방송에 사용되는 도구의 여러 사건에 대한 비판이 커지고  있습니다.

정부와 규제 당국에 대한 더 넓은 질문은 페이스 북의 '더 잘할 수있는'시도가 어느 시점에서 충분하지 않다고 판단 할 수 있는가?

ACLU 의 인종 차별 프로그램 (Racial Justice Program)의 변호사 인 레이첼 굿맨 (Rachel Goodman)은 성명서에서 ProPublica의 발견에 대해 "우리는 임대 주택 광고에서 차별을 식별하고 방지하는 Facebook 시스템에서 이러한 심각한 실패를 보게되어 매우 실망했다 . 우리와 다른 지지자들은 주택 타겟팅, 신용 및 고용 광고를 비롯하여 인종, 성별, 종교에 기반한 광고를 사람들이 제외 할 수 있도록 광고 타겟팅 사업에 포함 된 심각한 차별 문제를 해결하기 위해 Facebook이 많은 시간을 보냈습니다. . 우리에 대한 페이스 북의 진술은이 문제가 실질적으로 해결되었음을 나타 냈지만, 지금은 그렇지 않다는 것이 분명 해 보인다.

"페이스 북이이 중요한 민권 문제에 대한 권리를 얻으려는 열정을 계속 표현함에 감사 드리며,이 이야기는 더 큰 투명성과 책임성에 대한 필요성을 강조합니다. 외부의 연구자가 볼 수 있었고 Facebook이이 광고를 잡기 위해 만든 시스템이 연구원은이 문제를 발견하고 차별을위한 메커니즘을 더 빨리 끝낼 수있었습니다. "

이 이야기는 ACLU의 추가 논평으로 업데이트되었습니다.