당신의 얼굴이 기록된 나라

호주의 독특한 안면 인식 기술 사용은 논란을 일으키고 사생활 보호에 대한 두려움을 불러일으켰지만 사용 규제에 있어 세계적인 선두주자가 될 가능성이 있습니다. 서호주에 거주하는 사람이 코비드-19에 감염되면 밀접 접촉자와 마찬가지로 다음 7일 동안 자가격리를 유지해야 합니다. 경찰은 주기적으로 문자를 보내 행방을 확인하고 15분 이내에 셀카를 보내달라고 요구한다. 경찰 은 셀카를 찍은 사람이 집에 있는지 확인하기 위해 안면 인식 기술과 GPS 추적 을 사용합니다. 그렇지 않은 경우 신속하게 문을 두드리고 막대한 벌금을 부과합니다.

지역 기술 스타트업 Genvis의 G2G 앱은 2020년 9월에 출시된 이후로 주에서 150,000명 이상의 사람들이 사용하고 있습니다. 다른 회사에서 제공했지만 동일한 기술이 뉴사우스웨일스 주에서 시범 운영되었습니다. , 빅토리아, 남호주 및 태즈매니아. 호주는 얼굴 인식 기술을 사용하여 Covid-19 격리 절차를 지원 하는 유일한 민주주의 국가인 반면 다른 국가에서는 그러한 감시에 대한 아이디어를 반대하고 있습니다.

샌프란시스코는 2019년 5월에 얼굴 인식을 사용하여 경찰에 대한 모라토리엄을 도입한 미국 최초의 도시입니다. 캘리포니아의 오클랜드와 매사추세츠의 서머빌이 빠르게 뒤를이었습니다. 아마존 , 마이크로 소프트 , IBM 과 구글 은 연방법 이 있을 때 까지 그들 의 얼굴 인식 알고리즘 을 법 집행 기관 에 판매 하지 않을 것이라고 선언 했습니다 . 2021년 11월, 메타는 페이스북이 10억 개의 "페이스프린트"를 삭제 하고 사진에서 사람들을 태그할 목적으로 기술 사용을 중단할 것이라고 말했습니다.

호주인권위원회(Australian Human Rights Commission)는 호주가 기술의 사용을 규제하는 특정 법률을 마련할 때까지 해당 기술에 대한 중단을 촉구했습니다 . 인권 운동가들은 획득한 개인 데이터가 2차 목적으로 사용될 가능성이 있으며 감시 국가가 되기 위한 미끄러운 경사라고 말합니다. Amnesty와 같은 단체는 안면 인식의 사용이 인종 차별을 초래 한다고 경고합니다 .

"팬데믹은 얼굴 인식 기술 사용에 대한 이러한 모든 새로운 정당성을 창출했습니다."라고 멜버른의 모나시 대학교 미디어 연구 교수이자 곧 출간될 얼굴 인식 이라는 책의 저자인 Mark Andrejevic은 말합니다 . "모든 것이 온라인 상태가 되었고 조직은 일을 매우 빠르게 하려고 노력했습니다. 그러나 그 의미는 깊이 생각되지 않았습니다. 우리는 모든 것이 렌더링되고 사적인 공간이 없는 세상에 살고 싶습니까? 완전히 새로운 수준을 만듭니다. 건강한 사회로 이어지지 않는 스트레스"

얼굴 인식 기술의 사용에 대해 대중과 운동가로부터 상당한 반발이 있었습니다(Credit: Fight for the Future)

G2G 앱을 사용하려면 동의가 필요하며, 2020년 호주 블랙 썸머 산불 여파로 신분증을 분실한 사람들이 얼굴 인식을 사용하여 재난 구호 수당을 받을 수 있었던 상황에서도 동의가 필요했습니다 . 하지만 안면인식 기술이 은밀하게 활용되는 사례도 있다.

지난 10월 편의점 그룹 세븐일레븐(7-Eleven)이 만족도 조사를 완료한 호주 고객 160만 명의 얼굴 지문을 수집 해 고객의 사생활을 침해한 사실이 적발됐다 . 얼굴 지문은 인구 통계학적 프로필을 얻고 직원이 평가를 높여 설문 조사를 게임하는 것을 방지하기 위해 얻은 것으로 알려져 있습니다. 벌금은 받지 않았습니다.

호주 내무부는 2016년에 국가 안면 인식 데이터베이스를 구축하기 시작했으며 이를 출시할 준비가 된 것으로 보입니다. 1월에 회사가 데이터를 " 구축 및 배포 " 하기 위한 입찰을 제출했습니다 .

Andrejevic은 "안면 인식은 상대적으로 널리 보급되기 시작했습니다."라고 말합니다. "호주는 정부 서비스에 대한 액세스를 허용하기 위해 안면 인식을 사용할 준비를 하고 있습니다. 그리고 법 집행 기관 사이에는 이러한 도구에 대한 액세스 권한이 분명히 있습니다."

대부분의 주 정부는 중앙 데이터베이스에 거주자의 운전 면허증을 제공했으며 데이터베이스에는 비자 및 여권 사진도 저장됩니다.

안면 인식 기술을 규율하는 법률 은 2019년에 제안 되었지만 의회 위원회 검토에서 적절한 개인 정보 보호가 부족하다는 사실이 밝혀지면서 보류되었습니다. 가장 강력한 비평가 중에는 당시 오스트레일리아 인권 위원인 에드워드 산토우(Edward Santow)가 있었습니다.

프로토타입 안면 인식 기술이 곤경에 처한 사람들을 감지하는 데 사용할 수 있는 방법을 보여줍니다(제공: Getty Images)

Santow는 "우리는 현재 전용법이 없는 최악의 상황에 처해 있기 때문에 완전히 효과가 없고 확실히 포괄적이지 않은 몇 가지 단편적인 보호 조치를 취하고 있습니다."라고 말합니다. "그래도 이 기술은 계속 배포되고 있습니다."

Santow는 시드니 공과대학(University of Technology)의 팀과 함께 개인 정보 보호 조항을 보다 강력하게 만드는 방법을 연구하고 있습니다.

 

다양한 글로벌 대응

 

프로젝트의 일부는 얼굴 인식 기술을 규제하려는 다른 국가의 시도를 조사하는 것과 관련이 있습니다. 전 세계적 으로 완전히 다른 접근 방식이 있습니다 . 가장 일반적인 것은 Santow가 문제를 적절하게 해결하지 못한다고 말하는 소수의 제한된 개인 정보 보호에 의존하는 것입니다. 호주가 그렇습니다.

Santow는 "전 세계 어느 나라도 이를 제대로 하지 못했습니다."라고 말합니다. "[프라이버시 보호가 적절하다면] 이 프로젝트는 정말 간단한 프로젝트가 될 것입니다."

Leila Nashashibi는 얼굴 인식 및 기타 형태의 생체 인식 식별자에 대한 연방 금지령을 달성하기 위해 노력하고 있는 미국 기반의 옹호 단체인 Fight for the Future의 운동가입니다.

그녀는 "핵 에너지 및 생물학 무기와 마찬가지로 안면 인식은 잠재적인 이점보다 훨씬 더 중요한 인간 사회와 우리의 기본적 자유에 위협이 됩니다."라고 말합니다. "안면 인식은 전체 인구에 대한 자동화된 유비쿼터스 모니터링을 가능하게 하기 때문에 다른 형태의 감시와 달리 회피가 거의 불가능할 수 있습니다. 확산되면 사람들은 사회 운동 및 정치 시위에 참여하는 것을 너무 두려워하게 될 것입니다. 언론의 자유 식을 것이다."

 

페이스프린트를 위한 소셜 미디어 스크랩

 

가장 저명한 안면 인식 기술 제공업체인 미국 회사 Clearview AI는 다양한 관할권에서 축적되고 있는 소송과 막대한 벌금에도 단념하지 않는 것으로 보입니다. 억만장자가 딸의 저녁 식사 날짜를 식별하는 데 사용 했을 때 처음으로 언론의 주목을 받았으며 현재 우크라이나 정부에서 죽은 러시아 군인을 식별하는 데 사용하고 있습니다. 그들의 가족은 소셜 미디어를 통해 알림을 받으며 사진이 첨부 파일로 전송되기도 합니다.

범죄를 예방하기 위해 실시간으로 실행 가능한 정보를 생성하는 얼굴 인식 – Mark Andrejevic

또한 미국의 학교에서 "방문자 관리 시스템"으로 사용되는 기술을 찾고 있는데, 예를 들어 퇴학당한 학생의 얼굴을 인식하여 학교 총격을 방지하는 데 사용될 수 있다고 생각합니다. 안면 인식 및 물체 인식 기술은 숨겨진 무기를 식별할 수 있는 물체 인식을 포함하여 이미 여러 제공업체에서 여러 학교에서 시험을 거쳤습니다 .

Nashashibi는 "Clearview AI는 감시와 치안 유지가 답이라고 말함으로써 사람들의 공포와 트라우마를 악용하고 있습니다."라고 말합니다.

Clearview AI의 호주 CEO이자 설립자인 Hoan Ton-That은 이에 동의하지 않습니다. 그는 얼굴 인식 기술이 승인된 사람만 학교와 같은 건물에 접근할 수 있도록 보장할 수 있기 때문에 범죄 예방에 큰 잠재력이 있다고 말합니다.

"우리는 우리의 기술이 법 집행 기관에서 총기 밀매를 막는 데 큰 성공을 거두는 것을 보았고 우리 기술이 미래에 비극적인 총기 범죄를 예방하는 데 사용될 수 있기를 희망합니다."라고 그는 말합니다.

호주에서는 테러 용의자나 금지된 축구 훌리건의 입장을 방지하기 위해 여러 경기장 에서 안면 인식 기술이 사용되고 있습니다. Andrejevic은 보안 조치로 안면 인식을 사용하는 것이 감시의 중요한 단계이며 신중한 고려가 필요하다고 생각합니다.

그는 "CCTV는 사실이 확인된 후에만 증거를 허용한다는 비판을 받는 반면, 얼굴 인식은 범죄를 선제하기 위해 실시간으로 실행 가능한 정보를 생성한다"고 말했다. "그것은 보안에 대한 매우 다른 개념입니다."

실시간 얼굴 인식은 이미 전 세계의 일부 경찰에서 사용하고 있습니다. 예를 들어 런던의 메트로폴리탄 경찰 은 수배자 또는 대중에게 위험을 초래할 수 있는 사람들의 "감시 목록"에 대한 특정 영역을 모니터링하는 데 이 기능을 사용합니다.

얼굴 인식 데이터는 생체 인식 마커라는 코드 문자열로 저장됩니다(제공: Alamy).

Clearview는 주로 동의 없이 소셜 미디어에서 사진을 스크랩하여 200억 개의 얼굴 이미지에 대한 검색 가능한 데이터베이스를 만들었습니다. Ton-That은 회사가 중국, 북한, 이란과 같은 권위주의 정부와 협력하지 않을 것이라고 말했습니다. 그러나 일부 민주주의 국가에서 문제가 발생했습니다. 캐나다와 호주에서 금지되었으며 5월 24일 영국 정보 위원회(ICO) 는 호주 정보 위원회(Office of the Australian Information Commissioner)와의 공동 조사에 따라 750만 파운드(미화 910만 달러) 이상의 벌금을 부과했습니다 . 시스템에서 영국 거주자의 데이터를 삭제하라는 명령을 받았습니다. 2021년 12월, 프랑스의 개인정보 감시단체는 Clearview가 유럽의 GDPR(일반 데이터 보호 규정)을 위반한 사실을 발견했습니다.

Santow는 호주의 목표는 긍정적인 응용 프로그램의 사용을 장려하고 피해를 방지하기 위해 가드레일을 부과하는 미묘한 접근 방식을 개발하는 것이라고 말합니다. 최악의 시나리오는 중국의 "사회 신용" 시스템을 복제하는 것입니다. 중국에서는 개인과 조직을 추적하여 "신뢰도"를 결정합니다.

Santow는 "사용이 유익한지 유해한지를 결정할 때 전 세계 거의 모든 관할권에 존재하는 기본 국제 인권 프레임워크를 참조합니다."라고 말합니다.

예를 들어, 법률은 얼굴 인식을 사용하기 위해 무료 및 정보에 입각한 동의를 요구할 것입니다. 그러나 기술이 특정 그룹과 관련하여 부정확성을 통해 차별을 유발했다면 동의는 무의미해질 것입니다. Santow가 말했듯이: "당신은 차별받는 것에 동의할 수 없습니다."

 

점점 더 정교해지고 강력해짐

 

O'Hara는 "향후 몇 년 안에 사람들이 완전히 안전하지 않은 비밀번호를 사용하는 방식이 크게 바뀌는 것을 보게 될 것입니다. 생체 인식이 기본이 될 것입니다."라고 말합니다.

얼굴 인식은 얼굴을 일련의 기하학적 모양으로 나누고 코, 눈, 입과 같은 "랜드마크" 사이의 거리를 매핑하여 작동합니다. 이 거리는 다른 얼굴과 비교하여 생체 마커라는 고유 코드로 변환됩니다.

보안 회사 Mimecast의 현장 수석 기술자인 Garrett O'Hara는 "안면 인식 앱을 사용하여 휴대폰을 열 때 휴대폰에 저장되는 것은 얼굴 사진이 아닙니다."라고 설명합니다. "그것은 당신의 얼굴이 수학적으로 무엇인지에 대한 알고리즘 파생물을 저장합니다. 그것은 문자와 숫자의 긴 코드처럼 보입니다."

얼굴 인식은 1960년대에 처음 개발된 이후로 많은 발전을 이루었지만 오늘날 사용되는 시스템마다 오류율이 크게 다릅니다. 처음에는 형제자매를 구별하거나 나이가 들면서 얼굴이 변하는 것을 구별할 수 없었습니다. 이제는 마스크 나 선글라스 를 착용한 사람을 식별할 수 있을 정도로 정교 하고 1km 이상 떨어진 곳 에서도 식별할 수 있습니다 .

국립 표준 기술 연구소(National Institute of Standards and Technology)의 테스트에 따르면 최고의 얼굴 식별 알고리즘은 오류율이 0.08%에 불과 합니다. 그러나 이 수준의 정확도는 얼굴 특징이 명확하고 흐릿하지 않고 조명이 좋고 개인이 카메라를 향하고 있는 이상적인 조건에서만 가능합니다. "야생"에서 포획된 개인  의 오류율은 최대 9.3%입니다.

"굉장히 유용한 기술입니다. 하지만 누군가 20년 전에 월드와이드 웹이 언제 시작됐는지 우리의 상호 작용과 활동이 수집되고 추적되는 세상에서 살고 싶냐고 묻는다면 우리 대부분은 아마도 이렇게 대답했을 것입니다. 소름 끼치게 들렸다"고 오하라가 말했다. "우리는 이제 물리적 공간도 포함하도록 온라인 공간의 추적을 복제하고 있습니다. 그리고 우리가 있어야 할 질문을 하지 않습니다."

가장 문제가 되는 측면 중 하나는 인종 차별과 편견의 가능성입니다 . 대부분의 얼굴 인식 애플리케이션은 초기에 커뮤니티 전체를 대표하지 않는 데이터 세트를 사용하여 훈련되었습니다.

O'Hara는 "초기에는 사용된 데이터 세트가 모두 백인 남성이나 일반적으로 백인에게서 가져왔습니다."라고 말합니다. "그리고 분명히 훈련 모델과 일치하지 않는 유색인종이나 다른 민족 또는 배경을 가진 사람들이 있을 때 문제가 발생합니다. 결국, 그것은 수학일 뿐입니다. 이것이 문제입니다."

대표 데이터가 없으면 안면 인식 기술이 여성과 장애인을 인종적으로 차별하고 오인하는 것으로 밝혀졌습니다(제공: Getty Images)

그 결과 안면인식 시스템은 소수민족, 여성, 장애인, 노인 등을 인식하려 할 때 오류가 발생하기 쉽다. Nashashibi 는 그 사용으로 인해 위조 체포 및 기타 삶의 변화가 발생했다고 지적합니다.

 

딥 페이크는 사기를 새로운 차원으로 끌어 올립니다.

 

지문, 홍채 스캔, 걸음걸이 분석 또는 모세관 판독 등 어떤 형태의 생체 인식도 완벽하지 않습니다. 기술이 더욱 정교해짐에 따라 해커가 자신의 이익을 위해 이를 조작하려는 시도도 증가합니다. 딥 페이크는 특히 디지털 얼굴 인식(즉, 사진)과 관련하여 사기 기술의 진화로 등장했습니다.

"애니메이션 도구를 사용하여 딥 페이크를 만드는 데 몇 시간이 걸렸지만 이제는 몇 분이면 됩니다."라고 암스테르담에 있는 Sensity AI의 공동 설립자인 Francesco Cavalli는 말합니다. "3D 딥 페이크를 만들려면 사진 한 장만 있으면 됩니다. 즉, 사기꾼이 작전을 확장할 수 있고 공격이 급증하고 있습니다. 개발자나 엔지니어가 될 필요도 없습니다. 스스로 할 수 있습니다. 수많은 다른 사람의 얼굴을 복제할 수 있는 앱을 제공합니다."

Sensity AI는 정부, 금융 기관, 심지어 데이트 웹사이트에서 코로나19 구호금을 받거나, 은행 계좌에 세탁한 돈을 저장하거나, Tinder에서 누군가를 협박하는 등 사기성 애플리케이션을 찾아내는 데 도움이 됩니다. 적외선 활성도 테스트는 누군가가 온라인으로 사진을 찍을 때 체온과 깜박임을 결정합니다. 이는 "인조" 사람의 사진이 감지된다는 것을 의미합니다.

"어느 시점에서 사기꾼들은 우리의 다양한 모델을 속이는 방법을 알아내므로 우리는 지속적으로 새로운 기술을 개발해야 합니다."라고 그는 말합니다.

현재까지 규제를 향한 여정의 어려움에도 불구하고 Santow는 호주가 안면 인식 규제 분야에서 세계적인 리더가 될 수 있다고 낙관합니다. "연방 및 주 정부를 대신하여 말할 수는 없습니다. 하지만 지역 사회에 대한 강한 우려가 있고 기술에 대한 신뢰를 구축할 필요가 있다는 것을 알고 있습니다."

"호주는 여러 가지 이유로 좋은 모델을 제공할 수 있습니다."라고 그는 덧붙입니다. "우리는 인권에 대한 강력한 제도적, 기업적 존중을 가지고 있습니다. 완벽하지는 않지만 국가로서 우리가 누구인지에 대한 기본입니다. 우리는 또한 정교한 기술 개발자이자 채택자입니다."

"나는 완벽한 법을 만드는 것이 아니라 법 자체가 무시되지 않도록 하는 것이 가장 큰 도전이라고 생각합니다."