Big Tech는 허위 정보를 처리하거나 벌금에 처해야 한다고 EU는 말합니다.

Google 및 Meta와 같은 대규모 기술 회사는 딥페이크 및 가짜 계정에 대한 조치를 취해야 합니다. 그렇지 않으면 막대한 벌금이 부과될 수 있습니다.

딥페이크는 한 번도 해보지 않은 일을 하는 사람을 묘사하기 위해 사람의 초상을 사용하는 비디오입니다.

디지털 서비스법(DSA)이 지원하는 새로운 EU 규정은 기술 회사가 플랫폼에서 이러한 형태의 허위 정보를 처리하도록 요구할 것입니다.

기업이 이를 준수하지 않을 경우 전 세계 매출의 최대 6%까지 벌금이 부과될 수 있습니다.

강화 된 코드 는 플랫폼의 허위 정보 및 가짜 뉴스로 인한 이익을 방지하고 정치 광고에 대한 투명성을 높이고 봇, 가짜 계정 및 딥페이크와 같은 '새로운 악성 행위'의 확산을 억제하는 것을 목표로 합니다.

Clubhouse, Google, Meta, TikTok, Twitter 및 Twitch는 향상된 코드의 33개 서명자 중 하나이며 새로운 규칙에 동의하기 위해 함께 협력했습니다.

코드에 서명한 회사는 2023년 초까지 코드 구현에 대한 초기 보고서를 제공해야 하는 모든 서명자와 함께 EU와 더 많은 정보를 공유해야 합니다.

EU에서 월간 활성 사용자가 4,500만 명이 넘는 플랫폼은 6개월마다 위원회에 보고해야 합니다.

메타의 글로벌 업무 사장인 닉 클레그(Nick Clegg)는 트위터 에 "잘못된 정보의 확산을 막는 것은 복잡하고 진화하는 사회적 문제"라고 썼다.

"우리는 계속해서 팀과 기술에 막대한 투자를 하고 있으며 함께 해결하기 위해 더 많은 협력을 기대합니다."

트위터 대변인은 회사가 업데이트된 코드를 환영한다고 말했습니다.

성명서는 “트위터는 이 강령을 통해 그리고 그 너머로 계속해서 변화하는 환경에서 우리의 접근 방식을 평가하고 발전시키는 동안 잘못된 정보와 허위 정보를 해결하기 위해 최선을 다하고 있습니다.”라고 말했습니다..

딥페이크의 위험성은 무엇입니까?

Deepfakes는 정치인, 유명인 및 일반 시민을 대상으로 악의적으로 사용되는 새로운 형태의 허위 정보로 확인되었습니다.

최근 몇 년 동안 그들은 노골적인 성적 자료에 개인의 얼굴이 매핑된 음란물과 점점 더 연관되어 왔습니다.

Deepfakes 전문가 Nina Schick은 합의되지 않은 음란물 딥페이크가 오늘날 악의적인 딥페이커의 주요 형태이며 특히 Michelle Obama, Natalie Portman, Emma Watson을 비롯한 유명 인사들에게 영향을 미친다고 말합니다.

러시아-우크라이나 전쟁 중에 세계 지도자들의 가짜 비디오가 온라인으로 공유되면서 정치적인 영역에서 딥페이크의 사용에 대한 우려도 제기되었습니다 .

베라 주로바(Věra Jourová) 유럽연합 집행위원회(European Commission) 가치 및 투명성 담당 부회장은 "이 새로운 허위정보 방지법은 러시아가 우크라이나에 대한 군사적 침략의 일환으로 허위정보를 무기화하고 있는 시기에 나온 것"이라며 "또한 우리가 민주주의에 대한 공격을 더 많이 목격할 때"라고 말했다. 대체로."

"우리는 이제 온라인에서 허위 정보의 영향을 줄이기 위한 매우 중요한 약속과 모든 국가와 모든 언어로 EU 전역에서 이러한 정보가 구현되는 방식을 측정하기 위한 훨씬 더 강력한 도구를 가지고 있습니다."

'양날의 검'

Ms Schick은 악성 딥페이크를 개발하는 데 필요한 도구와 앱의 가용성 증가를 인용하면서 딥페이크와 실제 영상을 구별하는 것이 앞으로 몇 년 동안 더 어려워질 것이라고 말했습니다.

딥페이크는 말썽꾼이 허위 정보를 직접 퍼뜨리는 것을 허용하지만 온라인 플랫폼에서 더 널리 퍼지면서 정보 불확실성의 분위기를 조성하고 있으며 이는 추가 조작의 여지가 있습니다.

예를 들어, 책임을 회피하려는 사람들은 진짜 영상을 딥페이크로 무시할 수 있습니다.

이는 시민들이 진정한 콘텐츠를 인식하고 규제 기관과 플랫폼이 이에 대한 조치를 취하는 것을 더욱 어렵게 만듭니다.

"당신에게는 이런 종류의 양날의 검이 있습니다. 무엇이든 위조할 수 있고 모든 것을 부정할 수 있습니다."라고 Schick은 말합니다.

메타 최고 경영자 마크 주커버그의 원본 영상과 딥페이크 영상 비교

최근 몇 년 동안 빅 테크 기업은 플랫폼에서 딥페이크를 감지하고 대응하기 위해 노력했습니다. 이해 관계자 중 Meta와 Microsoft 는 2019년 AI 연구원을 위한 딥페이크 감지 챌린지 를 시작했습니다.

그러나 플랫폼은 "너무 자주 딥페이크를 무화과 잎으로 사용하여 기존 형태의 허위 정보에 대해 충분한 조치를 취하지 않는다는 사실을 은폐합니다"라고 Schick은 말합니다.

"그들은 가장 만연하거나 악의적인 형태의 허위 정보가 아닙니다. 우리는 이미 더 많은 해를 끼치고 있는 많은 기존 형태의 허위 정보를 가지고 있습니다."

수정된 EU 코드에 따라, 가짜 참여, 사칭 및 봇 기반 증폭을 생성하는 조정된 위조 행위에 참여하는 계정도 관련 기술 회사에서 주기적으로 검토해야 합니다.

그러나 Schick은 딥페이크가 온라인에서 "가장 강력한 형태의 허위 정보"가 될 가능성이 여전히 있다고 덧붙였습니다.

"이 기술은 상대적으로 빠르게 점점 더 널리 보급될 것이므로 우리는 앞장서야 합니다."라고 그녀는 말합니다.

블롭스와 블로스

지난 4월 유럽의회와 EU 회원국이 합의한 DSA는 오프라인에서 불법인 것은 온라인에서도 불법이어야 한다는 원칙에 따라 온라인상의 불법 콘텐츠, 상품, 서비스에 대한 EU의 계획된 규제다.

2024년에 발효될 것으로 예상되는 DSA는 EU에서 운영되는 모든 온라인 서비스에 적용되지만 특히 Vlops(Facebook 및 YouTube와 같은 초대형 온라인 플랫폼) 및 Vloses(대규모 온라인 검색 Google과 같은 엔진) - EU에서 4,500만 명 이상의 사용자가 있는 서비스로 정의됩니다.

온라인에서 가짜 뉴스와 위조된 이미지를 근절하기 위해 허위 정보에 대한 새로운 실행 규범을 지원하는 데 사용되는 법적 도구가 될 것입니다.