수만 번 공유되고 ‘좋아요’를 받은 이 이미지는 제복을 입은 경찰관 무리가 공화당 억만장자를 붙잡고 그를 폭력적으로 인도 아래로 끌고 가는 모습을 보여주었습니다.
푸틴의 체포, 재판, 투옥을 보여주는 일련의 사진 뒤에도 있었던 히긴스는 악의 없이 사진을 올렸다고 말했습니다. 그는 심지어 자신의 트위터 스레드에서 이미지가 인공 지능에 의해 생성되었다고 명시적으로 말했습니다.
그래도 Higgins에 따르면 이미지는 Midjourney 서버에서 그를 잠그기에 충분했습니다. 샌프란시스코에 기반을 둔 독립 연구소는 의견을 구하는 이메일에 응답하지 않았습니다.
Higgins는 이메일에서 “트럼프의 체포 이미지는 Midjourney가 실제 장면을 보여주는 데 얼마나 좋은지 나쁜지와 관련이 있습니다.”라고 썼습니다. “미드저니에 프롬프트를 연결했을 때 사진이 일종의 내러티브를 형성하기 시작했기 때문에 사진을 내러티브로 묶고 이야기를 마무리하기로 결정했습니다.”
그는 사진이 완벽하지 않다고 지적했습니다. 일부에서는 트럼프가 경찰 벨트를 착용한 모습이 이상하게 보입니다. 다른 경우에는 얼굴과 손이 눈에 띄게 왜곡됩니다.
그러나 Higgins와 같은 사용자가 자신의 게시물에서 이미지가 AI에 의해 생성되었으며 오락 목적으로만 사용된다는 점을 분명히 밝히는 것만으로는 충분하지 않다고 뉴욕에 기반을 둔 인권 단체인 Witness의 미디어 기술 전문가인 Shereen Anlin은 말합니다. 증거.
종종 시각 자료는 중요한 맥락 없이 다른 사람들에 의해 빠르게 재공유된다고 그녀는 말했습니다. 실제로 트럼프의 히긴스 사진 일부를 진품인 것처럼 공유하는 인스타그램 게시물은 79,000개 이상의 좋아요를 받았습니다.
“당신은 이미지만 볼 수 있고, 일단 무언가를 본 후에는 볼 수 없습니다.”라고 Anlin은 말했습니다.
또 다른 최근 사례에서 소셜 미디어 사용자는 푸틴이 중국 지도자 시진핑의 손에 무릎을 꿇고 키스하는 모습을 묘사한 것으로 추정되는 합성 이미지를 공유했습니다. 이번 주 러시아 대통령이 크렘린에 시 주석을 환영하면서 퍼진 이 사진은 곧 조잡한 밈이 되었습니다.
다운로드
이미지를 만든 사람이 누구인지, 어떤 도구를 사용했는지는 분명하지 않지만 일부 증거에 따르면 위조가 드러났습니다. 예를 들어 두 지도자의 머리와 신발이 약간 왜곡되어 있었고 방 내부가 실제 회의가 진행된 방과 일치하지 않았습니다.
전문가들은 합성 이미지가 실제 물체와 구별하기 점점 더 어려워짐에 따라 잘못된 시각적 정보에 대처하는 가장 좋은 방법은 대중의 인식과 교육을 개선하는 것이라고 말합니다.
“이러한 이미지를 만드는 것이 너무 쉽고 저렴해졌기 때문에 대중에게 이 기술이 얼마나 좋은지 교육하기 위해 할 수 있는 모든 일을 해야 합니다.”라고 West는 말했습니다.
Higgins는 소셜 미디어 회사가 AI 생성 이미지를 감지하고 이를 플랫폼에 통합하는 기술 개발에 집중할 수 있다고 제안합니다.
트위터에는 기만적이거나 유해할 가능성이 있는 “합성, 조작 또는 맥락에서 벗어난 미디어”를 금지하는 정책이 있습니다. Twitter의 크라우드 소싱 팩트 확인 프로젝트인 Community Notes의 주석이 일부 트윗에 첨부되어 AI가 생성한 Trump의 이미지에 대한 컨텍스트를 포함했습니다.
논평을 위해 목요일에 도달했을 때 회사는 이메일을 통해서만 자동 응답을 보냈습니다.
페이스북과 인스타그램의 모회사인 메타는 논평을 거부했다. 트럼프의 조작된 이미지 중 일부는 AP통신이 관여한 제3자 팩트체킹 프로그램에 의해 “거짓” 또는 “누락된 맥락”으로 분류되었습니다.
신기술에 초점을 맞춘 뉴욕 카네기 국제문제윤리위원회(Carnegie Council for Ethics in International Affairs)의 아서 홀랜드 미첼(Arthur Holland Michell) 연구원은 세계가 임박한 홍수에 대비하지 못하고 있다고 우려했다.
그는 예를 들어 전 파트너나 동료의 유해한 가짜 사진과 같은 평범한 사람들과 관련된 딥페이크가 어떻게 규제될지 궁금합니다.
다운로드
Michel은 이메일에서 “정책 관점에서 볼 때 사회의 모든 수준에서 발생하는 이 정도의 잘못된 정보를 처리할 준비가 되어 있는지 잘 모르겠습니다.”라고 썼습니다. “마침내 이것을 끝내려면 아직 상상하지 못한 기술적 위업이 필요할 것 같습니다.”
AP
외계인에게서 직접 쪽지를 받으세요 특파원 전 세계적으로 헤드라인을 장식하는 내용에 대해. 여기에서 What in the World 주간 뉴스레터에 가입하세요..
“란 현기는 다양한 장르의 책을 즐겨 읽는 전문 독자입니다. 그는 TV 프로그램에 깊은 애정을 갖고 있으며, 적극적으로 소셜 미디어를 활용합니다. 베이컨과 다양한 음식에 대한 그의 애정은 특별하며, 그의 글속에서도 그 애정이 느껴집니다.”