C. 스캇 브라운 / Android Authority
TL;DR
Advertisement
- Truepic이라는 회사는 Qualcomm과 제휴하여 Snapdragon 장치의 AI 이미지에 대한 시스템 수준 워터마킹을 제공합니다.
- 이를 통해 사용자는 이미지가 완전히 AI로 생성되었는지 아니면 AI 도구로 강화되었는지 쉽게 확인할 수 있습니다.
- 그러나 트루픽의 기술이 진정한 효과를 발휘하려면 엄청난 규모로 채택되어야 할 것입니다.
요즘은 인공지능을 활용해 이미지를 생성하는 일이 쉽지 않다. Google의 Gemini 또는 Samsung의 AI 배경 화면 생성기를 통해 Android 휴대폰에 바로 내장된 시스템을 포함하여 이를 위해 사용할 수 있는 무료 시스템이 많이 있습니다. 또한 생성 AI 도구는 사진을 편집하는 방법으로 널리 사용되고 있으며 Google의 Magic Editor가 여기의 핵심 리더입니다.
하지만 문제는 이제 누군가가 이미지가 진짜인지, 전적으로 AI에서 생성된 것인지, 아니면 단순히 AI 도구를 사용하여 조작된 것인지 말하기 어렵다는 것입니다. 이는 사회를 파괴할 수 있는 잘못된 정보의 물결에 문을 엽니다.
Truepic이라는 회사는 몇 년 동안 이 문제를 해결하려고 노력해 왔습니다. 이미지에 암호화 메타데이터를 추가하고 AI 조작을 식별하고 추적하는 소프트웨어를 제공합니다. 본질적으로 이는 이미지에 AI 생성 또는 AI 조작으로 안전하게 “태그”를 지정한 다음 누구나 해당 태그를 확인할 수 있도록 하는 워터마킹 시스템입니다. 따라서 이미지를 확인하고 “아, 이건 진짜가 아니야”라고 쉽게 말할 수 있어 잘못된 이미지가 현실의 진정한 묘사라고 믿지 않게 됩니다. 저는 이와 같은 시스템이 얼마나 중요한지에 대해 여러 번 이야기했습니다.
최근 AI 발전에 초점을 맞춘 Qualcomm 이벤트에서 Truepic의 시스템이 실제로 작동하는 모습을 보게 되었습니다. Truepic의 마케팅 부사장이자 전 Qualcomm 직원인 Adam Kerin은 사진을 찍은 다음 Truepic으로 태그를 확인하는 방법을 시연했습니다. 그런 다음 사진에 AI 증강을 추가하고 다시 확인했습니다. 원본 이미지의 정보와 AI 조작과 관련된 정보를 모두 볼 수 있어 AI가 이미지를 가지고 놀았는지 뿐만 아니라, 정확히 무엇을 했는지 알 수 있습니다. Kerin은 이것이 무기한으로 진행될 수 있으며 본질적으로 사진의 안전한 변경 로그를 제공할 수 있다고 말했습니다.
솔직히 AI가 이미지를 조작하는 것이 인류를 멸망시키지 않을 수도 있다는 사실을 보고 정말 멋있었고 처음으로 느꼈습니다(농담입니다). 불행하게도 이 데모는 훌륭했지만 큰 별표가 붙어 있습니다.
트루픽은 앞으로 어려운 길을 걷고 있습니다
Truepic이 직면한 장애물은 광범위한 가용성입니다. 이미지가 보안 태그를 수신하려면 해당 이미지를 생성/조작/캡처하는 장치 및/또는 앱이 Truepic을 지원해야 합니다. 또한 해당 태그를 확인하는 시스템은 또한 Truepic을 지원해야 합니다.
다행히도 Truepic과 Qualcomm은 이 장애물을 극복하기 위해 협력해 왔습니다. Snapdragon 8 Gen 3에서 Truepic의 소프트웨어는 칩의 Trusted Execution Environment에서 작동합니다. 이를 통해 Snapdragon 8 Gen 3 휴대폰에서 생성/조작된 이미지에 칩을 태그하고 해당 칩이 있는 다른 휴대폰에서 해당 태그를 읽을 수 있습니다.
Qualcomm이 수십억 대의 Android 휴대폰에서 엄청난 시장 점유율을 차지하고 있다는 점을 고려하면 이는 중요한 단계입니다. 그러나 여전히 상당한 한계가 있습니다. 예를 들어 Snapdragon 휴대폰으로 사진을 촬영한 다음 해당 사진을 Instagram(현재 Truepic을 지원하지 않음)에 업로드하는 경우 Instagram에서 해당 사진의 무결성을 확인할 방법이 없습니다. 즉, 거의 모든 주요 플랫폼이 Truepic을 지원해야 이것이 작동하는데, 이는 어려운 일입니다.
하지만 한 가지 좋은 점은 Truepic이 오픈 소스 프로토콜을 기반으로 한다는 것입니다. 이는 하드웨어 및 소프트웨어 제작자가 Truepic으로 작업하기를 원하지 않더라도 여전히 오픈 소스 프로토콜을 채택하고 Truepic의 메타데이터를 보존할 수 있음을 의미합니다. 이는 약간 덜 어려운 작업이지만 채택 속도를 높일 수 있습니다.
Qualcomm과 Truepic의 파트너십은 새로운 것이 아니지만, Truepic 시스템의 통합은 최근 출시된 Snapdragon 8 Gen 3에서 꽤 신선합니다. 시간이 지남에 따라 Truepic은 Qualcomm의 모든 칩에 걸쳐 널리 보급될 것이며, 이는 결국 Samsung, Google, MediaTek, 심지어 Apple과 같은 회사의 경쟁사 칩에도 적용되는 계단식 효과를 가져올 것입니다.