많은 사람들이 믿기 어려워했지만, 몇몇 현존하는 예술가들이 자신의 예술 작품이 동의 없이 AI 모델을 훈련하는 데 사용되었다는 사실을 알게 되었습니다. "Have I Been Training?"이라는 웹 도구를 사용하면 이미지가 Midjourney, NightCafe 및 기타 인기 AI 이미지 생성기에 제공되었는지 몇 분 안에 확인할 수 있습니다.
AI 시스템 학습에 사용되는 데이터세트에서 이미지를 발견하더라도 걱정하지 마세요. 일부 기관에서는 이러한 관행을 거부하는 방법을 개발하여 이미지가 인터넷에서 삭제되어 AI 기업으로 전송되는 것을 방지합니다. 확인해 보세요. AI가 생성한 이미지를 인식하는 방법: 몇 가지 방법.
로압 스리유에스
AI 이미지 생성기는 처음에 어떻게 훈련되나요?
DALL-E와 같은 AI 시스템에 "생일 모자를 쓴 강아지" 이미지를 생성하도록 요청하면, 먼저 강아지의 모습과 생일 모자의 모습을 알아야 합니다. 이 정보는 온라인에서 수십억 개의 이미지 링크에서 수집된 방대한 데이터세트에서 얻습니다.
우리 모두 알다시피 인터넷에는 상상할 수 있는 거의 모든 유형의 이미지가 있습니다. 아마도 "생일 모자를 쓴 강아지" 이미지도 많을 것입니다. 이처럼 충분한 데이터가 있으면 AI 모델은 학습된 이미지와 유사한 이미지를 재현하는 방법을 알아낼 수 있습니다.
하지만 만약 그 이미지들이 원래 저작권이 있는 것이라면 어떨까요? 그리고 그 이미지들이 예술가, 사진작가, 또는 일반인들의 소유였는데, 그들이 자신의 이미지가 AI 시스템에 입력된다는 사실을 몰랐다면 어떨까요?
예술가들의 문제
많은 AI 이미지 생성기는 사용자가 크레딧을 구매하여 더 많은 이미지를 생성하고 수익을 창출할 수 있는 유료 서비스 수준을 제공합니다. 그러나 이러한 수익은 애초에 AI 시스템 학습에 사용된 이미지의 검증되지 않은 사용자들의 노출에서 발생합니다.
점점 더 많은 아티스트들이 자신의 이미지가 AI 시스템 개발에 사용되었다는 사실을 알게 되면서, 모두가 이를 용납하는 것은 아니라는 점이 분명해졌습니다. 적어도 그들은 AI 기업이 자신의 이미지를 사용하기 전에 동의를 얻기를 원합니다. 확인해 보세요. AI가 만든 예술 작품의 윤리적 장단점.
특히 유명하고 기성 아티스트라면, 자신의 스타일로 제작된 이미지를 사용하면 타겟 시장, 즉 잠재적 팬이나 스폰서에게 부정적인 영향을 미칠 수 있습니다. 그들은 해당 작품이 본인이 직접 제작한 것인지, 아니면 AI가 본인을 모방한 것인지 알 수 없습니다. 더 심각한 것은, 사람들이 자신이 믿지 않는 가치를 옹호하기 위해 자신의 스타일로 작품을 제작할 수도 있다는 것입니다.
이것은 새로운 문제가 아닙니다. 딥페이크 기술 이 문제는 수년간 존재해 왔으며, 인공지능의 등장으로 더욱 심화될 가능성이 높습니다. 현재 "가짜" 예술 작품을 복제하는 것은 빠르고 저렴하며 쉽습니다. 하지만 AI가 생성한 이미지를 식별하는 방법은 몇 가지에 불과하여 진품과 AI가 생성한 이미지를 구분하기 어렵습니다.
데이터 세트: 이미지 찾기 및 인덱싱
앞서 언급했듯이 AI 회사들은 이미지 데이터 세트를 사용하여 모델을 학습시킵니다. 이 데이터 세트는 거대한 엑셀 스프레드시트처럼 생겼는데, 한 열에는 온라인 이미지 링크가, 다른 열에는 이미지 캡션과 이미지에 대한 세부 정보가 포함되어 있습니다.
모든 AI 회사가 사용하는 데이터셋을 공개하는 것은 아닙니다. DALL-E가 그 예입니다. 이로 인해 이미지 생성 시 무엇을 참조하는지 파악하기 어렵고 AI 시스템의 전반적인 모호성이 커집니다.
반면, Stability AI가 개발한 모델인 Stable Diffusion은 데이터셋을 기반으로 구축되었다고 설명했습니다. 라이온-5B CLIP으로 필터링된 58억 5천만 개의 이미지-텍스트 쌍을 포함하는 데이터셋입니다. 이 데이터셋은 오픈 소스이기 때문에 누구나 색인된 이미지를 자유롭게 볼 수 있으며, 이 때문에 많은 비판을 받아왔습니다.
2023년 초, 게티이미지는 자사 AI 이미지 생성기인 스테이블 디퓨전(Stable Diffusion)을 학습하는 데 사용된 이미지를 웹사이트에서 삭제했다는 이유로 스태빌리티 AI(Stability AI)를 상대로 소송을 제기했습니다. 스테이블 디퓨전을 사용하는 다른 업체들이 궁금하시다면, 나이트카페(NightCafe), 미드저니(Midjourney), 드림스튜디오(DreamStudio) 등이 이 분야의 대표적인 업체들입니다. 당신의 글을 바탕으로 무료로 예술적 이미지를 만들어내는 최고의 AI 기반 도구.
AI 모델을 훈련하는 데 이미지가 사용되었는지 확인하는 방법
만들어진 산란 예술가 그룹이 만든 이 엔진은 사람들이 자신의 사진이 AI 모델 학습에 사용되는 LAION-5B와 같은 데이터 세트에 있는지 확인할 수 있도록 돕는 것을 목표로 합니다. 이 웹 검색 엔진의 이름은 다음과 같습니다. 저는 훈련을 받았나요? 아티스트 이름이나 이미지 캡션 등의 키워드를 쉽게 검색할 수 있습니다.
저는 훈련을 받았나요?
Have I Been Training?은 Google 이미지 검색과 매우 유사하지만, 검색 결과가 LAION-5B 데이터 세트의 결과와 일치한다는 점이 다릅니다. 키워드 또는 이미지로 검색할 수 있으며, 이미지 검색은 특정 이미지가 사용되었는지 확인할 때 유용합니다.
우리는 예술가 프리다 칼로(1907~1954)의 이름을 사용하여 테스트한 결과, 낙서, 그림, 크로스 스티치, 크로셰, 일러스트 등 팬 아트처럼 보이는 것과 역사적 이미지가 섞인 것을 발견했습니다.
프리다 칼로의 영향을 활용한 창작자나 예술가라면, AI 이미지 생성기를 통해 창의력을 발휘할 수 있게 된, 세상에 알려지지 않은 수많은 사람들 중 한 명일 것입니다. 이 힘을 통해 이제 누구나 프리다 칼로의 이미지를 만들 수 있습니다. "프리다 칼로가 아이스크림을 먹는 모습"과 같은 섬뜩한 이미지처럼 말이죠.
검색창에 아티스트 이름을 입력하여 귀하의 작품이 AI 모델을 훈련하는 데 사용되었는지 확인해 보세요.
AI 모델의 학습 데이터 세트에서 철수하는 방법
Have I Been Trained 웹사이트를 만든 팀은 사람들이 AI 아트 시스템에 참여하거나 참여하지 않을 수 있는 도구를 개발했습니다. 이는 예술가들이 자신의 작품을 누가 어떤 목적으로 사용하는지에 대한 통제권과 권한을 유지할 수 있는 한 가지 방법입니다.
다른 예술 플랫폼도 이를 따르기 시작했으며, 현재 DeviantArt 웹사이트는 데이터세트를 기준으로 특정 이미지를 검색에서 제외하는 옵션을 제공합니다.
훈련을 받았나요? AI 옵트아웃 도구
이미지를 검색할 수 있을 뿐만 아니라 Have I Been Trained 웹사이트를 사용하여 LAION-5B 훈련 데이터에서 제외할 이미지를 선택할 수도 있습니다.
먼저 계정을 만들어야 합니다. 그런 다음 이미지를 마우스 오른쪽 버튼으로 클릭하고 선택하세요. 이 이미지 구독 취소.
이 옵션을 선택하면 해당 이미지가 옵트아웃 목록에 추가됩니다. 이 목록은 페이지 오른쪽 상단 모서리에 있는 계정 아이콘을 클릭한 다음 다음을 선택하여 액세스할 수 있습니다. 내 목록목록에서 제거하려면 이미지를 마우스 오른쪽 버튼으로 클릭하고 선택하세요. 구독 취소 목록에서 제거.
다작하는 아티스트라면 이 방법은 번거로울 뿐만 아니라 모든 이미지 구독을 효율적으로 취소하기에는 적합하지 않습니다. 안타깝게도 이 글을 쓰는 시점에는 더 나은 대안이 없지만, 앞으로 이 시스템이 개선될 가능성이 높습니다.
이러한 옵트아웃 목록은 LAION-5B를 담당하는 회사로 전달되고, 해당 회사는 데이터 세트에서 해당 이미지를 삭제하기로 동의했습니다.
DeviantArt 옵트아웃 환경 설정
DeviantArt는 사용자에게 작품 게시 거부 옵션을 제공함으로써 지금까지 작품 게시 플랫폼의 선구자 역할을 해왔습니다. 처음에는 원하는 옵션을 찾아 거부 확인란을 선택해야 했습니다. 하지만 DeviantArt 커뮤니티의 강력한 피드백을 바탕으로 이제 이 옵션은 기본적으로 활성화됩니다.
즉, DeviantArt에 게시된 이미지는 사용자가 동의하지 않는 한 이미지 데이터셋에 제공되지 않습니다. 이 메커니즘이 완벽하지는 않지만, 이미지에 HTML 태그 "noai"를 추가합니다. 이는 AI 데이터셋에 해당 이미지 사용이 허용되지 않음을 알리는 것이며, 만약 허용된다면 DeviantArt의 서비스 약관을 위반하는 것입니다.
개인 계정 아이콘 위에 마우스를 올려놓고 클릭하면 옵트아웃 기본 설정을 확인할 수 있습니다. 계정 설정. 그런 다음 년 오른쪽 메뉴에서 제목이 보일 때까지 아래로 스크롤하세요. AI 데이터 세트에 콘텐츠를 사용할 수 없다고 알리세요.. 검증 AI 기반 예술의 어두운 면: 인기 증가에 따른 잠재적 문제.
예술가의 작품을 존중하세요
AI 시스템과 이를 훈련하는 예술가들 사이에서 적절한 타협점을 찾는 데는 시간이 걸릴 것입니다. 창작자라면 무력감을 느끼지 마세요. DeviantArt 누가 당신의 예술 작품을 사용할지 통제할 수 있습니다.
모든 사람이 거부하고 싶어 하는 것은 아닙니다. 어떤 사람들은 자신의 이미지가 AI 모델 학습에 사용되는 것을 개의치 않습니다. 하지만 가장 중요한 것은 AI 기업들이 그들의 동의를 얻고 AI 모델과 아티스트가 공존할 수 있는 공정하고 존중받는 공간을 만드는 것입니다. 지금 바로 확인해 보세요. AI 기반 예술을 윤리적으로 창작하고 활용하는 방법.
