소셜 미디어는 인공지능 덕분에 급진적인 변화를 겪고 있습니다. 인공지능은 콘텐츠 및 다른 사용자와의 상호작용 방식에 중요한 역할을 하고 있습니다. 사용자 경험 개선부터 정확한 광고 타겟팅까지, AI는 우리가 상상하지 못했던 방식으로 소셜 미디어 플랫폼을 혁신하고 있습니다.
하지만 생성 AI는 소셜 미디어 사용자에게 몇 가지 큰 단점을 안겨주었습니다. 그중 몇 가지를 소개합니다. 확인해 보세요. AI 아트 생성기로 일상 사진을 더욱 돋보이게 만드는 방법.
로압 스리유에스
1. AI로 인한 스팸이 많다
페이스북 같은 플랫폼을 자주 사용하신다면 AI가 생성하는 스팸을 접해 보셨을 겁니다. 이러한 스팸은 초현실적인 예술 작품이나 비논리적인 레시피를 포함한 생성 AI의 산물입니다. 현재 X에 스팸 전용 계정이 있습니다. 페이스북의 인공지능.
https://twitter.com/FacebookAIslop/status/1818904889663143965
스팸은 종종 바이럴 마케팅을 노리는 무작위 페이지에서 발생합니다. 페이스북은 바이럴 콘텐츠를 자주 추천하기 때문에 뉴스피드에 평소보다 더 많은 스팸이 쌓일 수 있습니다. 생성 AI 덕분에 이러한 유형의 스팸 게시물을 만드는 것이 그 어느 때보다 쉬워졌고, 그 결과 소셜 미디어 플랫폼에서 진정성 있고 의미 있는 콘텐츠가 묻혀버리는 현상이 나타나고 있습니다.
2. 더 많은 진정성의 상실
소셜 미디어는 완전히 진실한 것으로 알려져 있지 않습니다. 인플루언서들은 종종 완벽한 이미지를 보여주거나 광고비를 받고 제품을 판매하기 위해 자신의 삶을 살짝 공개합니다.
하지만 인공지능은 이러한 진정성의 부족을 더욱 심화시킵니다. TikTok은 다음 기능을 테스트하고 있습니다. 가상 인플루언서 이를 통해 기업은 디지털로 생성된 아바타를 사용하여 사용자에게 광고할 수 있습니다. 소셜미디어투데이인스타그램은 인플루언서들이 팔로워의 메시지에 응답하는 AI 봇을 직접 만들 수 있는 기능을 테스트하고 있습니다. 메타 CEO 마크 저커버그는 자신의 인스타그램 방송 채널을 통해 이 테스트를 발표했습니다.
소셜 미디어에서 발견되는 진정성이 약화되는 현상은 인플루언서에게만 국한되지 않습니다. 인공 지능은 레딧이나 트위터와 같은 소셜 네트워크에서 사용자 게시물을 생성하는 데 사용되고 있습니다. 이러한 기능을 제공하는 챗봇은 꽤 오래전부터 존재해 왔지만, 대규모 언어 모델이 도입되면서 무엇이 진짜이고 무엇이 가짜인지 구분하기가 더 어려워졌습니다. 제가 레딧을 매일 사용할 때마다 다른 사람들이 AI를 사용하여 게시물이나 스토리를 작성한다고 비난하는 사용자들이 있습니다. 확인해 보세요. Human or Not?을 통해 AI 콘텐츠 인식 기술을 테스트해보세요.
3. 소셜 미디어 사이트의 인공지능 오류
대부분의 소셜 미디어 플랫폼에서 제공하는 AI 모델은 아직 개발 중이기 때문에 여전히 오류가 발생할 수 있습니다. 이러한 오류 중 일부는 잘못된 정보 확산에 기여하거나 플랫폼에 대한 사용자 신뢰를 저하시킵니다.
예를 들어, Meta AI 모델은 영재 학생을 위한 프로그램에 등록한 "2e"(두 번 뛰어난) 자녀의 부모라고 주장하는 Facebook 그룹의 게시물에 응답했다고 보도되었습니다. 스카이 뉴스다행히 Meta AI의 답변이 페이스북에 명확하게 표시되어 있어 사용자들은 해당 답변이 진짜가 아니라는 것을 알 수 있었습니다. 하지만 이는 Meta AI와 같은 AI 도구가 부적절한 대화에 개입할 때 그 신뢰성에 대한 의문을 제기합니다.
한편, X의 스마트 챗봇인 Grok AI는 잘못된 정보를 생성하라는 요청을 받았습니다. 농구 선수 클레이 톰슨이 농구 용어를 잘못 해석하여 골대에 들어가지 않는 슛을 "벽돌"로 표현한 사건도 있었습니다. 이 AI가 주택 파손 혐의를 받은 사례가 그 중 하나입니다.
AI 환각 중 일부는 재밌지만, 다른 잘못된 정보는 더 충격적이고 실제 세계에 부정적인 영향을 미칩니다. 확인해 보세요. ChatGPT는 신뢰할 수 있나요? 아니면 거짓말을 할 수 있나요?
4. 죽은 인터넷 이론 조사
죽은 인터넷 이론은 온라인 콘텐츠의 대부분이 봇에 의해 생성된다는 생각입니다. 과거에는 쉽게 비웃을 수 있었지만, 소셜 미디어 플랫폼에서 스팸과 AI가 생성한 답변이 넘쳐나는 지금, 이 이론이 더 설득력 있게 다가옵니다.
소셜 미디어 사이트들이 봇을 사용자로 통합하고 있다는 사실은 이러한 아이디어를 그 어느 때보다 현실적으로 만들어줍니다. 이는 심지어 나비 AI일부 사용자가 실제로 AI 봇인 소셜 네트워킹 플랫폼입니다. 봇이 소셜 미디어에서 유용할 수는 있지만, 다른 사용자인 척하는 것은 제 취향이 아닙니다.
일상적인 사용자 경험 측면에서 생성 AI는 무작위 봇이 실제 사용자를 모방하는 것을 더욱 쉽게 만들었습니다. 최근 X에 예술 작품을 요청하는 글을 올렸는데, 받은편지함이 봇의 답변으로 가득 찼습니다. 실제 사용자와 봇을 구분하기가 점점 더 어려워지고 있습니다.
5. 사람들은 AI 스크래핑으로부터 자신의 콘텐츠를 보호할 방법을 찾아야 합니다.
사용자들은 자신의 콘텐츠가 AI 데이터 세트에 사용되지 않도록 보호하기 위해 다양한 방법을 모색하고 있습니다. 하지만 항상 그렇게 간단한 것은 아닙니다. 게시물이 공개 상태라면 이미 AI 학습에 사용되었을 가능성이 높습니다.
결과적으로 사용자들은 데이터를 보호하기 위한 대안을 찾고 있습니다. 여기에는 개인 프로필로 전환하는 것도 포함됩니다. 데이터 포이즈닝사용 중 가지 속의 식물 아트워크 포이즈닝은 이미지를 보는 사용자에게 아무런 영향을 미치지 않지만, 다른 형태의 데이터 포이즈닝은 소셜 미디어에서 보는 콘텐츠에 영향을 미칠 수 있습니다.
더 많은 사용자가 공개 소셜 미디어 사이트에서 비공개 프로필로 전환함에 따라, 자신이 좋아하는 사용자와 콘텐츠를 찾는 것이 더욱 어려워질 것입니다. 또한 아티스트들이 생성 AI를 위한 훈련 데이터를 제공하는 플랫폼에서 벗어나면서, 단순히 자신의 작품을 좋아하고 싶어 하는 사람들은 전문 플랫폼으로 이동하지 않는 한 기회를 잃게 될 것입니다.
이러한 플랫폼에서 생성 AI를 활용할 수 있는 부분이 있지만, 일부 사람들은 소셜 미디어에 생성 AI가 실제로 필요하지 않다고 주장합니다. 하지만 우리가 무엇을 믿든, 생성 AI는 이미 여러 면에서 소셜 미디어를 근본적으로 변화시켰습니다. 지금 바로 확인해 보세요. 생성적 AI가 게임의 미래에 미치는 영향: 걱정해야 할까?
