19금 모드 장착한 AI 챗봇

이미지 출처 IMDB

바야흐로 AI의 시대입니다. 요즘 온라인을 보면 학업이나 업무 같은 공적인 내용은 물론, 일상을 공유하고 조언을 구하는 친구로서 AI를 활용하는 사람이 많은데요. 심지어는 AI를 통해 성적 판타지를 충족하는 경우도 늘고 있습니다. 마크 주커버그의 메타가 출시한 ‘메타AI’, 일론 머스크의 X(구 트위터)가 선보인 ‘그록’ 등이 공식적으로 성적 대화 기능을 탑재하면서부터인데요. 메타AI는 챗봇이 사용자와 성적인 대화가 가능하도록 설정했으며, 그록은 성적 관계를 암시하는 롤 플레이와 음성 모드 등을 추가했습니다. AI 시대에 타사의 AI와 경쟁할 돌파구로 ‘19금 콘텐츠’를 내세운 것이죠. 어쩌면, 영화 <허(Her)>의 주인공처럼 여러 이유로 실제 인간 관계에서 연애적, 성적 욕구를 충족하지 못하는 사람들에게는 획기적인 일일 수도 있겠습니다. 하지만 동시에 부작용이 우려되기도 해요. 최근 월스트리트저널의 보도에 따르면 메타AI는 미성년자 사용자에게도 제약 없이 성적 대화 콘텐츠를 노출했으며, 심지어는 프로 레슬러 존 시나, 디즈니 애니메이션 캐릭터의 음성으로 사용자와 성적 대화를 주고 받는 사례가 발견되었거든요. 이에 대해 메타AI는 “극히 일부의 오류”라고 대응했으나, 이미 AI가 사용자의 연령과 무관하게 성적 콘텐츠를 제공할 수 있다는 가능성을 확인한 사례이므로 전문가들의 우려가 계속되는 상황입니다. 물론, 인간은 누구나 성적 호기심을 가질 수 있고 이를 주제로 대화할 수도 있습니다. 동시에 민감한 주제인 만큼 최소한의 제약이 필요한 것도 사실입니다. 이제 성적 콘텐츠의 영역까지 점령하기 시작한 AI 플랫폼들이 이 딜레마를 현명하게 해결할 수 있을지 주목됩니다.

#메타 #그록 #인공지능 #ai