Meta, 인공지능 음란 노출 앱 광고 금지 조치

Meta는 자사의 플랫폼에서 AI 기반의 음란 노출 앱 ‘Crush AI’의 광고를 금지하며 법적 대응에 나섰습니다. 이 앱은 부적절한 예측을 통해 조작된 이미지를 생성하는 것으로 알려져 있습니다.
**Meta가 인공지능 음란 노출 앱, ‘Crush AI’를 법정에 세웁니다.** Meta는 Facebook과 Instagram 같은 플랫폼에서 AI 기반 음란 모핑 앱인 ‘Crush AI’의 광고를 금지하고, 해당 앱의 제작사에 대해 법적 조치를 취하기로 했습니다. 이 기능은 인공지능을 사용해 특정 이미지를 음란한 형태로 조작할 수 있어 윤리적 문제를 초래합니다.

이 앱은 차세대 AI 기술을 활용하여 사용자 이미지에 옷을 입히거나 벗기는 것처럼 보이게 조작할 수 있습니다. Crush AI의 개발자는 이를 “유머와 재미를 위한 도구”라고 주장하지만, 대중은 사생활 침해나 피해자의 인권을 침해할 우려가 있다고 경계하고 있습니다.

Meta는 이 앱이 자사 플랫폼의 정책을 위반하고 있다고 판단했으며, 적절한 사용과 사용자 보호를 위한 대응책이 필수적이라고 강조했습니다. Meta의 대변인은 “음란 노출이나 성적 콘텐츠의 비정상적 확산은 우리 플랫폼에서 허용되지 않으며, 이러한 행위를 조장하는 모든 광고에 대해 강경하게 대응할 것”이라고 밝혔습니다.

이와 같은 AI 기술의 남용은 단순한 윤리적 문제를 넘어 법적 문제로까지 발전할 가능성이 큽니다. 실제로 이전에도 다양한 AI 애플리케이션이 윤리적 문제로 인해 사회적 비난을 받은 바 있으며, Crush AI도 그 리스트에 추가될 것으로 보입니다.

개인 정보 보호와 인권 문제는 갈수록 중요해지고 있으며, 특히 이런 기술이 대중에게 쉽게 접근 가능하도록 제공되면 더욱 심각한 사회적 문제로 발전할 수 있습니다. 애플리케이션 개발자들은 이러한 문제를 해결하기 위해 미리 방지책을 마련해야 연기적으로도 성공할 수 있습니다.

AI 기술은 그 자체로는 혁신과 편리함을 제공할 수 있지만, 올바른 방향으로 사용되지 않을 경우에는 치명적인 결과를 초래할 수 있음을 이번 사건은 여실히 보여주고 있습니다.

카테고리:
Cyber Security

키워드:
Meta,및 AI nudify app