AIディープフェイクで悪用されたアイユー、イ・ハニ、アン・ソヒの顔

歌手兼俳優のアイユー（아이유）の顔がAIディープフェイクで悪用されました。

7日、インスタグラムストーリーを見ていたところ、突然あるゲームサイトのアカウントにアイユーが登場する動画が公開されました。動画の中でアイユーは車の中でタブレットPCを持ち、あるゲームアプリを紹介していました。これは賭博サイトがアイユーの顔をAIディープフェイクで悪用したものです。

この動画でAIアイユーは「『チキンロードは詐欺だ。ここではお金を稼げない』というコメントはもううんざり」と言い、「今話している間にも1700万円がただ落ちてきました」「見てください、本当です。私も信じられないくらいです」とゲームを通じて大金を稼げると紹介しました。

続いてAIアイユーは「気になる方のために最後に一度だけお見せします」と言い、「チキンロードアプリを今開けば、新規ユーザーはすぐに最大300万円のボーナスを受け取れます」「実際にやってみた人たちはすでに稼いでいます」と宣伝を続けました。

この動画はコメントを付けられないように設定されており、動画の左下には「広告」と表示され、アカウントをインスタグラムの検索窓にそのまま入力すると存在しないアカウントとして表示されます。
このサイトはアイユーだけでなく、最近では俳優のイ・ハニ（이하늬）やグループワンダーガールズ出身のメンバーアン・ソヒ（안소희）もAIディープフェイクで作成しました。
まずAIイ・ハニは「15分で2000万円？うそでしょ！本当だよ！」と言い、「映画試写会で人々がどんなアプリを使っているのか気になって私もインストールしてみた」「幸運のルーレットを回したら最大ボーナスに当選」「稼いだお金で欲しいものを思いっきり買っちゃった」と言いました。

数日後にはAIで作られたアン・ソヒが登場し、「私、このアプリで2500万円以上稼いだのに、あの子はまだ信じてくれない」と言い、ゲームサイトを紹介しました。その後、AIアン・ソヒは「入金したらすぐに260万円のボーナスをもらって500万円を作ったの。これでベンツを買ったんだよ？みんなもダウンロードしてボーナスをもらってみて。ジャックポットが待っているよ」と説明しました。

イ・ハニがAIで悪用された際にはストーリーではなく投稿形式で広告が表示され、コメントを付けることができました。これに対し、ネットユーザーたちはそのサイトのコメント欄にイ・ハニのSNSアカウントやイ・ハニの所属事務所のアカウントをタグ付けし、所属アーティストの顔が詐欺に利用されていることを直接知らせることもありました。

AIを利用して虚偽の事実を流布した場合、刑事処罰および民事上の損害賠償責任を負う可能性があります。特に特定の人物の名誉を毀損する内容である場合、情報通信網法上の名誉毀損罪で最大7年以下の懲役、10年以下の資格停止または5000万ウォン以下の罰金に処されます。性的な内容を含む場合には、2024年9月に改正された性暴力処罰法により5年以下の懲役または5000万ウォン以下の罰金に処され、これを流布すると7年以下の懲役刑を受けることがあります。

チョン・ダヨン テンアジア記者 light@tenasia.co.kr