俳優イ・イギョン、AIによる偽情報で名誉回復 - AI悪用の深刻性が浮き彫りに

俳優イ・イギョン（Lee Yi-kyung）がプライバシー論争から3日で無実を証明した。告発者が「AIで作られた偽物だった」と自白し、事件は一段落した。この論争は「AIの乱用の深刻性」を示す事件として残ることになった。専門家たちは「規制装置が整備されなければ被害者は増えるだろう」と懸念を示した。

19日、あるネットユーザーが「イ・イギョンと性的な内容のメッセージをやり取りした」と自身のブログに投稿した。メッセージにはイ・イギョンの現在のSNSプロフィール写真が含まれていた。この投稿はX（旧Twitter）を通じて急速に広まった。イ・イギョンのSNSにはこの主張が本当かどうかを尋ねるネットユーザーの質問で埋め尽くされた。

投稿したネットユーザーは22日突然「申し訳ない。メッセンジャーの画像はAIで作られた偽物」と謝罪した。論争を経験した3日間でイ・イギョンのイメージは大きく失墜した。「捏造された画像」というこのネットユーザーの話が事実であれば、今回の事件はAIが深刻に悪用される可能性があることを示す事例となる。

警告は2017年から始まった人工知能のディープラーニング技術を活用すれば、人の顔や声、身振りを精巧に再現することができる。初期にはこの技術は単純なコンテンツ制作用に使われていた。故人を復元するために使われることもあった。2020年2月、MBCで放送されたVRヒューマンドキュメンタリー『君に会った』がその例だ。この番組では7歳だった娘ナヨンを先に見送った母親がディープフェイクで実現された娘とVR（仮想現実）の中で再会した。

AIを通じた画像制作技術は2017年から大衆的に普及した。これと共に金融詐欺、身分盗用などの悪用事例が増えている。昨年8月にはサッカー選手ソン・フンミンがディープフェイクで作られ、違法賭博サイトの広告モデルとして登場した。映像の中の「偽」ソン・フンミンは「なぜ〇〇ランドアプリを皆さんにお勧めするのか教えます。便利なアプリで楽しめます」「すべての当選金はわずか5分で銀行口座に入金されます」「オンラインカジノを楽しんでください」と語った。声だけでなく、発する言葉や発音する口の形まで実際と似ているように再現された。

このようなディープフェイク映像はYouTubeでも簡単に見つけることができる。AIで作られた映像だけを扱うチャンネルも生まれ、AIで作られた人物が実際の医師や専門家のように医薬品や健康機能食品を宣伝する事例もある。多くのネットユーザーは「どこまで信じればいいのか」と懸念している。

芸能人、見られる職業であるため被害が大きい今年4月にはハイブ所属アーティストのディープフェイク映像がテレグラムのチャットルームで流布された。昨年にはブラックピンクやトワイスの顔を合成したディープフェイク映像が流布され、物議を醸した。

アメリカのサイバーセキュリティ企業「セキュリティヒーロー」が発表した「2023ディープフェイク現況」報告書によれば、世界中で流布されたディープフェイクポルノ合成物の被害者の99%が女性であり、53%が韓国人だった。主な被害層は歌手や俳優などの芸能人だった。ディープフェイク性搾取物サイト10か所で2か月間に流通した映像9万5820件を分析した結果だ。

AIを利用して虚偽の事実を流布した場合、刑事処罰および民事上の損害賠償責任を負うことがある。特に特定の人物の名誉を毀損する内容である場合、情報通信網法上の名誉毀損罪で最大7年以下の懲役、10年以下の資格停止または5000万ウォン以下の罰金に処される。性的な内容を含んでいる場合には2024年9月に改正された性暴力処罰法により5年以下の懲役または5000万ウォン以下の罰金に処され、これを流布すると7年以下の懲役刑を受けることができる。

ITコンテンツ制作会社の代表は「芸能人は顔が継続的に露出される職業であるためディープフェイク被害に脆弱であるしかない」とし、「ディープフェイク技術がもたらす利益もあるため、その技術が正しく使われるようにシステムと監視網を整える必要がある」と述べた。彼は「AIで制作されたコンテンツには『AIが生成した』という文言を入れるように法制化する必要があり、他人の顔や声をむやみに合成したり流布したりする場合、厳しい処罰を受けることができるように法律で明確に規定する処罰条項を新設することが必要だ」と付け加えた。

チョン・ダヨン テンアジア記者 light@tenasia.co.kr