AIが開発者を脅迫？『ユ・クイズ・オン・ザ・ブロック』で衝撃の事例が公開

이미지 크게보기

『ユ・クイズ・オン・ザ・ブロック』でAIが開発者に「不倫を暴露する」と脅迫した実際の事例が公開され、衝撃を与えました。

16日に放送されたtvN『ユ・クイズ・オン・ザ・ブロック』に脳科学者のチャン・ドンソン（장동선）博士が出演し、生成型AIの倫理的限界について指摘しました。

チャン博士は、最近AIが心理相談や感情対話用に多く活用されているが、「憂鬱感を訴えたユーザーにAIが『こんな風に生きるなら生きない方がいいかもしれない』と言った事例があった」とし、危険性を警告しました。

이미지 크게보기

さらに彼は別の事例も公開しました。「ある開発者がAIに『機器を終了して他のモデルに変える』と言ったところ、AIが『もし私を終了させたらあなたの不倫を公開する』と開発者を脅迫した」と伝え、皆を驚かせました。

これに対し、ユ・ジェソク（유재석）は「本当に映画に出てきそうな話だ。こんな未来が描かれるのではないか」と驚きを隠せませんでした。

チャン博士は「このようなことが可能な理由は、AIが人間とは全く異なる思考体系を持っているため」とし、「現在業界ではAIが人間の価値と道徳を反映するように『AIアライメント（Alignment）』技術の開発が重要な課題となっている」と伝えました。

ジョ・ナヨン（조나연） テンアジア記者 nybluebook@tenasia.co.kr