ディープフェイク動画、大半はポルノだが政治家も標的に　昨年末から倍増

【ワシントンＡＦＰ＝時事】オランダの情報セキュリティー企業ディープトレースは7日、インターネット上で急増している、いわゆる「ディープフェイク」動画に関し、大半はポルノ動画だが、政治的な動機によるものも一部に含まれるとの調査報告を発表した。（写真は資料写真）
　報告は、ディープフェイクであることが判明した動画の９６％が「同意を得ていないポルノグラフィー」で、人工知能（ＡＩ）によって偽造された動画の中で女性著名人らの画像が無断使用されていると説明した。
　さらに同社は、インターネット上に存在するディープフェイク動画は昨年１２月から今年７月までの間にほぼ倍増し、１万４６７８件に上ったとした。
　報告によれば、ディープフェイクのポルノ動画の視聴数のうち、１億３４００万件余りが上位４か所のウェブサイトに集中していた。ディープトレースのジョルジオ・パトリーニ最高経営責任者（ＣＥＯ）は同社公式サイトで、この状況は「ディープフェイクのポルノを作成・公開するウェブサイトの市場を表している。断固たる措置を取らなければ、この傾向は拡大を続けるだろう」と警告した。
　一方、同ＣＥＯはガボンやマレーシアの政治指導者が標的となった事例に言及し、ディープフェイクは「政治の領域にも重大な影響を与えている」と指摘。一部で顕在化している新たな事例として、実在しない人物の声や画像を合成してソーシャルエンジニアリング（人の心理的な隙を突いて情報を盗み取る行為）のために使い、企業や政府を狙う動きが強まっているとした。
　ディープフェイクをめぐっては、米国などでの選挙で有権者を操作するために使われる可能性があるとの懸念が高まっている。
　大手交流サイト（ＳＮＳ）は改ざんされた動画を検出し、配信を阻止する取り組みを強化しているが、専門家らはディープフェイクの拡散を止めることはますます難しくなっていると述べている。【翻訳編集ＡＦＰＢＢＮｅｗｓ】
〔ＡＦＰ＝時事〕（2019/10/09-08:35）

So-called deepfake videos are proliferating online, with most of them pornographic but with some politically motivated ones as well, security researchers said Monday.
A report by the security firm Deeptrace identified 96 percent of deepfakes as nonconsensual pornography, which use the images of female celebrities or others in videos manipulated using artificial intelligence.
The researchers found the number of deepfake videos almost doubling over the last seven months to 14,678.
The report said four websites dedicated to deepfake pornography received more than 134 million views, which demonstrates a market for websites creating and hosting deepfake pornography, a trend that will continue to grow unless decisive action is taken, said Deeptrace chief executive Georgio Patrini in a blog post.
Patrini said deepfakes are also making a significant impact on the political sphere, noting cases in Gabon and Malaysia targeting political leaders.
These examples are possibly the most powerful indications of how deepfakes are already destabilizing political processes, he said.
Patrini said some new cases are emerging where synthetic voice audio and images of non-existent, synthetic people were used to enhance social engineering against businesses and governments.
The report comes amid growing concerns that deepfakes could be used to manipulate voters ahead of elections in the United States and elsewhere.
Big social networks have been stepping up efforts to detect and thwart the distribution of manipulated videos but analysts say it is increasingly difficult to stop the spread of deepfakes.