「ディープフェイク」検知能力向上へ　ＩＴ各社と大学が協働

【ワシントンＡＦＰ＝時事】人工知能（AI）を使って改変された「ディープフェイク」と呼ばれる動画などのメディアを検知する技術の向上に向け、IT各社と大学研究機関が合同で取り組むプロジェクト「ディープフェイク検知チャレンジ」が5日、発表された。（写真は資料写真）
　ディープフェイクは、人々が実際にはしていない言動をする動画をＡＩで生成する技術で、オンライン上の情報の信頼性に対する重大な脅威と目されている。
　プロジェクトには、米フェイスブックが１０００万ドル（約１１億円）を出資する他、マイクロソフト、ＩＴ産業団体「パートナーシップ・オン・ＡＩ」、マサチューセッツ工科大学、コーネル大学、オックスフォード大学、カリフォルニア大学バークレー校、メリーランド大学、ニューヨーク州立大学オールバニ校が参加する。
　「ディープフェイク検知チャレンジ」は、パートナーシップ・オン・ＡＩが立ち上げたＡＩとメディアの信頼性に関する委員会による初のプロジェクト。パートナーシップ・オン・ＡＩはＡＩの有効利用促進を目的とした団体で、アップル、アマゾン・ドットコム、ＩＢＭなどのＩＴ企業や非政府組織の支援を受けている。
　フェイスブックによると、同社は共同研究用の資金と、プロジェクトの一環として行われるコンテストの賞金を提供する。コンテストには同社も参加するものの、賞金は受け取らないという。
　プロジェクトに参加するオックスフォード大学のフィリップ・トー教授は、こうした改変メディアを検知するための新たなツールが「緊急に必要とされている」と強調。「いんちきの陰謀論をつくり上げたり、政治的利益のために人々を操ったりするために改変され、インターネット上に投稿される偽情報は、民主主義に対する根本的な脅威であり、世界的に重要な問題となりつつある」と訴えた。【翻訳編集ＡＦＰＢＢＮｅｗｓ】
〔ＡＦＰ＝時事〕（2019/09/09-09:37）

Technology firms and academics have joined together to launch a deepfake challenge to improve tools to detect videos and other media manipulated by artificial intelligence.
The initiative announced Thursday includes $10 million from Facebook and aims to curb what is seen as a major threat to the integrity of online information.
The effort is being supported by Microsoft and the industry-backed Partnership on AI and includes academics from the Massachusetts Institute of Technology, Cornell University, University of Oxford, University of California-Berkeley, University of Maryland and University at Albany.
It represents a broad effort to combat the dissemination of manipulated video or audio as part of a misinformation campaign.
The goal of the challenge is to produce technology that everyone can use to better detect when AI has been used to alter a video in order to mislead the viewer, said Facebook chief technical officer Mike Schroepfer.
Schroepfer said deepfake techniques, which present realistic AI-generated videos of people doing and saying fictional things, have significant implications for determining the legitimacy of information presented online. Yet the industry doesn't have a great data set or benchmark for detecting them.
The challenge is the first project of a committee on AI and media integrity created by the Partnership on AI, a group whose mission is to promote beneficial uses of artificial intelligence and is backed by Apple, Amazon, IBM and other tech firms and non-governmental organizations.
Terah Lyons, executive director of the Partnership, said the new project is part of an effort to stem AI-generated fakes, which have significant, global implications for the legitimacy of information online, the quality of public discourse, the safeguarding of human rights and civil liberties, and the health of democratic institutions.
Facebook said it was offering funds for research collaborations and prizes for the challenge, and would also enter the competition, but not accept any of the prize money.
Oxford professor Philip Torr, one of the academics participating, said new tools are urgently needed to detect these types of manipulated media.
Manipulated media being put out on the internet, to create bogus conspiracy theories and to manipulate people for political gain, is becoming an issue of global importance, as it is a fundamental threat to democracy, Torr said in a statement.