2024.08.15 07:07Business

生成ＡＩのうそ見破れ　技術開発が加速、法規制見据え

　生成ＡＩ（人工知能）による「フェイク（うそ）ニュース」を見破るため、電機大手などが技術開発を急いでいる。ＡＩ自身がつくり出す偽情報「ハルシネーション（幻覚）」も社会問題化。世界的に法規制の流れが強まる中、急速な普及で表面化する課題の解決に力を入れている。
　日立製作所はこのほど、生成ＡＩが作成した文章かどうかを見分ける技術を開発した。複数の類義語の中から、ＡＩの使用が判別できる単語を、お札の偽造防止技術になぞらえた「透かし」として設定。この単語が多用されていれば、ＡＩによる「透かし入り」の文章と見なす仕組み。
　「透かし」を多重に設定することで判別の精度を高める。プログラミング言語を含め、さまざまな言語にも対応可能だ。こうした「電子透かし」技術は、画像や動画でも開発・導入が進んでおり、先端ＡＩイノベーションセンタの永塚光一氏は「各国で法規制が急速に進んでいる。生成元を示す技術の開発は加速しそうだ」と話す。
　富士通が開発したのは、生成ＡＩの回答の根拠を抽出・検証し、矛盾点を提示する技術。例えば、道を渡ろうとする人の画像から、ＡＩが道路交通法違反を見つけ、それが間違っている可能性がある場合、矛盾点を示しながら「ハルシネーションが疑われます」などと指摘する。
　同社はこのほか、ＳＮＳに投稿された文章や画像などからフェイクニュースの検知や社会的影響度を評価する技術も、２０２７年度までに開発する方針だ。
　生成ＡＩを巡っては、フェイクニュースを選挙や被災地で悪用する例が世界中で頻発。このため欧州連合（ＥＵ）では５月、生成ＡＩを包括的に規制する「ＡＩ法」が成立した。日本政府も今月から法規制の議論に着手、早ければ来年の通常国会に関連法案の提出を目指している。（2024/08/15-07:07）

英文版に切り替え

2024.08.15 07:07Business

Japanese Firms Boosting Tech Development to Spot AI Hallucinations

Twitter

Facebook

LINE

Japanese electronics and other companies are rushing to develop technologies to detect false information generated by artificial intelligence, as AI hallucinations have become a social issue around the world.
Hitachi Ltd. has developed technology to determine whether a sentence was created by AI by using some words as watermarks, like those on bank notes. The technology's accuracy will improve with more sets of words. It is available in various languages including programming language.