ＡＩの安全性チェック　政府機関、評価ポイント公表へ

　人工知能（ＡＩ）の安全性を評価する際の基準を検討する政府の専門機関「ＡＩセーフティ・インスティテュート（ＡＩＳＩ）」の村上明子所長が１５日までにインタビューに応じ、安全なＡＩを使っているかどうかを事業者が確認するためのチェックポイントを整理していることを明らかにした。月内をめどに公表する。
　生成ＡＩが普及する中、偽情報の生成と拡散、知的財産権侵害などへの懸念から国際的にＡＩの安全性に対する関心が高まっている。政府は「海外（の研究）機関と連携し、安全性の評価手法の研究や規格作成などを行う機関が必要」（岸田文雄首相）として、ＡＩＳＩを２月に設置した。
　村上氏は「（事業者の使用している）ＡＩが安全か危険かをどのようにすれば評価できるか、という観点を整理している」と述べた。基準の策定に先立ち、生成ＡＩが個人情報を読み込んだデータを参照していないかなどを確認するための観点をまとめ、安全性評価の参考にしてもらうのが目的。ＡＩのセキュリティー上のリスクを事前に特定するテストの手順書公開も検討する。
　ＡＩ規制を巡っては、欧州連合（ＥＵ）が５月に関連法を成立させた。日本でも法規制の必要性に関する議論が始まった。村上氏は、規制の議論では「人命や人権に関わる部分を法制度で守っていく検討を怠ってはいけない」と指摘した。
　ＡＩＳＩは現在、関係省庁や民間企業からの出向者ら２４人の体制。村上氏は、専門人材の確保を進め、組織を２倍程度に拡大していきたい考えも示した。基準策定に向け、産業技術総合研究所や理化学研究所などとの協力も進めていく方針だ。（2024/08/16-07:05）

The Japanese government's AI Safety Institute, or AISI, plans to release a set of evaluation items later this month to help companies check whether they are using safe artificial intelligence, its director, Akiko Murakami, said in a recent interview.
   "We are discussing how to assess whether AI (used by companies) is safe or dangerous," Murakami said.
   The institute is also considering publishing a manual for identifying AI security risks.
   The institute was established in February to study standards for evaluating the safety of AI technology, as Prime Minister Fumio Kishida pointed out the need for an organization that would work with foreign research institutes, study safety evaluation methods, and create standards.
   AI safety is a global issue amid concerns that generative AI could spread misinformation and violate intellectual property rights.