富士通、対話型生成ＡＩの幻覚やＡＩを騙す敵対的攻撃に対処できるＡＩトラスト技術を開発し提供開始
- 2023/9/28 08:21
- プレスリリース
■個人向けにも同社ポータルサイト上からトライアル環境を提供
富士通＜６７０２＞（東証プライム）は２７日、対話型生成ＡＩから出力される回答の信頼性を向上する２つのＡＩトラスト技術である幻覚検出技術とフィッシングＵＲＬ検出技術を開発したと発表。これらの技術を、「Ｆｕｊｉｔｓｕ Ｋｏｚｕｃｈｉ （ｃｏｄｅ ｎａｍｅ）－Ｆｕｊｉｔｓｕ ＡＩ Ｐｌａｔｆｏｒｍ」の対話型生成ＡＩコアエンジンに搭載し、２０２３年９月２８日から順次、日本国内に法人向けの実証実験環境として提供を開始し、個人向けにも同社ポータルサイト上からトライアル環境を提供する。今後は、グローバルにも展開予定。
１つ目のＡＩトラスト技術は、対話型生成ＡＩがデータに基づかないもっともらしい誤りを回答してしまう幻覚（ハルシネーション）を検出する技術で、対話型生成ＡＩの回答文をＡＩが意味解析し、且つ幻覚が生じやすい固有表現部分を特定して重点的に確認することで、既存手法よりも幻覚を高精度に検出する。
２つ目は、対話型生成ＡＩが、悪意ある情報を覚え込ませる攻撃を受けてフィッシングサイトＵＲＬを回答出力してしまう問題に対応できる技術で、対話型生成ＡＩに本技術を搭載することで、ＡＩを騙す既存の敵対的攻撃を含むフィッシングサイトを高度に検出し、利用者に危険なＵＲＬであることを伝える。
同社は今後も、対話型生成ＡＩをはじめとするＡＩの品質やセキュリティ、倫理などのＡＩトラストを向上させる技術を世界に先駆けて研究開発し、実証実験や有効性検証を進めることで、顧客が安心してＡＩを利用できる社会づくりに貢献していくとしている。（情報提供：日本インタビュ新聞社・株式投資情報編集部）
関連記事
ピックアップ記事
-
■東京大学発スタートアップが開発、１９自由度のヒューマノイドロボット 東京大学発スタートアップＨ… -
■売却面積は約１．６倍に、総額１，７８５億円超の譲渡価額 東京商工リサーチは６月３０日、２０２４… -
■従来の検索では見つけられなかった本との出会いを創出 富士通＜６７０２＞（東証プライム）傘下の富…
