富士通、対話型生成ＡＩの幻覚やＡＩを騙す敵対的攻撃に対処できるＡＩトラスト技術を開発し提供開始
- 2023/9/28 08:21
- プレスリリース
■個人向けにも同社ポータルサイト上からトライアル環境を提供
富士通＜６７０２＞（東証プライム）は２７日、対話型生成ＡＩから出力される回答の信頼性を向上する２つのＡＩトラスト技術である幻覚検出技術とフィッシングＵＲＬ検出技術を開発したと発表。これらの技術を、「Ｆｕｊｉｔｓｕ Ｋｏｚｕｃｈｉ （ｃｏｄｅ ｎａｍｅ）－Ｆｕｊｉｔｓｕ ＡＩ Ｐｌａｔｆｏｒｍ」の対話型生成ＡＩコアエンジンに搭載し、２０２３年９月２８日から順次、日本国内に法人向けの実証実験環境として提供を開始し、個人向けにも同社ポータルサイト上からトライアル環境を提供する。今後は、グローバルにも展開予定。
１つ目のＡＩトラスト技術は、対話型生成ＡＩがデータに基づかないもっともらしい誤りを回答してしまう幻覚（ハルシネーション）を検出する技術で、対話型生成ＡＩの回答文をＡＩが意味解析し、且つ幻覚が生じやすい固有表現部分を特定して重点的に確認することで、既存手法よりも幻覚を高精度に検出する。
２つ目は、対話型生成ＡＩが、悪意ある情報を覚え込ませる攻撃を受けてフィッシングサイトＵＲＬを回答出力してしまう問題に対応できる技術で、対話型生成ＡＩに本技術を搭載することで、ＡＩを騙す既存の敵対的攻撃を含むフィッシングサイトを高度に検出し、利用者に危険なＵＲＬであることを伝える。
同社は今後も、対話型生成ＡＩをはじめとするＡＩの品質やセキュリティ、倫理などのＡＩトラストを向上させる技術を世界に先駆けて研究開発し、実証実験や有効性検証を進めることで、顧客が安心してＡＩを利用できる社会づくりに貢献していくとしている。（情報提供：日本インタビュ新聞社・株式投資情報編集部）
関連記事
ピックアップ記事
-
2025/12/24
南鳥島沖ＥＥＺ海域６０００ｍで世界初、レアアース泥採鉱システムを検証■「ちきゅう」を投入、令和８年１月から２月にかけて実証 内閣府戦略的イノベーション創造プログラム… -
2025/12/24
日本政府、人工知能（ＡＩ）基本計画を閣議決定、首相主導・全閣僚参画でＡＩ戦略推進■人工知能基本計画が始動、利活用から開発への循環促進、世界最先端のＡＩ国家を標榜 政府は１２月２… -
2025/12/23
国内造船業がＶ字回復、増収増益続く一方で中韓勢と競争激化■２２２社分析で売上２兆円台復帰、利益は１，４３５億５８０万円へ倍増 東京商工リサーチ（ＴＳＲ）…
