富士通、対話型生成ＡＩの幻覚やＡＩを騙す敵対的攻撃に対処できるＡＩトラスト技術を開発し提供開始
- 2023/9/28 08:21
- プレスリリース
■個人向けにも同社ポータルサイト上からトライアル環境を提供
富士通＜６７０２＞（東証プライム）は２７日、対話型生成ＡＩから出力される回答の信頼性を向上する２つのＡＩトラスト技術である幻覚検出技術とフィッシングＵＲＬ検出技術を開発したと発表。これらの技術を、「Ｆｕｊｉｔｓｕ Ｋｏｚｕｃｈｉ （ｃｏｄｅ ｎａｍｅ）－Ｆｕｊｉｔｓｕ ＡＩ Ｐｌａｔｆｏｒｍ」の対話型生成ＡＩコアエンジンに搭載し、２０２３年９月２８日から順次、日本国内に法人向けの実証実験環境として提供を開始し、個人向けにも同社ポータルサイト上からトライアル環境を提供する。今後は、グローバルにも展開予定。
１つ目のＡＩトラスト技術は、対話型生成ＡＩがデータに基づかないもっともらしい誤りを回答してしまう幻覚（ハルシネーション）を検出する技術で、対話型生成ＡＩの回答文をＡＩが意味解析し、且つ幻覚が生じやすい固有表現部分を特定して重点的に確認することで、既存手法よりも幻覚を高精度に検出する。
２つ目は、対話型生成ＡＩが、悪意ある情報を覚え込ませる攻撃を受けてフィッシングサイトＵＲＬを回答出力してしまう問題に対応できる技術で、対話型生成ＡＩに本技術を搭載することで、ＡＩを騙す既存の敵対的攻撃を含むフィッシングサイトを高度に検出し、利用者に危険なＵＲＬであることを伝える。
同社は今後も、対話型生成ＡＩをはじめとするＡＩの品質やセキュリティ、倫理などのＡＩトラストを向上させる技術を世界に先駆けて研究開発し、実証実験や有効性検証を進めることで、顧客が安心してＡＩを利用できる社会づくりに貢献していくとしている。（情報提供：日本インタビュ新聞社・株式投資情報編集部）
関連記事
ピックアップ記事
-
■東京・愛知・兵庫で屋外広告も掲出、号外や無料バッティング企画も実施 Ｍａｊｏｒ Ｌｅａｇｕｅ … -
2025/7/22
森永乳業、腸内炎症抑制に有効なビフィズス菌Ｍ－６３、新生児腸内環境への有益性確認■新生児対象の臨床試験で抗炎症作用と菌叢改善を実証 森永乳業＜２２６４＞（東証プライム）は７月２… -
2025/7/17
コーヒーにストレス緩和効果、味の素ＡＧＦが科学的に解明■「日本栄養・食糧学会大会」で研究成果発表、科学的根拠を提示 味の素＜２８０２＞（東証プライム）…
