富士通、対話型生成ＡＩの幻覚やＡＩを騙す敵対的攻撃に対処できるＡＩトラスト技術を開発し提供開始
- 2023/9/28 08:21
- プレスリリース
■個人向けにも同社ポータルサイト上からトライアル環境を提供
富士通＜６７０２＞（東証プライム）は２７日、対話型生成ＡＩから出力される回答の信頼性を向上する２つのＡＩトラスト技術である幻覚検出技術とフィッシングＵＲＬ検出技術を開発したと発表。これらの技術を、「Ｆｕｊｉｔｓｕ Ｋｏｚｕｃｈｉ （ｃｏｄｅ ｎａｍｅ）－Ｆｕｊｉｔｓｕ ＡＩ Ｐｌａｔｆｏｒｍ」の対話型生成ＡＩコアエンジンに搭載し、２０２３年９月２８日から順次、日本国内に法人向けの実証実験環境として提供を開始し、個人向けにも同社ポータルサイト上からトライアル環境を提供する。今後は、グローバルにも展開予定。
１つ目のＡＩトラスト技術は、対話型生成ＡＩがデータに基づかないもっともらしい誤りを回答してしまう幻覚（ハルシネーション）を検出する技術で、対話型生成ＡＩの回答文をＡＩが意味解析し、且つ幻覚が生じやすい固有表現部分を特定して重点的に確認することで、既存手法よりも幻覚を高精度に検出する。
２つ目は、対話型生成ＡＩが、悪意ある情報を覚え込ませる攻撃を受けてフィッシングサイトＵＲＬを回答出力してしまう問題に対応できる技術で、対話型生成ＡＩに本技術を搭載することで、ＡＩを騙す既存の敵対的攻撃を含むフィッシングサイトを高度に検出し、利用者に危険なＵＲＬであることを伝える。
同社は今後も、対話型生成ＡＩをはじめとするＡＩの品質やセキュリティ、倫理などのＡＩトラストを向上させる技術を世界に先駆けて研究開発し、実証実験や有効性検証を進めることで、顧客が安心してＡＩを利用できる社会づくりに貢献していくとしている。（情報提供：日本インタビュ新聞社・株式投資情報編集部）
関連記事
ピックアップ記事
-
2025/11/28
【ガソリン暫定税率ついに廃止】半世紀の“暫定”に幕、家計・企業・財政を揺らす重大転換■ガソリン・軽油の暫定税率廃止法成立 ガソリン暫定税率廃止法は１１月２８日に成立し、ガソリン税２… -
2025/11/27
【この一冊】『「心の病」がみえる脳科学講義』発売、精神疾患の実像に迫る最新研究書■うつ・統合失調症・発達障害を脳から理解する、最前線研究を平易にまとめた一冊 翔泳社は１１月２５… -
2025/11/27
国交省、新築マンション取引、短期売買が都心部で上昇、国外取得も増加傾向【新築マンションの短期売買を分析】 国土交通省は１１月２５日、三大都市圏および地方四市の新築マン…
