■１７３０億トークン以上の学習を実施
東京エレクトロン デバイス（ＴＥＤ）＜２７６０＞（東証プライム）は１０月２４日、Ｃｅｒｅｂｒａｓ Ｓｙｓｔｅｍｓと共同で、日本語対応の大規模言語モデル「Ｌｌａｍａ３－ｔｅｄｌｌｍ－８Ｂ－ｖ１」を開発したと発表。このモデルは、Ｍｅｔａ－Ｌｌａｍａ－３－８Ｂを基盤とし、一般的な日本語コーパスと企業の内部データを利用して、１７３０億トークンのデータセットを用いた事前学習を行った。この結果、英語能力を有する基盤モデルに日本語能力を追加し、さらに企業特有のデータを反映させることに成功した。
従来の大規模言語モデル（ＬＬＭ）は主に英語のデータに基づいており、日本国内企業の文化やニーズに応じたモデルを提供するためには、特有の日本語データの追加学習が不可欠であった。ＴＥＤは、自社の豊富なデータを効果的に活用することを目指し、Ｃｅｒｅｂｒａｓ ＣＳ－３を使用して日本語対応のＬＬＭを開発した。この取り組みにより、企業が独自のデータを学習したＬＬＭを迅速かつ確実に構築できる環境が整備される。
今回の開発においては、学習時間の短縮と精度向上が実現された。Ｃｅｒｅｂｒａｓ ＣＳ－３を活用したことで、基盤モデルの言語能力を維持しつつ日本語精度が向上し、業界特有のデータを取り込むことで実践的な文書生成が可能となった。さらに、アダプターチューニングや強化学習を用いて独自ＬＬＭのユースケース構築を進める予定であり、これにより企業の生成ＡＩ活用の幅が広がることが期待される。（情報提供：日本インタビュ新聞社・株式投資情報編集部）
関連記事
ピックアップ記事
-
2026/1/22
ＫＤＤＩ、大阪堺データセンター始動、高性能ＧＰＵで国産ＡＩ基盤強化■シャープ堺工場跡地を再活用、水冷技術と再エネ電力で高性能計算を実現 ＫＤＤＩ＜９４３３＞（東証… -
2026/1/20
『映画 冬のソナタ 日本特別版』世界初公開、韓流の原点が銀幕に帰還■２０２６年３月６日全国公開、日本の観客へ感謝を込めた特別版 ギャガは、『映画 冬のソナタ 日本… -
2026/1/20
【食卓への第一歩を彩る一冊】『たべもの５５５』が示す食育図鑑の進化■写真５５５点で広がる味覚の世界、０歳からの「はらぺこ図鑑」 学研ホールディングス＜９４７０＞（…
