日本語性能トップレベルのLLM

date_range 2023/07/19
日々の活動日記エンジニアインターン
LLM

こんにちは!

マーケティング部受託プロダクトチームのインターン生、村高歩夢です!


みなさんはもうChatGPT使ってますか?


使ってる方かなり多いかと思います。

僕はChatGPTがないと呼吸ができなくなります。


約1ヶ月前、日本の大手企業NECが日本語性能トップのLLMを開発したと発表しました。

今日はこの日本産LLM(大規模言語モデル)について書いてきます。


このLLM何がすごいかって、もちろん日本語性能もそうですが、超軽量なんですよ。


僕はこっちの方が1番の売りじゃないかと思いますね。


NECによればNECのLLMはGPU一枚あれば動くとのこと。


最近の大規模なAIの研究ではGPU一枚で学習させると300年以上もの時間が必要な研究があるらしいですから、相当軽量ですよね。


学習データの量としてよく比較されるパラメータ数ではChatGPTが1750億(と言われている)なのに対して、

NECのLLMは130億とし10倍くらい小規模なんです。なのに日本語性能トップ。


この軽いLLM、なんとオンプレミスで使えるんです!


ちなみにオンプレミスとはサーバーなどの情報システムを自社内で管理すること


流行りのクラウドと反対のシステム管理・運用方法ですね。

クラウドはサーバーなどの情報システムを専門の会社が管理・運用することですね。

例えば、Google DriveとかiCloudとか。


やはりクラウド専門企業の方が高性能なパソコン・データセンターなどの環境を持っていますから、

高性能なスーパーコンピュータが必要なAIサービスはクラウドになりがちでした。


それがオンプレミスでも使えるくらい軽くなったのはすごいことなんじゃないかなと思います。


LLMがオンプレミスになることによってセキュリティを自社独自のルールにカスタマイズさせることができます。

ということは、将来LLMに顧客情報などを渡して業務利用することも可能になるかもしれないのです。


余談ですが、このLLM

基礎的なモデルを開発するのに1ヶ月ほどと爆速で開発された模様です。

これも3月から稼働したNECAIスパコンとNECの記述のおかげですかね。


参考記事






■ガーディアン主力ソリューション→OWLet

■新サービスリリースのお知らせ

WEB業界を変える!育てて成果を上げるサブスク型HPサービス

SCSC (スクスク)

ガーディアンのインターン制度→こちら

村高歩夢の紹介ページこちら

*COMMENT*

    *コメント*

    *ログイン*

    メールアドレス
    パスワード