UTSUNOMIYA_NLP研究所

宇都宮からディープラーニングを始めとする機械学習・AI・自動化・仕組化・ツール作成についての情報を配信。python学習を始めたい方。チェックしてください。

掲載:2023年12月21日 UTSUNOMIYA_NLP研究所

 llamaの登場からllama2までの流れについて纏めました。


正攻法の地位獲得?llama2はフリーLLMの本命株(ショートコラム)


 記事の対象者は以下の方を想定しております。

  • llamaについての評価を知りたい方
  • 言語処理のビジネス活用に興味のある企画職の方(非エンジニア職)



現在は有料とフリーの混迷期

 chatGPT登場以降、AIやLLM界隈では様々な期間の研究開発や、新規モデルの発表が闊達であり、ニュース等においてもその数は日々多くなってきていることが伺えます。
 新規開発が盛んである一方で、一つ顕著に道筋が見えつつ事例もあり、ご紹介させて頂きます。
 それは、有料LLMはchatGPT・マイクロソフトを中心とした主流派が明確に存在する一方で、研究開発者やコア層を中心に、meta社が支持を集めていることが注目されている点です。

llama2はフリーLLM界のスタンダード?

 meta社は、当初公開する予定でなかったllamaのパラメーターが公開された(されてしまったとの報道あり)ことをきっかけに、戦略を大きく転換しました。
 llamaは、chatGPTに対してはパラメーター数が小さいこともあり、性能は劣るが、それでもフリーLLMの寵児と言っても過言ではないほど注目を浴びました。
 その背景は、meta社はLLMに対するスタンスにおいて、皮肉にも情報開示が乏しいclosedなstaticAIとは対照的に、顕著に情報を開示し研究者を中心に賛同を得ました。
 llamaは商用利用が制限されていたが、論文・アーキテクチャー・パラメーター等が公開されており、当時では性能面が担保されたフリーLLMにおいて、一番情報開示がなされておりました
 そのllamaの後継として公開されたのが、llama2です。商用利用可能であり、パラメーターも扱いやすいサイズ感です。何よりも性能面も担保されている印象がllamaシリーズには定着しており、フリーLLMを検討するのであれば、llama2を選んでおけばとりあえずは間違いないというポジションを獲得しております。
 著者もLLMを理解するうえで、自身で色々と試行錯誤できるという意味でも、llamaを支持します。もちろん最先端を走り、すでに至高の域まで練りこまれた完成度を誇るstaticAI製のchatGPTには及ばない性能であることは言うまでもありません。今後のAIをめぐる覇権争いと社会実装を経て実現される未来の社会のあり方について、心を弾ませながら見守りたいと思います。

©dhipithi Inc All rights reserved.