定義
大規模言語モデル(LLM:Large Language Model)とは、インターネット上の膨大なテキストデータを学習し、人間のように自然な対話や文章作成ができる人工知能(AI)のことです。無数の文章の文脈を読み解き、次に続く最もふさわしい言葉を自ら予測しながら回答を組み立てます。
スマホの予測変換が超進化したもの
スマホでメッセージを入力するとき、「おつ」と打つと「お疲れ様です」が候補に出てくる予測変換機能を使ったことがあるはずです。私たちはタップするだけで簡単に文章を完成させていますよね。
大規模言語モデルは、この予測変換を想像を絶する規模まで巨大化させた仕組みです。書籍、ニュース記事、百科事典、ブログなどの膨大なWebテキストを分析し、「どの言葉のあとに、どんな言葉が続くのが最も自然か」を統計的に学習しています。
単語を1〜2個つなげるだけにとどまりません。質問全体の文脈を綿密に把握したうえで、直後に続く確率が高い単語の候補から1つを選び、しりとりをするようにつなげていきます。そのため、同じ質問をしても回答が少しずつ変わることがあります。こうして、まるで人間がその場で考えて書いているかのような滑らかな文章が生まれるのです。
なぜ人間の言葉の意味や文脈がわかるのか?
私たちが文章を読むときは、前後の言葉の関係性から意味を判断します。例えば「ハシを渡る(橋)」と「ハシで食べる(箸)」は、ひらがなは同じでも前後の言葉で意味がまったく異なりますよね。AIも同じように、文章中のすべての単語を同時に見渡して、互いにどう関係しているかを把握します。
コンピュータは私たちが使う文章を「トークン」と呼ばれる細かい破片に分解し、数値に変換します。そして、それらの言葉がどう結びつくのかを、モデルに応じて数十億〜数千億個もの数値(パラメータ)の中にきめ細かく記録します。この巨大なネットワークが働くことで、単なる言葉の組み立てを超えて、翻訳や要約、さらにはプログラミングコードの作成までスムーズにこなせるのです。
機械が人間のような心や意識を持っているわけではありません。しかし、膨大な文章から規則やパターンを極めて精巧に真似ることで、あたかも思考しているかのような深い回答を生み出しています。
正確に言うと:賢いオウムとその限界
より正確に言えば、大規模言語モデルは物事の事実を「本当に理解して」話しているわけではありません。ただ、質問のあとに続く「最もそれらしい言葉」を確率に従って組み立てているにすぎないのです。
そのため、モデルは時に間違った情報をあたかも事実であるかのように堂々とでっち上げてしまうことがあります。AIの世界では、このもっともらしい嘘を「ハルシネーション(幻覚)」現象と呼びます。ネット上の誤った情報を学習してしまったか、確率的にそれっぽく見える単語を無理につなぎ合わせたために起こる問題です。
この限界を克服するために、最新のAIは検索エンジンと連携して実際の事実を再検証したり、人間が正しい答えを教えて誤った挙動を正す追加学習(ファインチューニング)を取り入れています。
よくある誤解
LLMは質問されると、リアルタイムでインターネットを検索して答えを探してくるプログラムである。
基本的にLLMは、事前に学習して蓄えた統計的な計算データだけを使って文章を作り出します。検索機能が別途組み込まれていない限り、学習が完了した時点より後の最新情報は知りません。
日常で出会う場面
質問を入力すると、人間のように自然かつ丁寧に答えてくれるChatGPTが代表的な例です。
長い論文やニュース記事を入力すると、要点だけを3行にまとめてくれる要約機能に活用されています。
つまり ひとことで
膨大な文章を学習し、文脈に合わせて「次に続く最も自然な言葉」を次々と予測して紡ぎ出す巨大な言語AIです。