ページの本文へ

Hitachi
お問い合わせ

テクノロジー

自然言語処理に使われるLSTM(長・短期記憶)とは?

LSTMは、AIが自然言語を処理する際に使われる仕組みです。従来のニューラルネットワークを改良して作られたLSTMは、文章の生成や音声認識などさまざまな技術に応用されています。

この記事ではLSTMの概要やRNN、GRUなどほかの手法との違い、LSTMの仕組みなどについて解説します。LSTMの特徴について理解を深めたい方は、ぜひ参考にしてください。

  1. LSTM(長・短期記憶)とは
  2. LSTMとRNNの違い
  3. LSTMとGRUの違い
  4. LSTMの構成・仕組み

LSTM(長・短期記憶)とは

LSTMとは、AIが機械学習を行うための仕組みであるニューラルネットワークの一種です。LSTMは「Long Short Term Memory」の略称で、日本語では「長・短期記憶」と訳されます。

他のニューラルネットワークと同様に、LSTMは入力された情報をもとに、機械学習モデルを構築することが可能です。LSTMが開発される以前のニューラルネットワークでは、長い文章データなどの学習に課題がありました。従来のニューラルネットワークの弱点を補強し、長いデータでも高い精度で学習できるようになったことがLSTMの特長です。

LSTMとRNNの違い

LSTMは、RNNと呼ばれるニューラルネットワークを改良したものです。RNNは「Recurrent Neural Network」の略称で、日本語では「回帰型ニューラルネットワーク」と訳されます。RNNは、時間に伴って変化するデータを学習できることが特徴です。音声認識や株価の予測などにRNNが応用されています。

LSTMとRNNの違いは、記憶セルと呼ばれる仕組みの有無です。RNNには記憶セルが無く、ニューラルネットワークのある層で計算された情報がそのまま次の層へと引き継がれます。一方、LSTMには記憶セルがあり、入力された情報の一部を保ったまま機械学習を行うことが可能です。

記憶セルを持たないRNNでは、数多くの層で計算が行われる過程で「勾配」と呼ばれる特徴量が消失し、機械学習が進まなくなってしまう問題がありました。LSTMは記憶セルに必要なデータを残しながら計算を行うことで、勾配消失問題を解決しています。

RNNの詳しい仕組みについては、下記の記事でご覧いただけます。
自然言語処理に使われるRNN(リカレントニューラルネットワーク)とは

LSTMとGRUの違い

GRUはLSTMと似た機能を持つニューラルネットワークです。GRUは「Gated Recurrent Unit」の略称で、日本語では「ゲート付き回帰型ユニット」と訳されます。

GRUとLSTMの違いは、入力情報の一部を保持しながら計算を行うための仕組みです。LSTMは記憶セルを用いて情報を保持することに対して、GRUはゲートと呼ばれる構造のみで同様の処理を行うことができます。

GRUには記憶セルが無いため、LSTMと比べると構造がシンプルです。学習対象のデータによっては、GRUの方がLSTMよりも高速に機能する場合があります。ただし、学習の精度に差がでるケースもあるため、状況に応じて適切な方を選ぶことが重要です。

LSTMの構成・仕組み

LSTMは忘却ゲート、入力ゲート、出力ゲートという3つの仕組みによって学習を行います。LSTMを構成する各部分の役割は次のとおりです。

忘却ゲート

忘却ゲートでは、入力された情報をもとに、記憶セルに保存されているデータをどれだけ忘れるかが決定されます。機械学習のプロセスにおいて、記憶セルのデータをすべて消去する必要がある場合、忘却ゲートから出力される数値は0です。一方、記憶セルのデータをすべて残しておく場合は1が出力されます。記憶セルのデータを忘れる度合いに応じて、0から1までの値を出力することが忘却ゲートの機能です。

入力ゲート

入力ゲートは、入力された情報の中から、新たに記憶セルに保存するべき情報を決定します。また、シグモイド関数と呼ばれる仕組みで、各入力の重要度を0から1の範囲の値で決めることも入力ゲートの役割です。入力ゲートで算出された値は記憶セルのデータと掛け合わされ、出力ゲートへと引き渡されます。

出力ゲート

出力ゲートの役割は、最終的に出力する情報の決定です。入力ゲートまでで処理された情報に対して、重要度に応じた重みづけを行い、出力するデータを計算します。

LSTMはこれらのプロセスを通じて保持すべきデータを取捨選択し、高い精度で機械学習を行うことが可能です。

LSTMはRNNを改良したニューラルネットワークです。入力情報の一部を記憶する仕組みにより、文章生成などの自然言語処理を実現できます。LSTMの特徴を知り、AIの機械学習プロセスについての理解を深めましょう。

日立ソリューションズ・クリエイトでは、既存のシステムにAIの機能を追加し、企業の課題解決を支援する「AIプラス」を提供しています。技術継承・人材不足・業務の自動化、効率化、標準化でお悩みの場合には、ぜひ一度ご相談ください。

あわせて読みたい

関連記事はこちら

Wi-Fi6とは? メリット・デメリットやほかのWi-Fi規格との違いなど

Wi-Fiは「Wi-Fi6」という規格が主流になってきました。最新規格の「Wi-Fi7」の策定も進められていますが、一般に普及するまでにはまだ時間が掛かるでしょ...

詳細はこちら

AIの転移学習とは? メリット・デメリットや活用例など

転移学習とは、AIの精度を高める手法のひとつです。転移学習を行うことで、従来よりも効率的に機械学習のプロセスを進められるようになります。この記事ではAIの転移学...

詳細はこちら

自然言語処理に使われるRNN(リカレントニューラルネットワーク)とは?

RNN(リカレントニューラルネットワーク)はAIを支える技術の一つで、自然言語処理などの分野で応用されています。人間の言語や画像データなどの内容を機械が認識する...

詳細はこちら

CNN(畳み込みニューラルネットワーク)とは? わかりやすく解説

ディープラーニングの登場により、AIは飛躍的に進歩しました。そんなディープラーニングにはいくつかのアルゴリズムが存在しますが、そのなかでも画像認識の分野で用いら...

詳細はこちら

ディープニューラルネットワーク(DNN)とは? 基本を解説

近年のAIを語る上で「機械学習」や「ディープラーニング」などは欠かせない要素の一つです。それらと併せて聞く機会の多い用語として「ディープニューラルネットワーク(...

詳細はこちら

自然言語処理(NLP)とは? 仕組み・活用例など

昨今のAIの進歩は凄まじく、ビジネスの現場でもAIの活用が進んでいます。そんなAIを支える技術の一つに「自然言語処理(NLP)」が挙げられます。近年話題のCha...

詳細はこちら

大規模言語モデル(LLM)とは? 仕組みや種類・用途など

近年ではさまざまな生成AIが登場していますが、そのなかでも注目を集めているものが「大規模言語モデル(LLM)」を活用したものです。以前からコンピューターと対話す...

詳細はこちら

プロンプトエンジニアリングとは? プロンプトの構成や設計のポイントなど

ChatGPTをはじめとする生成AIは、いまや業務でも利用される機会が増えています。そんな生成AIを使いこなすために欠かせないものが「プロンプトエンジニアリング...

詳細はこちら

人工無能とは? 人工知能の違いなど分かりやすく解説

業界や業種を問わず、さまざまな場面で人工知能(AI)の活用が進んでいます。そんな人工知能と同様に「人工無能」も活用の幅が広がっており、注目を集めています。しかし...

詳細はこちら

PLMシステムとは? 機能や導入メリット・注意点など

PLMシステムは、主に製造業を営む企業で活用されているシステムです。PLMシステムを導入することで、製品の企画から販売終了までのプロセスを管理し、利益の最大化に...

詳細はこちら

AIロボットにはどのような種類がある? 活用事例も紹介

AIを搭載したプログラムで制御されるAIロボットが、ビジネスの現場や一般家庭などで活用され始めています。AIロボットは従来型のロボットよりも自由度が高く、さまざ...

詳細はこちら

AIで生成したものの著作権はどうなる? 注意したいポイント

AIを活用する場合、他者の著作権を侵害してしまうリスクに注意が必要です。AIを用いて文章や画像などを生成するだけでなく、AIの学習のために既存の著作物のデータを...

詳細はこちら

医療の現場でAI活用を進めるメリット・デメリット

AI(人工知能)は人間の知能を人工的に再現したもので、コンピューターでありながら自ら学び、収集するデータの量などに応じて成長が期待できるという特長があります。将...

詳細はこちら

RPAとAIの違いは? RPAとAIを組み合わせた活用についても解説

RPAはオフィスで行われている業務をソフトウェアロボットが担う、画期的な自動化ツールです。事務作業の効率化と生産性向上をもたらし、これまで人が端末(PCなど)を...

詳細はこちら

ノーコード開発とは? メリット・デメリットと選ぶときのポイントなど

2020年から小中学校・高校で段階的にプログラミング教育の必修化が進んだように、いまやプログラミングは一般教養として必要とされてきています。しかし、プログラミン...

詳細はこちら

Web3.0(Web3)とは? わかりやすく解説

インターネットは1990年代から急速に発達し、現代では私生活・業務を問わず誰もが当たり前に利用するものとなりました。そんなインターネットはさらに進化しようとして...

詳細はこちら

セマンティックセグメンテーションとは? 仕組みや技法など

近年、さまざまな場面でAIの活用が進んでいますが「第三次人工知能ブーム」として、ディープラーニング(深層学習)による画像認識技術の向上がきっかけとなっています。...

詳細はこちら

AI文字起こしとは? メリットや活用のコツなど

いまやAIは、さまざまな業務において効率化の手段として活用されています。AIにもさまざまな種類が存在しますが、そのなかでも音声データからテキストを作成する「AI...

詳細はこちら

画像生成aiとは? 仕組みや人気ツールなどを解説

「イラストは絵心のある人にしか描けない」という時代は終りを迎えたかもしれません。作成するイラストのイメージや雰囲気などを情報として与えるだけで、誰でも簡単にイラ...

詳細はこちら

ジェネレーティブAI(生成系AI)の活用事例を紹介

ジェネレーティブAI(生成系AI)という言葉は、2022年にアメリカの調査会社であるガートナー社が公表したことで注目を集めるようになりました。新しい用語なのでで...

詳細はこちら

対話型AIとは? できることやビジネスにおける活用のポイントなど

近年、AIは業務でも利用される機会が増えています。さまざまなAIが存在するなかでも、「対話型AI」は多くの方が触れたことがあるのではないでしょうか。しかし、対話...

詳細はこちら

ChatGPTとは? 始め方や賢い活用方法などわかりやすく解説

ChatGPTは、対話形式でAIが人間の質問に回答するジェネレーティブAI(生成系AI)の一種です。2022年11月にリリースされて以降、急速に利用者が増え、多...

詳細はこちら

生成系AI(ジェネレーティブAI)とは? ChatGPTやAI画像などまとめて解説

近年、ChatGPTをはじめとする「生成系AI(ジェネレーティブAI)」が注目されています。業務で利用する機会も増え始めており、気になっている方も多いのではない...

詳細はこちら

ローコード開発とは? ほかの開発方法との違いとメリット・デメリット

最小限のソースコードで業務アプリケーションなどを開発する「ローコード開発」という手法をご存じでしょうか。ローコード開発とは、どのようなもので、ほかの開発方法とは...

詳細はこちら

スマート農業とは? 仕組みやメリット・デメリットなど

さまざまな業界・業種でICT(情報通信技術)の活用が進み、近年では農業にもICTを導入するようになっています。ICTを活用した農業は「スマート農業」と呼ばれ、農...

詳細はこちら

スマートファクトリー事例と成功のポイント

情報化が進み、あらゆる情報をデータとして取り扱う昨今、工業の分野においても情報化が進められています。そんななか、最新の技術を活用する「スマートファクトリー」に注...

詳細はこちら

VRとは? 仕組みやビジネスにおける活用事例など

近年、注目を集める技術としてVRが挙げられます。ゲームや動画視聴などで利用されるイメージが強いVRですが、昨今ではビジネスでの活用も増えてきています。今後のビジ...

詳細はこちら

ビジネスにおけるメタバースの活用事例

インターネットが普及し、現実世界とは異なる世界である「ネットの世界」を利用することが一般的になった昨今、次世代の新たな仮想世界として注目されているものが「メタバ...

詳細はこちら

AIプラットフォームとは? 種類やメリット・デメリットを解説

AIプラットフォームとは、特定の機能を持ったAIを自社で開発したい場合に役立つシステムです。専門知識や開発経験が少ない企業であっても、AIプラットフォームを使う...

詳細はこちら

メタバースとは? メリット・デメリットや活用例など

インターネットが私たちの生活の一部として、なくてはならないものとなって久しい昨今、その次の段階として「メタバース」が世界規模で注目を集めています。メタバースにつ...

詳細はこちら

AIで異常検知! 取り入れるメリットや成功事例を解説

人的コストの削減やヒューマンエラーの抑制を期待して、AIによる異常検知の導入を検討している方は多いのではないでしょうか。AIは蓄積したデータを基に異常検知を行い...

詳細はこちら

AIチャットボットとは? 仕組みやメリット・デメリットを解説

カスタマーセンターなどの業務効率化を目的にAIチャットボットの導入を検討している方は、その仕組みやメリット、デメリットについて知っておく必要があります。AIチャ...

詳細はこちら

顔認証システムの仕組みと精度

現在ではスマートフォン(スマホ)のロック解除やオフィスの入退室管理など、幅広く導入されている顔認証システム。自社でも顔認証システムの利用を検討しているものの、仕...

詳細はこちら

デジタル・ガバメントの意味・目的や実行計画についてわかりやすく解説

政府が主導する「デジタルファースト」、「ワンスオンリー」、「コネクテッド・ワンストップ」を三原則とする「デジタル・ガバメント」という取り組みが具体化しつつありま...

詳細はこちら

ハイパーオートメーションのメリット・デメリットやRPAとの違いを解説

さまざまな技術やツールを組み合わせて、連動する複数の業務を自動化しようというのがハイパーオートメーションの基本的な考え方です。RPAに代表される業務自動化は近年...

詳細はこちら

音声UIとは? 押さえておくべきポイントや今後の展望について解説

音声を認識してコンピューターなどを操作できる「音声UI」が身近なものになりつつあります。音声UIとはどのような特徴を持つインターフェースで、どんなメリットとデメ...

詳細はこちら

ソサエティ5.0とは? 政府の取り組みや事例についても解説

国が提唱するソサエティ5.0は、未来の新しい社会像を描いたシナリオの一つです。しかしそれは遠い未来の話ではなく、すでに始動している技術の延長線上にある、少し先の...

詳細はこちら

全数検査のメリット・デメリットと導入のポイント

製造工程で製品の不良を取り除くには、全数検査を実施するのが理想です。近年ではIoTやAI(人工知能)技術を活用した新しい全数検査も可能になっています。しかし、全...

詳細はこちら

炎上対策にも効果的? AIによるSNS監視

SNSの普及によって、個人が自由に意見を発信する機会が増えました。ときには企業への批判がなされ、それが簡単に拡散してしまうケースもあります。そこで企業は、自社の...

詳細はこちら

AI活用における倫理問題とは? 企業は何に留意すべきか

次世代のテクノロジーとして注目されている「AI(人工知能)」をビジネスに導入する際、私たちはその正しい活用をめざしてさまざまな問題に対処しなければなりません。こ...

詳細はこちら

自動運転レベルとは? 現在はどこまで進んでいるのか

2020年現在、一部の運転操作が不要になる自動運転技術を搭載した車両が複数のメーカーから販売され、それに合わせて世界的に法律の改正が進められています。将来的には...

詳細はこちら

AI資格「人工知能プロジェクトマネージャー試験」について解説

人間に代わって思考や分析を行う「AI」。人工知能とも呼ばれていますが、AIをビジネスや業務で使うためには専門的な知識が必要になります。ここでは、AIのプロを育成...

詳細はこちら

AI技術によって実現した無人コンビニの仕組み

AIをはじめとした技術の発展により、世界中で無人コンビニの実証実験や導入が進んでいます。全国のコンビニが無人コンビニになればとても便利になると予想できますが、実...

詳細はこちら

AI(人工知能)のエキスパートシステムについて詳しく解説

AI、人工知能、機械学習といったワードが最近では当たり前のように使われるようになり、これらの技術は今後の技術革新において欠かせない存在になっているといえるでしょ...

詳細はこちら

テキストマイニングとは? 手法や活用法を解説

マーケティングへの活用や顧客満足度の向上、社内ナレッジの抽出などに役立つ「テキストマイニング」という手法をご存知でしょうか。データマイニングのなかでも、身近なテ...

詳細はこちら

データマイニングとは? AIとの関係についても解説

データマイニングは大量のデータのなかから有益な情報や価値ある知見を見つけ出す手法です。多くの企業がデータマイニングを活用し、マーケティングや結果予測に役立ててい...

詳細はこちら

人の心が分かる? 感情分析AIの仕組み

AIは論理的な思考によって答えを導き出すことは得意でも、人間の感情や気分、気持ちを察することはできないと思っている方が多いかもしれません。ところが今、「感情分析...

詳細はこちら

政府が推進する「AI Quest(課題解決型AI人材育成)」について解説

経済産業省が進める人材育成「AI Quest」をご存知でしょうか。わが国におけるAI人材の不足を解決するための試みで、年間2,000人のエキスパートレベルの人材...

詳細はこちら

エッジAIとは? 人工知能が産業にもたらす可能性

AIの活用が広がるにつれて注目を集めるようになったのが「エッジAI」です。従来の「クラウドAI」とは異なる特徴を持ち、とくに自動運転や産業用ロボット制御において...

詳細はこちら

MaaSとは? 日本での普及における課題

「MaaS」は未来の「移動」を革命的に変えることになるかもしれないキーワードです。欧米よりも遅れを取っているといわれる「日本版MaaS」の開発に向けて、鉄道会社...

詳細はこちら

押さえておきたい機械学習とディープラーニングの違い

AI(人工知能)技術について語るときによく耳にする「機械学習」と「ディープラーニング」。両者はどのように異なるのでしょうか。その仕組みや活用分野の違いなどについ...

詳細はこちら

AIによる画像認識の活用事例を紹介

さまざまなシーンでAI(人工知能)による画像認識が活用されています。画像認識技術は現在どのようなことに役立ち、今後、何を実現しようとしているのか、予測しきれない...

詳細はこちら

自動運転や産業機械の可能性を広げるミリ波レーダーとは

自動車の「ADAS(Advanced Driver-Assistance Systems:先進運転支援システム)」や自動運転に詳しい人なら、「ミリ波レーダー」が...

詳細はこちら

シンギュラリティとは? どのようにAIを活かしていくのか

AI(人工知能)の開発が進んで広く知られるようになり、「シンギュラリティ」という概念についても強い関心を寄せられるようになりました。2045年にAIの発達によっ...

詳細はこちら

AI(人工知能)を活用しよう! ビジネスにおける取り入れ方

ビジネスへのAI(人工知能)の活用はすでにさまざまな分野・現場で始まっています。AIと人間との関係性は今後どうなっていくのか、AIをビジネスに取り入れるためのポ...

詳細はこちら

AI(人工知能)には何ができる? AIの種類を紹介

AI(人工知能)は今、新しい製品やサービスとして、少しずつ私たちの社会や生活に入り込んできています。AIとは何なのか、AIの種類にはどのようなものがあるのかなど...

詳細はこちら

量子コンピュータとは? メリット・デメリットを解説

量子コンピュータの開発が加速しています。実用化されれば、交通渋滞の解消、医薬品の開発、ビッグデータの解析、AIの開発などに大きな進展をもたらすと言われています。...

詳細はこちら