NN共通

はぐれ弁理士 PA Tora-O です。本ブログの運営を開始してから、ようやく10回分の事例検討が終わりました! 一応区切りということで事例リストを作成しました。各事例の最初の記事には、以下のリンクからアクセスできます。今後は、定期的 ...

自然言語処理

はぐれ弁理士 PA Tora-O です。今回のテーマとして、ニューラル機械翻訳(NMT)における頻出の手法であるアテンション機構(Attention Mechanism)を題材に取り上げていきます。

背景

いわゆる “Wor ...

自然言語処理

はぐれ弁理士 PA Tora-O です。前回(第3回)では、Seq2Seq の実施例について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回は、過去3回分の検討を踏まえ、発明ストーリーの一例を提示します ...

自然言語処理

はぐれ弁理士 PA Tora-O です。前回(第2回)では、Seq2Seq の前提知識として、再帰型ニューラルネットワーク(RNN)の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第3回 ...

自然言語処理

はぐれ弁理士 PA Tora-O です。前回(第1回)では、Seq2Seq の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、Seq2Seq を理解する上での前提知識ともいえる ...

自然言語処理

はぐれ弁理士 PA Tora-O です。今回のテーマとして、ニューラル機械翻訳(NMT)の先駆けとも言える “Seq2Seq” を題材に取り上げていきます。Seq2Seq は、文字列(From Sequence)から文字列へ(To S ...

自然言語処理

はぐれ弁理士 PA Tora-O です。前回(第4回)では、PV-DMモデルの概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第5回)は、学習方法に関する補足的な説明を行った上で、クレーム ...

自然言語処理

はぐれ弁理士 PA Tora-O です。第2~第3回にわたって、PV-DBOW モデルの概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第4回)から、PV-DM(Distributed M ...

自然言語処理

はぐれ弁理士 PA Tora-O です。前回(第2回)では、PV-DBOWモデルの概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第3回)は、先に提示した疑問点を解消した上で、クレーム骨子 ...

自然言語処理

はぐれ弁理士 PA Tora-O です。前回(第1回)では、Doc2Vec の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、Doc2Vec を構成する2種類のモデルのうち、P ...

自然言語処理

はぐれ弁理士 PA Tora-O です。今回のテーマとして、Word2Vec の発展的モデルである “Doc2Vec”を題材に取り上げていきます。

背景

近年、自然言語処理(NLP)の研究分野において、従来型のカウントベース ...