ResNet(2/4)実施例と作用効果
https://benrishi-ai.com/resnet02/前回(第1回)では、ResNet の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、ResNet の実施例およびその作用効果について説明します。 ネットワーク構成 -------- ResNet は、Residual block と呼ばれるサブネットワークを直列的に接続してなるCNN(畳み込みニューラルネットワーク)です。ここで、”r ...
類似スコア 133
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 従来技術 発明
ResNet(4/4)総括
https://benrishi-ai.com/resnet04/前回(第2回)では、ResNet の改良技術について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第4回)は、クレームを含む発明ストーリーを作成し、これまで3回分の検討を総括します。 発明ストーリー ------- 【従来技術】 いわゆる Alexnet(Krizhevsky et al)の登場以来、畳み込みニューラルネットワーク(CNN)の階層をより深く ...
類似スコア 131
ブログ執筆者: 弁理士 【個別ページ】
キーワード: クレーム 実施例 論文 採用
ResNet(3/4)Residual Block の改良例
https://benrishi-ai.com/resnet03/前回(第2回)では、ResNet の実施例および作用効果について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第3回)は、Residual block の改良例について検討します。 残差関数の集約 ------- Residual block は、残差特徴量(=出力特徴量-入力特徴量)を生成する第1演算部と、残差特徴量に対して入力特徴量を加算する第2演算部 ...
類似スコア 97
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 外観 実施例
VAE(2/4)実施例の説明
https://benrishi-ai.com/variational-ae02/前回(第1回)では、オートエンコーダの概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、VAEの実施例について、ネットワーク構造を中心に説明します。 ネットワーク構造 -------- まず、VAE(Variational Autoencoder)のネットワーク構造について説明します。以下、[1]学習フェーズ、[2]生成フェーズ、の2つ ...
類似スコア 87
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 発明
ResNet (1/4) 発明の概要
https://benrishi-ai.com/resnet01/今回のテーマとして、ディープラーニングで頻出の ResNet を題材に取り上げていきます。 背景 -- 階層型ニューラルネットワークにおける学習パラメータの更新手法として、誤差逆伝播法(Back Propagation)がよく用いられます。この手法は、入力→出力の流れとは逆方向に(出力→入力の流れで)更新量が計算される点に特徴があり、厳密解を求める場合と比べて、更新に要する計算量が大幅に削減 ...
類似スコア 79
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 論文
Pix2Pix(2/4)実施例の説明
https://benrishi-ai.com/pix2pix02/前回(第1回)では、Pix2Pix の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、Pix2Pix の実施例について説明します。 CGANベースの Image-to-Image モデル --------------------------- 早速ですが、前回出した検討課題の解答例を図1に示します。図1の例では、CGANの基本モデルに ...
類似スコア 78
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例
VAE(1/4)オートエンコーダの概要
https://benrishi-ai.com/variational-ae01/今回のテーマとして、深層生成モデルの基礎とも言うべきVAE(Variational Autoencoder)を題材に取り上げていきます。 背景 -- 生成モデル(Generative Model)とは、所与の学習データセットをベースに、学習データとは異なる新しいデータを人工的に生成するためのモデルです。データの種類は、静止画、動画、音声(楽曲、音、声など)、文章(小説、俳句、チャットなど)な ...
類似スコア 77
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 従来技術 発明 採用
FPN(4/4)総括
https://benrishi-ai.com/fpn04/前回(第3回)では、FPNの特許性について検討しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第4回)は、クレームを含む発明ストーリーを作成し、これまで3回分の検討を総括します。 発明ストーリー ------- 【従来技術】 畳み込みニューラルネットワーク(CNN)を導入した物体検出手法の一例として、R-CNN(Regions with CNN features ...
類似スコア 70
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例
Seq2Seq(2/4)再帰型ニューラルネット
https://benrishi-ai.com/seq2seq02/前回(第1回)では、Seq2Seq の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、Seq2Seq を理解する上での前提知識ともいえる再帰型ニューラルネットワーク(RNN;Recurrent Neural Network)の概要について説明します。 問題の設定 ----- RNNでは、指定された文章を1語ずつ暗唱する、暗唱問題につい ...
類似スコア 67
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 実施例 従来技術 進歩性
FPN (2/4) 実施例の説明
https://benrishi-ai.com/fpn02/前回(第1回)では、FPNの概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、FPNの実施例について説明します。 ネットワーク構造 -------- まず、FPN(Feature Pyramid Networks)のネットワーク構造は、次に示す図1の通りです。 【図1】FPNのネットワーク構造 出展:Feature Pyramid ...
類似スコア 65
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 論文
FCN (2/4) 実施例の説明
https://benrishi-ai.com/fcn02/前回(第1回)では、FCNの概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、FCNの実施例について説明します。 ネットワーク構造 -------- まず、FCNのネットワーク構造は、次に示す図1の通りです。 【図1】FCNのネットワーク構造 出展:Fully Convolutional Networks for Semantic ...
類似スコア 64
ブログ執筆者: 弁理士 【個別ページ】
アテンション機構(2/4)全体構成の説明
https://benrishi-ai.com/attention02/前回(第1回)では、アテンション機構の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、アテンション機構の実装例として、“Seq2Seq with Attention” の全体構成について説明します。 エンコーダの構造 -------- まず、エンコーダのネットワーク構造を図1に示します。 【図1】エンコーダの構造例 エンコーダは、 ...
類似スコア 62
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 発明
CycleGAN(1/4)発明の概要
https://benrishi-ai.com/cyclegan01/今回のテーマとして、敵対的生成ネットワーク(GAN)ベースの画像処理の一手法である CycleGAN を題材に取り上げます。 背景 -- 生成モデルのバリエーション(Variants)の1つとして、画像の作風を変える画風変換(Image Style Transfer)が挙げられます。例えば、Leon A. Gatys 氏らによる “Neural Style Transfer”(以下、NST) ...
類似スコア 58
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 実施例
Seq2Seq(3/4)実施例の説明&考察
https://benrishi-ai.com/seq2seq03/前回(第2回)では、Seq2Seq の前提知識として、再帰型ニューラルネットワーク(RNN)の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第3回)は、Seq2Seq の実施例を説明するとともに、本発明のポイントを軽く考察してみます。 問題の設定 ----- Seq2Seq では、例えば、英語をドイツ語に翻訳する翻訳問題について取り組みます(図 ...
類似スコア 58
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 実施例 従来技術
Seq2Seq(4/4)総括
https://benrishi-ai.com/seq2seq04/前回(第3回)では、Seq2Seq の実施例について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回は、過去3回分の検討を踏まえ、発明ストーリーの一例を提示します。 発明ストーリー ------- 【従来技術】 従来から、自動翻訳の分野において、登録済みのルールを適用して原文を分析することで訳文を出力するルールベース機械翻訳(RMT)や、対訳データの学習を通じ ...
類似スコア 58
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 論文
YOLO(2/4)実施例の説明
https://benrishi-ai.com/yolo02/前回(第1回)では、YOLOの概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、YOLOの実施例について説明します。 ネットワーク構成 -------- YOLOは、畳み込みニューラルネットワーク(CNN)の一種であり、GoogLeNet(Inception-v1)をベースにしたモデルのようです。図1から理解されるように、(1)関心領域 ...
類似スコア 57
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 従来技術 発明
YOLO(4/4)総括
https://benrishi-ai.com/yolo04/前回(第3回)では、YOLOの技術的特徴について解説しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第4回)は、クレームを含む発明ストーリーを作成し、これまで3回分の検討を総括します。 発明ストーリー ------- 【従来技術】 畳み込みニューラルネットワーク(CNN)を導入した物体検出手法の一例として、R-CNN(Regions with CNN featu ...
類似スコア 57
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 発明
StackGAN(1/4)発明の概要
https://benrishi-ai.com/stackgan01/今回のテーマとして、敵対的生成ネットワーク(GAN)ベースのデータ変換処理の一手法である StackGAN を題材に取り上げます。 背景 -- 生成モデルのバリエーション(Variants)の1つとして、テキスト文章の内容に沿った画像を生成する “Text-to-Image Transfer” が挙げられます。先行技術として、例えば、Scott Reed 氏らによる GAN-INT-CLS ...
類似スコア 55
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 発明
StackGAN(2/4)実施例の説明
https://benrishi-ai.com/stackgan02/前回(第1回)では、StackGAN の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、StackGAN の実施例について説明します。 システム構成 ------ まず、StackGAN のシステム構成について、図1を参照しながら説明します。 【図1】StackGAN のシステム構成 出展:StackGAN: Text to Ph ...
類似スコア 54
ブログ執筆者: 弁理士 【個別ページ】
Doc2Vec(5/5)PV-DM<後編>
https://benrishi-ai.com/doc2vec05/前回(第4回)では、PV-DMモデルの概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第5回)は、学習方法に関する補足的な説明を行った上で、クレーム骨子を作成してみます。 PV-DMの学習方法 ---------- 前回の記事(図2)で示したネットワーク構造に対して一から学習を開始しても一応問題ないのですが、これでは学習の効率が非常に悪くなります ...
類似スコア 53
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 実施例 従来技術 発明
SSD (3/3) 総括
https://benrishi-ai.com/ssd03/前回(第3回)では、SSDの実施例について解説しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第3回)は、クレームを含む発明ストーリーを作成し、これまで2回分の検討を総括します。 発明ストーリー ------- 【従来技術】 畳み込みニューラルネットワーク(CNN)を導入した物体検出手法の一例として、R-CNN(Regions with CNN features ...
類似スコア 53
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 実施例 従来技術 発明
Unrolled GAN(4/4)総括
https://benrishi-ai.com/unroll-gan04/前回(第3回)では、Unrolled GAN の学習メカニズムについて概説しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第4回)は、クレームを含む発明ストーリーを作成し、これまで3回分の検討を総括します。 発明ストーリー ------- 【従来技術】 代表的な生成モデルとして、データの真贋判定を行う弁別器(Discriminator)と協働して生成器(Gene ...
類似スコア 52
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 論文
Unrolled GAN(2/4)実施例の説明
https://benrishi-ai.com/unroll-gan02/前回(第1回)では、Unrolled GAN の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、Unrolled GAN の実施例について説明します。 Vanilla GAN ----------- まず、元祖GAN(Vanilla GAN)の演算式は、以下の図1の通りです。目的関数(敵対的損失:Adversarial Loss)の数 ...
類似スコア 50
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 論文
RetinaNet (2/4) 実施例の説明
https://benrishi-ai.com/retina-net02/前回(第1回)では、RetinaNet の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、RetinaNet の実施例について説明します。 ネットワーク構造 -------- まず、RetinaNet のネットワーク構造は、次に示す図1の通りです。 【図1】RetinaNet のネットワーク構造 出展:Focal Loss for ...
類似スコア 50
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 機械 実施例 発明
FCN(1/4)発明の概要
https://benrishi-ai.com/fcn01/今回のテーマとして、セグメンテーションの一手法であるFCN(Fully Convolutional Networks)を題材に取り上げていきます。 背景 -- セグメンテーション(Segmentation)とは、画像内にある物体などを画素単位で認識し、複数のサブ領域に分割するタスクを意味します。機械学習を用いない従来手法の一例として、階層的グループ化が挙げられます。例えば、次の記事が参考にな ...
類似スコア 50
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 従来技術 特許出願 特許戦略 発明
VAE(4/4)総括
https://benrishi-ai.com/variational-ae04/前回(第3回)では、VAEの理論的な裏付けについて説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第4回)は、クレームを含む発明ストーリーを作成し、これまで3回分の検討を総括します。 発明ストーリー ------- 【従来技術】 所与の学習データセットをベースに、学習データとは異なる新しいデータを人工的に生成する「生成モデル」が知られている。この類のタスクは ...