アテンション機構(3/4)変形例の検討
https://benrishi-ai.com/attention03/前回(第2回)では、“Seq2Seq with Attention” について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第3回)は、“Seq2Seq with Attention” の様々なバリエーションについて検討していきます。 第1変形例 ----- 前回では、隠れ状態行列{H1}のすべての要素、すなわち、S個の隠れ状態ベクトルh1を使ってコンテキ ...
類似スコア 242
ブログ執筆者: 弁理士 【個別ページ】
アテンション機構(2/4)全体構成の説明
https://benrishi-ai.com/attention02/前回(第1回)では、アテンション機構の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、アテンション機構の実装例として、“Seq2Seq with Attention” の全体構成について説明します。 エンコーダの構造 -------- まず、エンコーダのネットワーク構造を図1に示します。 【図1】エンコーダの構造例 エンコーダは、 ...
類似スコア 170
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 公知 従来技術
アテンション機構(4/4)発明ストーリーの作成
https://benrishi-ai.com/attention04/前回(第3回)では、アテンション機構の変形例について検討しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第4回)は、これまでの検討を踏まえ、クレームを含む発明ストーリーを試作してみます。 発明ストーリー ------- 【従来技術】 例えば、自動翻訳を含む自然言語処理の分野において、エンコーダ部分とデコーダ部分に相当する2種類の再帰型ニューラルネットワーク(RN ...
類似スコア 136
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例
Seq2Seq(2/4)再帰型ニューラルネット
https://benrishi-ai.com/seq2seq02/前回(第1回)では、Seq2Seq の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、Seq2Seq を理解する上での前提知識ともいえる再帰型ニューラルネットワーク(RNN;Recurrent Neural Network)の概要について説明します。 問題の設定 ----- RNNでは、指定された文章を1語ずつ暗唱する、暗唱問題につい ...
類似スコア 133
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 実施例
Seq2Seq(3/4)実施例の説明&考察
https://benrishi-ai.com/seq2seq03/前回(第2回)では、Seq2Seq の前提知識として、再帰型ニューラルネットワーク(RNN)の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第3回)は、Seq2Seq の実施例を説明するとともに、本発明のポイントを軽く考察してみます。 問題の設定 ----- Seq2Seq では、例えば、英語をドイツ語に翻訳する翻訳問題について取り組みます(図 ...
類似スコア 129
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例
アテンション機構(1/4)発明の概要
https://benrishi-ai.com/attention01/今回のテーマとして、ニューラル機械翻訳(NMT)における頻出の手法であるアテンション機構(Attention Mechanism)を題材に取り上げていきます。 背景 -- いわゆる “Word2Vec” の登場を皮切りに、自然言語処理(NLP)の研究分野においてニューラルネットワークを用いる動きが活発になってきました。例えば、自動翻訳(あるいは、機械翻訳)の分野において、エンコーダ部分とデコ ...
類似スコア 113
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 実施例 従来技術
Seq2Seq(4/4)総括
https://benrishi-ai.com/seq2seq04/前回(第3回)では、Seq2Seq の実施例について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回は、過去3回分の検討を踏まえ、発明ストーリーの一例を提示します。 発明ストーリー ------- 【従来技術】 従来から、自動翻訳の分野において、登録済みのルールを適用して原文を分析することで訳文を出力するルールベース機械翻訳(RMT)や、対訳データの学習を通じ ...
類似スコア 75
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 外観 実施例
VAE(2/4)実施例の説明
https://benrishi-ai.com/variational-ae02/前回(第1回)では、オートエンコーダの概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、VAEの実施例について、ネットワーク構造を中心に説明します。 ネットワーク構造 -------- まず、VAE(Variational Autoencoder)のネットワーク構造について説明します。以下、[1]学習フェーズ、[2]生成フェーズ、の2つ ...
類似スコア 72
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 従来技術 特許出願 特許戦略 発明
VAE(4/4)総括
https://benrishi-ai.com/variational-ae04/前回(第3回)では、VAEの理論的な裏付けについて説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第4回)は、クレームを含む発明ストーリーを作成し、これまで3回分の検討を総括します。 発明ストーリー ------- 【従来技術】 所与の学習データセットをベースに、学習データとは異なる新しいデータを人工的に生成する「生成モデル」が知られている。この類のタスクは ...
類似スコア 66
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: EPO Google USPTO オーストラリア クレーム ノウハウ パテントマップ 引用 引用文献 欧州 欧州特許 機械 共同研究 公開公報 実施例 侵害 審査官 人工知能 大学 大企業 知的財産戦略 中小企業 特許公報 特許出願 特許制度 特許戦略 特許庁 特許調査 特許法 南アフリカ 発明 発明者 発明推進協会 判決 米国 弁理士 明細書 論文
(PDF) 特集<弁理士業務とAI技術>(解説) 深層学習を利用した自然言語処理の発展と特許調査への応用の現状 株式会社 Amplified ai 追川 康之
https://system.jpaa.or.jp/patent/viewPdf/3944深層学習を利用した自然言語処理の発展と特許調査への応用の現状特集《弁理士業務と AI 技術》深層学習を利用した自然言語処理の 発展と特許調査への応用の現状株式会社 amplified ai※ 追川 康之要 約 深層ニューラルネットワークを用いた機械学習による自然言語処理の発展は著しく,基本的な言語処理能力に関して機械が人間を上回る時代が到来しています。本稿ではここ数年のこの技術的発展を振り返ると ...
類似スコア 61
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例
VAE(1/4)オートエンコーダの概要
https://benrishi-ai.com/variational-ae01/今回のテーマとして、深層生成モデルの基礎とも言うべきVAE(Variational Autoencoder)を題材に取り上げていきます。 背景 -- 生成モデル(Generative Model)とは、所与の学習データセットをベースに、学習データとは異なる新しいデータを人工的に生成するためのモデルです。データの種類は、静止画、動画、音声(楽曲、音、声など)、文章(小説、俳句、チャットなど)な ...
類似スコア 60
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: 公知 実施例 進歩性 発明
VAE(3/4)理論的な裏付け
https://benrishi-ai.com/variational-ae03/前回(第2回)では、VAEの実施例について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第3回)は、VAEの理論的な裏付けについて説明します。 数学的解釈 ----- 前回では、学習フェーズにおいて、エンコーダが z=μ+σ・ε の演算を行った後、得られたL次元特徴ベクトル{z}をデコーダ側に出力する旨を説明しました。ここで、ε は、標準正規分布に従って生 ...
類似スコア 59
ブログ執筆者: 弁理士 【個別ページ】
キーワード: グーグル
Seq2Seq(1/4)発明の概要
https://benrishi-ai.com/seq2seq01/今回のテーマとして、ニューラル機械翻訳(NMT)の先駆けとも言える “Seq2Seq” を題材に取り上げていきます。Seq2Seq は、文字列(From Sequence)から文字列へ(To Sequence)の変換モデルを意味します。 背景 -- 従来から、自動翻訳の分野において、登録済みのルールを適用して原文を分析することで訳文を出力する「ルールベース機械翻訳」(RMT)や、対訳データの ...
類似スコア 59
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 論文
Pix2Pix(2/4)実施例の説明
https://benrishi-ai.com/pix2pix02/前回(第1回)では、Pix2Pix の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、Pix2Pix の実施例について説明します。 CGANベースの Image-to-Image モデル --------------------------- 早速ですが、前回出した検討課題の解答例を図1に示します。図1の例では、CGANの基本モデルに ...
類似スコア 55
ブログ執筆者: 弁理士 【個別ページ】
Doc2Vec(5/5)PV-DM<後編>
https://benrishi-ai.com/doc2vec05/前回(第4回)では、PV-DMモデルの概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第5回)は、学習方法に関する補足的な説明を行った上で、クレーム骨子を作成してみます。 PV-DMの学習方法 ---------- 前回の記事(図2)で示したネットワーク構造に対して一から学習を開始しても一応問題ないのですが、これでは学習の効率が非常に悪くなります ...
類似スコア 54
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: DeNA ディー・エヌ・エー ベンチャー 機械 拒絶理由 拒絶理由通知 自然法則を利用した技術的思想 識別番号 秋田県 人工知能 請求項 早期審査 知財部 特許権 特許出願 特許戦略 特許紛争 発明 発明者 明細書 求人 採用
【157】特許6243072 株式会社Preferred Networks+DeNA
http://blog.livedoor.jp/patent_taji/archives/24560087.html#AI、PFN、ベンチャー PFNの特許ネタの続き。この会社はDeNAとも協業していて、会社まで一緒に作っていた。 一年半も前の話だが、関連記事等をチェックした。 ◆PFDeNA ○ニュースリリース ・DeNAとPreferred Networks、人工知能技術を用いた 企業向けソリューションを提供する合弁会社PFDeNAを設立(2016/07/1) ・Preferred Networks ...
類似スコア 53
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: 実施例 発明
GAN(3/4)GANの特徴
https://benrishi-ai.com/gan03/前回(第2回)では、GANの実施例について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第3回)は、VAEと比較した場合のGANの強みについて解説します。 VAEとGAN ------- まず、比較対象であるVAE(Variational Autoencoder)の特徴について軽く触れます。必要であれば、以下のリンクから復習してください。 事例 #015 ...
類似スコア 49
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 論文
FCN (2/4) 実施例の説明
https://benrishi-ai.com/fcn02/前回(第1回)では、FCNの概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、FCNの実施例について説明します。 ネットワーク構造 -------- まず、FCNのネットワーク構造は、次に示す図1の通りです。 【図1】FCNのネットワーク構造 出展:Fully Convolutional Networks for Semantic ...
類似スコア 48
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 機械 従来技術 侵害 特許権 特許権侵害 発明
GAN(4/4)総括
https://benrishi-ai.com/gan04/前回(第3回)では、VAEとGANを比較し、CGANまで発展させた場合のGANモデルの拡張性・応用性の高さについて説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第4回)は、クレームを含む発明ストーリーを作成し、これまで3回分の検討を総括します。 発明ストーリー ------- 【従来技術】 所与の学習データセットをベースに、学習データとは異なる新しいデータ ...
類似スコア 46
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: イスラエル オリンパス キヤノン コニカミノルタ セイコーエプソン ゼネラル・エレクトリック・カンパニイ ソニー テルモ トプコン ニデック バイオ バイオセンス・ウエブスター フクダ電子 異議申立 機械 出願人 電気 登録異議申立 東芝 特許異議申立 特許業務法人 特許掲載公報 特許権 特許公報 日立 日立製作所 発明 富士フイルム 補正
医療機器分野の特 許取得の状況について(1月~3月)
http://atsushiyamakoshi.blog.fc2.com/blog-entry-131.html2021年1月~2021年3月に発行された特許公報(2021年1月12日~2021年3月10日の期間に発行された公報)を調べてみました(2021年3月11日時点)。 医療機器分野の特許公報(FIにA61Bが付与された特許公報)は1053件でした。筆頭FIがA61Bの内訳(上位11位)は以下の様になっています。 FI(A61B)が付与された特許公報の内訳(上位13位)(公報発行日:2021年1月12 ...
類似スコア 44
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 論文
YOLO(2/4)実施例の説明
https://benrishi-ai.com/yolo02/前回(第1回)では、YOLOの概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、YOLOの実施例について説明します。 ネットワーク構成 -------- YOLOは、畳み込みニューラルネットワーク(CNN)の一種であり、GoogLeNet(Inception-v1)をベースにしたモデルのようです。図1から理解されるように、(1)関心領域 ...
類似スコア 42
ブログ執筆者: 大学・政策関係 知財フィルター🍎 【個別ページ】
キーワード: Fターム Google IoT キヤノン コロナ フランス リコー 委員会 意匠 化学 花王 韓国 機械 実施例 従来技術 商標 商標調査 審査官 人工知能 請求項 先行技術調査支援 多義語 大学 知的財産部 中国 中小企業 特許検索 特許公報 特許庁 特許調査 日立 日立製作所 発明 発明者 補正 明細書 役務 類似意匠 論文
(PDF) AI系基盤技術と、オープンソースを用いた機械学習による特許文書解析 西尾 潤・安藤 俊幸
http://www.tokugikon.jp/gikonshi/298/298tokusyu3.pdfAI系基盤技術と、オープンソースを用いた 機械学習による特許文書解析アジア特許情報研究会 西尾 潤・安藤 俊幸特許庁は、庁内業務へのAI技術の活用可能性について検討を行い、「アクション・プラン」を 作成・改訂し、同プランに沿って実証事業を進めています。また、特許庁の審査官が発明者と なる特許が登録されたことも話題を呼びました。そして構築が進められている特許管理・検索 システム「アドパス」にもAI ...
類似スコア 42
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: 化学 広島大学 大学 弁理士 論文
『理科教育』を弁理士が考えてみた(その4)物理は数学で考えるべきだ
http://patent-japan.sblo.jp/article/187444874.html『“アベノマスク”未配布分を回収 汚れや不良品発見で再検品 』 衛生用品企業がこんな状況に陥ったら、配布分も含めて全品回収して、 幹部が顔を晒しての謝罪会見を行うでしょう。 マスクの生産・流通管理について全くの素人の 厚労省・経産省・総務省の官僚マスクチームが、 素人事業を仕切っているため、本当に無責任な事態になっています。 https://www.asahi.com/articles/ASN ...
類似スコア 42
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: アルツ オリンパス キヤノン サムスン ジーイー・メディカル・システムズ・グローバル・テクノロジー・カンパニー・エルエルシー ゼネラル・エレクトリック・カンパニイ ソニー デンソー トプコン バイオ バルバドス 異議申立 機械 出願人 大学 電気 登録異議申立 特許異議申立 特許業務法人 特許掲載公報 特許権 特許公報 日立 日立製作所 発明 富士フイルム 福井大学 補正 採用
医療機器分野の特 許取得の状況について(3月~4月)
http://atsushiyamakoshi.blog.fc2.com/blog-entry-107.html医療機器分野の特 許取得の状況について(3月~4月)2019年2月~2019年4月に発行された特許公報(2019年3月8日~2019年4月18日の期間に発行された公報)を調べてみました(2019年4月18日時点)。 医療機器分野の特許公報(FIがA61Bの特許公報)は913件でした。筆頭FIがA61Bの内訳(上位9位)は以下の様になっています。 FI 説明 件数 A61B 5 診断のため ...
類似スコア 42
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: デッドコピー 機械 侵害 人工知能 著作権 特許権 特許権侵害
第4のはなし(2)
http://ntakei.cocolog-nifty.com/pam/2017/04/post-8a50.htmlちかごろはハイボール愛好者が増えたのか、居酒屋どころかファミリーレストランにまで「ハイボール」メニューがあって驚くことがある。蒸留酒ならではの飲み口で、ビールなんかより却ってすっきりした感じがあっていいのかも知れない。もっとも、多くの店では分量を、意図的にかそうでなくかは知らないが、間違っているのか、どうにも薄すぎる「ハイボール」になっている。 ▽ むかし連れて行かれた、おねーちゃんのいる場末( ...
類似スコア 39
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 論文
ResNet(2/4)実施例と作用効果
https://benrishi-ai.com/resnet02/前回(第1回)では、ResNet の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、ResNet の実施例およびその作用効果について説明します。 ネットワーク構成 -------- ResNet は、Residual block と呼ばれるサブネットワークを直列的に接続してなるCNN(畳み込みニューラルネットワーク)です。ここで、”r ...