Seq2Seq(1/4)発明の概要
https://benrishi-ai.com/seq2seq01/今回のテーマとして、ニューラル機械翻訳(NMT)の先駆けとも言える “Seq2Seq” を題材に取り上げていきます。Seq2Seq は、文字列(From Sequence)から文字列へ(To Sequence)の変換モデルを意味します。 背景 -- 従来から、自動翻訳の分野において、登録済みのルールを適用して原文を分析することで訳文を出力する「ルールベース機械翻訳」(RMT)や、対訳データの ...
類似スコア 152
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例
アテンション機構(1/4)発明の概要
https://benrishi-ai.com/attention01/今回のテーマとして、ニューラル機械翻訳(NMT)における頻出の手法であるアテンション機構(Attention Mechanism)を題材に取り上げていきます。 背景 -- いわゆる “Word2Vec” の登場を皮切りに、自然言語処理(NLP)の研究分野においてニューラルネットワークを用いる動きが活発になってきました。例えば、自動翻訳(あるいは、機械翻訳)の分野において、エンコーダ部分とデコ ...
類似スコア 124
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 実施例 従来技術
Seq2Seq(4/4)総括
https://benrishi-ai.com/seq2seq04/前回(第3回)では、Seq2Seq の実施例について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回は、過去3回分の検討を踏まえ、発明ストーリーの一例を提示します。 発明ストーリー ------- 【従来技術】 従来から、自動翻訳の分野において、登録済みのルールを適用して原文を分析することで訳文を出力するルールベース機械翻訳(RMT)や、対訳データの学習を通じ ...
類似スコア 108
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例
Seq2Seq(2/4)再帰型ニューラルネット
https://benrishi-ai.com/seq2seq02/前回(第1回)では、Seq2Seq の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、Seq2Seq を理解する上での前提知識ともいえる再帰型ニューラルネットワーク(RNN;Recurrent Neural Network)の概要について説明します。 問題の設定 ----- RNNでは、指定された文章を1語ずつ暗唱する、暗唱問題につい ...
類似スコア 105
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 実施例
Seq2Seq(3/4)実施例の説明&考察
https://benrishi-ai.com/seq2seq03/前回(第2回)では、Seq2Seq の前提知識として、再帰型ニューラルネットワーク(RNN)の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第3回)は、Seq2Seq の実施例を説明するとともに、本発明のポイントを軽く考察してみます。 問題の設定 ----- Seq2Seq では、例えば、英語をドイツ語に翻訳する翻訳問題について取り組みます(図 ...
類似スコア 85
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: クレーム 公知 従来技術
アテンション機構(4/4)発明ストーリーの作成
https://benrishi-ai.com/attention04/前回(第3回)では、アテンション機構の変形例について検討しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第4回)は、これまでの検討を踏まえ、クレームを含む発明ストーリーを試作してみます。 発明ストーリー ------- 【従来技術】 例えば、自動翻訳を含む自然言語処理の分野において、エンコーダ部分とデコーダ部分に相当する2種類の再帰型ニューラルネットワーク(RN ...
類似スコア 72
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例
VAE(1/4)オートエンコーダの概要
https://benrishi-ai.com/variational-ae01/今回のテーマとして、深層生成モデルの基礎とも言うべきVAE(Variational Autoencoder)を題材に取り上げていきます。 背景 -- 生成モデル(Generative Model)とは、所与の学習データセットをベースに、学習データとは異なる新しいデータを人工的に生成するためのモデルです。データの種類は、静止画、動画、音声(楽曲、音、声など)、文章(小説、俳句、チャットなど)な ...
類似スコア 64
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 発明
ResNet (1/4) 発明の概要
https://benrishi-ai.com/resnet01/今回のテーマとして、ディープラーニングで頻出の ResNet を題材に取り上げていきます。 背景 -- 階層型ニューラルネットワークにおける学習パラメータの更新手法として、誤差逆伝播法(Back Propagation)がよく用いられます。この手法は、入力→出力の流れとは逆方向に(出力→入力の流れで)更新量が計算される点に特徴があり、厳密解を求める場合と比べて、更新に要する計算量が大幅に削減 ...
類似スコア 59
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 発明
CycleGAN(1/4)発明の概要
https://benrishi-ai.com/cyclegan01/今回のテーマとして、敵対的生成ネットワーク(GAN)ベースの画像処理の一手法である CycleGAN を題材に取り上げます。 背景 -- 生成モデルのバリエーション(Variants)の1つとして、画像の作風を変える画風変換(Image Style Transfer)が挙げられます。例えば、Leon A. Gatys 氏らによる “Neural Style Transfer”(以下、NST) ...
類似スコア 55
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: EPO Google USPTO オーストラリア クレーム ノウハウ パテントマップ 引用 引用文献 欧州 欧州特許 機械 共同研究 公開公報 実施例 侵害 審査官 人工知能 大学 大企業 知的財産戦略 中小企業 特許公報 特許出願 特許制度 特許戦略 特許庁 特許調査 特許法 南アフリカ 発明 発明者 発明推進協会 判決 米国 弁理士 明細書 論文
(PDF) 特集<弁理士業務とAI技術>(解説) 深層学習を利用した自然言語処理の発展と特許調査への応用の現状 株式会社 Amplified ai 追川 康之
https://system.jpaa.or.jp/patent/viewPdf/3944深層学習を利用した自然言語処理の発展と特許調査への応用の現状特集《弁理士業務と AI 技術》深層学習を利用した自然言語処理の 発展と特許調査への応用の現状株式会社 amplified ai※ 追川 康之要 約 深層ニューラルネットワークを用いた機械学習による自然言語処理の発展は著しく,基本的な言語処理能力に関して機械が人間を上回る時代が到来しています。本稿ではここ数年のこの技術的発展を振り返ると ...
類似スコア 54
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 論文
Pix2Pix(2/4)実施例の説明
https://benrishi-ai.com/pix2pix02/前回(第1回)では、Pix2Pix の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、Pix2Pix の実施例について説明します。 CGANベースの Image-to-Image モデル --------------------------- 早速ですが、前回出した検討課題の解答例を図1に示します。図1の例では、CGANの基本モデルに ...
類似スコア 53
ブログ執筆者: 弁理士 【個別ページ】
アテンション機構(2/4)全体構成の説明
https://benrishi-ai.com/attention02/前回(第1回)では、アテンション機構の概要について説明しました。改めて復習されたい方は、こちらのリンクから確認をお願いします。今回(第2回)は、アテンション機構の実装例として、“Seq2Seq with Attention” の全体構成について説明します。 エンコーダの構造 -------- まず、エンコーダのネットワーク構造を図1に示します。 【図1】エンコーダの構造例 エンコーダは、 ...
類似スコア 49
ブログ執筆者: 大学・政策関係 知財フィルター🍎 【個別ページ】
キーワード: amazon Google USPTO WIPO イノベーション インド オープンイノベーション カナダ クライアント コーネル大学 ソフトウェア ドイツ ノウハウ 引用 引用文献 解法 機械 京都大学 公開公報 施行規則 出願人 情報通信研究機構 審査官 新規性 進歩性 人工知能 請求項 大学 中国 東北大学 特許検索 特許庁 特許調査 特許法 特許翻訳 発明 米国 米国特許 明細書 論文 NVIDIA YouTube 採用
(PDF) 特許審査官が垣間見た深層学習(Deep Learning)による自然言語処理の変革期 〜Japio特許情報研究所での業務を通じて〜 石川 雄太郎
http://www.tokugikon.jp/gikonshi/298/298tokusyu2.pdf特許審査官が垣間見た深層学習(Deep Learning) による自然言語処理の変革期 〜Japio特許情報研究所での業務を通じて〜審査第四部情報処理 石川 雄太郎本稿では、深層学習を用いた機械翻訳や機械読解等の自然言語処理技術について解説し、そ の発展の背後に存在するオープンイノベーションの環境についても説明する。さらに、AIを用 いた特許検索システム等についても紹介したい。 はじめに〜深 ...
類似スコア 47
ブログ執筆者: 特許翻訳 知財フィルター🍎 【個別ページ】
キーワード: Google ドイツ 化学 機械 出願人 条約
日本特許情報機構(Japio)のAI翻訳(独日)のデモを試した
http://marburgaromaticschem.blog3.fc2.com/blog-entry-2899.html最近の翻訳業界では、機械翻訳(MT)を導入するかどうか、経営者だけではなく、翻訳者も決断する時期が近いと感じているかもしれない。 ニューラル機械翻訳(NMT)の精度が向上したと言われていて、翻訳・通訳のアプリも販売されるなど、実用段階に既に入ったという印象を持つ人もいる。 しかし、Google 翻訳にいろいろ入力してみて、おかしな訳文が出たと騒いでいる人もまだいる。 NMTの精度が99%だとか ...
類似スコア 46
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 発明 論文 NVIDIA
YOLO(1/4)発明の概要
https://benrishi-ai.com/yolo01/今回のテーマとして、物体検出の一手法であるYOLOを題材に取り上げていきます。 背景 -- 畳み込みニューラルネットワーク(CNN)を導入した物体検出手法の一例として、[1]R-CNN(Regions with CNN features)、[2]Fast R-CNN、[3]Faster R-CNN が挙げられます。各モデルの詳細については、以下の事例検討が参考になります。 事例 #005 ...
類似スコア 45
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: Google IBM PlatPat エレクトロニクス キヤノン コニカミノルタ ブラザー工業 マイクロソフト リコー 機械 京セラ 共同研究 出願人 商標 情報通信研究機構 審査官 請求項 知的財産協会 中国 登録商標 東芝 東芝テック 特許検索 特許公報 特許出願 特許庁 特許翻訳 富士フイルム 富士通 米国 弁理士 明細書 論文 J-PlatPat セミナー
(PDF) 特集<弁理士業務とAI技術>(紹介) 特許翻訳におけるドメイン適応型機械翻訳 日本特許翻訳株式会社 代表取締役社長 本間 奨
https://system.jpaa.or.jp/patent/viewPdf/3946特許翻訳におけるドメイン適応型機械翻訳特集《弁理士業務と AI 技術》特許翻訳におけるドメイン 適応型機械翻訳日本特許翻訳株式会社,代表取締役社長 本間 奨要 約 AI 翻訳(ニューラル機械翻訳)技術の進展が著しい。翻訳業界でも特許出願明細書の翻訳に AI 翻訳を取り入れ翻訳の迅速化並びに生産性を向上する動きが加速してきている。本報告では,最初に機械翻訳システムの翻訳精度の自動評価法を紹介し,こ ...
類似スコア 45
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: DeNA ディー・エヌ・エー ベンチャー 機械 拒絶理由 拒絶理由通知 自然法則を利用した技術的思想 識別番号 秋田県 人工知能 請求項 早期審査 知財部 特許権 特許出願 特許戦略 特許紛争 発明 発明者 明細書 求人 採用
【157】特許6243072 株式会社Preferred Networks+DeNA
http://blog.livedoor.jp/patent_taji/archives/24560087.html#AI、PFN、ベンチャー PFNの特許ネタの続き。この会社はDeNAとも協業していて、会社まで一緒に作っていた。 一年半も前の話だが、関連記事等をチェックした。 ◆PFDeNA ○ニュースリリース ・DeNAとPreferred Networks、人工知能技術を用いた 企業向けソリューションを提供する合弁会社PFDeNAを設立(2016/07/1) ・Preferred Networks ...
類似スコア 44
ブログ執筆者: 弁理士 知財フィルター🍎 【個別ページ】
キーワード: 実施例 発明
GAN(1/4)発明の概要
https://benrishi-ai.com/gan01/今回のテーマとして、深層生成モデルの基礎とも言うべきGAN(Generative Adversarial Network)を題材に取り上げていきます。 背景 -- 生成モデル(Generative Model)とは、所与の学習データセットをベースに、学習データとは異なる新しいデータを人工的に生成するためのモデルです。データの種類は、静止画、動画、音楽、音声、文章(小説、俳句、チャットなど)な ...
類似スコア 44
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 発明 論文 採用
RetinaNet (1/4) 発明の概要
https://benrishi-ai.com/retina-net01/今回のテーマとして、物体検出の一手法である RetinaNet を題材に取り上げていきます。 背景 -- 畳み込みニューラルネットワーク(CNN)を導入した物体検出モデルは、[1]One-Stage Detectorと、[2]Two-Stage Detector の2種類に大別されます。この2種類の違いは、関心領域の提案機能及び物体の検出機能を一度に同時に行うか、あるいは二段階に分けて行うか ...
類似スコア 44
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 発明 論文
FPN (1/4) 発明の概要
https://benrishi-ai.com/fpn01/今回のテーマとして、物体検出の一手法であるFPNを題材に取り上げていきます。 背景 -- 畳み込みニューラルネットワーク(CNN)を導入した物体検出モデルは、[1]One-Stage Detector と、[2]Two-Stage Detector の2種類に大別されます。この2種類の違いは、関心領域(ROI)の提案機能及び物体の検出機能を一度に同時に行うか、あるいは二段階に分けて行うかにあ ...
類似スコア 43
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 発明
StackGAN(1/4)発明の概要
https://benrishi-ai.com/stackgan01/今回のテーマとして、敵対的生成ネットワーク(GAN)ベースのデータ変換処理の一手法である StackGAN を題材に取り上げます。 背景 -- 生成モデルのバリエーション(Variants)の1つとして、テキスト文章の内容に沿った画像を生成する “Text-to-Image Transfer” が挙げられます。先行技術として、例えば、Scott Reed 氏らによる GAN-INT-CLS ...
類似スコア 43
ブログ執筆者: 大学・政策関係 知財フィルター🍎 【個別ページ】
キーワード: Google イギリス キリン ドイツ 意匠 引用 機械 自動運転 商標 審査官 人工知能 千代田区 特許技術 特許公報 特許庁 文部科学省 米国 論文 NVIDIA 採用 OpenAI
(PDF) Pay Attention to 生成言語モデル 前原 義明
http://www.tokugikon.jp/gikonshi/308/308kiko1.pdf寄稿 1 Pay Attention to 生成言語モデル 〜セサミストリートを抜けるとそこには〜審査第二部 一般機械 前原 義明生成言語モデルとは、入力された任意の文章から、当該任意の文章に続く文章を生成する、 時に人工知能と呼ばれる言語モデルのことである。生成言語モデルとして最も有名なものは OpenAIが2020年に発表したGPT-3と呼ばれるモデルであるが、当該モデルのリリースを契 機と ...
類似スコア 41
ブログ執筆者: 企業内知的財産部門勤務者 知財フィルター🍎 【個別ページ】
キーワード: Fターム PCT グーグル ボッシュ マイクロソフト 実施例 出願件数 出願人 中国 特許出願 特許庁 特許調査 発明 発明者 明細書 論文 ChatGPT OpenAI
ChatGPT特許調査方法
https://note.com/zshiki/n/n7d0bd5e22997ChatGPTがピークを迎え、色々ご質問を受けることも多くなりました。LLMの特許出願やChatGPTなどLLMの最新のロジックを知りたいと言われて色々試した一例を備忘録として残します。国を問わず特許庁としてもちゃんと調べたいからか今年の1月IPCに新しい分類を作りました。後で数字も載せますが今年1年での件数はいずれも中国だけ異次元の件数のため、知りたい情報にたどり着くには別の方法が必要そうです特 ...
類似スコア 40
ブログ執筆者: 弁理士 【個別ページ】
キーワード: 実施例 発明
SSD (1/3) 発明の概要
https://benrishi-ai.com/ssd01/今回のテーマとして、物体検出の一手法であるSSDを題材に取り上げていきます。 背景 -- 畳み込みニューラルネットワーク(CNN)を導入した物体検出モデルは、[1]One-Stage Detectorと、[2]Two-Stage Detector の2種類に大別されます。この2種類の違いは、関心領域の提案機能及び物体の検出機能を一度に同時に行うか、あるいは二段階に分けて行うかにあります。前者 ...