BERTとは、2018年にGoogleが公開した自然言語処理モデルです。

BERTによって文脈や文章構造の理解の精度が大幅に向上し、検索意図の把握などに活用されています。

今回は、Google検索エンジンに導入されているBERTの概要や優れているポイント、検索エンジンで応用されている点などを詳しく解説します。SEOにも間接的に影響する分野ですのでSEOに関わる方は覚えておいてください。

BERTとは

BERTとは、Googleが2018年に公開した自然言語処理のモデルです。BERTの名称は、「Bidirectional Encoder Representations from Transformers」の頭文字を取っています。

2019年にGoogle検索エンジンのアルゴリズムに採用され、大きな話題となりました。BERTの特徴は、文脈の理解に優れている点です。検索エンジンのアルゴリズムに導入されたことで、検索クエリから検索意図を把握する正確性が高まりました。

BERTは検索エンジンの技術を理解するうえで、欠かせない技術のひとつです。

BERTへの理解を深めるときに知っておきたい自然言語処理や、Transformerについて解説していきましょう。

自然言語処理 (NLP)とは

BERTは、自然言語処理のひとつです。自然言語処理とは、文章だけではなく話し言葉を含めた人が生活のなかで使う言葉を処理する技術を指します。

Natural Language Processingの頭文字を取って、NLPと略すこともあります。

自然言語処理は、まず文章をバラバラにして名詞や助詞などに分類して意味を抽出します。その後、単語の関連性などを解析して、文章の意味や文脈を理解し、機械言語に変換するわけです。

自然言語処理によって、話し言葉で使われるような、あいまいな言葉の文脈が理解できるようになりました。現在では、文章の翻訳機能や音声認識、予測変換などに活用されています。

Transformerとは

自然言語処理とBERTを理解するときに欠かせないのが、Transformerです。BERTは、Transformerがベースとなっています。

Transformerとは、Googleが2017年に発表したディープラーニング（深層学習）モデルです。これまでのディープラーニングと比較して、Transformerは学習時間が大幅に短縮し、自然言語処理の精度が上がっています。

Transformerが発展させた自然言語処理技術が、BERTです。BERTの仕組みを知るには、Transformerについての知識も持っておくとよいでしょう。

BERTが優れているポイント

Googleが検索エンジンに導入しているBERTには、どのような特徴があるのでしょうか。

BERTの優れている点としては、以下の特徴があげられます。

• 文脈を理解できる
• 文章構造の理解に優れている
• カテゴリや単語を予測できる

それぞれ詳しく解説していきましょう。

文脈を理解できる

これまでコンピューターが、言語を正確に理解することは困難でした。しかし、BERTにより文脈から意味を理解できるようになりました。

たとえば、以下は「do estheticians stand a lot at work（エステティシャンは立ち仕事が多いですか）」と検索したときの、BERTの導入前と導入後の検索結果の違いです。

引用元：Understanding searches better than ever before

BERT導入前は、検索ワード内の「stand」を「stand-alone」という用語に関連付けてしまい、文脈を正しく理解できていませんでした。

しかし、BERT導入により文脈の理解度が増したことで、立ち仕事に関連する記事を表示できるようになりました。

BERTによって、単語同士の関連性や前後の単語から文脈を読み取れるようになった点が大きな特徴といえます。

文章構造の理解に優れている

BERTは文脈の理解のほかに、文章構造の理解にも優れています。文章は、助詞や名詞などの要素から成り立っています。

どの言葉がどの名詞に係っているのか、文章の構造を理解していないと意味を正しく読み取れません。

たとえば、以下は「2019 brazil traveler to usa need a visa（2019 ブラジルから米国に行く旅行者はビザが必要）」を検索した事例です。

引用元：Understanding searches better than ever before

BERTを導入する以前では、検索クエリ内の「to」がどの単語に係っているのかを理解できていません。そのため、米国からブラジルに行く旅行者に関連する記事が上位表示されています。

BERTが導入されたことで検索意図に沿った記事が上位表示されるようになったことがわかります。

文章の意味を理解するには、文章構造を正しく処理する技術が必要です。

カテゴリや単語を予測できる

BERTは文章の文脈理解に優れているため、文章の前後の流れから必要な単語を予測できます。

たとえば、検索窓に「SEO」を入れて検索すると、以下のように検索クエリが出てきます。

事前学習したログをもとに、検索クエリに関連する用語を予測して提示できるわけです。

言語の理解が深まったことで、どのようなジャンルに分類すべき言葉なのかを予測できます。BERTは、検索クエリの予測や分類にも活用されています。

また、日々検索されるクエリのうち、平均15％は新しい文章が検索されていると言われています。BERTは予測にも優れているので、初めて検索される文章にも対応できるわけです。

Google検索にBERTがどのように応用されているのか

文脈や文章構造の理解に優れているBERTが、Google検索でどのように応用されているのかを解説します。

BERTは、2019年にGoogle検索のアルゴリズムに導入されました。BERTによって、キーワードからユーザーがどのような意図で検索しているのかを把握できるようになったのが、大きな変化です。検索精度の向上につながっています。

検索すると上位に表示される強調スニペットが表示されることがあります。BERTによって、検索意図に合う強調スニペットが提案できるようになりました。

たとえば、以下は「parking on a hill with no curb（縁石のない坂道駐車）」を検索したときの強調スニペットの例です。

引用元：Understanding searches better than ever before

BERT導入前は「no」が「curb（縁石）」に係ることが理解できず、縁石のあるなしに関わらず坂道での駐車方法を提示していました。

BERT導入によって、検索クエリを正確に理解した内容を提示できるようになったことがわかります。

ほかにも、SERPsで提案される「他の人はこちらも質問」や「関連キーワード」などの精度向上にも役立っていると考えられるでしょう。

Rankbrainとの違い

検索エンジンのアルゴリズムにBERTを導入する以前から、Rankbrainが検索エンジンの品質を支えていました。

Rankbrainは、Google検索のアルゴリズムに初めて導入された深層学習モジュールです。2015年にGoogle検索のアルゴリズムに導入されました。Rankbrainによって、検索クエリとコンテンツの関連性が理解できるようになり、検索精度が向上したわけです。

2019年にアルゴリズムに導入されたBERTは、Rankbrainを補完しており、以前よりもユーザーが検索した背景を読み取れるようになりました。RankbrainとBERTがそれぞれ作用するなかで、検索意図の理解が深まったといえるでしょう。

BERTを考慮してSEO対策すべきか？

検索エンジンのアルゴリズムに導入されているBERTを考慮して、SEO対策をおこなう必要があるのでしょうか。

BERTはあくまでも検索意図の理解や検索精度の向上のために導入された技術です。

BERTに対してSEO対策を実施する必要はありません。SEO対策としてBERTを考慮するのであれば、検索意図に応えたコンテンツや、正しく意味を理解できるようにわかりやすさを意識した記事を作成することが大切です。

BERTの導入によって、以前よりも検索意図を正しく理解できるようになっているので、ユーザーの検索意図を満たすコンテンツを提供することがSEO対策につながります。

まずは、文章が複雑になりすぎたり、見出しから内容が理解できなかったりしないようにユーザーへのわかりやすさを意識してコンテンツを作成することを心がけましょう。

ユーザーファーストを意識したコンテンツ作りが重要です。

BERTの活用例

BERTは検索エンジンのほかにも、以下のようなサービスに活用されています。

• 音声検索
• チャットボット
• 文章の要約・翻訳

活用例をひとつずつお伝えします。

音声検索

BERTは音声検索分野でも活用されています。話し言葉のように、あいまいな言葉も理解できるようになったことで、音声検索の精度も向上しているからです。

クラウド型の人工知能を搭載したスマートスピーカーの普及によって、さらにBERTが活用されていくことが予測できます。

チャットボット

チャットボットは、Webサイト上でユーザーからの質問や問い合わせに自動回答するプログラムです。BERTは文脈を理解できるので、チャットボットでも役立っています。

チャットボットは大別すると、シナリオ型とAI型があります。シナリオ型の場合は、事前に問い合わせ内容や質問の選択肢を用意しておき、ユーザーの選択にあわせて回答を提示します。

一方でAI型は、機械学習によりユーザーの質問に適した回答を提示できます。BERTによってユーザーの質問内容を正しく理解して、回答できるようになったといえます。

関連記事：【図解】チャットボットとは？

文章の要約・翻訳

文脈や構造を把握できるため、文章の要約や言語翻訳ツールでも導入されています。要約や翻訳をおこなうときは、文章の主語や述語のように係り受けが正しく理解できていなければいけません。

BERTの導入で文章構造が理解できるようになり、要約や翻訳の精度が上がったといえるでしょう。

BERTの展望

自然言語処理の技術であるBERTが公開されてことで、検索エンジンやチャットボット、翻訳などの精度が向上しました。

またChatGPTの台頭によって、AI技術の進化に注目が集まっています。

BERTを始めとした自然言語処理技術の進化や、新たなアルゴリズムの導入など今後の動向を注視しておきましょう。