株式会社Laboro.AIは、本年4月に公開した当社オリジナル日本語版BERTモデルに蒸留を施し軽量・高速化を図った『 Laboro DistilBERT 』を開発し、非商用途に無償公開いたしました。 ＜今回のポイント＞ ︎本年4月に公開した当社BERTモデルをさらに軽量・高速化 ...

AI研究機関のAnswer.AIとLightOnが、2018年に発表されたGoogleの自然言語処理モデル「BERT」を改善した「ModernBERT」を開発しました。検索、自然言語理解、コード検索などのタスクにおいて、優れた性能を示すとのことです。 Finally, a Replacement for BERT: Introducing ...

人工知能やクラウド技術などの進化を追い続けている小林雅一氏の新著、『生成AI―「ChatGPT」を支える技術はどのようにビジネスを変え、人間の創造性を揺るがすのか？』が発売された。同書では、ChatGPTの本質的なすごさや、それを支える大規模言語モデル ...

業務領域特有の用語や文脈を理解する言語モデルの提供体制確立 ～業界を限定しないさまざまなドメインに特化したBERTモデルの提供開始～ 株式会社NTTデータ（以下、NTTデータ）は、汎用言語モデルBERT（注1）を特定の業務領域（ドメイン）に応じて最適化 ...

本記事はFIXERが提供する「cloud.config Tech Blog」に掲載された「BERT（Keras BERT）を使用した文章分類を学習から予測まで紹介 ...

Googleが「Bidirectional Encoder Representations from Transformers(BERT)」と呼ばれる自然言語処理モデルを2018年10月に発表しました。BERTはGoogleの検索エンジンでも使用されており、Wikipediaのエントリやニュース記事、古書などのデジタル化された情報から学習を行います。

NTTデータは7月10日、金融版のBERT(Bidirectional Encoder Representations from Transformers:Googleの自然言語処理モデルで自然言語処理分野のさまざまなベンチマークにおいて従来モデルの精度を上回るなど注目されている)を用いた自然言語処理技術に関して、銀行や証券 ...