Datasets:
query stringlengths 102 1.18k | positive stringlengths 302 5.83k | negative_1 stringlengths 304 5.56k | negative_2 stringlengths 302 5.83k | negative_3 stringlengths 302 5.69k | negative_4 stringlengths 302 5.83k | negative_5 stringlengths 302 5.83k | label listlengths 6 6 |
|---|---|---|---|---|---|---|---|
ニューラル機械翻訳(NMT)の課題の一つして,イディオムなどの非構成的な表現の翻訳が挙げられる.NMTシステムは原文を単語単位で解釈して翻訳するため,非構成的な意味を有するイディオム表現に対しては誤訳が度々生じる.また,既存の自動評価指標は局所的な評価ができず,イディオム表現の翻訳性能の評価には適さないという問題点がある.本研究では,日本語と英語を対象に,イディオム表現の翻訳性能の評価に適した新たな自動評価指標を提案する.具体的には,目的言語側でイディオム表現を検出し,その個数と原言語側のイディオム表現の個数とを比較して,翻訳モデルの性能を評価する.実験の結果,BLEUやBERTScoreでのスコアの高さと,全体の出力訳に含まれる正... | Transformer[1]などのニューラル機械翻訳(NMT)システムにとって,複合語表現(MWE)の翻訳は現状の課題の一つである.MWEの中でも,イディオム表現は非構成的な意味を持ち,構成される単語からは意味を推測できない場合が多い表現である.NMTシステムは翻訳対象となる文章の意味が構成的であることを前提として翻訳を行うため,イディオム表現を文字通りに解釈する傾向にある.その結果,イディオム表現を直訳もしくは省略する翻訳エラーが多々発生する.また,イディオム表現の翻訳の評価に適した自動評価指標が存在しないことも課題の一つとして挙げられる.BLEU[2]を始めとするグローバル評価指標は,翻訳文の全体を考慮するものであり,局所的な評... | ニューラル機械翻訳(NMT)の進展により,形式化された書き言葉であるニュース記事や学術論文などの翻訳性能は著しく向上している[1].一方,話し言葉である対話を翻訳する場合,対話に含まれる曖昧さ,話者の感情や個性,文化的ニュアンスなどを反映して適切に翻訳できるかが課題となる[2].対話翻訳性能を向上させるには,現行の機械翻訳モデルがどれだけ適切に対話に対応できるかを定量化する指針,すなわち評価指標が鍵となる.しかし,従来の評価指標では,対話中に頻出する表現を起因とする翻訳エラーをうまく捉えきれないという課題がある.具体的には,原文中のタイプミスやスラング,主語省略などによるエラーを引き起こすことがある(表1).このため,対話翻訳では話... | 優れた機械翻訳システムを開発するには質の高い自動評価指標が必要であり[1],以前からBLEU[2]やchrF[3]などが頻繁に用いられてきた.自動評価指標の質を高めるための一つの方針は,語順の考慮である[1,4,5].また,別の方針として単語埋め込みの利用がある[6,7].CDER(CoverDisjointErrorRate)[8]やEED(ExtendedEditDistance)[9]などのジャンプ付き編集距離は語順の入れ替えを考慮する点で妥当だと考えられる.我々は語順の考慮と単語埋め込みの利用を両立するべく,ジャンプ付き編集距離の置換コストを単語埋め込みを用いて緩和したWCDER(WordembeddingbasedCDER... | ニューラル機械翻訳(NMT)や大規模言語モデル(LLM)を用いた機械翻訳の性能は劇的に向上しており、言語やドメインによっては人間による翻訳を凌駕する場合もある。しかし、現在、機械翻訳の性能を正確に評価する万能な手法は存在しない。COMET[2]のような広く使われている指標であっても、学習データと異なるドメインに適用した場合、不安定または不正確な結果をもたらすことが報告されている[3]。これは特許文書の翻訳にも当てはまる。平均的な翻訳品質は大幅に向上しているものの、適切な用語の使用や用語の一貫性などを正確に評価することは依然として困難である。特に特許請求項は、その長さと独特の文体により、正確な評価をさらに困難に1)本稿は著者らによる国... | 自動評価は,機械翻訳をはじめとする自然言語生成タスクにおいて不可欠な役割を果たしてきた[1,2,3,4].BLEU[1]やROUGE[5]といった表層的なn-gram一致に基づく指標が長く用いられてきた一方で,COMET[2]やBLEURT[3]など,文脈埋め込み表現を活用したニューラルベースの自動評価も主流となっている.また,大規模言語モデルを自動評価として用いる手法[6,7]も提案されている.一方で,これら自動評価は,解釈性の低さという課題を抱えている.ある出力が高い,あるいは低い評価を受けた時,その原因を把握することが難しく,特にCOMET[2]など文全体を単一のスコアで評価する手法は,どの単語が評価に影響を与えたのかが不明瞭... | 大規模言語モデル(LLM)の発展により,機械翻訳の性能は年々向上しており,既存のベンチマークで主流であるニュースやマニュアル等のドメインにおいては,人手翻訳と遜色ない品質が報告される事例が増えている[1].それに伴い,これまで専門性の高い翻訳タスクである文学翻訳に対しても,機械翻訳技術を適用する試みが活発化している[2].実際,2023および2024年の機械翻訳の共通タスクでは文学作品を対象としたタスクが設定された[?].翻訳品質の向上を議論する上で,適切な評価指標の存在は不可欠である.しかし既存の評価指標には,文学翻訳の質を評価するうえで以下の2つの課題がある.一つ目は,BLEU[3]やCOMET[4]などの評価指標は,翻訳品質を... | [
9.055144309997559,
6.356816291809082,
5.773111343383789,
5.764639377593994,
5.596678733825684,
5.418734550476074
] |
ニューラル機械翻訳(NMT)の学習に用いる対訳コーパスの構築法として,文書単位で対応付けられた2つの言語のコーパス(コンパラブルコーパス)から、対応付けられる文ペアを自動的に抽出する手法が広く採用されている.しかし,文単位で意味が対応するものは少なく,多くの文は抽出されず捨てられてしまう.本研究では、対訳コーパスとして抽出されなかった文を含めて,コンパラブルコーパス全体をNMTの学習に活用する手法を提案する.評価実験により,コンパラブルコーパスでデータ拡張を行うことや,コンパラブル性の利用,IterativeBack-Translationの活用によって翻訳モデルの性能が向上することを確認した. | 機械翻訳の分野では,深層学習の発達により,ニューラルネットワークを用いるニューラル機械翻訳(NeuralMachineTranslation:NMT)が,従来手法の統計的機械翻訳よりも高い性能を示しており,様々な研究が行われている.NMTでは,ニューラルネットワークで構築した翻訳モデルを,翻訳元の言語(原言語)の文と,その訳の言語(目的言語)の文のペアにした対訳コーパスを用いて学習を行う.NMTは,対訳コーパスから翻訳に関わる様々な知識を学習するため,対訳コーパスの質や量がNMTモデルの翻訳性能に大きく影響する.しかし,大規模な対訳コーパスを人手で作成することは困難という問題点がある.この問題の解決策として,既存の日本語と英語の翻訳... | 近年ニューラル機械翻訳(NMT)が広く浸透している.NMTモデルの学習には大量の対訳コーパスが必要であるが,ドメインによっては十分な量の学習データを集めることが難しく,その場合品質が高い翻訳モデルを作ることは困難である.これに対し,単言語コーパスを追加の学習リソースとして利用するBackTranslation(BT)[1]手法や,BTを順方向・逆方向のモデルで相互に反復することで,両方向のモデルを複数回に渡って改善するIterativeBackTranslation(IBT)[2,3,4]手法が提案されている.BTやIBTはデータ拡張により翻訳モデルの精度を向上できるほか[1],単言語コーパスのドメインにモデルを適用させるという面で... | ニューラル機械翻訳(NMT)の翻訳精度には学習データに使用する対訳コーパスの量と質が大きく関わっている.しかし,特定のドメインでは十分な量の対訳コーパスを用意することが困難であるという問題がある.そこで,比較的収集が容易な単言語コーパスを用いる手法が提案されている.そのような手法の一つとしてデータ拡張手法であるIterativeBack-translation(IBT)[1][2][3][4]を用いたドメイン適応が知られている.IBTは,翻訳対象言語対の2つの単言語コーパスを相互に逆翻訳とモデルの更新を繰り返し行うことで,疑似対訳データと翻訳モデルの質を向上させることができる.我々の先行研究[5]ではIBTによる単言語コーパスからの... | 近年、ニューラルネットワークを用いたニューラル機械翻訳(NeuralMachineTranslation:NMT)[1,2]は従来の統計的機械翻訳の性能を上回り、非常に高い性能を実現している。ニューラル機械翻訳は、翻訳の品質を飛躍的に向上させるために、大規模かつ品質が高い対訳コーパス(学習データ)が必要になる。しかし、そのようなデータを入手するのは困難で、高いコストがかかる。少数言語対においては、利用できる対訳コーパスが少数である低資源言語対の問題、さらには対訳データを利用できないという問題がある。そのような問題に対応するために、低資源言語対の機械翻訳[3,4,5,6]及び対訳データのない言語対の機械翻訳の研究が行われている[7,8... | NMTにおいてドメイン適応についての様々な研究がされてきた[1].また,ドメイン適応を行うためには十分なコーパスが必要である.しかし,日英対訳コーパスにおいては一般的なドメインの大規模コーパスが無かった.そこでウェブから大規模かつ特定のドメインに特化しない日英対訳コーパスとしてJParaCrawl[2]が開発された.しかし,まだ人手の翻訳精度に及ばない.本研究ではファインチューニングに用いるコーパスが小さいことが原因だと考える.そこで,ファインチューニングに用いるコーパスを拡張することで翻訳精度の向上を図る.まず,目的ドメインのテスト文に類似する対訳をJParaCrawlから抽出する.次に,抽出したコーパスと目的ドメインのコーパスを... | LLaMA-2[1]をはじめとする大規模言語モデル(以下LLMという)は,多くの自然言語処理タスクにおいて高い性能を達成している.Xuら[2]は,LLaMA-2に対して2段階の訓練を行うことで,英語中心の言語対,すなわち英語が目的言語か原言語のとちらかになる言語対の翻訳に対象としたALMAというモデルを提案した.このALMAは,翻訳対象である英語以外の言語の単言語データを使って継続事前学習(ContinualPre-Training:CPT)を行い,翻訳対象となる言語対の高品質な対訳データでSupervisedFine-Tuning(以下SFTという)を行うことにより,130億のLLMを使ってGPT-3.5に匹敵する翻訳精度を達成し... | [
9.774177551269531,
7.476296901702881,
7.1425580978393555,
6.535844802856445,
5.454583168029785,
5.0741400718688965
] |
本稿では,データ拡張手法であるIterativeBack-translation(IBT)を用いたドメイン適応による単言語資源からの知識獲得について調査を行った.我々の先行研究では,2言語の単言語コーパスに分かれて出現する互いに翻訳関係にある語のペア(対訳語彙)であっても,IBTを繰り返すことで次第に対訳として翻訳できるようになることを明らかにした.今回の実験では,それらの対訳語彙について,詳しい獲得の過程や条件について掘り下げを行った.その結果,対訳語彙の獲得には,単言語データでの対訳語彙の出現回数が関係していることが明らかになるとともに,対訳語彙が出現する文中の文脈が関係していることが示唆された. | ニューラル機械翻訳(NMT)の翻訳精度には学習データに使用する対訳コーパスの量と質が大きく関わっている.しかし,特定のドメインでは十分な量の対訳コーパスを用意することが困難であるという問題がある.そこで,比較的収集が容易な単言語コーパスを用いる手法が提案されている.そのような手法の一つとしてデータ拡張手法であるIterativeBack-translation(IBT)[1][2][3][4]を用いたドメイン適応が知られている.IBTは,翻訳対象言語対の2つの単言語コーパスを相互に逆翻訳とモデルの更新を繰り返し行うことで,疑似対訳データと翻訳モデルの質を向上させることができる.我々の先行研究[5]ではIBTによる単言語コーパスからの... | 機械翻訳における双方向学習は,翻訳方向を一方向に限定せず,言語対の両方向(例:英語→日本語および日本語→英語)を同時に学習するアーキテクチャである.特に,大規模な対訳データが入手困難な低資源言語環境において,双方向学習は有効な手法として注目されている.このような双方向学習は,その実装レベルの違いから,大きくモデルレベルとデータレベルのアプローチに分けることができる.モデルレベル双方向学習の代表例として,Xiaらの研究[1]があり,ChienらはこのアーキテクチャをDualformer[2]と呼んでいる.Dualformerは、Transformer[3]を双方向の系列変換に拡張したニューラルアーキテクチャである.Dualformer... | 近年ニューラル機械翻訳(NMT)が広く浸透している.NMTモデルの学習には大量の対訳コーパスが必要であるが,ドメインによっては十分な量の学習データを集めることが難しく,その場合品質が高い翻訳モデルを作ることは困難である.これに対し,単言語コーパスを追加の学習リソースとして利用するBackTranslation(BT)[1]手法や,BTを順方向・逆方向のモデルで相互に反復することで,両方向のモデルを複数回に渡って改善するIterativeBackTranslation(IBT)[2,3,4]手法が提案されている.BTやIBTはデータ拡張により翻訳モデルの精度を向上できるほか[1],単言語コーパスのドメインにモデルを適用させるという面で... | 機械翻訳の分野では,深層学習の発達により,ニューラルネットワークを用いるニューラル機械翻訳(NeuralMachineTranslation:NMT)が,従来手法の統計的機械翻訳よりも高い性能を示しており,様々な研究が行われている.NMTでは,ニューラルネットワークで構築した翻訳モデルを,翻訳元の言語(原言語)の文と,その訳の言語(目的言語)の文のペアにした対訳コーパスを用いて学習を行う.NMTは,対訳コーパスから翻訳に関わる様々な知識を学習するため,対訳コーパスの質や量がNMTモデルの翻訳性能に大きく影響する.しかし,大規模な対訳コーパスを人手で作成することは困難という問題点がある.この問題の解決策として,既存の日本語と英語の翻訳... | 自分が知らない言語で書かれた書物を読む際、辞書を引き、自分がよく知る言語の単語と関連づけることで、その内容を知ることができる。同様に、言語モデルを新たな言語に対応させるときには、文脈内学習や継続事前学習など、様々な手法がある。その中の一つに、事前学習済みモデルの語彙を目的言語に転移させるという手法がある。既存の手法はパラレルコーパスを用いて原言語と目的言語の対応関係を取ったり[1]、あるいは原言語と目的言語の語彙の重なりに着目したりして、語彙を転移させる[2,3,4,5]。しかし、これらの手法は、目的言語が低資源言語の場合、原言語とのパラレルコーパスが存在していないという問題に直面する[6,7]。そこで本研究では、この問題を解決する... | NMTにおいてドメイン適応についての様々な研究がされてきた[1].また,ドメイン適応を行うためには十分なコーパスが必要である.しかし,日英対訳コーパスにおいては一般的なドメインの大規模コーパスが無かった.そこでウェブから大規模かつ特定のドメインに特化しない日英対訳コーパスとしてJParaCrawl[2]が開発された.しかし,まだ人手の翻訳精度に及ばない.本研究ではファインチューニングに用いるコーパスが小さいことが原因だと考える.そこで,ファインチューニングに用いるコーパスを拡張することで翻訳精度の向上を図る.まず,目的ドメインのテスト文に類似する対訳をJParaCrawlから抽出する.次に,抽出したコーパスと目的ドメインのコーパスを... | [
9.41296100616455,
6.449817657470703,
4.986719131469727,
4.478869915008545,
4.094266891479492,
4.027818202972412
] |
修辞技法に代表されるような文化圏に特有な表現は近年のニューラル翻訳モデルでも正しく翻訳するのが難しく,原言語側で検出し,前編集することが翻訳精度向上のための有望な方法であると考えられる.そこで本研究では,日本語において翻訳が難しい表現を翻訳前に検出することを試みる.具体的には,翻訳が難しい表現は母語話者が書いたテキストに特徴的であるという仮説を立て,日本語テキストが機械翻訳されたものかそうでないかを予測するニューラル分類器を訓練し,分類器の予測に寄与した表現を翻訳が難しい表現として検出する.実験により,仮説の妥当性を裏付けるとともに,提案手法が翻訳が難しい表現を検出できることを確認した. | 異なる言語間には語彙や文法だけでなく,その言語が用いられている文化圏に起因する文化差が表出することがある.例えば日本では「このお店は美味しい」という表現は一般的に用いられているが,Honna[1]によると英語圏では一般的に“restaurant”を“delicious”で形容することはない.この差異はメトニミーにおける指示対象の対応関係が日本と英語圏で異なっていることに起因しており,さらにはそれぞれの文化によって生み出された差異だと言える.近年ニューラル言語モデルの登場により,機械翻訳は急速な進化を遂げ,従来訳すのが難しかった慣用句などは正しく訳される場合が増えている..しかし,現在最も一般的に用いられている翻訳サービスであるDee... | 本稿ではT5を用いて,日本語の古文から現代文への翻訳を行う.日本語の古文から現代文への翻訳の先行研究には,統計的機械翻訳[1]とニューラル機械翻訳[2]による研究があるが,このうちのニューラル機械翻訳による研究はLSTM(LongShortTermMemory)を用いており,統計的機械翻訳の結果を超えることはできなかった.ニューラル機械翻訳は小規模なコーパスではよい結果が得られないとされており[3],古文と現代文のパラレルコーパスは小規模であることが、ニューラル機械翻訳を用いた先行研究の性能の低さの主因であると考えられる.一方で,深層学習はLSTMの後にも大きな進歩を見せており,2018年にGPT[4]やBERT[5]が公開され,こ... | Transformer[1]などのニューラル機械翻訳(NMT)システムにとって,複合語表現(MWE)の翻訳は現状の課題の一つである.MWEの中でも,イディオム表現は非構成的な意味を持ち,構成される単語からは意味を推測できない場合が多い表現である.NMTシステムは翻訳対象となる文章の意味が構成的であることを前提として翻訳を行うため,イディオム表現を文字通りに解釈する傾向にある.その結果,イディオム表現を直訳もしくは省略する翻訳エラーが多々発生する.また,イディオム表現の翻訳の評価に適した自動評価指標が存在しないことも課題の一つとして挙げられる.BLEU[2]を始めとするグローバル評価指標は,翻訳文の全体を考慮するものであり,局所的な評... | ニューラル機械翻訳[1–4]の研究の進展に伴い,DeepL1)やTexTra2)など,オンライン機械翻訳サービスの利用も広がりつつある.ただし,機械翻訳の品質は訓練データに依存するため,訓練データと大きく異なる特性を持つ入力文に対しては,翻訳品質が低下する恐れがある.例えばドメインの不一致に対しては,訓練済みの機械翻訳モデルを対象ドメインの対訳コーパスを用いて転移学習するドメイン適応[5]がよく用いられている.しかし,様々なドメインへの適用を考える場合,対象ドメインごとの転移学習に要する時間や訓練済みモデルの管理などのコストの課題,少資源のドメインにおいて対訳コーパスを用意できないという課題がある.そのため,オンライン機械翻訳サービ... | 国際化の進展に伴い,異言語間対話の必要性が高まっている.しかし,現在の機械翻訳技術は,系統だった文書の翻訳では確かな性能を発揮するが[2,3,4],対話翻訳に適しているとは言い難い[5,6,7,8].機械翻訳システムで誤訳が生成された場合,ユーザーはその誤訳を識別できず,混乱や誤解を招く可能性がある.本研究では,このような誤訳を検出し,その発生をユーザーに通知することで,潜在的な誤解を低減する異言語間対話支援システムの開発を目指す.このシステムの核心として,本論文では,異言語間対話翻訳の誤訳を検出する誤訳検出タスクの提案およびベースラインとしてBERTを用いた誤訳検出器の作成を行った.本誤訳検出タスクの説明図を図1に示す.この誤訳検... | ニューラルモデルは、複数の言語を一つのモデルで扱うことができるため[1]、多言語モデルが一般的になってきている。しかし、それらの学習に用いる多言語コーパスは、多くの場合Web等から自動獲得しているため、どうしてもノイズが含まれる。コーパスから対象以外の言語を排除するためには、言語識別が有効である。しかし、既存の方式は、文の一部に他言語が混在したテキスト(これをコード混在テキストと呼ぶ)でも、その割合が少ない場合は、排除に失敗することも多い。本稿では、単言語フィルタリング法を提案する。本稿で提案する方式は、自動獲得した語彙との照合を行うだけの、非常にシンプルな方法で、トークン単位の識別を行う。本稿では、これを対訳コーパスに対して適用し... | [
6.047391891479492,
4.982799530029297,
4.662766933441162,
4.234747409820557,
3.962583303451538,
3.23529052734375
] |
新型コロナウイルスの拡大に伴い,政府や自治体はソーシャルメディアを用いた正確かつ迅速な情報発信が求められている.そのためには,特定の対象(年代や性別など)に向けて発信された情報を,その対象が自分に向けて発信されていると理解できるかどうか,すなわち「指向性」が重要である.情報発信者の属性を特定する研究は多いが,情報が対象とする受信者の属性を特定する研究は見受けられない.本研究では,Twitterにおける雑誌の公式アカウントが発信するツイートは読者層向けに最適化されていると仮定し,各雑誌の対象年齢と性別をラベル付けした指向性ツイートデータセットを用いて,ツイートがどの年齢,どの性別に向けられているものなのか機械学習モデルで分類した.この... | 今や情報発信のインフラとしてソーシャルメディアはなくてはならないものとなっている.日本においては東日本大震災を契機として,SNSを活用した情報発信が大きく注目され始めた.その後も,2017年7月九州北部豪雨災害や2018年西日本豪雨災害でも救助を要請するツイートが多数投稿され,政府と市民間での情報発信の有効な手段として利用された[1].このように,リアルタイム性と拡散性に優れたSNSを用いた情報発信は重要性を増しており,その動きは新型コロナウイルスの流行に伴い,さらに加速的に進んだ.例えば,厚生労働省により組織されたクラスター対策班は,分かりやすい情報を一般市民に届けるために,Twitterアカウントを開設し,情報発信を行った.さら... | 日本における新型コロナワクチンの接種開始は,欧米諸国と比べると2ヶ月以上も遅れた.しかしながら,国民の間にワクチンに対する多くの不安や不満があったにもかかわらず,日本におけるワクチン接種は世界の中でも速く進み,医療従事者への接種開始からわずか8ヶ月ほどでワクチン接種率は72%(世界229カ国中14位)に達した.この接種期間中に,人々のワクチンについての興味・関心はどのように変化したのだろうか.ワクチンについての人々の考え方を調べることは,公衆衛生における重要な課題の1つであり,これまでは主にアンケートによって調査されてきた.しかし,大規模なアンケートを繰り返し実施することには非常にコストがかかる.質問項目の設定によって結果が大きく変... | ソーシャルネットワーキングサービス(SocialNetworkingService,以下SNS)の普及に伴い,インターネットでは人々による言語コミュニケーションが行われている.現実世界同様に,ユーザという人物を構成する様々な特性が,その文章形成に影響を及ぼしていると推測される.異なる個人特性を持つユーザが,同じ内容について言及した文章を記した場合,命題的な内容が同じであったとしてもその文章の様相には細やかな違いが生じることがある.この差異の仕組みを解明出来れば,ユーザの個人特性とユーザの記す文章の関係性を明らかにできる.これまでも,SNS上のテキストデータを元にユーザの特性を予測する研究は盛んにおこなわれてきた[1][2]が,それら... | ソーシャルメディアネットワーク(SNS)上では日常的に政治的な意見が発信・共有されている[1][2].ユーザの政治的傾向を予測する際,政党などの政治団体や政治家に比べ,一個人の一般的なユーザは政治的ではない投稿が大半を占めるため,区別なく投稿を学習すると,特にデータ量が少ない場合に予測性能を下げる可能性がある.そこで,政治的傾向を学習する前に政治的な投稿に絞り込んだうえで,モデルのファインチューンを行う.また,投稿単位での予測と,投稿単位の予測の集合から計算したアカウント単位の予測精度を検証する.SNSの代表例としてTwitter(現X)があり,政治家に限らず一般的なユーザも活発にテキストの投稿を行っている.以前はTwitterAP... | ていた詳細な内容や,その時間的推移については分日本における新型コロナワクチン接種は欧米諸国析されていない.本研究では,より細かく,人々のと比べると2ヶ月以上遅れて始まった.日本は先進考えや関心の時間変化を捉えることを目的とし,先国の中でもワクチン信頼度が最も低い国として知ら行研究と同じく,2021年1月から10月の接種期れており[deFigueiredo20],接種期間前にさまざまな間前後を含めた期間に投稿された「ワクチン」とい不安や不満の空気があったことは記憶に新しい.こう語を含む日本語の全ツイート(1.1億)を分析対象のような複数の懸念事項がありながら,接種開始かとしている.まず,LDAモデルを用いて15の主要ら8ヶ月後の202... | 1.1研究目的近年,Twitter(現X)やInstagram等のソーシャル・ネットワーキング・サービス(SNS)が広く普及している.これによって,消費者による商品やサービスに対する意見がSNS上に多く投稿され,マーケティング上有益な情報が蓄積されている.その中でも,サービスに多くお金を費やすユーザ(以下ヘビーユーザと記載する)は消費において主要な影響力を持つため,彼らのニーズに答えることは企業にとって収益向上への重要な一環である.しかし,そのユーザがヘビーユーザか否かを人手により判断することは定常性に欠ける上にコストがかかるというデメリットがある.そこで本研究では,ヘビーユーザ評価指標を基に,機械学習を用いたヘビーユーザ特定モデル... | [
6.711740493774414,
2.9610211849212646,
1.5938823223114014,
1.3276312351226807,
1.1199040412902832,
1.0576237440109253
] |
オープンドメイン質問応答タスクは質問に対する文書の検索と読解で構成され、そのデータセットには、複数の文書を読解しなければ解答できない質問が多く存在する。本研究では、テキスト生成モデルをベースとした質問応答モデルであるFusion-in-Decoder[1]を用いて、複数文書の読解を要する質問を自動生成する。生成された質問を、オープンドメイン質問応答システムに応用した結果、正答率が約2%向上し、質問生成の有効性が示された。 | 自然言語処理における機械学習の利用においては、学習データの量が重要であり、多量かつ高品質なデータセットの取得が課題の1つになっている。データセットを作成する手法としてアノテーションが使われる。しかし、アノテーションを人手で行うとコストが高くなってしまうため、データ作成・拡張を自動で行う手法が用いられることもある。本研究ではデータ拡張をオープンドメイン質問応答タスクに応用する。オープンドメイン質問応答タスクは質問に対する文書の検索と読解で構成され、そのデータセットには、複数の文書を読解しなければ解答できない質問が多く存在する。本研究では、テキスト生成モデルをベースとした質問応答モデルであるFusion-in-Decoder[1]1)(... | 自然言語で表現された質問に対して適切な解答を与える技術は、質問応答と呼ばれている。特に、分野や領域が限定されていない質問応答はオープンドメイン質問応答と呼ばれる。その中でも単純な事実や出来事を問う質問はファクトイド型質問と呼ばれ、この技術は検索サービスなど身近な場面にも応用されている[1]。オープンドメイン質問応答のうちファクトイド型質問の研究では、クイズの問題が題材として扱われることが多く、SQuAD[2]やTriviaQA[3]といった英語のデータセットが存在する。2011年には米国のクイズ番組Jeopardy!において、IBMの開発したWatsonというシステムが活躍した[4-5]。日本でもクイズの問題のデータセットであるJA... | 質問応答(QA)は自然言語処理の重要なタスクの1つである[1]。質問応答で一般的な問題設定である機械読解タスクのデータセットの1つにSQuAD[2]がある。しかし、SQuADはモデルが与えられた文章を参照することで答えが得られる単純なファクトイド質問が多い。そのような単純な問題設定をより発展させた複雑な質問のデータセットとしてHotpotQA[3]やDROP[4]などがある。HotpotQAは多段階の推論を必要とするマルチホップ質問(multi-hopquestion)により構成されており、DROPは数値演算などを含む複雑な質問により構成されている。複雑な推論を必要とする質問を解くために、従来のエンドツーエンドの手法に加え、複雑な質... | 近年,ニューラルネットワークを用いたモデルがクイズ形式の質問に対して高精度に解答する研究が盛んに行われている[2].これらの研究が進むことで従来の検索システムに比べて,より自然な言葉での質問応答が可能になると考えられている.出題範囲に制限のない広範囲な一般常識が必要となるようなクイズに対して,高精度で解答するためには,なるべくたくさんの知識を利用することが必要である.そのため,正解するためには膨大な記事の中から,答えを含む可能性の高いものを抽出するプロセス,及び,抽出された記事のなかから,文脈を考慮して答えとなる短いフレーズを導くためのプロセスが必要となる.与えられた質問に対して答えを正しく導き出すために用いられる主な手法としては,... | シネーションに対処するため,文書中の情報だけで視覚的なコンテンツとテキストとの双方をは解答できない質問を全データセットの1割程度作含む文書への質問に解答する課題は,文書画像成し,このデータを使って追加で学習する方法を提質問応答(DocumentVQA)として注目を集めてい案する.複数の日本語LLMや画像を入力とするマる[1,2,3,4].また,学校の理科教材として使われルチモーダルLLMを使用して,JDocQAのベンチるダイアグラムにアノテーションや質問応答を付マーキングと提案手法の有効性を検証する.与したAI2D[5]や,中学校理科テキストブックへ本論文の貢献は以下のようにまとめられる.(i)テの質問応答TQA[6]などを筆頭に,... | 「引っ越しに伴う必要な手続きを教えてください」といった,情報欲求に起因して自然発生する質問をNaturalQuestions(自然な質問)[1,2]と呼ぶ.自然な質問のマイニングには様々な応用がある.例えば,大規模言語モデル向けの指示学習(質問応答)データセットの人手構築に対して,質問の作成コスト軽減や多様化が期待できる.また,商品・サービスに対する自然な質問が収集できれば,需要分析に有用である.このように,自然な質問のマイニングには一定の需要がある.ウェブが普及した現代では,多くのユーザが情報を欲し,質問をする際にGoogle検索といった検索エンジンを用いる.検索エンジンには通常,1語目に情報欲求の対象を,2語目以降にAND検索の... | [
9.385729789733887,
6.489471912384033,
5.652135848999023,
5.488950729370117,
5.393332481384277,
5.225258827209473
] |
SNS投稿が社会に及ぼす影響は、人々の行動を左右するまでに大きくなった.Twitterに投稿されたツイートの影響を測る指標の一つはリツイート数である.本研究では投稿テキストのみからリツイート数の予測を試みた.結果、リツイート数が十分に多い場合、フォロワー数の貢献は低くテキストのみで予測可能であることを示したうえ、我々が大規模ツイートデータで事前学習したRoBERTaが他のモデルより良く、対数正規化したリツイート数に対し絶対平均パーセント誤差で0.602の予測性能であった.ツイート文中の各文節の予測への貢献度合いを分析し、「バズる」ツイートの傾向について示唆を得た. | 現代社会において、ソーシャルネットワーキングサービス(SocialNetworkingService、以下SNS)は我々の生活に深く根付いており、経済から政治まで様々な分野に世界的な影響を及ぼしている.行政機関から企業、一個人に至るまでの多様な情報の発信において、SNSを使用することは今やスタンダードなものとなっている.そのようなSNSの中でも、Twitteriは活発にテキストの投稿が行われていると同時に、データ取得APIが公開されており、膨大なデータを収集分析することができる.Twitterではリツイート機能により対象のツイート(投稿)をフォロワー全員と共有できるため、リツイートは情報の拡散において重要な要素である.先行研究の多く... | 近年,SNSの利用の増加に比例して,インターネットには膨大な投稿テキストが存在する.SNS関連のテキストの分析は様々な分野に応用が可能な一方で,あまりに膨大なデータを人手で処理することは難しい.そのため近年は,テキストに機械学習を用いる研究が頻繁に行われている.山内ら[1]は,日本語の学術文章を用いてBERTモデルを事前学習し,様々なタスクで性能の向上が見られたと報告している.またSci-BERT[2]のようなドメイン特有のコーパスで学習されたモデルが配列タグ付け,文の分類,係り受け構文解析を含む一連のタスクで性能向上を報告している.しかし,SNSの投稿は一般の書き言葉と異なり,文が短い,文の区切りが明確でない,省略が多い,口語が多... | ソーシャルネットワーキングサービス(SocialNetworkingService,以下SNS)の普及に伴い,インターネットでは人々による言語コミュニケーションが行われている.現実世界同様に,ユーザという人物を構成する様々な特性が,その文章形成に影響を及ぼしていると推測される.異なる個人特性を持つユーザが,同じ内容について言及した文章を記した場合,命題的な内容が同じであったとしてもその文章の様相には細やかな違いが生じることがある.この差異の仕組みを解明出来れば,ユーザの個人特性とユーザの記す文章の関係性を明らかにできる.これまでも,SNS上のテキストデータを元にユーザの特性を予測する研究は盛んにおこなわれてきた[1][2]が,それら... | 本稿では,日本語のX(旧Twitter)のポスト(旧ツイート)データに対してのレーティング予測について述べる.商品レビューは消費者の正直な感想であるため広告より信頼性が高いが,ヤラセ・サクラなど,レビューの悪用や利用者増加に伴う役に立たないレビューの増加で,真に有用なレビューが埋もれている.推薦・推薦文においてこのようなレビュー等が主に使われており,それらの結果に疑問が残るのではないかと考える.それに比べ,Xのポストなどの生の声は,レビュー文よりも実際の気持ちを表していると予想される.我々はこれまでに,多言語amazonレビューコーパス[1]の日本語レビュー文に対し,評価点(レーティング)がどの程度正確に予測できるかを調査している[... | ソーシャルメディアネットワーク(SNS)上では日常的に政治的な意見が発信・共有されている[1][2].ユーザの政治的傾向を予測する際,政党などの政治団体や政治家に比べ,一個人の一般的なユーザは政治的ではない投稿が大半を占めるため,区別なく投稿を学習すると,特にデータ量が少ない場合に予測性能を下げる可能性がある.そこで,政治的傾向を学習する前に政治的な投稿に絞り込んだうえで,モデルのファインチューンを行う.また,投稿単位での予測と,投稿単位の予測の集合から計算したアカウント単位の予測精度を検証する.SNSの代表例としてTwitter(現X)があり,政治家に限らず一般的なユーザも活発にテキストの投稿を行っている.以前はTwitterAP... | マイクロブログなどのソーシャルネットワークサービスが実世界のありとあらゆる情報を素早く拡散し,広範な観点からの意見を伝達する手段として一般的に使用されるようになって久しい.このようなサービスでは,特定のトピックが短期間で大規模な注目を集める現象,いわゆる「トレンド」が発生する.これらのトレンドは,個人の趣味嗜好や企業のマーケティング戦略を形成するなど,多岐にわたって社会に影響を及ぼす力を持っており,地域や世界的なニュース,特定の作品,人々や団体に関する情報,ミームに至るまで多種多様なトピックを含んでいる.このようなトレンドを早期に予測することは,ユーザへの話題提供のみならず,企業活動における戦略策定や広告のタイミング調整に有効であり... | [
5.479490280151367,
3.861722707748413,
3.044044256210327,
2.799290418624878,
2.495203733444214,
1.8440927267074585
] |
2019年末から始まったコロナ禍も3年が経過し,徐々に行動制限が緩和され,日々,状況は変化しつつある.現在も,生活様式の劇的な変化に伴い心身へのストレスなど人々に大きな影響を与え続けている.本研究は,コロナ禍前後でのTwitter上での発言内容から感情分析を行い,特徴的な表現を抽出して比較分析することにより,人々の発言,思考,行動に起きた変化を分析する.また,ユーザの性格タイプ別での感情の変動について考察する. | 新型コロナウイルス感染症の拡大に伴い,2020年からの長期間の行動制限は,精神的ストレスの増加,離職,収入の激減といった悪循環を引き起こしている.現在,行動制限が緩和され,コロナ禍前の日常が戻りつつあるとはいえ,まだ感染が収束したわけではない.現在でも,自粛の継続を選択せざるを得ない人々や,後遺症などから感染拡大前の生活に戻れない人々も少なくない.うつ病などのメンタルヘルスの問題に至らないよう,周囲とのコミュニケーションを密にし,孤立化を防止することが極めて重要である.そのためにも,人々が何に影響を受け,どのような感情を抱いているかを大まかに把握し,要因別のサポート体制を整える必要がある.本研究では,感情推定技術を活用して,ソーシャ... | 日本における新型コロナワクチンの接種開始は,欧米諸国と比べると2ヶ月以上も遅れた.しかしながら,国民の間にワクチンに対する多くの不安や不満があったにもかかわらず,日本におけるワクチン接種は世界の中でも速く進み,医療従事者への接種開始からわずか8ヶ月ほどでワクチン接種率は72%(世界229カ国中14位)に達した.この接種期間中に,人々のワクチンについての興味・関心はどのように変化したのだろうか.ワクチンについての人々の考え方を調べることは,公衆衛生における重要な課題の1つであり,これまでは主にアンケートによって調査されてきた.しかし,大規模なアンケートを繰り返し実施することには非常にコストがかかる.質問項目の設定によって結果が大きく変... | 現代社会に広く普及したソーシャルメディアネットワーク(SNS)では,人々はさまざまな情報を発信し,他のユーザとコミュニケーションを行っており,SNS上の投稿やアクティビティによってオンライン世論が形成されている[1].多くのSNSでは,ユーザのアクティビティに基づいて最適化された情報が表示される[2].その結果,似たような意見ばかりに触れ,異なる意見を取り入れにくくなる現象,いわゆるエコーチェンバーが発生する可能性が指摘されている[2].一方で,ユーザ数の拡大に伴い,自身の発信した意見のみならず,普段触れる機会の少ない他者の意見に触れることも増加する.これにより,意見の変化がもたらされる可能性もある.これまでにも,SNS上のユーザ意... | 感情は可変であり,人にとって判断材料やコミュニケーション手段になる.学術および社会では感情の典型を追究しており,カテゴリ分類や極性を用いた感情推定方法の構築によって,現象の構造解析に取り組んでいる.精神障害の症状を気分や感情の観点からみると,うつ病はやり場のない苦しみ,双極性障害は爽快で楽しい状態と落ち込む状態の転換,統合失調症は感情の平滑化など,多種多様である.高須ら(2022)は,ツイートには精神障害の薬剤名,プロフィール欄には精神障害の疾病名や症状の記載があるユーザーを対象に,メンタルヘルス不調に関わる表現や薬剤名を除外した一般的な会話表現から,機械学習による分類によってメンタルヘルス不調を推測した.BERTのF1値が0.84... | 日本では,2004年頃からSocialNetworkingSer-vice(SNS)の利用が増加した.2021年時点で,74.2%の人々がSNSを利用している[1].SNS上での会話は,通常話し言葉で行われるため,ユーザーの居住地や出身地の方言が多く含まれていると推察される.廣田ら[2]は「ブログ等のCGMの普及によりWeb上で方言が使用される機会が増えている.また,それに伴い,方言に対しても頑健な言語処理技術の必要性が高まっている」と述べた.また、SNSの利用が一般的になるにつれ,SNS上での炎上やネットいじめも社会問題化している.日本では携帯電話等を使用したいじめの件数が1年間で21,900件に上り,引き続き増加傾向にある[3]... | ソーシャルネットワーキングサービス(SocialNetworkingService,以下SNS)の普及に伴い,インターネットでは人々による言語コミュニケーションが行われている.現実世界同様に,ユーザという人物を構成する様々な特性が,その文章形成に影響を及ぼしていると推測される.異なる個人特性を持つユーザが,同じ内容について言及した文章を記した場合,命題的な内容が同じであったとしてもその文章の様相には細やかな違いが生じることがある.この差異の仕組みを解明出来れば,ユーザの個人特性とユーザの記す文章の関係性を明らかにできる.これまでも,SNS上のテキストデータを元にユーザの特性を予測する研究は盛んにおこなわれてきた[1][2]が,それら... | [
3.8423733711242676,
3.301238536834717,
2.9529693126678467,
2.849574089050293,
2.8319687843322754,
2.2228195667266846
] |
質問応答システムで多段階の推論や数値演算などが必要な複雑な質問文を扱う1つの方法として、質問文を簡単な質問に分解する方法がある。本研究では深層学習による大規模言語モデルであるT5を用いて異なる設定で英語の訓練データを用いて日本語の質問分解を行う実験を行う。その結果多言語T5を用いるより、機械翻訳を組み合わせ単言語で学習を行う方がより適切な分解が行われることを確認した。 | 質問応答(QA)は自然言語処理の重要なタスクの1つである[1]。質問応答で一般的な問題設定である機械読解タスクのデータセットの1つにSQuAD[2]がある。しかし、SQuADはモデルが与えられた文章を参照することで答えが得られる単純なファクトイド質問が多い。そのような単純な問題設定をより発展させた複雑な質問のデータセットとしてHotpotQA[3]やDROP[4]などがある。HotpotQAは多段階の推論を必要とするマルチホップ質問(multi-hopquestion)により構成されており、DROPは数値演算などを含む複雑な質問により構成されている。複雑な推論を必要とする質問を解くために、従来のエンドツーエンドの手法に加え、複雑な質... | 高性能かつ頑健な自然言語処理(NLP)モデルを構築するためには、様々な質問応答(QA)データセットを用意し、訓練、評価、分析をすることが重要である。QAデータセットには抽出型、生成型、多肢選択式など様々な種類があり、それらを解くためにはMulti-hop推論[1]や実世界知識[2]など多くの技術・知識が必要となる。UnifiedQA[3]やFLAN[4]のように様々なQAタスクを統合的に解く研究もあるが、このような統合的な解析が可能なのは英語だけであり、他言語では多様なQAデータセットが存在しないため不可能である。日本語には、JSQuAD[5]やJaQuAD[6]、JAQKET[7]などの基本的なQAデータセットしか存在しない。日本語... | 大規模言語モデル(LargeLanguageModel;LLM)は,高度な推論能力を備え,数学やコーディングをはじめとする多様なタスクにおいて,高精度な回答を生成できる[1,2,3].これらのモデルは,ChainofThought(CoT)[4]と呼ばれる多段的な推論を展開することで,複雑な問題を解決することを特徴とする.しかし,推論能力の高いモデルの多くは,大規模な計算資源を必要とするため,適用範囲が限定的である.そこで,精度を維持したまま,モデルを軽量化する技術が必要とされている.知識蒸留[5,6]は,大きなモデル(教師)の知識を,より小さなモデル(生徒)へと受け継ぐことで,モデルを軽量化する手法である.特に,教師が出力した推論... | 近年,Transformer[1]などのディープニューラルネットワークはコンピュータビジョンや自然言語処理といったさまざまなタスクの複雑なパターンマッチングにおいて顕著な発展を遂げてきた.しかし,Transformerには長い文脈情報を固定長の系列にエンコードするせいでcontextfragmentationproblem[2]があり,この問題を解くために過去の情報をメモリ内にキャッシュしておくさまざまな手法[2,3,4]が提案されてきたが,Transformerをベースとしたモデルは,グラフや木などのデータ構造の表現や変数の使用,長い系列に対する表現の操作といった抽象的な処理を行う能力には限界があるとされてきた.NeuralTur... | 大規模言語モデル(largelanguagemodel:LLM)に内在にする知識だけでは答えられない質問に回答するためには、検索拡張生成(retrieval-augmentedgeneration:RAG)[1]が有効である。質問応答タスクに利用する際[2]には、Retrieverにより得られた複数の異なるコンテキストを活用する方法に課題がある。例えば、コンテキストには回答の参考になるものとならないものがあるため、回答の参考にならないものにより偽の回答が生成されるという過大がある。一般的なRAGには、逐次的に上位のコンテキストから順番に入力し、前のコンテキストの答えをもとにして新しいコンテキストに基づいて答えを書き直すかどうかをLL... | 質問応答タスクは大きくFactoid型とNon-Factoid型に分けられる.「日本の首都は?」のような回答が名詞1単語など一言で回答できるようなタスクをFactoid型とよび,「なぜ空は青い?」のような複数文での説明を要するようなタスクをNon-Factoid型と呼ぶ.Factoid型の質問応答タスクは特にMask言語モデルで研究の対象とされてきた[1,2,3].一方で,大規模言語モデル(LLM)は様々なタスクで著しい成長を遂げており[4],情報検索クエリに対して流暢でもっともらしい長文回答が生成できる様になった[5].これより,Non-Factoid型質問応答タスクへの注目が集まるようになった[6,7].現在の言語モデルは高品質... | [
9.660013198852539,
3.1595675945281982,
1.9790281057357788,
1.9325531721115112,
1.879847764968872,
1.62705659866333
] |
質問応答を含む対話システムでは,対話内容に沿った質問の解釈が重要である.先行研究では,すべての対話履歴と質問を一つの繋がった文章として入力し,対話履歴に依存しない質問へ書き換えることが行われているが,書き換えに関係のあるターンを考慮することが難しい.本研究では,対話中の質問応答における各ターンの重要度を推定し,その重要度に応じて強調した表現を用いて質問書き換えを行うTurnRewriteモデルを提案する.質問書き換えの上で重要なターンへルールによるラベル付けを行ない,各ターンの重要度を推定するターン強調モデルを学習する.CANARDデータセットを用いた実験結果により,TurnRewriteモデルの有効性を確認した. | 質問応答モデルの精度が向上し,与えられた文書に関する単一の質問に答えるタスクは人間の性能を超えるものも出てきている[1].近年,より現実に即したタスクとして,対話型質問応答(ConversationalQuestionAnswering:CQA)タスクと呼ばれる会話の中で現れる質問に対する回答を生成するタスクが提案されている.このタスクは質問内容の解釈が対話履歴に依存するという点で,単一の質問に答えるタスクと比較して難しい[2].このタスクのサブタスクとして,対話履歴に依存して解釈の決まる質問を対話履歴に依存しない質問(以降,書き換えられた質問)に書き換える質問書き換え(QuestionRewriting)タスクが提案され,CANA... | 自然言語で表現された質問に対して適切な解答を与える技術は、質問応答と呼ばれている。特に、分野や領域が限定されていない質問応答はオープンドメイン質問応答と呼ばれる。その中でも単純な事実や出来事を問う質問はファクトイド型質問と呼ばれ、この技術は検索サービスなど身近な場面にも応用されている[1]。オープンドメイン質問応答のうちファクトイド型質問の研究では、クイズの問題が題材として扱われることが多く、SQuAD[2]やTriviaQA[3]といった英語のデータセットが存在する。2011年には米国のクイズ番組Jeopardy!において、IBMの開発したWatsonというシステムが活躍した[4-5]。日本でもクイズの問題のデータセットであるJA... | 対象に分析を行っており,コンテキストに含まれる質問応答(questionanswering)とは,利用可能な情文章の量に関連するショートカット推論の挙動は著報源文章(コンテキスト)を基にユーザーから与えら者らの知る限り[7]における限定的な実験があるのれた質問文に対する回答を自動的に作成するタスクみである.である.近年では大規模なベンチマークデータセッさらにコンテキストの量は推論時だけでなく,ト[1]が公開されるなど活発に研究が行われており,retrieve-then-read方式の質問応答モデルを訓練する大規模言語モデルの利用などによって一部のベンチ際にも性能に影響を与えていることが示されているマークデータセットに対する性能が人間... | 人間同士の雑談において、聞き手は相槌や頷きといった傾聴行為を行うことが多い。このような傾聴行為は、コミュニケーションをより円滑にする効果が期待できるため、人間と音声対話システムにおける対話でも、システムが聞き手にまわる際には継続的に傾聴行為を行う必要があると考える。そこで本研究では、聞き手が応答すべきタイミングを推定し、多様な応答生成を行う音声対話システムの構築を目的とする。相槌など聞き手応答タイミングの推定に関しては、音響特徴量からの推定手法[1]や、節境界や無音区間、母音引き延ばしといった特徴量を使用する手法[2]など様々な手法が提案されている。また、聞き手応答タイミングの推定と類似した問題設定として、話者交代のタイミング推定が... | 大規模言語モデル(LLM)はその内部に多種多様な知識を蓄えており[1,2],自然言語生成に関する広範な応用が期待されている.しかし,LLMはその記憶に存在しない知識について問われるとハルシネーションや性能低下を引き起こすことがある[3].そのため,LLMがどのような知識を記憶しているかを測ることは,LLMの適正な利用や性能の改善にとって重要である.これまでに,訓練データ中における出現頻度の低い知識はLLMに記憶されにくいこと[4,5]や有名ではない知識は記憶されにくいこと[5]などが明らかとなっている.これらの研究では,主にエンティティに関する事実知識を対象として,その記憶を測るためにエンティティベースの(質問と回答にそれぞれエンテ... | 政府や地方議会では,さまざまな議題に対して議論し、発言内容は議事録に記録され、誰でも閲覧することができる.しかし,一部の議会では,一名の議員がまとめて質問をし,各担当者が該当する質問に対して答弁を行う形式が取られている.この「一括質問・一括答弁」の形式で記録されている議会議事録は以下の要因により住民にとって読みづらい.1つ目は質問文章や回答文章が長く、各質問に対する回答が離れていることである。2つ目は回答者が答えられる質問に対してまとめて回答していることにより回答順は質問順ではないことである。これらの問題に対処するために,一つの質問に対して該当する答弁が並ぶ「一問一答」形式に変換することが望ましい.そこで,本研究では「一括質問・一括... | [
7.480908393859863,
4.417057514190674,
4.008177757263184,
3.895598888397217,
3.543700933456421,
3.1954283714294434
] |
専門家の知識の一部は、報告書などのテキストデータとして所属組織内に蓄積される。材料分析ドメインを対象に、テキストを参照して専門性の高い質問に自動回答するシステムを、オープンブック質疑応答を応用して構築した。専門性の高い質疑応答は回答抽出の難度が高いため、誤答の多発が懸念される。そこで、回答の正誤検証器を備えるシステムを構築し、その訓練手順を提案した。提案の訓練手順は、質疑応答ログを専門家が正誤添削するだけで良く、一般的なデータセット作成よりも作業負荷が少ない。実験から、訓練によって誤答の提示頻度が50%以上抑制されたことを確認した。 | 産業分野などにおけるドメイン専門家の知識の一部は、報告書などのテキストデータとして所属組織内に蓄積される。その専門知識を再利用できるよう、膨大なテキストデータから情報抽出できる仕組みが求められる。その手段として、テキストデータを参照する質疑応答システムの研究が進められている。なお、そのようなシステムは、教科書を開きながら試験問題に答える「持ち込み試験」に例えてオープンブック質疑応答システムと呼ばれる。本検討では、オープンブック質疑応答を「材料分析」ドメインに応用し、図1に示すようなシステムを構築している。ユーザが質問を入力すると、バックエンドでオープンブック質疑応答アルゴリズムがテキストデータを参照し、回答を抽出し提示する。また、参... | 大量のテキストデータで学習が行われ,タスクを表す指示文への応答を柔軟に行うように訓練された大規模言語モデルは,さまざまな自然言語処理タスクにおいて高い性能を発揮している[1,2].大規模言語モデルを活用することによって人間が日々行うテキストによる知的作業を効率化・自動化し,また創造性を拡張することが期待される.そのため,さまざまな業界において業務効率化によるコスト低減や,新たな価値創出の機会が探られている.教育業界においても,大規模言語モデルを活用することによって学びを行う生徒の理解度を促進するために,生徒の質問に答える質問回答システムの開発が期待される[3].質問と回答,場合によっては回答根拠となる文書群のペアを集めた質問回答デー... | 舶用ディーゼル機関は船上で昼夜問わず稼働しており,技術者に対して日々舶用ディーゼル機関の部品・システムに関する様々な問い合わせが行われている.現在,技術者が舶用ディーゼル機関に関する問い合わせに対して主にメールで回答しているため,技術者が不在になると回答を受けるまでに大幅に時間がかかることがある.この不便性を解消するために,チャットボットを利用した問い合わせ内容を自動回答するシステムを導入している.チャットボットは質問文を入力するもしくは質問リストから質問を選択していくと,対応する回答が自動的に出力されるプログラムであり,カスタマーサポートや社内問い合わせ等,様々な場面で使用されている[1].過去のメールでの問い合わせ事例から市販の... | シネーションに対処するため,文書中の情報だけで視覚的なコンテンツとテキストとの双方をは解答できない質問を全データセットの1割程度作含む文書への質問に解答する課題は,文書画像成し,このデータを使って追加で学習する方法を提質問応答(DocumentVQA)として注目を集めてい案する.複数の日本語LLMや画像を入力とするマる[1,2,3,4].また,学校の理科教材として使われルチモーダルLLMを使用して,JDocQAのベンチるダイアグラムにアノテーションや質問応答を付マーキングと提案手法の有効性を検証する.与したAI2D[5]や,中学校理科テキストブックへ本論文の貢献は以下のようにまとめられる.(i)テの質問応答TQA[6]などを筆頭に,... | 自然言語で表現された質問に対して適切な解答を与える技術は、質問応答と呼ばれている。特に、分野や領域が限定されていない質問応答はオープンドメイン質問応答と呼ばれる。その中でも単純な事実や出来事を問う質問はファクトイド型質問と呼ばれ、この技術は検索サービスなど身近な場面にも応用されている[1]。オープンドメイン質問応答のうちファクトイド型質問の研究では、クイズの問題が題材として扱われることが多く、SQuAD[2]やTriviaQA[3]といった英語のデータセットが存在する。2011年には米国のクイズ番組Jeopardy!において、IBMの開発したWatsonというシステムが活躍した[4-5]。日本でもクイズの問題のデータセットであるJA... | 対象に分析を行っており,コンテキストに含まれる質問応答(questionanswering)とは,利用可能な情文章の量に関連するショートカット推論の挙動は著報源文章(コンテキスト)を基にユーザーから与えら者らの知る限り[7]における限定的な実験があるのれた質問文に対する回答を自動的に作成するタスクみである.である.近年では大規模なベンチマークデータセッさらにコンテキストの量は推論時だけでなく,ト[1]が公開されるなど活発に研究が行われており,retrieve-then-read方式の質問応答モデルを訓練する大規模言語モデルの利用などによって一部のベンチ際にも性能に影響を与えていることが示されているマークデータセットに対する性能が人間... | [
5.665849208831787,
2.0946149826049805,
1.9087944030761719,
1.743743896484375,
1.5025981664657593,
1.3543455600738525
] |
本研究では、早押しクイズの問題を題材として、不完全な質問文から解答を生成する質問応答モデルを提案する。提案モデルは、不完全な質問文に対して、その続きを予測して質問文の後半部を補完する前段と、そうして得られた質問文に対して解答を出力する後段からなる。このモデルの前段にはファインチューニングしたGPT-2を用い、後段にはDensePassageRetrieverによる質問応答モデルを用いる。結果として、質問文の前半部のみから解答を出力したモデルに比べて、予測機構を組み込んだモデルの方が高い精度の解答を出力できることがわかった。 | 自然言語で表現された質問に対して適切な解答を与える技術は、質問応答と呼ばれている。特に、分野や領域が限定されていない質問応答はオープンドメイン質問応答と呼ばれる。その中でも単純な事実や出来事を問う質問はファクトイド型質問と呼ばれ、この技術は検索サービスなど身近な場面にも応用されている[1]。オープンドメイン質問応答のうちファクトイド型質問の研究では、クイズの問題が題材として扱われることが多く、SQuAD[2]やTriviaQA[3]といった英語のデータセットが存在する。2011年には米国のクイズ番組Jeopardy!において、IBMの開発したWatsonというシステムが活躍した[4-5]。日本でもクイズの問題のデータセットであるJA... | 早押しクイズとは、競技クイズのジャンルの1つであり、問題が読まれている途中に解答を行うことができるもので、解答する速度が重要となる性質上、不完全な文に対しての解答をすることが多いという特徴を持つ。競技クイズは対象とする知識の範囲を限定しないため、オープンドメイン質問応答タスクとして広く研究が行われているが、その主要なデータセットであるNaturalQuestions[1]や、TriviaQA[2]は入力となる問題文が完全なものであり、これらを使用して構築されたシステム[3,4,5]は不完全な質問に対して解答を行うことは想定されていない。また、早押しクイズにおいては、解答を行うだけではなく、現時点で与えられた問題文に対して予測された解... | 通常の質問応答タスクでは問題文が全文与えられるため純粋な知識量が重要となるが,早押しクイズは他者よりも早くボタンを押して解答権を得る必要があるため,問題文の途中,より早い段階での解答が求められ,知識量に加えて問題文の推測能力も必要となる.早押しクイズを解くシステムとしてはWatson[3]を始め,研究されてきているが,多くは解答のために十分な文量を要し,人間のクイズプレイヤーほどの早さで解答することは難しい.早押しクイズには構文や答えとしての自然さがあり[4],それらをもとに問題文を推測することで,一見答えが確定していないような段階での解答が可能となっている.例えば,「『歳時記』における季語の5つの分類とは,「春」「夏」「秋」「冬」... | 近年,ニューラルネットワークを用いたモデルがクイズ形式の質問に対して高精度に解答する研究が盛んに行われている[2].これらの研究が進むことで従来の検索システムに比べて,より自然な言葉での質問応答が可能になると考えられている.出題範囲に制限のない広範囲な一般常識が必要となるようなクイズに対して,高精度で解答するためには,なるべくたくさんの知識を利用することが必要である.そのため,正解するためには膨大な記事の中から,答えを含む可能性の高いものを抽出するプロセス,及び,抽出された記事のなかから,文脈を考慮して答えとなる短いフレーズを導くためのプロセスが必要となる.与えられた質問に対して答えを正しく導き出すために用いられる主な手法としては,... | 大規模言語モデル(largelanguagemodel:LLM)に内在にする知識だけでは答えられない質問に回答するためには、検索拡張生成(retrieval-augmentedgeneration:RAG)[1]が有効である。質問応答タスクに利用する際[2]には、Retrieverにより得られた複数の異なるコンテキストを活用する方法に課題がある。例えば、コンテキストには回答の参考になるものとならないものがあるため、回答の参考にならないものにより偽の回答が生成されるという過大がある。一般的なRAGには、逐次的に上位のコンテキストから順番に入力し、前のコンテキストの答えをもとにして新しいコンテキストに基づいて答えを書き直すかどうかをLL... | 近年、クイズがエンターテインメントのみならず、ビジネスや医療などへ応用されている。クイズを解くという行為には、思考力・判断力の向上や、記憶力・判断力の維持というメリットもあり、この観点から高齢者の認知機能維持のためにクイズが応用される例1)もある。しかし、クイズ問題の作問は、少量であれば人手でも負担が少ないものの、大量となると高コストになってしまう。また、クイズを解くという行為は、自然言語処理においては質問応答タスクに該当する。しかし日本語の質問応答データセットは、英語のものと比べて量が少ないため、データの自動生成による拡張が有効な手法であると期待される。本研究では、クイズ問題を自動で生成するシステムの構築に取り組む。クイズは問題と... | [
10.110260963439941,
7.235167503356934,
7.154703140258789,
6.994328498840332,
5.8699541091918945,
4.96750545501709
] |
anlp-meeting-retrieval
言語処理学会 年次大会 (NLP2023 - NLP2026) の発表論文 PDF から抽出した、 複数の retrieval タスク向け日本語学習用データセットです。
JMTEB v2 ベンチマークの NLPJournal 系タスクのドメインに合わせて構築しています。 JMTEB の評価対象論文 (637 編、ANLP 学会誌『自然言語処理』掲載) との重複は無いよう、 別ソース (年次大会発表論文) から作成しています。
Configs
| config | rows | query | positive | negative(s) | label | 対応 JMTEB v2 タスク |
|---|---|---|---|---|---|---|
| abs-intro_pairs | 2,362 | abstract | introduction | - | - | NLPJournalAbsIntroRetrieval.V2 |
| abs-intro_triplets | 2,362 | abstract | introduction | 1 件 | - | NLPJournalAbsIntroRetrieval.V2 |
| abs-intro_n-tuples | 2,362 | abstract | introduction | 5 件 | あり (生 logit) | NLPJournalAbsIntroRetrieval.V2 |
| abs-intro_n-tuples-filtered | 2,014 | abstract | introduction | 5 件 | あり (生 logit) | NLPJournalAbsIntroRetrieval.V2 |
| title-abs_pairs | 2,254 | title | abstract | - | - | NLPJournalTitleAbsRetrieval.V2 |
| title-abs_triplets | 2,254 | title | abstract | 1 件 | - | NLPJournalTitleAbsRetrieval.V2 |
| title-abs_n-tuples | 2,254 | title | abstract | 5 件 | あり (生 logit) | NLPJournalTitleAbsRetrieval.V2 |
| title-abs_n-tuples-filtered | 1,926 | title | abstract | 5 件 | あり (生 logit) | NLPJournalTitleAbsRetrieval.V2 |
| title-intro_pairs | 2,254 | title | introduction | - | - | NLPJournalTitleIntroRetrieval.V2 |
| title-intro_triplets | 2,254 | title | introduction | 1 件 | - | NLPJournalTitleIntroRetrieval.V2 |
| title-intro_n-tuples | 2,254 | title | introduction | 5 件 | あり (生 logit) | NLPJournalTitleIntroRetrieval.V2 |
| title-intro_n-tuples-filtered | 1,952 | title | introduction | 5 件 | あり (生 logit) | NLPJournalTitleIntroRetrieval.V2 |
label カラム (n-tuples 系) は長さ 6 の List[float] で、[score(query, positive), score(query, negative_1), ..., score(query, negative_5)] の順序です。スコアは Cross-Encoder の生 logit (sigmoid 適用前) です。KL 蒸留損失への組み込みを想定しています。
データセットの構築手順
1. ソースコーパス
anlp.jp の年次大会発表論文集 から NLP2023, NLP2024, NLP2025, NLP2026 の全発表論文 PDF (計 2,750 件) をスクレイピングしました。
| 年 | 発表論文数 | DL 件数 | abs/intro 抽出 | abs/intro フィルタ通過 |
|---|---|---|---|---|
| NLP2023 | 579 | 579 | 559 | 492 |
| NLP2024 | 599 | 599 | 580 | 513 |
| NLP2025 | 777 | 777 | 746 | 670 |
| NLP2026 | 797 | 795 | 773 | 687 |
| 合計 | 2,752 | 2,750 | 2,658 | 2,362 |
2. PDF テキスト抽出
PyMuPDF (fitz) を使い、2 段組レイアウトを明示的にハンドリングしています。
- 各ページのテキストブロックを座標付きで取得
- ページ幅の中央線で左右の列に振り分け
- フルワイド領域 (タイトル・図・脚注) は別扱い
- 左列の上から下、中央フルワイド、右列の上から下、の順序で連結
これで PyMuPDF デフォルトの sort=True が起こす、左右の列の Y 軸混合問題を回避しています。
3. セクション検出と正規化
PDF テキストから以下を抽出しています。
- title: ページ先頭の会議ヘッダーの直後にあるブロック
- abstract: 「概要」または「Abstract」セクション
- introduction: 「1 はじめに」「1 序論」「1 Introduction」セクションから次セクションまで
JMTEB スタイルに合わせて、各テキストの改行・空白を全て除去する正規化を適用しています (JMTEB nlp_journal 系 corpus と同じ処理)。
NLP2023 から「概要」セクションが学会で標準化されたため、対象を NLP2023 以降に限定しました。 それ以前 (NLP2022 以前) は「概要」が無く、いきなり「1 はじめに」から始まるため除外しています。
4. 品質フィルタ
abs/intro に適用するフィルタ:
| 条件 | 閾値 |
|---|---|
| abstract 文字数 | 100 から 1500 |
| intro 文字数 | 300 から 6000 |
| abstract 日本語比率 | 0.50 以上 |
| intro 日本語比率 | 0.50 以上 |
| 重複 abstract | 先頭 200 文字 prefix で去重 |
title 系ペアにはさらに以下を適用:
| 条件 | 閾値 |
|---|---|
| title 文字数 | 10 以上 |
| title 日本語比率 | 0.50 以上 |
英語論文 (jp_ratio < 0.50) は除外しています。
5. Hard Negative Mining (abs-intro_triplets / n-tuples)
NV-Retriever / SFR レシピに準拠:
- クエリ埋め込み: cl-nagoya/ruri-v3-310m で 768 次元にエンコード (prefix=「検索クエリ: 」)
- passage 埋め込み: 同モデルで positive 全文をエンコード (prefix=「検索文書: 」)
- kNN 検索: faiss.IndexFlatIP (L2 正規化済みなので cosine と等価) で top-50
- Hard Negative 選択ルール:
- 上位 5 件を除外 (false positive 回避)
- 同一論文の passage は除外 (soft positive 混入回避)
- candidate_score < pos_score * 0.95 (positive-aware filter)
- 上記条件を満たす上位 5 件を採用、足りない場合は fallback
6. 蒸留スコア (label カラム, abs-intro_n-tuples 系)
n-tuples の label は教師モデル cl-nagoya/ruri-v3-reranker-310m の生 logit を各 (query, doc) ペアに付与しています。
| 項目 | 値 |
|---|---|
| Teacher | cl-nagoya/ruri-v3-reranker-310m |
| Max length | 512 |
| 出力 | 生 logit (sigmoid 適用前) |
KL 蒸留損失 (SparseDistillKLDivLoss / DistillKLDivLoss など) は softmax(label / T) を target distribution として使うため、sigmoid 後の [0, 1] 値だと softmax target が一様分布に潰れて ranking 情報が失われます。これを防ぐため、本データセットの label は sigmoid を外した raw logit にしています。
7. n-tuples-filtered の追加フィルタ
abs-intro_n-tuples-filtered (2,014 rows) は abs-intro_n-tuples (2,362 rows) から、ラベル品質に基づくフィルタを追加適用したサブセットです。
7b. Hard Negative Mining + 蒸留 (title-abs_* / title-intro_* 系)
title-abs / title-intro 系の triplets / n-tuples / n-tuples-filtered は以下のフローで構築しています (JMTEB v2 の NLPJournalTitleAbsRetrieval.V2 / NLPJournalTitleIntroRetrieval.V2 ドメイン向け)。
- クエリ埋め込み — cl-nagoya/ruri-v3-310m (prefix=「検索クエリ: 」, normalize_embeddings=True) で title を 768 次元にエンコード
- コーパス埋め込み — 全 positive (abstract または introduction) を同モデル (prefix=「検索文書: 」) で 768 次元にエンコード
- kNN 検索 — faiss-cpu の IndexFlatIP で top-50 を取得し、自己 positive を除いた候補を retrieval-stage negative 候補とする
- Retrieval-stage の broken 計上 — sim(q, positive) < max(sim(q, negative_i)) となった 行を broken と定義し、その count / ratio をレポート
- リランカー再スコアリング — cl-nagoya/ruri-v3-reranker-310m で (query, positive) と各 (query, negative_i) の生 logit を計算
- negative の並べ替え — リランカー logit の降順で並べ替え、上位 5 件を negative_1〜negative_5、上位 1 件を {task}_triplets の negative として採用します。 label = [score(q,pos), score(q,neg_top1), ..., score(q,neg_top5)] です。
- {task}_n-tuples-filtered — リランカー logit から計算した quality_score (POS_MIN=2.0, MARGIN_MIN=0.5, MARGIN_PENALTY=0.1; 偽 negative リーク / weak positive / borderline の 3 マスクを通った valid_mask 行のみ) を降順で並べたサブセットです。 そのまま SparseDistillKLDivLoss / DistillKLDivLoss の学習用 top-K として利用できます。
title-abs / title-intro の Retrieval-stage broken と Reranker 品質指標
broken (retrieval-stage で sim(q, pos) < max(sim(q, neg)) となった行) と、リランカー視点の quality_score 各マスクの通過率を以下に集計します。各統計は retrieval-stage の kNN 候補集合に対して測定した参考値です。
| 指標 | title-abs | title-intro |
|---|---|---|
| 入力ペア数 | 2,254 | 2,254 |
| broken (retrieval-stage) | 170 (7.54%) | 268 (11.89%) |
| sim(q, positive) 平均 | 0.9015 | 0.8830 |
| sim(q, top1 negative) 平均 | 0.8542 | 0.8465 |
| sim(q, negative 候補) 平均 | 0.8296 | 0.8227 |
| fn_mask (偽 negative リーク; margin <= 0) | 107 (4.75%) | 176 (7.81%) |
| weak_mask (weak positive; positive < 2.0) | 202 (8.96%) | 97 (4.30%) |
| border_mask (borderline; 0 < margin < 0.5) | 19 (0.84%) | 29 (1.29%) |
| valid_mask (有効, n-tuples-filtered の中身) | 1,926 (85.45%) | 1,952 (86.60%) |
retrieval-stage の broken と reranker 視点の fn_mask がズレているのは、embedder と reranker で 「どの negative が positive を上回るか」の判定が異なるためです (一般に reranker の方が positive/negative の分離に敏感)。
title-abs は title (短い) → abstract (中) の検索なので情報非対称が大きく、weak_mask が比較的多め。 title-intro は title → introduction の検索で broken が高めですが、reranker が positive を強く支持できる ケースが多く、valid_mask 通過率はやや高くなっています。
観測された logit 統計 (title-abs_n-tuples / title-intro_n-tuples)
| 指標 | title-abs | title-intro |
|---|---|---|
| positive logit 平均 | 5.76 | 6.57 |
| positive logit 最小 | -6.96 | -5.27 |
| positive logit 最大 | 12.87 | 12.74 |
| negative logit 平均 (全 5 件) | -3.68 | -1.47 |
| negative_1 logit 平均 (top-1) | -1.32 | 0.91 |
| margin 平均 (pos - max(neg)) | 7.07 | 5.66 |
| margin 最小 | -8.27 | -6.68 |
| margin 最大 | 18.49 | 16.56 |
| score の絶対値最大 | 12.87 | 12.74 |
positive logit 平均 (title-abs: 5.76, title-intro: 6.57) はいずれも σ(logit) > 0.99 に相当し、 リランカー視点で positive を強く relevant と判定できています。 negative_1 (top-1 hard negative) の logit は title-abs で約 -1.32 (σ ≈ 0.21)、 title-intro で 0.91 (σ ≈ 0.71) と異なり、title-intro の方が hard negative がより relevant 寄り (分離が難しい) で、KL 蒸留学習における ranking 信号がより細かい構造を持ちます。
8. 分布
splade-ja-310m トークナイザーで token 数を測定した結果は以下の通りです。
| 軸 | n | p25 | p50 | mean | p75 | p95 | max |
|---|---|---|---|---|---|---|---|
| query (abstract) | 2,362 | 109 | 126 | 141 | 147 | 292 | 570 |
| positive (intro) | 2,362 | 309 | 406 | 506 | 524 | 1,159 | 3,706 |
| query (title) | 2,254 | 10 | 12 | 13 | 16 | 28 | 70 |
JMTEB との比較 (参考):
| 軸 | JMTEB p50 | ANLP p50 | 差 |
|---|---|---|---|
| abstract | 197 | 126 | ANLP が 64% |
| intro | 889 | 406 | ANLP が 46% |
| title | 11 | 12 | ほぼ同等 |
ANLP の会議論文 (4 ページ) はジャーナル論文より短いため、abstract/intro はジャーナル論文より短いです。 title はほぼ同等の長さ分布を持ちます。
JMTEB リーク回避
JMTEB nlp_journal_* は ANLP 学会誌『自然言語処理』 (査読付き journal) 掲載の 637 編を eval に使用しています。 本データセットは ANLP 年次大会の発表論文 (別媒体・別査読プロセス) をソースとしているため、 論文単位での重複は無いです。
ただし著者・トピックは大きく重なるので「同一研究者の関連研究を学習する」という間接的影響はあり得ます。 これは ANLP コミュニティの Japanese NLP 全般を学ばせる狙いと整合しています。
License
CC BY 4.0
本データセットは言語処理学会 (ANLP) 年次大会 (NLP2023 - NLP2026) の発表論文から抽出したテキストを含みます。これらの発表論文は投稿時に著者が CC BY 4.0 での公開に同意しており、CC BY 4.0 で公開されています。本データセットも CC BY 4.0 で配布します。再利用の際は、出典として ANLP 年次大会発表論文および各論文の著者を表示してください。
Acknowledgements
- 元コーパス: ANLP 年次大会発表論文集 (2023-2026) (The Association for Natural Language Processing, Japan)
- PDF テキスト抽出: PyMuPDF
- HNM 用 retriever: cl-nagoya/ruri-v3-310m
- 蒸留教師: cl-nagoya/ruri-v3-reranker-310m
- 関連: JMTEB v2
- Downloads last month
- 474