Error code:   JWTInvalidSignature
Exception:    InvalidSignatureError
Message:      Signature verification failed
Traceback:    Traceback (most recent call last):
                File "/src/libs/libapi/src/libapi/jwt_token.py", line 286, in validate_jwt
                  decoded = jwt.decode(
                      jwt=token,
                  ...<2 lines>...
                      options=options,
                  )
                File "/usr/local/lib/python3.14/site-packages/jwt/api_jwt.py", line 368, in decode
                  decoded = self.decode_complete(
                      jwt,
                  ...<8 lines>...
                      leeway=leeway,
                  )
                File "/usr/local/lib/python3.14/site-packages/jwt/api_jwt.py", line 265, in decode_complete
                  decoded = self._jws.decode_complete(
                      jwt,
                  ...<3 lines>...
                      detached_payload=detached_payload,
                  )
                File "/usr/local/lib/python3.14/site-packages/jwt/api_jws.py", line 270, in decode_complete
                  self._verify_signature(
                  ~~~~~~~~~~~~~~~~~~~~~~^
                      signing_input,
                      ^^^^^^^^^^^^^^
                  ...<4 lines>...
                      options=merged_options,
                      ^^^^^^^^^^^^^^^^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/jwt/api_jws.py", line 417, in _verify_signature
                  raise InvalidSignatureError("Signature verification failed")
              jwt.exceptions.InvalidSignatureError: Signature verification failed

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

JCrRAG : Japanese Contextual relevance RAG Benchmark

A human-annotated benchmark for evaluating Japanese Retrieval-Augmented Generation (RAG) systems, featuring multi-level complexity and diverse categories.

This benchmark does not address context selection; instead, with the context fixed, it evaluates the ability to appropriately handle the information within that context.

The benchmark contains 20,000 data records.

Each record has the following format :

(Context, Question, GroundtruthAnswer)

in which Context is the context to input to an LLM for RAG evaluation.

Evaluation script : https://github.com/alt-develop/jcrrageval

JCrRAG ベンチマーク

JCrRAGは、日本語のRetrieval-Augmented Generation（RAG）システムを評価するためのベンチマークで、複数レベルの難易度設定と多様なカテゴリを特徴としています。本ベンチマークはコンテキストの選択を対象とせず、コンテキストを固定した上で、その中の情報を適切に扱う能力を評価するものです。

(コンテキスト, 質問, 正解回答) の３つ組データの2万件を含みます。

LLMに入力する際は、以下のプロンプトをご利用ください。

あなたはバーチャルアシスタントであり、提供された1つ以上の段落の情報に基づいて質問に回答する役割があります。以下の条件に従って質問に回答してください：
1) 回答は正確で完全でなければなりません。
2) 提供された段落の情報のみを使用してください。
3) 段落に回答が含まれていない場合、適切な説明をしてください。
質問: {Question}
段落: {Context}

自動評価スクリプト： https://github.com/alt-develop/jcrrageval

license: cc-by-sa-4.0

Downloads last month: 26

Total file size:

74.5 MB