| --- |
| dataset_info: |
| features: |
| - name: instruction |
| dtype: string |
| - name: inputs |
| struct: |
| - name: audio |
| dtype: audio |
| - name: option_a |
| dtype: string |
| - name: option_b |
| dtype: string |
| - name: option_c |
| dtype: string |
| - name: option_d |
| dtype: string |
| - name: outputs |
| dtype: string |
| - name: meta |
| struct: |
| - name: id |
| dtype: int32 |
| - name: type |
| dtype: string |
| - name: turing_imitation |
| dtype: string |
| - name: unified_category |
| dtype: string |
| - name: nonunified_category |
| dtype: string |
| - name: short_context |
| dtype: int32 |
| - name: long_context |
| dtype: int32 |
| - name: audio |
| struct: |
| - name: type |
| dtype: string |
| splits: |
| - name: shots |
| num_bytes: 9240568.0 |
| num_examples: 10 |
| - name: test |
| num_bytes: 1752293722.0 |
| num_examples: 1500 |
| download_size: 1519907082 |
| dataset_size: 1761534290.0 |
| configs: |
| - config_name: default |
| data_files: |
| - split: shots |
| path: data/shots-* |
| - split: test |
| path: data/test-* |
| --- |
| |
| # ruTiE-Audio |
|
|
|
|
| ## Описание задачи |
|
|
| ruTiE-Audio — мультимодальная эмуляция теста Тьюринга. Задача сформирована как неизменяемая последовательность вопросно-ответных заданий с опцией выбора ответа. Это 3 связных диалога, каждый с имитацией 500 обращений пользователя к модели. На вход модели подаётся аудио с заключёнными в аудиофайле заданиями и вопросами. Варианты ответа (4 к каждому заданию) модель получает текстом и выбирает из них. |
|
|
| Задания теста проверяют способность модели адекватно поддерживать диалог на естественно меняющиеся темы общения, опираясь на контекст предыдущих вопросов. |
|
|
| Датасет основан на одноименном текстовом датасете из первого релиза бенчмарка MERA. Кроме ruTiE-Audio, он представлен ещё в 2 вариантах: текстовом и мультимодальном (вопросы подаются картинками и текстом, модель отвечает текстом). |
|
|
| Благодарность за предоставление и обработку голосов (озвучивание материала): Ульяна Исаева, Анна Лобанова, Андрей Бикин, Андрей Евлампиев, Александр Саутин, Антон Емельянов, Ольга Веденина, Мария Тихонова |
|
|
| Тестируемые навыки моделей: Speech recognition, Speaker diarization, Temporal object relationship, Human-human interaction, Human-object interaction, Object recognition, Common everyday knowledge, Common domain knowledge, Topic understanding, Scene understanding, Analogical reasoning, Temporal counting, Mathematical reasoning |
|
|
| Авторы: Денис Шевелев, Артем Червяков, Алена Феногенова, Сергей Марков (автор идеи) |
|
|
|
|
| ## Мотивация |
|
|
| Датасет предназначен для анализа моделей с достаточной длиной контекстного окна (в идеале вмещающего контекст глубиной до 499 предыдущих вопросов), но применим и для моделей с меньшим контекстным окном от 15 вопросов глубиной. |
|
|
| Заложенная в тест задача сложна не только необходимостью сохранять контекст разговора и обращаться к нему в ходе диалога, но и необходимостью обладать широкими знаниями в области языковой картины мира: поговорок, считалок, крылатых речевых оборотов, фраз из известных фильмов, песен, спектаклей, книг, мемов, — а также характерными для человеческой беседы спонтанно актуализируемыми навыками: устный счёт, распознавание иронии, умение понять и достроить шутку, пространственное мышление, билингвизм, распознавание и использование причинно-следственных связей, избегание речевых ловушек. Только комплексное использование всех этих навыков позволяет полноценно “играть в имитацию” по Тьюрингу — адекватно участвовать в человеческой беседе на равных с людьми. |
|
|
| Поскольку в беседе меняются модальности и форматы общения (собеседник может играть омонимами, попросить подсчитать буквы в произнесённом, а не написанном слове, обратить ваше внимание на какой-то звук за окном и ждать вашей реакции, собеседник также может пригласить к беседе третьего человека, высказать какое-то мнение или суждение — и так далее), то дизайн отдельного задания в диалоге не всегда форматирован в качестве вопроса — оно может быть оформлено как реплика-сентенция, на которую модели нужно выбрать адекватную реакцию, может звучать как сценка или мини-радиоспектакль, даже без сопроводительного вопроса — но с предложенными вариантами реакций, из которых следует выбрать нужную. ruTiE-Audio предлагает на выбор 4 варианта ответа на каждый вопрос. |
|
|
| Тест поверяет способность модели |
| - удерживать контекст, |
| - поддерживать (на общедоступном разговорном уровне) диалог на любой из основных тематических доменов (см. домены бенчмарка MERA) |
| - различать базовые классы задач, без которых не решить задания эмуляции теста Тьюринга (включая простейшую математику, этику, лингвистические игры, общий кругозор и так далее) |
| - ориентироваться в различных категориях мышления, включая распознавание иронии, эмоций и намерения собеседника, восстановление логической последовательности ситуации по элементам и так далее. |
|
|
| Для валидности проверки способностей модели с помощью ruTiE-Audio есть важное ограничение. Поскольку около половины вопросов так или иначе завязаны на ближний контекст эмулируемой “беседы”, последующий вопрос может подсказать ответ на предыдущий. В связи с этим недопустима подача вопросов в модель по несколько штук разом. Вопросы подаются строго по одному, их порядок и последовательность не должны перетасовываться или меняться иным образом. |
|
|
|
|
| ## Описание датасета |
|
|
| ### Поля данных |
|
|
| Каждый вопрос в датасете содержит следующие поля: |
|
|
| - `instruction` [str] — Промпт-инструкция для модели, содержащая шаблон для вставки элементов вопроса. |
| - `inputs` — Вводные данные, формирующие задание для модели. |
| - `audio` [str] — Путь к файлу с аудио, к которому относится вопрос. |
| - `option_a` [str] — Вариант ответа A. |
| - `option_b` [str] — Вариант ответа B. |
| - `option_c` [str] — Вариант ответа C. |
| - `option_d` [str] — Вариант ответа D. |
| - `outputs` [str] — Правильный ответ на вопрос. |
| - `meta` — Метаданные, относящиеся к тестовому примеру, но не используемые в вопросе (скрытые от тестируемой модели). |
| - `id` [int] — Номер-идентификатор вопроса в датасете. |
| - `type` [str] — Тематический домен в датасете. |
| - `unified_category` [str] — Унифицированная категория по типам мышления. |
| - `nonunified_category` [str] — Неунифицированная категория по типам мышления аудио/визуальной модальности. |
| - `turing_imitation` [str] — Категория эмуляции теста Тьюринга, проверяемая вопросом. |
| - `short_context` [int] — Индикатор необходимости последних 1-2 вопросов для ответа. |
| - `long_context` [int] — Индикатор необходимости последних более чем 1-2 вопросов для ответа. |
| - `audio` — Метаданные, относящиеся к аудио. |
| - `type` [str] — Тип аудио — согласно классификации аудио для датасетов MERA. |
|
|
|
|
| ### Пример данных |
|
|
| ```json |
| { |
| "instruction": "С вами ведут диалог посредством аудиофайлов/аудиосообщений. Освежите в памяти контекст предыдущей беседы: <context>. Внимательно прослушайте аудио, если оно есть: <audio>. Прочитайте варианты предлагаемых реакций на прослушанное вами аудио и (или) на контекст предыдущей части диалога, затем выберите наиболее правильный вариант ответной реакции, указав только буквы наиболее правильного варианта без дополнительных пояснений.\nA. {option_a}\nB. {option_b}\nC. {option_c}\nD. {option_d}\nОтвет:", |
| "inputs": { |
| "audio": "samples/audio0001.wav", |
| "option_a": "Завалинка", |
| "option_b": "Валидол", |
| "option_c": "Валентина", |
| "option_d": "Валентин" |
| }, |
| "outputs": "D", |
| "meta": { |
| "id": 1, |
| "type": "Вводная категория", |
| "turing_imitation": "language’n’audio_structure", |
| "unified_category": "trap", |
| "nonunified_category": "Опознание ситуации", |
| "short_context": 0, |
| "long_context": 0, |
| "audio": { |
| "type": "real" |
| } |
| } |
| } |
| ``` |
|
|
|
|
| ### Создание датасета |
|
|
| Датасет собран внутренними экспертами вручную, после чего провалидирован. Аудиозадания смонтированы на основе написанных экспертами сценариев и сделанных по ним внутренних записей, также ранее не публиковавшихся в Сети, в ходе записи использованы фрагменты аудиошумов из открытых источников и собственные записи аудиошумов, сделанные в студии SberDevices и в полевых условиях. |
|
|
|
|
| ## Оценка |
|
|
| ### Метрики |
|
|
| Для агрегированной оценки ответов моделей используются следующие метрики: |
|
|
| - `Exact match`: Метрика Exact match вычисляет среднее по оценкам всех обработанных вопросов, где оценка имеет значение 1, если предсказанная строка точно совпадает с правильным ответом, и 0 в остальных случаях. |
|
|
|
|
| ### Human baseline |
|
|
| Human baseline — это оценка усредненных ответов людей на вопросы бенчмарка. Оценка проводится по тем же метрикам, что и для моделей. |
|
|
| Для всех вопросов датасета были получены ответы разметчиков на crowd-source платформе с перекрытием 5. Агрегированным ответом считался тот, который был выбран большинством (majority vote). |
|
|
| Результаты оценки: |
|
|
| - Exact match – 0.45 |
|
|
