| from datasets import load_dataset |
| import datasets |
| import os |
|
|
| dataset = load_dataset('BaSalam/persian-mmlu') |
| df = dataset['train'].to_pandas() |
|
|
| task_category = list(set(dataset['train']['final_category_fa'])) |
| english_name_to_persian_name_list = { |
| 'statistics_and_probability': ['آمار و احتمال دوره دوم متوسطه'], |
| 'analytics': ['استعداد تحلیلی دوره اول متوسطه'], |
| 'economy': ['اقتصاد دوره دوم متوسطه'], |
| 'history': ['تاریخ دوره دوم متوسطه'], |
| 'islamic_life': [ |
| 'دین و زندگی دوره دوم متوسطه', |
| 'تعلیم و تربیت اسلامی دوره دوم ابتدایی', |
| 'تعلیم و تربیت اسلامی دوره اول متوسطه', |
| 'تعلیم و تربیت اسلامی دوره اول ابتدایی' |
| ], |
| 'sociology': ['جامعه شناسی دوره دوم متوسطه'], |
| 'geography': ['جغرافیا دوره دوم متوسطه'], |
| 'logic': ['منطق دوره دوم متوسطه'], |
| 'psychology': ['روانشناسی دوره دوم متوسطه'], |
| 'math': [ |
| 'ریاضی دوره دوم متوسطه', |
| 'ریاضی دوره اول متوسطه', |
| 'ریاضی دوره دوم ابتدایی', |
| 'ریاضی دوره اول ابتدایی', |
| 'ریاضی و آمار دوره دوم متوسطه', |
| 'حسابان دوره دوم متوسطه' |
| ], |
| 'discrete_math': ['ریاضیات گسسته دوره دوم متوسطه'], |
| 'persian_literature': [ |
| 'زبان و ادبیات فارسی دوره اول متوسطه', |
| 'زبان و ادبیات فارسی دوره دوم ابتدایی', |
| 'زبان و ادبیات فارسی دوره دوم متوسطه', |
| 'زبان و ادبیات فارسی دوره اول ابتدایی' |
| ], |
| 'geology': ['زمین شناسی دوره دوم متوسطه'], |
| 'biology': ['زیست شناسی دوره دوم متوسطه'], |
| 'chemistry': ['شیمی دوره دوم متوسطه'], |
| 'social_studies': [ |
| 'مطالعات اجتماعی دوره اول ابتدایی', |
| 'مطالعات اجتماعی دوره اول متوسطه', |
| 'مطالعات اجتماعی دوره دوم ابتدایی' |
| ], |
| 'science': [ |
| 'علوم تجربی دوره اول ابتدایی', |
| 'علوم تجربی دوره اول متوسطه', |
| 'علوم تجربی دوره دوم ابتدایی' |
| ], |
| 'philosophy': ['فلسفه دوره دوم متوسطه'], |
| 'physics': ['فیزیک دوره دوم متوسطه'], |
| 'geometry': ['هندسه دوره دوم متوسطه'], |
| 'intelligence': ['سرعت و دقت دوره دوم ابتدایی', |
| 'هوش کلامی و ادبی دوره دوم ابتدایی', |
| 'هوش ریاضی و منطقی دوره دوم ابتدایی' |
| ], |
| } |
|
|
| df['options'] = df.apply(lambda row: [row['Choice 1'], row['Choice 2'], row['Choice 3'], row['Choice 4']], axis=1) |
| df['label'] = df.apply(lambda row: int(row['Key'] - 1), axis=1) |
| df.rename(columns={'Question Body': 'question'}, inplace=True) |
| columns = ['question', 'options', 'label'] |
| |
|
|
| tasks = {} |
| for task, group_category in english_name_to_persian_name_list.items(): |
| group_df = df[columns][df['final_category_fa'].isin(group_category)] |
| group_dict = group_df.to_dict(orient='records') |
| tasks[task] = group_dict |
| tasks['all'] = df[columns].to_dict(orient='records') |
|
|
|
|
| class PersianMMLU(datasets.GeneratorBasedBuilder): |
| BUILDER_CONFIGS = [ |
| datasets.BuilderConfig( |
| name=sub, version=datasets.Version("1.0.0"), description=f"MMLU Subject {sub}" |
| ) |
| for sub in tasks.keys() |
| ] |
|
|
| def _info(self): |
| return datasets.DatasetInfo( |
| description="Khayyam Challenge", |
| features=datasets.Features({ |
| "question": datasets.Value("string"), |
| 'options': datasets.Sequence(datasets.Value("string")), |
| "label": datasets.Value("int32") |
| }), |
|
|
| supervised_keys=None, |
| homepage="https://arxiv.org/abs/2404.06644", |
| citation="""@article{ghahroodi2024khayyam, |
| title={Khayyam Challenge (PersianMMLU): Is Your LLM Truly Wise to The Persian Language?}, |
| author={Ghahroodi, Omid and Nouri, Marzia and Sanian, Mohammad Vali and Sahebi, Alireza and Dastgheib, Doratossadat and Asgari, Ehsaneddin and Baghshah, Mahdieh Soleymani and Rohban, Mohammad Hossein}, |
| journal={arXiv preprint arXiv:2404.06644}, |
| year={2024} |
| }""" |
| ) |
|
|
| def _split_generators(self, dl_manager): |
| return [ |
| datasets.SplitGenerator( |
| name=datasets.Split.TEST, |
| gen_kwargs={"questions": tasks[self.config.name]} |
| ) |
| ] |
|
|
| def _generate_examples(self, questions): |
| for ind, question in enumerate(questions): |
| yield ind, {"question": question["question"], 'options': question['options'], "label": question['label']} |
|
|
