Datasets:
Produção incremental de datasets
Boas,
TLDR. queria alinhar contigo fontes alternativas ás que estás a usar para a extração de material para um corpo de treino pt-pt para LM pequenitos. Estás disponivel para me dares alguma opinião, ou alinharmos mesmo um caminho?
A parte seca.
Sou um velhote que voltou á universidade e tem como hobbies robótica e computação. Todas as férias da universidade são passados em projectos destes hobbies. Este ano foi fazer uma lm em português europeu, com en como idioma secundário. Por isso basicamente em termos de competências na área estou no inicio do processo.
Desde então tenho seguido o teu trabalho. Usei o bagaco2, para o primeiro teste de treino que fiz na modal.com. Segui uma via diferente, na abordagem pois tenho sido minimalista no nanochat. O que tenho tentado fazer desde então é datasets alternativos, estruturalmente iguais e por tradução, para fazer uma mera substituição dos urls das fontes.
Para o pré-treino, explorei o que estava disponivel, fiz umas experiências de extração com algum volume usando o teu classificador de variante pt-pt, e andei a tentar escolher classificadores de score edu e categorias, até que recentemente vi que no bagaco3, tens lá o software. Ainda não o experimentei, mas a minha intenção é passar a usa-lo, para ter métricas comparaveis com o que tens feito, seguir uma estrutura de dados semelhante, e explorar fontes diferentes das que estás a usar.
Já andei de volta do culturaX-pt e do crawlPT, presumo que esteja incluido no bagaco2.
Neste momento, estou a classificar o hplt2_cleaned, que tem como caracteristica de destaque ter uma componente significativa do Internet Archive, e o gigaverbo-v2. Em ambos encontrei cerca de 10% de material pt-pt.
Tenho vindo também a fazer uma duplica classificação. Como o teu faço um score pt-pt e com o bastao/perovaz faço o score pt-br. Para tentar perceber se existe possibilidade de alargar a malha da rede pt-pt, sem inserir muito pt-br.
Sobre o bacaco2 quais exactamente as fontes, pelo que percebi foi só culturaX, e o bagaco3 passou a inserir a fineweb2, finepdf, e finewiki. Estás a continuar o baçaco2 incrementalmente, e assim como o bagaco3, mas este ultimo vai incorporando o bagaco2?
O proximo semestre começa daqui a duas semanitas, até lá deixo os scripts preparados para depois ficarem a fazer as extrações durante o semestre.
Ficava muito contente se tiveres disponibilidade para irmos trocando impressões.
Cumprimentos
Sergio
Hey Sergio.
Sobre o bacaco2 quais exactamente as fontes, pelo que percebi foi só culturaX, e o bagaco3 passou a inserir a fineweb2, finepdf, e finewiki. Estás a continuar o baçaco2 incrementalmente, e assim como o bagaco3, mas este ultimo vai incorporando o bagaco2?
bagaco1 -> fineweb2 -> filtra so por .pt -> 16M doc ~9.73B tokens
bagaco2 -> fineweb2 -> usa o meu classificador PT-BR/PT-EU -> 33M docs ~21B tokens
bagaco3 -> fineweb2 + finewiki + finepdfs -> usa o meu classificador PT-BR/PT-EU -> 35M docs ~35B tokens
A proxima coisa que eu gostaria de atacar é https://arquivo.pt/ mas ainda nao encontrei maneira.
"A proxima coisa que eu gostaria de atacar é https://arquivo.pt/ mas ainda nao encontrei maneira."
Já fiz umas experiencias.
O meu ponto de partida foi o arquivo_processing + datatrouve
https://github.com/AMALIA-LLM/arquivo_processing
https://github.com/AMALIA-LLM/datatrove-amalia
Pelo que percebi o repositório não engloba todas as fases do processamento. Entretanto tentei completar o que falta, como o paper do amalia fala no euroFilter para o edu score, é o que uso.
Ando a experimentar um script que precorre todos os warcs cujo o link está num ficheiro, e vai processando-os pelo pipeline, mas o resultado tem sido miserável em termos de volume.
Se estiveres interessado posso partilhar mais detalhes contigo e código.
Já olhaste para a parte pt do euroweb-2512?
Se estiveres interessado posso partilhar mais detalhes contigo e código.
Sim! Manda-me um email (esta no meu site)
Já olhaste para a parte pt do euroweb-2512?
Ainda nao :)