---
language:
- pt
license: other
pretty_name: AMALIA-LLM-0626-SFT-Dataset-classlangcode
size_categories:
- 1M<n<10M
task_categories:
- text-classification
- text-generation
tags:
- portuguese
- português
- pt
- european-portuguese
- português europeu
- pt-pt
- instruction-tuning
- sft
- conversations
- dialogue
- language-identification
- code-classification
- fasttext
- metadata
- amalia
configs:
- config_name: default
  data_files:
  - split: train
    path: stage2/*.parquet
---

# AMALIA-LLM-0626-SFT-Dataset-classlangcode
## Overview

Este dataset é baseado no amalia-llm/AMALIA-LLM-0626-SFT-Dataset, mantendo integralmente a estrutura das conversações e adicionando metadados obtidos através de classificação automática. O objetivo desta versão é facilitar a seleção, filtragem e construção de subconjuntos especializados para treino e avaliação de modelos de linguagem, sem alterar o conteúdo original das conversações. O dataset original foi desenvolvido para a fase de Supervised Fine-Tuning (SFT) do modelo AMALIA, sendo constituído por conversações em formato instruction-following, predominantemente em Português Europeu.
A diferença face ao original é que nesta versão foram acrescentados quatro campos, para acolher os dois tipos de classificação que foram efectuados:
- Identificação de idioma, utilizando o modelo FastText lid.176.bin.
- Classificação de conteúdo, distinguindo entre linguagem natural e código, utilizando o modelo model_quantized.bin do projeto code-natural-language-fasttext-classifier.

Colunas adicionais no dataset
- score	Confiança da classificação do idioma.
- code	Classificação do conteúdo (NaturalLanguage ou Code).
- code_score	Confiança da classificação de conteúdo.

O objetivo destes novos campos é permitir a extração eficiente de subconjuntos do dataset original segundo critérios simples, tais como:

- idioma predominante;
- confiança da classificação do idioma;
- presença de código ou linguagem natural;
- dimensão das conversações;
- combinação destes critérios para construir datasets especializados.
- Dataset Structure

Esta versão não modifica qualquer conteúdo textual (ou formato) do dataset original.


## Intended Uses
Este dataset destina-se principalmente a:

- construção de subconjuntos especializados para treino SFT;
- preparação de datasets focados em Português Europeu;
- estudos sobre distribuição de idiomas em datasets conversacionais;
- análise da presença de código em datasets de instruções;
- desenvolvimento de pipelines de filtragem e curadoria de dados.

## Classification Models
Language Identification: FastText lid.176.bin, 176 idiomas suportados.
Code Detection: FastText model_quantized.bin, kenhktsui/code-natural-language-fasttext-classifier


## Dataset URL
https://huggingface.co/datasets/amalia-llm/AMALIA-LLM-0626-SFT-Dataset


## classifiers URL
https://huggingface.co/kenhktsui/code-natural-language-fasttext-classifier

# Citações
Simplício, A., Vinagre, G., Ramos, M. M., Tavares, D., Ferreira, R., Attanasio, G., Alves, D. M., Calvo, I., Vieira, I., Guerra, R., Furtado, J., Canaverde, B., Paulo, I., Ramos, V., Glória-Silva, D., Faria, M., Treviso, M., Gomes, D., Gomes, P., … Magalhães, J. (2026). AMALIA: A fully open large language model for European Portuguese. In Proceedings of the 17th International Conference on Computational Processing of Portuguese (PROPOR 2026) – Vol. 1 (pp. 380–391). Association for Computational Linguistics. https://aclanthology.org/2026.propor-1.38/

Simplício, A., Vinagre, G., Ramos, M. M., Tavares, D., Ferreira, R., Attanasio, G., Alves, D. M., Calvo, I., Vieira, I., Guerra, R., Furtado, J., Canaverde, B., Paulo, I., Ramos, V., Glória-Silva, D., Faria, M., Treviso, M., Gomes, D., Gomes, P., … Magalhães, J. (2026). AMALIA Technical Report: A fully open source large language model for European Portuguese. arXiv:2603.26511. https://arxiv.org/abs/2603.26511