SentenceTransformer based on intfloat/multilingual-e5-large

This is a sentence-transformers model finetuned from intfloat/multilingual-e5-large on the nli_pt_anli, nli_pt_fever, nli_pt_ling, nli_pt_mnli, nli_pt_wanli, stsb, assin1, assin2, IRIS_sts, sick_br and mldr datasets. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: intfloat/multilingual-e5-large
• Maximum Sequence Length: 512 tokens
• Output Dimensionality: 1024 dimensions
• Similarity Function: Cosine Similarity
• Training Datasets:
  • nli_pt_anli
  • nli_pt_fever
  • nli_pt_ling
  • nli_pt_mnli
  • nli_pt_wanli
  • stsb
  • assin1
  • assin2
  • IRIS_sts
  • sick_br
  • mldr
• Languages: pt

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False, 'architecture': 'XLMRobertaModel'})
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("iara-project/e5-large-matryoshka-sts-pt")
# Run inference
sentences = [
    'Uma menina jovem está usando língua de sinais',
    'Língua de sinais está sendo usada por uma jovem menina',
    'A mulher está fatiando um tomate',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities)
# tensor([[1.0000, 0.9801, 0.3036],
#         [0.9801, 1.0000, 0.3324],
#         [0.3036, 0.3324, 1.0000]])

Evaluation

Metrics

Semantic Similarity

• Datasets: stsb-pt-dev-1024, assin2-dev-1024, iris_sts-dev-1024 and sick_br_dev-1024
• Evaluated with EmbeddingSimilarityEvaluator with these parameters:

  {
      "truncate_dim": 1024
  }
  

Semantic Similarity

• Datasets: stsb-pt-dev-512, assin2-dev-512, iris_sts-dev-512 and sick_br_dev-512
• Evaluated with EmbeddingSimilarityEvaluator with these parameters:

  {
      "truncate_dim": 512
  }
  

Semantic Similarity

• Datasets: stsb-pt-dev-256, assin2-dev-256, iris_sts-dev-256 and sick_br_dev-256
• Evaluated with EmbeddingSimilarityEvaluator with these parameters:

  {
      "truncate_dim": 256
  }
  

Semantic Similarity

• Datasets: stsb-pt-dev-128, assin2-dev-128, iris_sts-dev-128 and sick_br_dev-128
• Evaluated with EmbeddingSimilarityEvaluator with these parameters:

  {
      "truncate_dim": 128
  }
  

Semantic Similarity

• Datasets: stsb-pt-dev-64, assin2-dev-64, iris_sts-dev-64 and sick_br_dev-64
• Evaluated with EmbeddingSimilarityEvaluator with these parameters:

  {
      "truncate_dim": 64
  }
  

Training Details

Training Datasets

nli_pt_anli

nli_pt_anli

• Dataset: nli_pt_anli at 510a233
• Size: 7,995 training samples
• Columns: anchor and positive
• Approximate statistics based on the first 1000 samples:

  	anchor	positive
  type	string	string
  details	min: 23 tokens mean: 84.43 tokens max: 512 tokens	min: 6 tokens mean: 16.3 tokens max: 93 tokens

• Samples:

  anchor	positive
  Descrito como "o mentor que fez Shirley Temple a estrela infantil mais famosa da história, Betty Grable um GI Joe pinup menina e Marilyn Monroe uma deusa do sexo", Brand foi o chefe de publicidade na 20th Century Fox de 1935 até 1962.	Harry Brand viveu na América.
  O acidente de jet skibr>Wendy era apenas um motorista de jet ski amador que gostava da velocidade. Ela era jovem e descuidada e muitas vezes andava muito rápido. Um dia ela não escutava seus amigos e continuava a acelerar. Ela tentou fazer um salto perto de uma rocha e caiu horrivelmente. Seus amigos tentaram salvá-la, mas era tarde demais, ela estava morta.	wendy dirigiu muito rápido enquanto em um jet ski
  Como jogar bejeweled 2 deluxebr>Mude gemas clicando sobre elas e, em seguida, clicando em uma gema adjacente (esquerda, direita, para cima ou para baixo) para trocar seus lugares para formar uma cadeia de três ou mais gemas. Quanto mais gemas você cadeia, mais pontos você ganha. [subeta] 5 gemas em uma linha produz um hiper cubo.	Quanto mais gemas você acorrentar dois ou mais, mais pontos você ganha.

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

nli_pt_fever

nli_pt_fever

• Dataset: nli_pt_fever at 510a233
• Size: 14,684 training samples
• Columns: anchor and positive
• Approximate statistics based on the first 1000 samples:

  	anchor	positive
  type	string	string
  details	min: 13 tokens mean: 69.74 tokens max: 146 tokens	min: 6 tokens mean: 13.57 tokens max: 35 tokens

• Samples:

  anchor	positive
  O morcego de nariz de porco de Kitti ( Craseonycteris thonglongyai ), também conhecido como morcego de abelha, é uma espécie vulnerável de morcego e o único membro existente da família Craseonycteridae.	O morcego com nariz de porco de Kitti é uma espécie de morcego que é categorizada como vulnerável.
  Gangster é um filme de crime romântico indiano de 2006 que estreou em 28 de abril. Kangana Ranaut. Após o treinamento sob o diretor de teatro Arvind Gaur, Ranaut fez sua estréia no cinema no thriller de 2006 Gangster, pelo qual ela foi premiada com o Filmfare Award de Melhor Estreia Feminina.	A estreia do longa-metragem de Kangana Ranaut foi em um filme de crime romântico indiano.
  No Japão, eles se tornaram o primeiro girl group não-japonês a ter três álbuns número um na Japanese Oricon Albums Chart, e suas três turnês de concertos japoneses atraiu um recorde de 550.000 espectadores, mais do que qualquer outro grupo feminino coreano. Kwon Yu-ri (nascido em 5 de dezembro de 1989 ), mais conhecido pelo monônimo Yuri, é um cantor e atriz sul-coreana.	A geração das meninas tem meninas.

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

nli_pt_ling

nli_pt_ling

• Dataset: nli_pt_ling at 510a233
• Size: 1,678 training samples
• Columns: anchor and positive
• Approximate statistics based on the first 1000 samples:

  	anchor	positive
  type	string	string
  details	min: 5 tokens mean: 31.96 tokens max: 114 tokens	min: 4 tokens mean: 16.42 tokens max: 68 tokens

• Samples:

  anchor	positive
  Ah, é sempre o grande, mas.	Nunca é pequeno, mas
  A Suprema Corte de Vermont concedeu aos gays maiores direitos de parceria.	Em Vermont, os gays agora têm mais direitos de parceria.
  Mas um verdadeiro predador que conheço está usando, vendendo e quase certamente cometendo outros crimes.	Um predador que eu conheço está cometendo crimes.

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

nli_pt_mnli

nli_pt_mnli

• Dataset: nli_pt_mnli at 510a233
• Size: 8,301 training samples
• Columns: anchor and positive
• Approximate statistics based on the first 1000 samples:

  	anchor	positive
  type	string	string
  details	min: 4 tokens mean: 29.15 tokens max: 128 tokens	min: 5 tokens mean: 16.1 tokens max: 45 tokens

• Samples:

  anchor	positive
  Mesmo o funcionário mais caloroso pode parecer indiferente em relação aos clientes que estão mal vestidos.	Clientes mal vestidos ainda parecerão ser julgados até mesmo pelos funcionários mais legais.
  Lesões em acidentes de trânsito duplicaram entre 1996 e 1997.	Entre 1996 e 1997, os acidentes de trânsito duplicaram.
  As principais mudanças não foram para tarefas e rotinas diárias, mas para a base de poder político, que mudou regularmente e não necessariamente pacificamente ao longo dos tempos.	A base do poder político mudou muito.

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

nli_pt_wanli

nli_pt_wanli

• Dataset: nli_pt_wanli at 510a233
• Size: 9,329 training samples
• Columns: anchor and positive
• Approximate statistics based on the first 1000 samples:

  	anchor	positive
  type	string	string
  details	min: 5 tokens mean: 25.02 tokens max: 101 tokens	min: 5 tokens mean: 14.59 tokens max: 73 tokens

• Samples:

  anchor	positive
  Uma preocupação mais prática é que as regras de etiqueta são tão complicadas que, mesmo que você as conheça, talvez não seja possível aplicá-las corretamente.	É difícil seguir as regras da etiqueta.
  Como eu já disse antes, estamos todos sobre a criação de novas oportunidades para aqueles que querem tirar proveito deles.	Somos todos sobre a criação de novas oportunidades para aqueles que querem tirar proveito deles.
  E se não o fizermos, então teremos que aceitar a conclusão de que nossa inteligência é inadequada.	Nossa inteligência é inadequada.

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

stsb

stsb

• Dataset: stsb at 3acaa3d
• Size: 5,749 training samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 7 tokens mean: 12.33 tokens max: 34 tokens	min: 7 tokens mean: 12.29 tokens max: 32 tokens	min: 0.0 mean: 0.45 max: 1.0

• Samples:

  sentence1	sentence2	label
  Um avião está a descolar.	Um avião aéreo está a descolar.	1.0
  Um homem está a tocar uma grande flauta.	Um homem está a tocar uma flauta.	0.7599999904632568
  Um homem está a espalhar queijo desfiado numa pizza.	Um homem está a espalhar queijo desfiado sobre uma pizza não cozida.	0.7599999904632568

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

assin1

assin1

• Dataset: assin1 at 6535e48
• Size: 5,000 training samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 9 tokens mean: 21.98 tokens max: 42 tokens	min: 8 tokens mean: 19.39 tokens max: 37 tokens	min: 0.2 mean: 0.61 max: 1.0

• Samples:

  sentence1	sentence2	label
  A gente faz o aporte financeiro, é como se a empresa fosse parceira do Monte Cristo.	Fernando Moraes afirma que não tem vínculo com o Monte Cristo além da parceira.	0.4
  Em 2013, a história de como Walt Disney convenceu P.L.	P.L.Travers era completamente contra a adaptação de Walt Disney.	0.45
  David Silva bateu escanteio, Kompany escalou as costas de Chiellini e o zagueiro marcou contra.	David Silva cobrou escanteio, o zagueiro se apoiou em Chiellini e cabeceou.	0.75

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

assin2

assin2

• Dataset: assin2 at 0ff9c86
• Size: 6,500 training samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 6 tokens mean: 14.86 tokens max: 37 tokens	min: 6 tokens mean: 14.0 tokens max: 38 tokens	min: 0.3 mean: 0.93 max: 1.0

• Samples:

  sentence1	sentence2	label
  Uma criança risonha está segurando uma pistola de água e sendo espirrada com água	Uma criança está segurando uma pistola de água	0.9
  Os homens estão cuidadosamente colocando as malas no porta-malas de um carro	Os homens estão colocando bagagens dentro do porta-malas de um carro	0.9
  Uma pessoa tem cabelo loiro e esvoaçante e está tocando violão	Um guitarrista tem cabelo loiro e esvoaçante	0.9399999618530274

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

IRIS_sts

IRIS_sts

• Dataset: IRIS_sts at 8adf343
• Size: 1,667 training samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 14 tokens mean: 32.78 tokens max: 57 tokens	min: 13 tokens mean: 32.37 tokens max: 67 tokens	min: 0.0 mean: 0.52 max: 1.0

• Samples:

  sentence1	sentence2	label
  A questão da existência de uma presunção constitui antecedente lógico da elisão dessa presunção.	Constitui requisito de existência da presunção de aceitação do despedimento por extinção do posto de trabalho, a que se refere o art.	0.483483258943473
  Com efeito, nesse caso do que se tratará será de uma errada aplicação do direito aos factos, designadamente aos considerados provados.	Isto é: não se extraíram as consequências jurídicas adequadas do que provado se considerou.	0.4286842926170479
  II - É nula a sentença de regulação das responsabilidades parentais cuja motivação se apoia em relatórios do ISS de cujo teor as partes não foram notificadas.	II - A decisão sobre as responsabilidades parentais é inválida se ela foi baseada em relatórios do ISS que as partes não foram informadas.	0.816343029699518

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

sick_br

sick_br

• Dataset: sick_br at 0cdfb1d
• Size: 4,439 training samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 7 tokens mean: 15.19 tokens max: 35 tokens	min: 7 tokens mean: 14.72 tokens max: 36 tokens	min: 0.2 mean: 0.68 max: 1.0

• Samples:

  sentence1	sentence2	label
  Um grupo de crianças está brincando em um quintal e um homem velho está parado ao fundo	Um grupo de meninos em um quintal está brincando e um homem está de pé ao fundo	0.9
  Um grupo de crianças está brincando na casa e não tem nenhum homem parado ao fundo	Um grupo de crianças está brincando em um quintal e um homem velho está parado ao fundo	0.64
  Os meninos jovens estão brincando ao ar livre e o homem está sorrindo por perto	As crianças estão brincando ao ar livre perto de um homem com um sorriso	0.9400000000000001

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

mldr

mldr

• Dataset: mldr at 40ad767
• Size: 1,845 training samples
• Columns: anchor, positive, and negative
• Approximate statistics based on the first 1000 samples:

  	anchor	positive	negative
  type	string	string	string
  details	min: 6 tokens mean: 18.28 tokens max: 101 tokens	min: 512 tokens mean: 512.0 tokens max: 512 tokens	min: 512 tokens mean: 512.0 tokens max: 512 tokens

• Samples:

  anchor	positive	negative
  Quais são os principais mecanismos usados pela fagocitose para remover patógenos e restos celulares?	Fagocitose Fagocitose ( do grego antigo, "φαγεῖν" (phagein), "devorar" , "κύτος" (kytos), "células") é o processo pelo qual uma célula usa sua membrana plasmática para englobar partículas grandes (≥ 0,5 μm), dando origem a um compartimento interno chamado fagossoma. Nos sistemas imunológicos de organismos multicelulares, a fagocitose é um dos principais mecanismos usados para remover patógenos e restos celulares. O material ingerido é então digerido no fagossoma. Bactérias, células de tecidos mortos e pequenas partículas minerais são exemplos de objetos que podem ser fagocitados. Alguns protozoários usam a fagocitose como meio de obter nutrientes. História. A fagocitose foi observada pela primeira vez pelo médico canadense William Osler (1876), e mais tarde estudada e nomeada por Élie Metchnikoff (1880, 1883). No sistema imunológico. A fagocitose é um dos principais mecanismos da resposta imune inata. É um dos primeiros mecanismos de resposta à infecção e um dos ramos iniciais de uma ...	Vespa Vespa, marimbondo ou cabatão é o nome comum aplicado a diversas espécies de insetos pertencentes à subordem Apocrita da ordem Hymenoptera. Na definição mais abrangente, este nome é utilizado para se referir a qualquer himenóptero que não é abelha nem formiga. Em geral, faz-se a distinção das vespas-serra, himenópteros sem pecíolo que são considerados como uma subordem distinta, Symphyta. As vespas não constituem um clado, ou seja, o termo não representa um grupo natural de organismos que inclui todos os descendentes de um grupo ancestral. As vespas mais popularmente conhecidas pertencem à família Vespidae e são eusociais, vivendo juntas em um ninho com uma rainha que põe ovos e operárias que não se reproduzem. No entanto, a maioria das espécies de vespas são solitárias, com cada fêmea adulta vivendo e se reproduzindo independentemente. As vespas desempenham muitos papéis ecológicos, incluindo espécies tanto fitófagas quanto entomófagas. Muitas, como as vespas-cuco, são cleptopar...
  Quais são as características principais do cálcio?	Cálcio O cálcio é um elemento químico, símbolo Ca, de número atómico 20 (20 prótons e 20 elétrons) e massa atómica 40u. É um metal da família dos alcalino-terrosos, pertencente ao grupo 2 da classificação periódica dos elementos químicos. Foi isolado pela primeira vez em 1808, em uma forma impura, pelo químico britânico Humphry Davy mediante a eletrólise de uma amálgama de mercúrio (HgO) e cal (CaO). Características principais. O cálcio é um metal alcalino-terroso, mole, maleável e dúctil que arde com chama vermelha formando óxido de cálcio e nitreto. As superfícies são de coloração branca prateada que rapidamente se tornam levemente amareladas quando expostas ao ar, finalmente com coloração cinza ou branca devido à formação de hidróxido ao reagir com a umidade ambiental. Reage violentamente com a água para formar o hidróxido de cálcio, Ca(OH)2, com desprendimento de hidrogênio. Papel biológico. O cálcio (Ca2+) é um elemento regulador universal que acopla intimamente os sinais biótico...	Humidade A é a quantidade de vapor de água na atmosfera. Fisicamente, a humidade relativa é definida como a razão da quantidade de vapor de água presente numa porção da atmosfera (pressão parcial de vapor) com a quantidade máxima de vapor de água que a atmosfera pode suportar a uma determinada temperatura (pressão de vapor). A humidade relativa é uma importante variável (medida) usada na previsão do tempo, e indica a possibilidade de precipitação (chuva, neve, granizo, entre outros), orvalho ou nevoeiro. A alta humidade durante dias quentes faz a sensação térmica aumentar, ou seja, a pessoa tem a impressão de que está mais calor, devido à redução da eficácia da transpiração da pele, e assim reduzindo o resfriamento corporal. Por outro lado, a baixa humidade dos desertos causa uma grande diferença de temperatura entre o dia e a noite. Este efeito é calculado pela tabela de índice de calor. Tipos de humidade. Humidade absoluta (base volumétrica). A humidade absoluta em uma base volumétr...
  Quais são os ésteres mais comuns encontrados na natureza?	Éster Na química, a função éster é caracterizada pela estrutura R-COOR'. Os ésteres carboxílicos apresentam uma alcoxila ligada à uma carbonila e são usualmente resultantes de uma reação entre álcoois (em alguns casos, fenóis) e ácidos carboxílico, e o resultado é a substituição de um átomo de hidrogênio presente na carboxila (-COOH) dos ácidos carboxílicos por um grupo alquila (R) ou arila (Ar). Já os ésteres inorgânicos resultam de reações entre álcoois e oxiácidos inorgânicos, de modo que o ácido perde um próton (H+) e se liga à cadeia que outrora pertencia a um álcool, após a perda da hidroxila (OH-) por esta molécula. Assim, reações de esterificação - como são denominadas as reações entre álcoois/fenóis e ácidos -também produzem água (HOH ou H2O). Os ésteres mais comuns que se encontram na natureza são os triglicerídeos - triésteres de glicerina - constituintes de óleos e gorduras indispensáveis à alimentação humana. Além disso, também ocorrem no aroma das flores e no sabor dos f...	Literatura A Literatura é a arte que usa a linguagem escrita como meio de expressão, seja em prosa ou em verso, de acordo com princípios teóricos e práticos; sendo o conjunto de obras escritas ou orais às quais reconhecemos um valor estético. A Literatura abrange qualquer coleção de obras escritas, incluindo escrita impressa e digital. Etimologia. A palavra Literatura vem do latim "litteris" que significa "Letras", e possivelmente uma tradução do grego "grammatikee". Em latim, literatura significa uma instrução ou um conjunto de saberes ou habilidades de escrever e ler bem, e se relaciona com as técnicas da gramática, da retórica e da poética. Por extensão, se refere especificamente ao ofício de escrever. O termo Literatura também é usado como referência a um conjunto escolhido de textos, por exemplo a literatura portuguesa, a literatura espanhola, a literatura inglesa, a literatura brasileira, a literatura japonesa, etc. Definição. Mais produtivo do que tentar definir Literatura talv...

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

Evaluation Datasets

stsb

stsb

• Dataset: stsb at 3acaa3d
• Size: 1,500 evaluation samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 7 tokens mean: 18.22 tokens max: 46 tokens	min: 7 tokens mean: 18.11 tokens max: 46 tokens	min: 0.0 mean: 0.42 max: 1.0

• Samples:

  sentence1	sentence2	label
  Um homem de chapéu duro está a dançar.	Um homem com um capacete está a dançar.	1.0
  Uma criança pequena está a montar a cavalo.	Uma criança está a montar a cavalo.	0.95
  Um homem está a alimentar um rato a uma cobra.	O homem está a alimentar a cobra com um rato.	1.0

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

assin2

assin2

• Dataset: assin2 at 0ff9c86
• Size: 500 evaluation samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 500 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 6 tokens mean: 14.13 tokens max: 31 tokens	min: 6 tokens mean: 14.01 tokens max: 35 tokens	min: 0.2 mean: 0.79 max: 1.0

• Samples:

  sentence1	sentence2	label
  Uma pequena menina está sorrindo e usando um nariz falso e óculos	A menina pequena está sorrindo e usando um nariz falso e óculos	0.9800000190734863
  Um grupo de pessoas jogando futebol está correndo no campo	Um grupo de jogadores de futebol está correndo no campo	0.9600000381469727
  O homem está empinando uma motocicleta num chão que é praticamente árido	O homem está desmontando de uma moto para um chão que é praticamente árido	0.7199999809265136

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

IRIS_sts

IRIS_sts

• Dataset: IRIS_sts at 8adf343
• Size: 556 evaluation samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 556 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 15 tokens mean: 32.46 tokens max: 62 tokens	min: 14 tokens mean: 32.12 tokens max: 67 tokens	min: 0.0 mean: 0.5 max: 1.0

• Samples:

  sentence1	sentence2	label
  Nos termos do disposto no artigo 1083. do CPC, constituindo, como é o caso, dependência de outro processo judicial, a competência para o inventário é exclusiva dos tribunais cfr.	Essa norma existe relativamente à provisão para despesas, pois que o n 10 do art.	0.09996932915109477
  II - Da insolvência de um dos ex-cônjuges não decorre necessariamente a insolvência do património comum do ex-casal, não obstante, como é sabido, o art.	II - A apensação de processos de expropriação de parcelas contíguas e do mesmo dono resulta do art.	0.15428183762417896
  44, n. 1, do suscitar antecipadamente nove questões de inconstitucionalidade, nos termos e para os efeitos dos art.os 7, n. 1, al.	41, do CPP, oportunidade que o mesmo aproveitou reiterando a arguição das inconstitucionalidades.	0.2198436643850504

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

sick_br

sick_br

• Dataset: sick_br at 0cdfb1d
• Size: 495 evaluation samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 495 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 6 tokens mean: 15.25 tokens max: 39 tokens	min: 7 tokens mean: 14.64 tokens max: 39 tokens	min: 0.2 mean: 0.72 max: 1.0

• Samples:

  sentence1	sentence2	label
  Os meninos jovens estão brincando ao ar livre e o homem está sorrindo por perto	Não tem nenhum menino brincando ao ar livre e não tem nenhum homem sorrindo	0.72
  Uma pessoa de blusa preta está fazendo truques em uma moto	Uma pessoa habilidosa está andando de bicicleta sobre uma roda	0.6799999999999999
  Quatro crianças estão fazendo ponte na academia	Quatro garotas estão fazendo ponte e brincando ao ar livre	0.76

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          1024,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• per_device_train_batch_size: 32
• num_train_epochs: 20
• learning_rate: 1e-05
• warmup_steps: 0.1
• weight_decay: 0.1
• gradient_accumulation_steps: 16
• bf16: True
• gradient_checkpointing: True
• gradient_checkpointing_kwargs: {'use_reentrant': False}
• torch_empty_cache_steps: 500
• eval_strategy: steps

All Hyperparameters

Click to expand

• per_device_train_batch_size: 32
• num_train_epochs: 20
• max_steps: -1
• learning_rate: 1e-05
• lr_scheduler_type: linear
• lr_scheduler_kwargs: None
• warmup_steps: 0.1
• optim: adamw_torch_fused
• optim_args: None
• weight_decay: 0.1
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• optim_target_modules: None
• gradient_accumulation_steps: 16
• average_tokens_across_devices: True
• max_grad_norm: 1.0
• label_smoothing_factor: 0.0
• bf16: True
• fp16: False
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• gradient_checkpointing: True
• gradient_checkpointing_kwargs: {'use_reentrant': False}
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• use_liger_kernel: False
• liger_kernel_config: None
• use_cache: False
• neftune_noise_alpha: None
• torch_empty_cache_steps: 500
• auto_find_batch_size: False
• log_on_each_node: True
• logging_nan_inf_filter: True
• include_num_input_tokens_seen: no
• log_level: passive
• log_level_replica: warning
• disable_tqdm: False
• project: huggingface
• trackio_space_id: trackio
• eval_strategy: steps
• per_device_eval_batch_size: 8
• prediction_loss_only: True
• eval_on_start: False
• eval_do_concat_batches: True
• eval_use_gather_object: False
• eval_accumulation_steps: None
• include_for_metrics: []
• batch_eval_metrics: False
• save_only_model: False
• save_on_each_node: False
• enable_jit_checkpoint: False
• push_to_hub: False
• hub_private_repo: None
• hub_model_id: None
• hub_strategy: every_save
• hub_always_push: False
• hub_revision: None
• load_best_model_at_end: False
• ignore_data_skip: False
• restore_callback_states_from_checkpoint: False
• full_determinism: False
• seed: 42
• data_seed: None
• use_cpu: False
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• parallelism_config: None
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• dataloader_prefetch_factor: None
• remove_unused_columns: True
• label_names: None
• train_sampling_strategy: random
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• ddp_backend: None
• ddp_timeout: 1800
• fsdp: []
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• deepspeed: None
• debug: []
• skip_memory_metrics: True
• do_predict: False
• resume_from_checkpoint: None
• warmup_ratio: None
• local_rank: -1
• prompts: None
• batch_sampler: batch_sampler
• multi_dataset_batch_sampler: proportional
• router_mapping: {}
• learning_rate_mapping: {}

Training Logs

Framework Versions

• Python: 3.11.12
• Sentence Transformers: 5.3.0
• Transformers: 5.3.0
• PyTorch: 2.10.0+cu128
• Accelerate: 1.13.0
• Datasets: 4.8.3
• Tokenizers: 0.22.2

Citation

BibTeX

@misc{okamura2026multilingualaveragesmtebptbenchmark,
  archiveprefix = {arXiv},
  author = {Lucas Hideki Takeuchi Okamura and Alexandre Alcoforado and Anna Helena Reali Costa},
  eprint = {2607.04071},
  primaryclass = {cs.CL},
  title = {Beyond Multilingual Averages: MTEB-PT, a Benchmark for Portuguese Sentence Encoders},
  url = {https://arxiv.org/abs/2607.04071},
  year = {2026},
}