wav2vec2-base-german-cv9

This model is a fine-tuned version of facebook/wav2vec2-base on the MOZILLA-FOUNDATION/COMMON_VOICE_9_0 - DE dataset. It achieves the following results on the evaluation set:

Loss: 0.1742
Wer: 0.1209

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 0.0001
train_batch_size: 16
eval_batch_size: 32
seed: 42
gradient_accumulation_steps: 8
total_train_batch_size: 128
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
lr_scheduler_warmup_ratio: 0.1
num_epochs: 50.0
mixed_precision_training: Native AMP

Training results

Training Loss	Epoch	Step	Validation Loss	Wer
0.6827	1.0	3557	0.6695	0.6247
0.3992	2.0	7114	0.3738	0.3936
0.2611	3.0	10671	0.3011	0.3177
0.2536	4.0	14228	0.2672	0.2749
0.1943	5.0	17785	0.2487	0.2480
0.2004	6.0	21342	0.2246	0.2268
0.1605	7.0	24899	0.2176	0.2120
0.1579	8.0	28456	0.2046	0.2024
0.1668	9.0	32013	0.2027	0.1944
0.1338	10.0	35570	0.1968	0.1854
0.1478	11.0	39127	0.1963	0.1823
0.1177	12.0	42684	0.1956	0.1800
0.1245	13.0	46241	0.1889	0.1732
0.1124	14.0	49798	0.1868	0.1714
0.1112	15.0	53355	0.1805	0.1650
0.1209	16.0	56912	0.1860	0.1614
0.1002	17.0	60469	0.1828	0.1604
0.118	18.0	64026	0.1832	0.1580
0.0974	19.0	67583	0.1771	0.1555
0.1007	20.0	71140	0.1812	0.1532
0.0866	21.0	74697	0.1752	0.1504
0.0901	22.0	78254	0.1690	0.1477
0.0964	23.0	81811	0.1773	0.1489
0.085	24.0	85368	0.1776	0.1456
0.0945	25.0	88925	0.1786	0.1428
0.0804	26.0	92482	0.1737	0.1429
0.0832	27.0	96039	0.1789	0.1394
0.0683	28.0	99596	0.1741	0.1390
0.0761	29.0	103153	0.1688	0.1379
0.0833	30.0	106710	0.1726	0.1370
0.0753	31.0	110267	0.1774	0.1353
0.08	32.0	113824	0.1734	0.1344
0.0644	33.0	117381	0.1737	0.1334
0.0745	34.0	120938	0.1763	0.1335
0.0629	35.0	124495	0.1761	0.1311
0.0654	36.0	128052	0.1718	0.1302
0.0656	37.0	131609	0.1697	0.1301
0.0643	38.0	135166	0.1716	0.1279
0.0683	39.0	138723	0.1777	0.1279
0.0587	40.0	142280	0.1735	0.1271
0.0693	41.0	145837	0.1780	0.1260
0.0532	42.0	149394	0.1724	0.1245
0.0594	43.0	152951	0.1736	0.1250
0.0544	44.0	156508	0.1744	0.1238
0.0559	45.0	160065	0.1770	0.1232
0.0557	46.0	163622	0.1766	0.1231
0.0521	47.0	167179	0.1751	0.1220
0.0591	48.0	170736	0.1724	0.1217
0.0507	49.0	174293	0.1753	0.1212
0.0577	50.0	177850	0.1742	0.1209

Framework versions

Transformers 4.20.1
Pytorch 1.11.0+cu113
Datasets 2.0.0
Tokenizers 0.11.6

加载中…

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 0.0001

train_batch_size: 16

eval_batch_size: 32

seed: 42

gradient_accumulation_steps: 8

total_train_batch_size: 128

optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08

lr_scheduler_type: linear

lr_scheduler_warmup_ratio: 0.1

num_epochs: 50.0

mixed_precision_training: Native AMP

Training results

Training Loss	Epoch	Step	Validation Loss	Wer
0.6827	1.0	3557	0.6695	0.6247
0.3992	2.0	7114	0.3738	0.3936
0.2611	3.0	10671	0.3011	0.3177
0.2536	4.0	14228	0.2672	0.2749
0.1943	5.0	17785	0.2487	0.2480
0.2004	6.0	21342	0.2246	0.2268
0.1605	7.0	24899	0.2176	0.2120
0.1579	8.0	28456	0.2046	0.2024
0.1668	9.0	32013	0.2027	0.1944
0.1338	10.0	35570	0.1968	0.1854
0.1478	11.0	39127	0.1963	0.1823
0.1177	12.0	42684	0.1956	0.1800
0.1245	13.0	46241	0.1889	0.1732
0.1124	14.0	49798	0.1868	0.1714
0.1112	15.0	53355	0.1805	0.1650
0.1209	16.0	56912	0.1860	0.1614
0.1002	17.0	60469	0.1828	0.1604
0.118	18.0	64026	0.1832	0.1580
0.0974	19.0	67583	0.1771	0.1555
0.1007	20.0	71140	0.1812	0.1532
0.0866	21.0	74697	0.1752	0.1504
0.0901	22.0	78254	0.1690	0.1477
0.0964	23.0	81811	0.1773	0.1489
0.085	24.0	85368	0.1776	0.1456
0.0945	25.0	88925	0.1786	0.1428
0.0804	26.0	92482	0.1737	0.1429
0.0832	27.0	96039	0.1789	0.1394
0.0683	28.0	99596	0.1741	0.1390
0.0761	29.0	103153	0.1688	0.1379
0.0833	30.0	106710	0.1726	0.1370
0.0753	31.0	110267	0.1774	0.1353
0.08	32.0	113824	0.1734	0.1344
0.0644	33.0	117381	0.1737	0.1334
0.0745	34.0	120938	0.1763	0.1335
0.0629	35.0	124495	0.1761	0.1311
0.0654	36.0	128052	0.1718	0.1302
0.0656	37.0	131609	0.1697	0.1301
0.0643	38.0	135166	0.1716	0.1279
0.0683	39.0	138723	0.1777	0.1279
0.0587	40.0	142280	0.1735	0.1271
0.0693	41.0	145837	0.1780	0.1260
0.0532	42.0	149394	0.1724	0.1245
0.0594	43.0	152951	0.1736	0.1250
0.0544	44.0	156508	0.1744	0.1238
0.0559	45.0	160065	0.1770	0.1232
0.0557	46.0	163622	0.1766	0.1231
0.0521	47.0	167179	0.1751	0.1220
0.0591	48.0	170736	0.1724	0.1217
0.0507	49.0	174293	0.1753	0.1212
0.0577	50.0	177850	0.1742	0.1209

Framework versions

Transformers 4.20.1

Pytorch 1.11.0+cu113

Datasets 2.0.0

Tokenizers 0.11.6

oliverguhr/wav2vec2-base-german-cv9

wav2vec2-base-german-cv9

Model description

Intended uses & limitations

Training and evaluation data

Training procedure

Training hyperparameters

Training results

Framework versions

wav2vec2-base-german-cv9

Model description

Intended uses & limitations

Training and evaluation data

Training procedure

Training hyperparameters

Training results

Framework versions