clip-homer-2m / trainer_state.json
bilbo991's picture
End of training
e32c05f
{
"best_metric": 0.5686945915222168,
"best_model_checkpoint": "clip-homer-2m/checkpoint-187500",
"epoch": 3.0,
"global_step": 187500,
"is_hyper_param_search": false,
"is_local_process_zero": true,
"is_world_process_zero": true,
"log_history": [
{
"epoch": 0.01,
"learning_rate": 4.986666666666667e-05,
"loss": 3.1245,
"step": 500
},
{
"epoch": 0.02,
"learning_rate": 4.973333333333334e-05,
"loss": 2.8179,
"step": 1000
},
{
"epoch": 0.02,
"learning_rate": 4.96e-05,
"loss": 2.6648,
"step": 1500
},
{
"epoch": 0.03,
"learning_rate": 4.9466666666666665e-05,
"loss": 2.566,
"step": 2000
},
{
"epoch": 0.04,
"learning_rate": 4.933333333333334e-05,
"loss": 2.5358,
"step": 2500
},
{
"epoch": 0.05,
"learning_rate": 4.92e-05,
"loss": 2.4628,
"step": 3000
},
{
"epoch": 0.06,
"learning_rate": 4.906666666666667e-05,
"loss": 2.3999,
"step": 3500
},
{
"epoch": 0.06,
"learning_rate": 4.8933333333333335e-05,
"loss": 2.3669,
"step": 4000
},
{
"epoch": 0.07,
"learning_rate": 4.88e-05,
"loss": 2.3131,
"step": 4500
},
{
"epoch": 0.08,
"learning_rate": 4.866666666666667e-05,
"loss": 2.2856,
"step": 5000
},
{
"epoch": 0.09,
"learning_rate": 4.853333333333334e-05,
"loss": 2.261,
"step": 5500
},
{
"epoch": 0.1,
"learning_rate": 4.8400000000000004e-05,
"loss": 2.2414,
"step": 6000
},
{
"epoch": 0.1,
"learning_rate": 4.826666666666667e-05,
"loss": 2.1984,
"step": 6500
},
{
"epoch": 0.11,
"learning_rate": 4.8133333333333336e-05,
"loss": 2.1932,
"step": 7000
},
{
"epoch": 0.12,
"learning_rate": 4.8e-05,
"loss": 2.164,
"step": 7500
},
{
"epoch": 0.13,
"learning_rate": 4.7866666666666674e-05,
"loss": 2.1243,
"step": 8000
},
{
"epoch": 0.14,
"learning_rate": 4.773333333333333e-05,
"loss": 2.1253,
"step": 8500
},
{
"epoch": 0.14,
"learning_rate": 4.76e-05,
"loss": 2.1314,
"step": 9000
},
{
"epoch": 0.15,
"learning_rate": 4.746666666666667e-05,
"loss": 2.0884,
"step": 9500
},
{
"epoch": 0.16,
"learning_rate": 4.7333333333333336e-05,
"loss": 2.0868,
"step": 10000
},
{
"epoch": 0.17,
"learning_rate": 4.72e-05,
"loss": 2.063,
"step": 10500
},
{
"epoch": 0.18,
"learning_rate": 4.706666666666667e-05,
"loss": 2.0375,
"step": 11000
},
{
"epoch": 0.18,
"learning_rate": 4.6933333333333333e-05,
"loss": 2.0322,
"step": 11500
},
{
"epoch": 0.19,
"learning_rate": 4.6800000000000006e-05,
"loss": 2.0535,
"step": 12000
},
{
"epoch": 0.2,
"learning_rate": 4.666666666666667e-05,
"loss": 2.0004,
"step": 12500
},
{
"epoch": 0.21,
"learning_rate": 4.653333333333334e-05,
"loss": 1.9955,
"step": 13000
},
{
"epoch": 0.22,
"learning_rate": 4.64e-05,
"loss": 1.9811,
"step": 13500
},
{
"epoch": 0.22,
"learning_rate": 4.626666666666667e-05,
"loss": 1.9634,
"step": 14000
},
{
"epoch": 0.23,
"learning_rate": 4.6133333333333334e-05,
"loss": 1.9825,
"step": 14500
},
{
"epoch": 0.24,
"learning_rate": 4.600000000000001e-05,
"loss": 1.9454,
"step": 15000
},
{
"epoch": 0.25,
"learning_rate": 4.5866666666666666e-05,
"loss": 1.9224,
"step": 15500
},
{
"epoch": 0.26,
"learning_rate": 4.573333333333333e-05,
"loss": 1.9232,
"step": 16000
},
{
"epoch": 0.26,
"learning_rate": 4.5600000000000004e-05,
"loss": 1.9226,
"step": 16500
},
{
"epoch": 0.27,
"learning_rate": 4.546666666666667e-05,
"loss": 1.899,
"step": 17000
},
{
"epoch": 0.28,
"learning_rate": 4.5333333333333335e-05,
"loss": 1.9016,
"step": 17500
},
{
"epoch": 0.29,
"learning_rate": 4.52e-05,
"loss": 1.9057,
"step": 18000
},
{
"epoch": 0.3,
"learning_rate": 4.5066666666666667e-05,
"loss": 1.9004,
"step": 18500
},
{
"epoch": 0.3,
"learning_rate": 4.493333333333333e-05,
"loss": 1.8527,
"step": 19000
},
{
"epoch": 0.31,
"learning_rate": 4.4800000000000005e-05,
"loss": 1.8558,
"step": 19500
},
{
"epoch": 0.32,
"learning_rate": 4.466666666666667e-05,
"loss": 1.8674,
"step": 20000
},
{
"epoch": 0.33,
"learning_rate": 4.4533333333333336e-05,
"loss": 1.8638,
"step": 20500
},
{
"epoch": 0.34,
"learning_rate": 4.44e-05,
"loss": 1.8439,
"step": 21000
},
{
"epoch": 0.34,
"learning_rate": 4.426666666666667e-05,
"loss": 1.8261,
"step": 21500
},
{
"epoch": 0.35,
"learning_rate": 4.413333333333334e-05,
"loss": 1.8444,
"step": 22000
},
{
"epoch": 0.36,
"learning_rate": 4.4000000000000006e-05,
"loss": 1.8345,
"step": 22500
},
{
"epoch": 0.37,
"learning_rate": 4.3866666666666665e-05,
"loss": 1.8155,
"step": 23000
},
{
"epoch": 0.38,
"learning_rate": 4.373333333333334e-05,
"loss": 1.8098,
"step": 23500
},
{
"epoch": 0.38,
"learning_rate": 4.36e-05,
"loss": 1.7986,
"step": 24000
},
{
"epoch": 0.39,
"learning_rate": 4.346666666666667e-05,
"loss": 1.7884,
"step": 24500
},
{
"epoch": 0.4,
"learning_rate": 4.3333333333333334e-05,
"loss": 1.7785,
"step": 25000
},
{
"epoch": 0.41,
"learning_rate": 4.32e-05,
"loss": 1.7844,
"step": 25500
},
{
"epoch": 0.42,
"learning_rate": 4.3066666666666665e-05,
"loss": 1.7751,
"step": 26000
},
{
"epoch": 0.42,
"learning_rate": 4.293333333333334e-05,
"loss": 1.781,
"step": 26500
},
{
"epoch": 0.43,
"learning_rate": 4.2800000000000004e-05,
"loss": 1.762,
"step": 27000
},
{
"epoch": 0.44,
"learning_rate": 4.266666666666667e-05,
"loss": 1.7388,
"step": 27500
},
{
"epoch": 0.45,
"learning_rate": 4.2533333333333335e-05,
"loss": 1.743,
"step": 28000
},
{
"epoch": 0.46,
"learning_rate": 4.24e-05,
"loss": 1.7374,
"step": 28500
},
{
"epoch": 0.46,
"learning_rate": 4.226666666666667e-05,
"loss": 1.7378,
"step": 29000
},
{
"epoch": 0.47,
"learning_rate": 4.213333333333334e-05,
"loss": 1.7284,
"step": 29500
},
{
"epoch": 0.48,
"learning_rate": 4.2e-05,
"loss": 1.7303,
"step": 30000
},
{
"epoch": 0.49,
"learning_rate": 4.186666666666667e-05,
"loss": 1.7244,
"step": 30500
},
{
"epoch": 0.5,
"learning_rate": 4.1733333333333336e-05,
"loss": 1.7106,
"step": 31000
},
{
"epoch": 0.5,
"learning_rate": 4.16e-05,
"loss": 1.7011,
"step": 31500
},
{
"epoch": 0.51,
"learning_rate": 4.146666666666667e-05,
"loss": 1.6993,
"step": 32000
},
{
"epoch": 0.52,
"learning_rate": 4.133333333333333e-05,
"loss": 1.6854,
"step": 32500
},
{
"epoch": 0.53,
"learning_rate": 4.12e-05,
"loss": 1.7055,
"step": 33000
},
{
"epoch": 0.54,
"learning_rate": 4.106666666666667e-05,
"loss": 1.7063,
"step": 33500
},
{
"epoch": 0.54,
"learning_rate": 4.093333333333334e-05,
"loss": 1.6839,
"step": 34000
},
{
"epoch": 0.55,
"learning_rate": 4.08e-05,
"loss": 1.6923,
"step": 34500
},
{
"epoch": 0.56,
"learning_rate": 4.066666666666667e-05,
"loss": 1.6623,
"step": 35000
},
{
"epoch": 0.57,
"learning_rate": 4.0533333333333334e-05,
"loss": 1.6827,
"step": 35500
},
{
"epoch": 0.58,
"learning_rate": 4.0400000000000006e-05,
"loss": 1.6865,
"step": 36000
},
{
"epoch": 0.58,
"learning_rate": 4.026666666666667e-05,
"loss": 1.669,
"step": 36500
},
{
"epoch": 0.59,
"learning_rate": 4.013333333333333e-05,
"loss": 1.6252,
"step": 37000
},
{
"epoch": 0.6,
"learning_rate": 4e-05,
"loss": 1.6558,
"step": 37500
},
{
"epoch": 0.61,
"learning_rate": 3.986666666666667e-05,
"loss": 1.6621,
"step": 38000
},
{
"epoch": 0.62,
"learning_rate": 3.9733333333333335e-05,
"loss": 1.6226,
"step": 38500
},
{
"epoch": 0.62,
"learning_rate": 3.960000000000001e-05,
"loss": 1.6497,
"step": 39000
},
{
"epoch": 0.63,
"learning_rate": 3.9466666666666666e-05,
"loss": 1.6159,
"step": 39500
},
{
"epoch": 0.64,
"learning_rate": 3.933333333333333e-05,
"loss": 1.6455,
"step": 40000
},
{
"epoch": 0.65,
"learning_rate": 3.9200000000000004e-05,
"loss": 1.6231,
"step": 40500
},
{
"epoch": 0.66,
"learning_rate": 3.906666666666667e-05,
"loss": 1.6301,
"step": 41000
},
{
"epoch": 0.66,
"learning_rate": 3.8933333333333336e-05,
"loss": 1.65,
"step": 41500
},
{
"epoch": 0.67,
"learning_rate": 3.88e-05,
"loss": 1.631,
"step": 42000
},
{
"epoch": 0.68,
"learning_rate": 3.866666666666667e-05,
"loss": 1.6118,
"step": 42500
},
{
"epoch": 0.69,
"learning_rate": 3.853333333333334e-05,
"loss": 1.5865,
"step": 43000
},
{
"epoch": 0.7,
"learning_rate": 3.8400000000000005e-05,
"loss": 1.5897,
"step": 43500
},
{
"epoch": 0.7,
"learning_rate": 3.8266666666666664e-05,
"loss": 1.5832,
"step": 44000
},
{
"epoch": 0.71,
"learning_rate": 3.8133333333333336e-05,
"loss": 1.5789,
"step": 44500
},
{
"epoch": 0.72,
"learning_rate": 3.8e-05,
"loss": 1.5978,
"step": 45000
},
{
"epoch": 0.73,
"learning_rate": 3.786666666666667e-05,
"loss": 1.5966,
"step": 45500
},
{
"epoch": 0.74,
"learning_rate": 3.773333333333334e-05,
"loss": 1.5739,
"step": 46000
},
{
"epoch": 0.74,
"learning_rate": 3.76e-05,
"loss": 1.5659,
"step": 46500
},
{
"epoch": 0.75,
"learning_rate": 3.7466666666666665e-05,
"loss": 1.5794,
"step": 47000
},
{
"epoch": 0.76,
"learning_rate": 3.733333333333334e-05,
"loss": 1.5834,
"step": 47500
},
{
"epoch": 0.77,
"learning_rate": 3.72e-05,
"loss": 1.5739,
"step": 48000
},
{
"epoch": 0.78,
"learning_rate": 3.706666666666667e-05,
"loss": 1.5556,
"step": 48500
},
{
"epoch": 0.78,
"learning_rate": 3.6933333333333334e-05,
"loss": 1.549,
"step": 49000
},
{
"epoch": 0.79,
"learning_rate": 3.68e-05,
"loss": 1.5521,
"step": 49500
},
{
"epoch": 0.8,
"learning_rate": 3.6666666666666666e-05,
"loss": 1.5307,
"step": 50000
},
{
"epoch": 0.81,
"learning_rate": 3.653333333333334e-05,
"loss": 1.5447,
"step": 50500
},
{
"epoch": 0.82,
"learning_rate": 3.6400000000000004e-05,
"loss": 1.5609,
"step": 51000
},
{
"epoch": 0.82,
"learning_rate": 3.626666666666667e-05,
"loss": 1.525,
"step": 51500
},
{
"epoch": 0.83,
"learning_rate": 3.6133333333333335e-05,
"loss": 1.5397,
"step": 52000
},
{
"epoch": 0.84,
"learning_rate": 3.6e-05,
"loss": 1.5545,
"step": 52500
},
{
"epoch": 0.85,
"learning_rate": 3.586666666666667e-05,
"loss": 1.5252,
"step": 53000
},
{
"epoch": 0.86,
"learning_rate": 3.573333333333333e-05,
"loss": 1.523,
"step": 53500
},
{
"epoch": 0.86,
"learning_rate": 3.56e-05,
"loss": 1.5013,
"step": 54000
},
{
"epoch": 0.87,
"learning_rate": 3.546666666666667e-05,
"loss": 1.5067,
"step": 54500
},
{
"epoch": 0.88,
"learning_rate": 3.5333333333333336e-05,
"loss": 1.5197,
"step": 55000
},
{
"epoch": 0.89,
"learning_rate": 3.52e-05,
"loss": 1.5164,
"step": 55500
},
{
"epoch": 0.9,
"learning_rate": 3.506666666666667e-05,
"loss": 1.5059,
"step": 56000
},
{
"epoch": 0.9,
"learning_rate": 3.493333333333333e-05,
"loss": 1.4827,
"step": 56500
},
{
"epoch": 0.91,
"learning_rate": 3.48e-05,
"loss": 1.519,
"step": 57000
},
{
"epoch": 0.92,
"learning_rate": 3.466666666666667e-05,
"loss": 1.494,
"step": 57500
},
{
"epoch": 0.93,
"learning_rate": 3.453333333333334e-05,
"loss": 1.4996,
"step": 58000
},
{
"epoch": 0.94,
"learning_rate": 3.4399999999999996e-05,
"loss": 1.4835,
"step": 58500
},
{
"epoch": 0.94,
"learning_rate": 3.426666666666667e-05,
"loss": 1.4986,
"step": 59000
},
{
"epoch": 0.95,
"learning_rate": 3.4133333333333334e-05,
"loss": 1.4898,
"step": 59500
},
{
"epoch": 0.96,
"learning_rate": 3.4000000000000007e-05,
"loss": 1.4637,
"step": 60000
},
{
"epoch": 0.97,
"learning_rate": 3.3866666666666665e-05,
"loss": 1.4525,
"step": 60500
},
{
"epoch": 0.98,
"learning_rate": 3.373333333333333e-05,
"loss": 1.4529,
"step": 61000
},
{
"epoch": 0.98,
"learning_rate": 3.3600000000000004e-05,
"loss": 1.4888,
"step": 61500
},
{
"epoch": 0.99,
"learning_rate": 3.346666666666667e-05,
"loss": 1.4512,
"step": 62000
},
{
"epoch": 1.0,
"learning_rate": 3.3333333333333335e-05,
"loss": 1.4564,
"step": 62500
},
{
"epoch": 1.0,
"eval_loss": 1.1969890594482422,
"eval_runtime": 929.1189,
"eval_samples_per_second": 107.629,
"eval_steps_per_second": 3.363,
"step": 62500
},
{
"epoch": 1.01,
"learning_rate": 3.32e-05,
"loss": 1.3292,
"step": 63000
},
{
"epoch": 1.02,
"learning_rate": 3.3066666666666666e-05,
"loss": 1.3073,
"step": 63500
},
{
"epoch": 1.02,
"learning_rate": 3.293333333333333e-05,
"loss": 1.2916,
"step": 64000
},
{
"epoch": 1.03,
"learning_rate": 3.2800000000000004e-05,
"loss": 1.3083,
"step": 64500
},
{
"epoch": 1.04,
"learning_rate": 3.266666666666667e-05,
"loss": 1.3057,
"step": 65000
},
{
"epoch": 1.05,
"learning_rate": 3.253333333333333e-05,
"loss": 1.2955,
"step": 65500
},
{
"epoch": 1.06,
"learning_rate": 3.24e-05,
"loss": 1.293,
"step": 66000
},
{
"epoch": 1.06,
"learning_rate": 3.226666666666667e-05,
"loss": 1.2775,
"step": 66500
},
{
"epoch": 1.07,
"learning_rate": 3.213333333333334e-05,
"loss": 1.2761,
"step": 67000
},
{
"epoch": 1.08,
"learning_rate": 3.2000000000000005e-05,
"loss": 1.2767,
"step": 67500
},
{
"epoch": 1.09,
"learning_rate": 3.1866666666666664e-05,
"loss": 1.2994,
"step": 68000
},
{
"epoch": 1.1,
"learning_rate": 3.173333333333334e-05,
"loss": 1.3075,
"step": 68500
},
{
"epoch": 1.1,
"learning_rate": 3.16e-05,
"loss": 1.3033,
"step": 69000
},
{
"epoch": 1.11,
"learning_rate": 3.146666666666667e-05,
"loss": 1.2945,
"step": 69500
},
{
"epoch": 1.12,
"learning_rate": 3.1333333333333334e-05,
"loss": 1.2894,
"step": 70000
},
{
"epoch": 1.13,
"learning_rate": 3.12e-05,
"loss": 1.274,
"step": 70500
},
{
"epoch": 1.14,
"learning_rate": 3.1066666666666665e-05,
"loss": 1.2796,
"step": 71000
},
{
"epoch": 1.14,
"learning_rate": 3.093333333333334e-05,
"loss": 1.2929,
"step": 71500
},
{
"epoch": 1.15,
"learning_rate": 3.08e-05,
"loss": 1.269,
"step": 72000
},
{
"epoch": 1.16,
"learning_rate": 3.066666666666667e-05,
"loss": 1.288,
"step": 72500
},
{
"epoch": 1.17,
"learning_rate": 3.0533333333333335e-05,
"loss": 1.3047,
"step": 73000
},
{
"epoch": 1.18,
"learning_rate": 3.04e-05,
"loss": 1.2794,
"step": 73500
},
{
"epoch": 1.18,
"learning_rate": 3.0266666666666666e-05,
"loss": 1.2607,
"step": 74000
},
{
"epoch": 1.19,
"learning_rate": 3.0133333333333335e-05,
"loss": 1.2897,
"step": 74500
},
{
"epoch": 1.2,
"learning_rate": 3e-05,
"loss": 1.2499,
"step": 75000
},
{
"epoch": 1.21,
"learning_rate": 2.986666666666667e-05,
"loss": 1.2751,
"step": 75500
},
{
"epoch": 1.22,
"learning_rate": 2.9733333333333336e-05,
"loss": 1.2961,
"step": 76000
},
{
"epoch": 1.22,
"learning_rate": 2.96e-05,
"loss": 1.2623,
"step": 76500
},
{
"epoch": 1.23,
"learning_rate": 2.946666666666667e-05,
"loss": 1.267,
"step": 77000
},
{
"epoch": 1.24,
"learning_rate": 2.9333333333333336e-05,
"loss": 1.2535,
"step": 77500
},
{
"epoch": 1.25,
"learning_rate": 2.9199999999999998e-05,
"loss": 1.2653,
"step": 78000
},
{
"epoch": 1.26,
"learning_rate": 2.906666666666667e-05,
"loss": 1.2585,
"step": 78500
},
{
"epoch": 1.26,
"learning_rate": 2.8933333333333333e-05,
"loss": 1.2609,
"step": 79000
},
{
"epoch": 1.27,
"learning_rate": 2.88e-05,
"loss": 1.2203,
"step": 79500
},
{
"epoch": 1.28,
"learning_rate": 2.8666666666666668e-05,
"loss": 1.2538,
"step": 80000
},
{
"epoch": 1.29,
"learning_rate": 2.8533333333333333e-05,
"loss": 1.2542,
"step": 80500
},
{
"epoch": 1.3,
"learning_rate": 2.84e-05,
"loss": 1.2542,
"step": 81000
},
{
"epoch": 1.3,
"learning_rate": 2.8266666666666668e-05,
"loss": 1.2467,
"step": 81500
},
{
"epoch": 1.31,
"learning_rate": 2.8133333333333334e-05,
"loss": 1.2516,
"step": 82000
},
{
"epoch": 1.32,
"learning_rate": 2.8000000000000003e-05,
"loss": 1.2516,
"step": 82500
},
{
"epoch": 1.33,
"learning_rate": 2.786666666666667e-05,
"loss": 1.237,
"step": 83000
},
{
"epoch": 1.34,
"learning_rate": 2.7733333333333334e-05,
"loss": 1.2404,
"step": 83500
},
{
"epoch": 1.34,
"learning_rate": 2.7600000000000003e-05,
"loss": 1.2516,
"step": 84000
},
{
"epoch": 1.35,
"learning_rate": 2.746666666666667e-05,
"loss": 1.2577,
"step": 84500
},
{
"epoch": 1.36,
"learning_rate": 2.733333333333333e-05,
"loss": 1.2434,
"step": 85000
},
{
"epoch": 1.37,
"learning_rate": 2.7200000000000004e-05,
"loss": 1.2208,
"step": 85500
},
{
"epoch": 1.38,
"learning_rate": 2.706666666666667e-05,
"loss": 1.243,
"step": 86000
},
{
"epoch": 1.38,
"learning_rate": 2.6933333333333332e-05,
"loss": 1.2408,
"step": 86500
},
{
"epoch": 1.39,
"learning_rate": 2.6800000000000004e-05,
"loss": 1.2393,
"step": 87000
},
{
"epoch": 1.4,
"learning_rate": 2.6666666666666667e-05,
"loss": 1.2467,
"step": 87500
},
{
"epoch": 1.41,
"learning_rate": 2.6533333333333332e-05,
"loss": 1.2255,
"step": 88000
},
{
"epoch": 1.42,
"learning_rate": 2.64e-05,
"loss": 1.2202,
"step": 88500
},
{
"epoch": 1.42,
"learning_rate": 2.6266666666666667e-05,
"loss": 1.2324,
"step": 89000
},
{
"epoch": 1.43,
"learning_rate": 2.6133333333333333e-05,
"loss": 1.2287,
"step": 89500
},
{
"epoch": 1.44,
"learning_rate": 2.6000000000000002e-05,
"loss": 1.2246,
"step": 90000
},
{
"epoch": 1.45,
"learning_rate": 2.5866666666666667e-05,
"loss": 1.2207,
"step": 90500
},
{
"epoch": 1.46,
"learning_rate": 2.5733333333333337e-05,
"loss": 1.2078,
"step": 91000
},
{
"epoch": 1.46,
"learning_rate": 2.5600000000000002e-05,
"loss": 1.2103,
"step": 91500
},
{
"epoch": 1.47,
"learning_rate": 2.5466666666666668e-05,
"loss": 1.2106,
"step": 92000
},
{
"epoch": 1.48,
"learning_rate": 2.5333333333333337e-05,
"loss": 1.206,
"step": 92500
},
{
"epoch": 1.49,
"learning_rate": 2.5200000000000003e-05,
"loss": 1.2152,
"step": 93000
},
{
"epoch": 1.5,
"learning_rate": 2.5066666666666665e-05,
"loss": 1.2042,
"step": 93500
},
{
"epoch": 1.5,
"learning_rate": 2.4933333333333334e-05,
"loss": 1.2005,
"step": 94000
},
{
"epoch": 1.51,
"learning_rate": 2.48e-05,
"loss": 1.2268,
"step": 94500
},
{
"epoch": 1.52,
"learning_rate": 2.466666666666667e-05,
"loss": 1.2094,
"step": 95000
},
{
"epoch": 1.53,
"learning_rate": 2.4533333333333334e-05,
"loss": 1.1727,
"step": 95500
},
{
"epoch": 1.54,
"learning_rate": 2.44e-05,
"loss": 1.1925,
"step": 96000
},
{
"epoch": 1.54,
"learning_rate": 2.426666666666667e-05,
"loss": 1.2119,
"step": 96500
},
{
"epoch": 1.55,
"learning_rate": 2.4133333333333335e-05,
"loss": 1.1961,
"step": 97000
},
{
"epoch": 1.56,
"learning_rate": 2.4e-05,
"loss": 1.1727,
"step": 97500
},
{
"epoch": 1.57,
"learning_rate": 2.3866666666666666e-05,
"loss": 1.1807,
"step": 98000
},
{
"epoch": 1.58,
"learning_rate": 2.3733333333333335e-05,
"loss": 1.1858,
"step": 98500
},
{
"epoch": 1.58,
"learning_rate": 2.36e-05,
"loss": 1.1943,
"step": 99000
},
{
"epoch": 1.59,
"learning_rate": 2.3466666666666667e-05,
"loss": 1.208,
"step": 99500
},
{
"epoch": 1.6,
"learning_rate": 2.3333333333333336e-05,
"loss": 1.1501,
"step": 100000
},
{
"epoch": 1.61,
"learning_rate": 2.32e-05,
"loss": 1.1799,
"step": 100500
},
{
"epoch": 1.62,
"learning_rate": 2.3066666666666667e-05,
"loss": 1.174,
"step": 101000
},
{
"epoch": 1.62,
"learning_rate": 2.2933333333333333e-05,
"loss": 1.1759,
"step": 101500
},
{
"epoch": 1.63,
"learning_rate": 2.2800000000000002e-05,
"loss": 1.1777,
"step": 102000
},
{
"epoch": 1.64,
"learning_rate": 2.2666666666666668e-05,
"loss": 1.1637,
"step": 102500
},
{
"epoch": 1.65,
"learning_rate": 2.2533333333333333e-05,
"loss": 1.1622,
"step": 103000
},
{
"epoch": 1.66,
"learning_rate": 2.2400000000000002e-05,
"loss": 1.1567,
"step": 103500
},
{
"epoch": 1.66,
"learning_rate": 2.2266666666666668e-05,
"loss": 1.1585,
"step": 104000
},
{
"epoch": 1.67,
"learning_rate": 2.2133333333333334e-05,
"loss": 1.1569,
"step": 104500
},
{
"epoch": 1.68,
"learning_rate": 2.2000000000000003e-05,
"loss": 1.1625,
"step": 105000
},
{
"epoch": 1.69,
"learning_rate": 2.186666666666667e-05,
"loss": 1.1742,
"step": 105500
},
{
"epoch": 1.7,
"learning_rate": 2.1733333333333334e-05,
"loss": 1.1399,
"step": 106000
},
{
"epoch": 1.7,
"learning_rate": 2.16e-05,
"loss": 1.1527,
"step": 106500
},
{
"epoch": 1.71,
"learning_rate": 2.146666666666667e-05,
"loss": 1.1455,
"step": 107000
},
{
"epoch": 1.72,
"learning_rate": 2.1333333333333335e-05,
"loss": 1.1414,
"step": 107500
},
{
"epoch": 1.73,
"learning_rate": 2.12e-05,
"loss": 1.1544,
"step": 108000
},
{
"epoch": 1.74,
"learning_rate": 2.106666666666667e-05,
"loss": 1.139,
"step": 108500
},
{
"epoch": 1.74,
"learning_rate": 2.0933333333333335e-05,
"loss": 1.1352,
"step": 109000
},
{
"epoch": 1.75,
"learning_rate": 2.08e-05,
"loss": 1.143,
"step": 109500
},
{
"epoch": 1.76,
"learning_rate": 2.0666666666666666e-05,
"loss": 1.1438,
"step": 110000
},
{
"epoch": 1.77,
"learning_rate": 2.0533333333333336e-05,
"loss": 1.1338,
"step": 110500
},
{
"epoch": 1.78,
"learning_rate": 2.04e-05,
"loss": 1.1481,
"step": 111000
},
{
"epoch": 1.78,
"learning_rate": 2.0266666666666667e-05,
"loss": 1.1144,
"step": 111500
},
{
"epoch": 1.79,
"learning_rate": 2.0133333333333336e-05,
"loss": 1.115,
"step": 112000
},
{
"epoch": 1.8,
"learning_rate": 2e-05,
"loss": 1.1162,
"step": 112500
},
{
"epoch": 1.81,
"learning_rate": 1.9866666666666667e-05,
"loss": 1.1265,
"step": 113000
},
{
"epoch": 1.82,
"learning_rate": 1.9733333333333333e-05,
"loss": 1.1165,
"step": 113500
},
{
"epoch": 1.82,
"learning_rate": 1.9600000000000002e-05,
"loss": 1.1331,
"step": 114000
},
{
"epoch": 1.83,
"learning_rate": 1.9466666666666668e-05,
"loss": 1.1103,
"step": 114500
},
{
"epoch": 1.84,
"learning_rate": 1.9333333333333333e-05,
"loss": 1.1122,
"step": 115000
},
{
"epoch": 1.85,
"learning_rate": 1.9200000000000003e-05,
"loss": 1.1098,
"step": 115500
},
{
"epoch": 1.86,
"learning_rate": 1.9066666666666668e-05,
"loss": 1.1324,
"step": 116000
},
{
"epoch": 1.86,
"learning_rate": 1.8933333333333334e-05,
"loss": 1.1042,
"step": 116500
},
{
"epoch": 1.87,
"learning_rate": 1.88e-05,
"loss": 1.1097,
"step": 117000
},
{
"epoch": 1.88,
"learning_rate": 1.866666666666667e-05,
"loss": 1.1025,
"step": 117500
},
{
"epoch": 1.89,
"learning_rate": 1.8533333333333334e-05,
"loss": 1.1112,
"step": 118000
},
{
"epoch": 1.9,
"learning_rate": 1.84e-05,
"loss": 1.1107,
"step": 118500
},
{
"epoch": 1.9,
"learning_rate": 1.826666666666667e-05,
"loss": 1.0731,
"step": 119000
},
{
"epoch": 1.91,
"learning_rate": 1.8133333333333335e-05,
"loss": 1.0767,
"step": 119500
},
{
"epoch": 1.92,
"learning_rate": 1.8e-05,
"loss": 1.0996,
"step": 120000
},
{
"epoch": 1.93,
"learning_rate": 1.7866666666666666e-05,
"loss": 1.1129,
"step": 120500
},
{
"epoch": 1.94,
"learning_rate": 1.7733333333333335e-05,
"loss": 1.0946,
"step": 121000
},
{
"epoch": 1.94,
"learning_rate": 1.76e-05,
"loss": 1.0974,
"step": 121500
},
{
"epoch": 1.95,
"learning_rate": 1.7466666666666667e-05,
"loss": 1.0858,
"step": 122000
},
{
"epoch": 1.96,
"learning_rate": 1.7333333333333336e-05,
"loss": 1.0676,
"step": 122500
},
{
"epoch": 1.97,
"learning_rate": 1.7199999999999998e-05,
"loss": 1.0763,
"step": 123000
},
{
"epoch": 1.98,
"learning_rate": 1.7066666666666667e-05,
"loss": 1.0769,
"step": 123500
},
{
"epoch": 1.98,
"learning_rate": 1.6933333333333333e-05,
"loss": 1.0827,
"step": 124000
},
{
"epoch": 1.99,
"learning_rate": 1.6800000000000002e-05,
"loss": 1.0659,
"step": 124500
},
{
"epoch": 2.0,
"learning_rate": 1.6666666666666667e-05,
"loss": 1.0737,
"step": 125000
},
{
"epoch": 2.0,
"eval_loss": 0.8098227977752686,
"eval_runtime": 890.2773,
"eval_samples_per_second": 112.325,
"eval_steps_per_second": 3.51,
"step": 125000
},
{
"epoch": 2.01,
"learning_rate": 1.6533333333333333e-05,
"loss": 0.8639,
"step": 125500
},
{
"epoch": 2.02,
"learning_rate": 1.6400000000000002e-05,
"loss": 0.8837,
"step": 126000
},
{
"epoch": 2.02,
"learning_rate": 1.6266666666666665e-05,
"loss": 0.8471,
"step": 126500
},
{
"epoch": 2.03,
"learning_rate": 1.6133333333333334e-05,
"loss": 0.8584,
"step": 127000
},
{
"epoch": 2.04,
"learning_rate": 1.6000000000000003e-05,
"loss": 0.8461,
"step": 127500
},
{
"epoch": 2.05,
"learning_rate": 1.586666666666667e-05,
"loss": 0.8605,
"step": 128000
},
{
"epoch": 2.06,
"learning_rate": 1.5733333333333334e-05,
"loss": 0.8597,
"step": 128500
},
{
"epoch": 2.06,
"learning_rate": 1.56e-05,
"loss": 0.8474,
"step": 129000
},
{
"epoch": 2.07,
"learning_rate": 1.546666666666667e-05,
"loss": 0.8233,
"step": 129500
},
{
"epoch": 2.08,
"learning_rate": 1.5333333333333334e-05,
"loss": 0.846,
"step": 130000
},
{
"epoch": 2.09,
"learning_rate": 1.52e-05,
"loss": 0.8498,
"step": 130500
},
{
"epoch": 2.1,
"learning_rate": 1.5066666666666668e-05,
"loss": 0.8563,
"step": 131000
},
{
"epoch": 2.1,
"learning_rate": 1.4933333333333335e-05,
"loss": 0.8456,
"step": 131500
},
{
"epoch": 2.11,
"learning_rate": 1.48e-05,
"loss": 0.8514,
"step": 132000
},
{
"epoch": 2.12,
"learning_rate": 1.4666666666666668e-05,
"loss": 0.8475,
"step": 132500
},
{
"epoch": 2.13,
"learning_rate": 1.4533333333333335e-05,
"loss": 0.8354,
"step": 133000
},
{
"epoch": 2.14,
"learning_rate": 1.44e-05,
"loss": 0.8365,
"step": 133500
},
{
"epoch": 2.14,
"learning_rate": 1.4266666666666667e-05,
"loss": 0.8326,
"step": 134000
},
{
"epoch": 2.15,
"learning_rate": 1.4133333333333334e-05,
"loss": 0.8407,
"step": 134500
},
{
"epoch": 2.16,
"learning_rate": 1.4000000000000001e-05,
"loss": 0.8428,
"step": 135000
},
{
"epoch": 2.17,
"learning_rate": 1.3866666666666667e-05,
"loss": 0.8606,
"step": 135500
},
{
"epoch": 2.18,
"learning_rate": 1.3733333333333335e-05,
"loss": 0.8346,
"step": 136000
},
{
"epoch": 2.18,
"learning_rate": 1.3600000000000002e-05,
"loss": 0.8428,
"step": 136500
},
{
"epoch": 2.19,
"learning_rate": 1.3466666666666666e-05,
"loss": 0.836,
"step": 137000
},
{
"epoch": 2.2,
"learning_rate": 1.3333333333333333e-05,
"loss": 0.8548,
"step": 137500
},
{
"epoch": 2.21,
"learning_rate": 1.32e-05,
"loss": 0.8321,
"step": 138000
},
{
"epoch": 2.22,
"learning_rate": 1.3066666666666666e-05,
"loss": 0.8262,
"step": 138500
},
{
"epoch": 2.22,
"learning_rate": 1.2933333333333334e-05,
"loss": 0.8389,
"step": 139000
},
{
"epoch": 2.23,
"learning_rate": 1.2800000000000001e-05,
"loss": 0.8255,
"step": 139500
},
{
"epoch": 2.24,
"learning_rate": 1.2666666666666668e-05,
"loss": 0.8255,
"step": 140000
},
{
"epoch": 2.25,
"learning_rate": 1.2533333333333332e-05,
"loss": 0.8231,
"step": 140500
},
{
"epoch": 2.26,
"learning_rate": 1.24e-05,
"loss": 0.8183,
"step": 141000
},
{
"epoch": 2.26,
"learning_rate": 1.2266666666666667e-05,
"loss": 0.8222,
"step": 141500
},
{
"epoch": 2.27,
"learning_rate": 1.2133333333333335e-05,
"loss": 0.8325,
"step": 142000
},
{
"epoch": 2.28,
"learning_rate": 1.2e-05,
"loss": 0.8201,
"step": 142500
},
{
"epoch": 2.29,
"learning_rate": 1.1866666666666668e-05,
"loss": 0.8267,
"step": 143000
},
{
"epoch": 2.3,
"learning_rate": 1.1733333333333333e-05,
"loss": 0.8279,
"step": 143500
},
{
"epoch": 2.3,
"learning_rate": 1.16e-05,
"loss": 0.8242,
"step": 144000
},
{
"epoch": 2.31,
"learning_rate": 1.1466666666666666e-05,
"loss": 0.7966,
"step": 144500
},
{
"epoch": 2.32,
"learning_rate": 1.1333333333333334e-05,
"loss": 0.8081,
"step": 145000
},
{
"epoch": 2.33,
"learning_rate": 1.1200000000000001e-05,
"loss": 0.8021,
"step": 145500
},
{
"epoch": 2.34,
"learning_rate": 1.1066666666666667e-05,
"loss": 0.8162,
"step": 146000
},
{
"epoch": 2.34,
"learning_rate": 1.0933333333333334e-05,
"loss": 0.8054,
"step": 146500
},
{
"epoch": 2.35,
"learning_rate": 1.08e-05,
"loss": 0.8297,
"step": 147000
},
{
"epoch": 2.36,
"learning_rate": 1.0666666666666667e-05,
"loss": 0.8143,
"step": 147500
},
{
"epoch": 2.37,
"learning_rate": 1.0533333333333335e-05,
"loss": 0.8141,
"step": 148000
},
{
"epoch": 2.38,
"learning_rate": 1.04e-05,
"loss": 0.7846,
"step": 148500
},
{
"epoch": 2.38,
"learning_rate": 1.0266666666666668e-05,
"loss": 0.8044,
"step": 149000
},
{
"epoch": 2.39,
"learning_rate": 1.0133333333333333e-05,
"loss": 0.7976,
"step": 149500
},
{
"epoch": 2.4,
"learning_rate": 1e-05,
"loss": 0.7943,
"step": 150000
},
{
"epoch": 2.41,
"learning_rate": 9.866666666666667e-06,
"loss": 0.8103,
"step": 150500
},
{
"epoch": 2.42,
"learning_rate": 9.733333333333334e-06,
"loss": 0.822,
"step": 151000
},
{
"epoch": 2.42,
"learning_rate": 9.600000000000001e-06,
"loss": 0.7821,
"step": 151500
},
{
"epoch": 2.43,
"learning_rate": 9.466666666666667e-06,
"loss": 0.8197,
"step": 152000
},
{
"epoch": 2.44,
"learning_rate": 9.333333333333334e-06,
"loss": 0.7938,
"step": 152500
},
{
"epoch": 2.45,
"learning_rate": 9.2e-06,
"loss": 0.7994,
"step": 153000
},
{
"epoch": 2.46,
"learning_rate": 9.066666666666667e-06,
"loss": 0.7926,
"step": 153500
},
{
"epoch": 2.46,
"learning_rate": 8.933333333333333e-06,
"loss": 0.7895,
"step": 154000
},
{
"epoch": 2.47,
"learning_rate": 8.8e-06,
"loss": 0.8002,
"step": 154500
},
{
"epoch": 2.48,
"learning_rate": 8.666666666666668e-06,
"loss": 0.7915,
"step": 155000
},
{
"epoch": 2.49,
"learning_rate": 8.533333333333334e-06,
"loss": 0.7886,
"step": 155500
},
{
"epoch": 2.5,
"learning_rate": 8.400000000000001e-06,
"loss": 0.7787,
"step": 156000
},
{
"epoch": 2.5,
"learning_rate": 8.266666666666667e-06,
"loss": 0.7753,
"step": 156500
},
{
"epoch": 2.51,
"learning_rate": 8.133333333333332e-06,
"loss": 0.7841,
"step": 157000
},
{
"epoch": 2.52,
"learning_rate": 8.000000000000001e-06,
"loss": 0.7775,
"step": 157500
},
{
"epoch": 2.53,
"learning_rate": 7.866666666666667e-06,
"loss": 0.7801,
"step": 158000
},
{
"epoch": 2.54,
"learning_rate": 7.733333333333334e-06,
"loss": 0.7842,
"step": 158500
},
{
"epoch": 2.54,
"learning_rate": 7.6e-06,
"loss": 0.7587,
"step": 159000
},
{
"epoch": 2.55,
"learning_rate": 7.4666666666666675e-06,
"loss": 0.7619,
"step": 159500
},
{
"epoch": 2.56,
"learning_rate": 7.333333333333334e-06,
"loss": 0.7736,
"step": 160000
},
{
"epoch": 2.57,
"learning_rate": 7.2e-06,
"loss": 0.7517,
"step": 160500
},
{
"epoch": 2.58,
"learning_rate": 7.066666666666667e-06,
"loss": 0.7683,
"step": 161000
},
{
"epoch": 2.58,
"learning_rate": 6.933333333333334e-06,
"loss": 0.7683,
"step": 161500
},
{
"epoch": 2.59,
"learning_rate": 6.800000000000001e-06,
"loss": 0.7736,
"step": 162000
},
{
"epoch": 2.6,
"learning_rate": 6.666666666666667e-06,
"loss": 0.7708,
"step": 162500
},
{
"epoch": 2.61,
"learning_rate": 6.533333333333333e-06,
"loss": 0.7654,
"step": 163000
},
{
"epoch": 2.62,
"learning_rate": 6.4000000000000006e-06,
"loss": 0.7847,
"step": 163500
},
{
"epoch": 2.62,
"learning_rate": 6.266666666666666e-06,
"loss": 0.75,
"step": 164000
},
{
"epoch": 2.63,
"learning_rate": 6.133333333333334e-06,
"loss": 0.7489,
"step": 164500
},
{
"epoch": 2.64,
"learning_rate": 6e-06,
"loss": 0.7287,
"step": 165000
},
{
"epoch": 2.65,
"learning_rate": 5.866666666666667e-06,
"loss": 0.7467,
"step": 165500
},
{
"epoch": 2.66,
"learning_rate": 5.733333333333333e-06,
"loss": 0.7362,
"step": 166000
},
{
"epoch": 2.66,
"learning_rate": 5.600000000000001e-06,
"loss": 0.742,
"step": 166500
},
{
"epoch": 2.67,
"learning_rate": 5.466666666666667e-06,
"loss": 0.7519,
"step": 167000
},
{
"epoch": 2.68,
"learning_rate": 5.333333333333334e-06,
"loss": 0.7489,
"step": 167500
},
{
"epoch": 2.69,
"learning_rate": 5.2e-06,
"loss": 0.7334,
"step": 168000
},
{
"epoch": 2.7,
"learning_rate": 5.066666666666667e-06,
"loss": 0.7485,
"step": 168500
},
{
"epoch": 2.7,
"learning_rate": 4.933333333333333e-06,
"loss": 0.7306,
"step": 169000
},
{
"epoch": 2.71,
"learning_rate": 4.800000000000001e-06,
"loss": 0.7422,
"step": 169500
},
{
"epoch": 2.72,
"learning_rate": 4.666666666666667e-06,
"loss": 0.7316,
"step": 170000
},
{
"epoch": 2.73,
"learning_rate": 4.533333333333334e-06,
"loss": 0.7474,
"step": 170500
},
{
"epoch": 2.74,
"learning_rate": 4.4e-06,
"loss": 0.7413,
"step": 171000
},
{
"epoch": 2.74,
"learning_rate": 4.266666666666667e-06,
"loss": 0.734,
"step": 171500
},
{
"epoch": 2.75,
"learning_rate": 4.133333333333333e-06,
"loss": 0.7349,
"step": 172000
},
{
"epoch": 2.76,
"learning_rate": 4.000000000000001e-06,
"loss": 0.7394,
"step": 172500
},
{
"epoch": 2.77,
"learning_rate": 3.866666666666667e-06,
"loss": 0.7288,
"step": 173000
},
{
"epoch": 2.78,
"learning_rate": 3.7333333333333337e-06,
"loss": 0.7328,
"step": 173500
},
{
"epoch": 2.78,
"learning_rate": 3.6e-06,
"loss": 0.7211,
"step": 174000
},
{
"epoch": 2.79,
"learning_rate": 3.466666666666667e-06,
"loss": 0.7434,
"step": 174500
},
{
"epoch": 2.8,
"learning_rate": 3.3333333333333333e-06,
"loss": 0.7189,
"step": 175000
},
{
"epoch": 2.81,
"learning_rate": 3.2000000000000003e-06,
"loss": 0.7324,
"step": 175500
},
{
"epoch": 2.82,
"learning_rate": 3.066666666666667e-06,
"loss": 0.7211,
"step": 176000
},
{
"epoch": 2.82,
"learning_rate": 2.9333333333333333e-06,
"loss": 0.7234,
"step": 176500
},
{
"epoch": 2.83,
"learning_rate": 2.8000000000000003e-06,
"loss": 0.7092,
"step": 177000
},
{
"epoch": 2.84,
"learning_rate": 2.666666666666667e-06,
"loss": 0.7288,
"step": 177500
},
{
"epoch": 2.85,
"learning_rate": 2.5333333333333334e-06,
"loss": 0.7188,
"step": 178000
},
{
"epoch": 2.86,
"learning_rate": 2.4000000000000003e-06,
"loss": 0.7154,
"step": 178500
},
{
"epoch": 2.86,
"learning_rate": 2.266666666666667e-06,
"loss": 0.7232,
"step": 179000
},
{
"epoch": 2.87,
"learning_rate": 2.1333333333333334e-06,
"loss": 0.7129,
"step": 179500
},
{
"epoch": 2.88,
"learning_rate": 2.0000000000000003e-06,
"loss": 0.7178,
"step": 180000
},
{
"epoch": 2.89,
"learning_rate": 1.8666666666666669e-06,
"loss": 0.7122,
"step": 180500
},
{
"epoch": 2.9,
"learning_rate": 1.7333333333333334e-06,
"loss": 0.7156,
"step": 181000
},
{
"epoch": 2.9,
"learning_rate": 1.6000000000000001e-06,
"loss": 0.7076,
"step": 181500
},
{
"epoch": 2.91,
"learning_rate": 1.4666666666666667e-06,
"loss": 0.6988,
"step": 182000
},
{
"epoch": 2.92,
"learning_rate": 1.3333333333333334e-06,
"loss": 0.7056,
"step": 182500
},
{
"epoch": 2.93,
"learning_rate": 1.2000000000000002e-06,
"loss": 0.7065,
"step": 183000
},
{
"epoch": 2.94,
"learning_rate": 1.0666666666666667e-06,
"loss": 0.7001,
"step": 183500
},
{
"epoch": 2.94,
"learning_rate": 9.333333333333334e-07,
"loss": 0.7254,
"step": 184000
},
{
"epoch": 2.95,
"learning_rate": 8.000000000000001e-07,
"loss": 0.7216,
"step": 184500
},
{
"epoch": 2.96,
"learning_rate": 6.666666666666667e-07,
"loss": 0.7118,
"step": 185000
},
{
"epoch": 2.97,
"learning_rate": 5.333333333333333e-07,
"loss": 0.7021,
"step": 185500
},
{
"epoch": 2.98,
"learning_rate": 4.0000000000000003e-07,
"loss": 0.7026,
"step": 186000
},
{
"epoch": 2.98,
"learning_rate": 2.6666666666666667e-07,
"loss": 0.7237,
"step": 186500
},
{
"epoch": 2.99,
"learning_rate": 1.3333333333333334e-07,
"loss": 0.7169,
"step": 187000
},
{
"epoch": 3.0,
"learning_rate": 0.0,
"loss": 0.6867,
"step": 187500
},
{
"epoch": 3.0,
"eval_loss": 0.5686945915222168,
"eval_runtime": 946.884,
"eval_samples_per_second": 105.61,
"eval_steps_per_second": 3.3,
"step": 187500
},
{
"epoch": 3.0,
"step": 187500,
"total_flos": 6.02416144591253e+17,
"train_loss": 1.2589716235351562,
"train_runtime": 110828.8341,
"train_samples_per_second": 54.137,
"train_steps_per_second": 1.692
}
],
"max_steps": 187500,
"num_train_epochs": 3,
"total_flos": 6.02416144591253e+17,
"trial_name": null,
"trial_params": null
}