{ "best_metric": null, "best_model_checkpoint": null, "epoch": 0.1, "eval_steps": 500, "global_step": 1500, "is_hyper_param_search": false, "is_local_process_zero": true, "is_world_process_zero": true, "log_history": [ { "epoch": 0.006666666666666667, "grad_norm": 0.29276716709136963, "learning_rate": 1.9956444444444447e-05, "loss": 0.3846, "step": 100 }, { "epoch": 0.013333333333333334, "grad_norm": 0.18107488751411438, "learning_rate": 1.9912000000000002e-05, "loss": 0.1086, "step": 200 }, { "epoch": 0.02, "grad_norm": 0.7404983043670654, "learning_rate": 1.9867555555555557e-05, "loss": 0.1091, "step": 300 }, { "epoch": 0.02666666666666667, "grad_norm": 0.6314632296562195, "learning_rate": 1.9823111111111112e-05, "loss": 0.0863, "step": 400 }, { "epoch": 0.03333333333333333, "grad_norm": 0.29823988676071167, "learning_rate": 1.9778666666666667e-05, "loss": 0.0887, "step": 500 }, { "epoch": 0.04, "grad_norm": 0.30884480476379395, "learning_rate": 1.9734222222222223e-05, "loss": 0.0926, "step": 600 }, { "epoch": 0.04666666666666667, "grad_norm": 0.14888174831867218, "learning_rate": 1.9689777777777778e-05, "loss": 0.0859, "step": 700 }, { "epoch": 0.05333333333333334, "grad_norm": 0.23004640638828278, "learning_rate": 1.9645333333333333e-05, "loss": 0.0851, "step": 800 }, { "epoch": 0.06, "grad_norm": 0.38090068101882935, "learning_rate": 1.9600888888888892e-05, "loss": 0.0824, "step": 900 }, { "epoch": 0.06666666666666667, "grad_norm": 0.12699204683303833, "learning_rate": 1.9556444444444447e-05, "loss": 0.0851, "step": 1000 }, { "epoch": 0.07333333333333333, "grad_norm": 0.3818432092666626, "learning_rate": 1.9512000000000002e-05, "loss": 0.0816, "step": 1100 }, { "epoch": 0.08, "grad_norm": 0.24892888963222504, "learning_rate": 1.9467555555555557e-05, "loss": 0.0812, "step": 1200 }, { "epoch": 0.08666666666666667, "grad_norm": 0.2256750911474228, "learning_rate": 1.9423111111111113e-05, "loss": 0.0772, "step": 1300 }, { "epoch": 0.09333333333333334, "grad_norm": 0.1860508769750595, "learning_rate": 1.9378666666666668e-05, "loss": 0.0781, "step": 1400 }, { "epoch": 0.1, "grad_norm": 0.3207520544528961, "learning_rate": 1.9334222222222223e-05, "loss": 0.0761, "step": 1500 } ], "logging_steps": 100, "max_steps": 45000, "num_input_tokens_seen": 0, "num_train_epochs": 3, "save_steps": 500, "stateful_callbacks": { "TrainerControl": { "args": { "should_epoch_stop": false, "should_evaluate": false, "should_log": false, "should_save": true, "should_training_stop": false }, "attributes": {} } }, "total_flos": 3653747343360000.0, "train_batch_size": 4, "trial_name": null, "trial_params": null }