- lm_head
- model.layers.0.mlp.fc1
- model.layers.0.mlp.fc2
- model.layers.0.self_attn.dense
- model.layers.0.self_attn.k_proj
- model.layers.0.self_attn.q_proj
- model.layers.0.self_attn.v_proj
- model.layers.1.mlp.fc1
- model.layers.1.mlp.fc2
- model.layers.1.self_attn.dense
- model.layers.1.self_attn.k_proj
- model.layers.1.self_attn.q_proj
- model.layers.1.self_attn.v_proj
- model.layers.10.mlp.fc1
- model.layers.10.mlp.fc2
- model.layers.10.self_attn.dense
- model.layers.10.self_attn.k_proj
- model.layers.10.self_attn.q_proj
- model.layers.10.self_attn.v_proj
- model.layers.11.mlp.fc1
- model.layers.11.mlp.fc2
- model.layers.11.self_attn.dense
- model.layers.11.self_attn.k_proj
- model.layers.11.self_attn.q_proj
- model.layers.11.self_attn.v_proj
- model.layers.12.mlp.fc1
- model.layers.12.mlp.fc2
- model.layers.12.self_attn.dense
- model.layers.12.self_attn.k_proj
- model.layers.12.self_attn.q_proj
- model.layers.12.self_attn.v_proj
- model.layers.13.mlp.fc1
- model.layers.13.mlp.fc2
- model.layers.13.self_attn.dense
- model.layers.13.self_attn.k_proj
- model.layers.13.self_attn.q_proj
- model.layers.13.self_attn.v_proj
- model.layers.14.mlp.fc1
- model.layers.14.mlp.fc2
- model.layers.14.self_attn.dense
- model.layers.14.self_attn.k_proj
- model.layers.14.self_attn.q_proj
- model.layers.14.self_attn.v_proj
- model.layers.15.mlp.fc1
- model.layers.15.mlp.fc2
- model.layers.15.self_attn.dense
- model.layers.15.self_attn.k_proj
- model.layers.15.self_attn.q_proj
- model.layers.15.self_attn.v_proj
- model.layers.16.mlp.fc1