|
# AlexNet-CIFAR10 训练与特征提取 |
|
|
|
这个项目实现了AlexNet模型在CIFAR10数据集上的训练,并集成了特征提取和可视化所需的功能。 |
|
|
|
## time_travel_saver数据提取器 |
|
```python |
|
#保存可视化训练过程所需要的文件 |
|
if (epoch + 1) % interval == 0 or (epoch == 0): |
|
# 创建一个专门用于收集embedding的顺序dataloader |
|
ordered_trainloader = torch.utils.data.DataLoader( |
|
trainloader.dataset, |
|
batch_size=trainloader.batch_size, |
|
shuffle=False, |
|
num_workers=trainloader.num_workers |
|
) |
|
epoch_save_dir = os.path.join(save_dir, f'epoch_{epoch+1}') #epoch保存路径 |
|
save_model = time_travel_saver(model, ordered_trainloader, device, epoch_save_dir, model_name, |
|
show=True, layer_name='avg_pool', auto_save_embedding=True) |
|
#show:是否显示模型的维度信息 |
|
#layer_name:选择要提取特征的层,如果为None,则提取符合维度范围的层 |
|
#auto_save_embedding:是否自动保存特征向量 must be True |
|
save_model.save_checkpoint_embeddings_predictions() #保存模型权重、特征向量和预测结果到epoch_x |
|
if epoch == 0: |
|
save_model.save_lables_index(path = "../dataset") #保存标签和索引到dataset |
|
``` |
|
|
|
|
|
## 项目结构 |
|
|
|
- `./scripts/train.yaml`:训练配置文件,包含批次大小、学习率、GPU设置等参数 |
|
- `./scripts/train.py`:训练脚本,执行模型训练并自动收集特征数据 |
|
- `./model/`:保存训练好的模型权重 |
|
- `./epochs/`:保存训练过程中的高维特征向量、预测结果等数据 |
|
|
|
## 使用方法 |
|
|
|
1. 配置 `train.yaml` 文件设置训练参数 |
|
2. 执行训练脚本: |
|
``` |
|
python train.py |
|
``` |
|
3. 训练完成后,可以在以下位置找到相关数据: |
|
- 模型权重:`./epochs/epoch_{n}/model.pth` |
|
- 特征向量:`./epochs/epoch_{n}/embeddings.npy` |
|
- 预测结果:`./epochs/epoch_{n}/predictions.npy` |
|
- 标签数据:`./dataset/labels.npy` |
|
- 数据索引:`./dataset/index.json` |
|
|
|
## 数据格式 |
|
|
|
- `embeddings.npy`:形状为 [n_samples, feature_dim] 的特征向量 |
|
- `predictions.npy`:形状为 [n_samples, n_classes] 的预测概率 |
|
- `labels.npy`:形状为 [n_samples] 的真实标签 |
|
- `index.json`:包含训练集、测试集和验证集的索引信息 |