人工智能深度学习NLP计算机视觉强化学习【免费下载链接】google-researchGoogle Research项目地址https://gitcode.com/gh_mirrors/go/google-research点击查看免费下载导读本文围绕 google-research 仓库中drops目录提供的实验代码系统讲解 DROPSDistribution RObust PoSthoc方法在类不平衡长尾分布图像分类任务上的完整使用方案。你将掌握两步变体先以 CE 损失训练基线再对保存的 logits 做分布鲁棒后处理与一步变体端到端训练两条训练路径的全部命令行参数并从源码层面理解类级权重g_y、alpha_y的更新机制、KL 散度约束下的最坏情况精度优化原理以及配套的多种长尾损失函数族。一、DROPS 是什么将分布鲁棒优化引入类不平衡学习真实场景中的数据往往呈现长尾分布long-tailed distribution少数头类拥有大量样本而大量尾类样本稀少。直接用交叉熵CE损失训练的模型会严重偏向头类导致尾类分类精度大幅下降。围绕这一经典问题drops目录提供了 DROPS 项目的实验代码核心思路是借助**分布鲁棒优化Distributionally Robust Optimization, DRO**来重新权衡类别权重从而提升长尾场景下的整体与最坏类别表现。从代码注释drops/main_lt.py可以看到该目录定位为Long-tail experiments即长尾实验的实现其方法名DROPS Distribution RObust PoSthoc含义为带 DRO 约束权重的 posthoc 后处理训练阶段先用普通 CE 损失得到基线模型随后在已保存的模型预测 logits上通过求解带散度约束的最优化问题搜索一组最坏情况的类别权重g_y并据此对 logits 做偏移posthoc adjustment使得模型对任何位于约束半径eps内的类别分布扰动都具有鲁棒性。该方法以两种变体形式提供二者的区别在于 DRO 权重搜索发生在何时变体训练流程对应命令两步变体Two-stepStep 1 用 CE 损失训练基线模型并保存 logitsStep 2 在保存的 logits 上离线执行 DROPS 后处理main_ltdrops_test_time一步变体One-step训练过程中直接用 DROPS 损失交替更新模型与类权重main_lt --loss drops二、运行环境与依赖安装drops目录的代码基于 TensorFlow 2含 TensorFlow Datasets 与 Addons并依赖cvxpy求解 DRO 约束优化问题。官方提供的环境初始化脚本 drops/run.sh 给出了完整流程set -e set -x virtualenv -p python3 . source ./bin/activate pip install tensorflow pip install -r drops/requirements.txt python -m drops.main_lt --dataset cifar10 --loss ce --imb_ratio 0.1 --dro_div kl --num_iters 3 --eval_freq 3其中 drops/requirements.txt 声明的依赖版本约束为numpy1.16.0 tensorflow2.4.0 tensorflow_datasets tensorflow_addons edward2 cvxpytensorflow_addons用于模型中的 Group Normalization 层见 drops/preact_resnet_models.pyedward2被preact_resnet_models.py导入用于概率层扩展cvxpy在训练与测试时评估 DRO 精度时求解凸优化问题见 drops/main_lt.py。run.sh中给出的验证命令特意使用了很小的num_iters 3与eval_freq 3方便快速跑通流程实际实验请按 drops/README.md 的默认配置5 万迭代执行。三、两步变体实战先训 CE 基线再做分布鲁棒后处理两步变体是 README 首先介绍的训练方式其设计动机是DROPS 的核心计算只需要模型预测的 logits无需重新训练模型因此可以完全解耦训练与后处理两个阶段。3.1 Step 1训练 CE 损失基线模型python -m drops.main_lt --dataset cifar10 --loss ce --imb_ratio 0.1 --dro_div kl该命令会在合成长尾 CIFAR-10 数据集上以 CE 损失训练基线模型。main_lt.py内部做了以下几件事构造长尾数据集通过get_cls_numdrops/main_lt.py按指数衰减规则为每个类分配样本数——img_num_per_cls img_max * (imb_factor ** (cls_idx / (cls_num - 1)))其中imb_ratio即img_min / img_max。随后get_cls_idxdrops/main_lt.py按每类配额从原始数据中随机抽取索引形成不平衡训练子集。划分数据集get_datasetdrops/main_lt.py使用train[:90%]作为训练集、train[90%:]作为验证集、test作为测试集并施加 CIFAR 标准预处理32×32 随机裁剪、随机水平翻转、按通道均值/方差归一化。构建模型调用resnet_models.create_resnet18(input_shape(32, 32, 3), num_classesFLAGS.num_classes, normbatch)drops/main_lt.py创建 ResNet-18 预激活网络该网络的 BatchNorm decay 为 0.9、L2 weight decay 为 1e-4drops/preact_resnet_models.py。训练使用 Nesterov SGDmomentum 0.9配合分段常数学习率计划——在 30 / 80 / 110 epoch 处分别衰减至 0.01 / 0.001 / 0.0001drops/main_lt.py。训练过程中模型会按验证集上的三类指标分别保存最优 checkpoint 及对应 logitsdrops/main_lt.py平均精度最优 →mean_best.h5与val/test_mean_best_{logits,labels}.txt最坏类精度最优 →worst_best.h5与val/test_worst_best_{logits,labels}.txtDRO 精度最优 →dro_best.h5与val/test_dro_best_{logits,labels}.txt保存 logits 的功能由save_logitsdrops/main_lt.py完成它会将全部验证/测试样本的 logits 与标签以文本格式写入model/子目录这正是 Step 2 后处理的输入。3.2 Step 2在保存的 logits 上执行 DROPS 后处理python -m drops.drops_test_time --dataset cifar10 --loss drops --imb_ratio 0.1 --eta_lambda 10 --num_iters 25 --eta_lambda_mult 0.95 --prior_type train --cal_type none --eps 0.9drops_test_time.py是纯测试时test-time后处理入口其 docstring 明确说明Train and evaluate models of long-tail experiments with DROPS only at test timedrops/drops_test_time.py。执行流程如下根据model_dir、dataset、imb_ratio、run_id自动拼出基线模型目录并固定加载_loss_ce_{run_id}的 CE 模型drops/drops_test_time.py即它只对 CE 训练的基线做后处理通过get_pre_traindrops/drops_test_time.py读取val_{req}_best_logits.txt与test_{req}_best_logits.txtreq由--req指定默认dro可选mean/dro/worst即用哪种指标选出的基线模型以验证集 logits 为优化数据迭代更新类权重g_y、拉格朗日乘子lambd与后处理偏移alpha_y用更新后的权重对测试 logits 施加偏移并评估平均精度、最坏类精度与 DRO 精度。3.3 参数详解main_lt.py与drops_test_time.py均使用absl.flags解析命令行参数。main_lt.py的完整参数如下默认值取自源码定义drops/main_lt.py参数默认值说明--model_dir./模型与日志存储目录实际会追加{dataset}_{imb_ratio}/_loss_{loss}_{run_id}/子路径--lr0.1初始学习率--num_iters50000训练迭代次数--eval_freq1000评估频率--batch_size128批大小--train_on_fullFalse是否在完整训练集而非长尾子集上训练--run_id0实验编号用于区分同配置多次运行--datasetcifar10数据集支持cifar10/cifar100--num_classes10类别数cifar100 时需改为 100--imb_ratio0.1不平衡因子n_min / n_max--lossdrops损失类型ce/focal/bsm/cb/cb_focal/ldam/logit_adj/posthoc/posthoc_ce/drops--alpha1.0focal 损失的 alpha 参数--gamma0.5focal / LDAM(C) 的 gamma 参数--beta0.9999class-balanced 损失的 beta 参数--s1LDAM 中 logits 的缩放参数--re_weight_typeprior类别重加权方式none/prior/sqrt--warmup0热身迭代数期间使用 CE 损失--is_upsamplingFalse是否对尾类做上采样平衡--dro_divklDRO 度量使用的散度kl/l2/l1也支持reverse-kl--eps0.9DRO 度量的扰动半径散度约束上界 delta--metric_baseuniformDRO 度量的类权重基准prior/recip_prior/uniform--eta_g0.01EG指数梯度更新g_y的步长--eta_lambda0.01EG 更新lambd的步长--n_it_update1g、lambda的更新频率每多少步更新一次--tau1.0logit adjustment 项的温度常数--weight_typece计算类损失时使用的权重方式0_10-1 损失或ce交叉熵--g_typenot-eg是否使用 EG指数梯度风格更新g_yeg或简化式not-egdrops_test_time.py的参数在main_lt.py基础上增加了三个后处理专属选项drops/drops_test_time.py参数默认值说明--prior_typetrain类别先验来源train用训练集指数分布先验或val--cal_typenone校准方式temp温度/scale缩放/shift偏移/shift_scale/none--eta_lambda_mult1.0每轮迭代对eta_lambda的衰减因子README 示例取0.95即逐步缩小拉格朗日乘子步长--reqdro选择基线模型的标准mean/dro/worstdrops_test_time.py中eps的默认值为0.2、num_iters默认25、eta_lambda默认0.1README 示例将其调整为eps 0.9、num_iters 25、eta_lambda 10并配合eta_lambda_mult 0.95属于 DRO 约束半径较大的典型配置。四、一步变体实战端到端训练 DROPS一步变体将 DRO 权重更新融入训练循环无需事后处理python -m drops.main_lt --dataset cifar10 --loss drops --imb_ratio 0.1 --dro_div kl与 CE 训练的唯一区别是--loss drops。在训练过程中main_lt.py每n_it_update默认 1步就会调用updateg在验证集上更新g_y、lambd与alpha_y随后用更新后的alpha_y重建 DROPS 损失函数继续训练drops/main_lt.py。因此一步变体的训练开销高于两步变体——DRO 权重搜索发生在每一次参数更新之间而不是只做一次。五、源码级原理DROPS 的优化机制5.1 类权重g_y、alpha_y的初始化在 drops/main_lt.py 中DROPS 的核心变量按以下规则初始化g_y类权重对应 DRO 中的分布g默认以metric_baseuniform初始化为均匀权重若metric_baseprior则取1/样本数若metric_baserecip_prior则取样本数本身最后归一化为概率分布alpha_y后处理偏移系数初始化为1/样本数再乘以样本总数即alpha_y ∝ 1/π_yr_list约束D(u, g) delta中的基准分布u默认与g_y相同lambd拉格朗日乘子初始化为 1.0。5.2updateg伪代码第 1 步的完整实现updategdrops/main_lt.py实现了 DRO 权重更新的全部 8 个步骤代码注释将其描述为Pesuedo code 1: (Updating g, lambda)计算每类损失L_y对验证集每个 batch先取 softmax 预测再用alpha_y加权得到后偏移预测y_weighted_pred按weight_type分别用 CE 损失或 0-1 损失累计每个类别的平均损失loss_y_list计算散度约束项按dro_div计算D(r_list, g_y)——l2为平方和、l1为绝对值和、kl为Σ g_y·log(g_y/r_y)、reverse-kl为Σ r_y·log(r_y/g_y)构造 LagrangianL Σ g_y·L_y - lambd·(D - delta)更新g_yg_typeeg时按指数梯度EG闭式更新否则用简化式g_y ← r_y·exp(L_y / lambd)后归一化更新lambdlambd ← lambd eta_lambda·cons更新alpha_yalpha_y g_y / π_y乘以样本总数归一。5.3 评估指标DRO 最坏情况精度eval_dro_metricsdrops/main_lt.py通过cvxpy求解一个凸优化问题来度量模型在分布扰动下的最坏情况精度minimize Σ v_y · acc_y subject to v 0, Σ v 1, D(v, u) eps其中v是待求解的最坏情况类权重u是均匀基准分布散度约束D(v, u) eps依据dro_div分别实现为 L2、L1、KL 或 reverse-KL 约束drops/main_lt.py。求解失败时自动回退到 SCS 求解器drops/main_lt.py。最终 DRO 精度为Σ v*·acc_y即在允许的分布扰动范围内最坏可能的加权精度。在kl与reverse-kl模式下训练与测试评估还会遍历一组预定义的eps网格eps_list输出 DRO 精度随扰动半径变化的曲线数据drops/main_lt.py。5.4 测试时后处理的差异drops_test_time.py中的updategdrops/drops_test_time.py在实现上稍有不同它直接操作已加载的 logits 数组而非数据迭代器且拉格朗日乘子更新采用eta_lambda * eta_lambda_mult的逐步衰减策略drops/drops_test_time.py迭代在约束残差|cons| 1e-5时提前终止。这使得它非常适合在单个 GPU 上对预训练 logits 做快速离线优化。六、测试时校准cal_type的作用drops_test_time.py内置了四类 logits 校准工具drops/drops_test_time.py在 DROPS 后处理之前可选执行用于修正基线模型 logits 的温标/偏移/缩放失配cal_type实现函数变换形式tempcalibrate_templogits * temp温度校准shiftcalibrate_shiftslogits - shiftsscalecalibrate_scaleslogits * scalesshift_scalecalibrate_shifts_scaleslogits * scales - shiftsnone—不校准校准参数temp、shifts、scales均在验证集 logits 上通过 100 轮 SGD 最小化 CE 损失学习得到初始学习率 0.1 并以多项式衰减至 0.01如calibrate_tempdrops/drops_test_time.py。README 的示例默认使用--cal_type none即直接对原始 logits 做 DROPS 后处理。七、损失函数族losses_lt.py的完整支持清单MakeLossFuncdrops/losses_lt.py是损失工厂函数根据--loss参数返回对应的长尾损失实例覆盖了长尾分类领域的主要方法loss 名称实现类/函数关键超参ceCELoss—up_ceCELoss配合上采样--is_upsamplingldamLDAMLoss--gamma、--sfocalFocalLoss--gammacbCBLoss--betacb_focalCBFocal--beta、--gammabsmBalancedSoftmax—logit_adjLogitAdjust--tauposthocLogitAdjust仅评估时偏移--tauposthoc_ceCELoss 评估时 posthoc 偏移--taudropsCELoss DRO 约束类权重偏移--eps、--dro_div等其中LogitAdjust实现了 logit adjustment 损失logits tau·log(π_y)drops/losses_lt.pyBalancedSoftmax则对 softmax 前指数用类先验加权drops/losses_lt.py。DROPS 的后偏移与 logit adjustment 形式一致但关键在于偏移量alpha_y不再由静态先验决定而是由 DRO 优化动态求解——这正是它与posthoc、logit_adj的本质区别。八、运行结果与日志解读两类入口都会在model_dir下输出文本日志与 TensorBoard 摘要results_log.txtmain_lt.py或results_loss...,delta_train...命名的日志文件drops_test_time.py逐条记录验证/测试损失、平均精度、最坏类精度以及各eps网格点上的 DRO 精度summaries/train与summaries/eval目录供 TensorBoard 可视化drops/main_lt.pydrops_test_time.py的日志末尾还会以机器可读的delta_evals、DRO-Acc、kldiv_cons三段式输出便于直接绘制 DRO 精度–扰动半径曲线drops/drops_test_time.py。九、适用前提与注意事项数据集支持源码只实现了 CIFAR-10 / CIFAR-100 的合成长尾构造get_cls_num中按类别索引指数分配样本数drops_test_time.py的--dataset注释虽提到 imagenet-lt但当前仓库未包含对应数据加载实现实际可用范围为 CIFAR 系列。两步变体的耦合约束drops_test_time.py固定读取 CE 基线的 logits 文件因此必须先以--loss ce完整跑完main_lt并确保model/下存在val/test_{req}_best_{logits,labels}.txt否则后处理会因文件缺失而失败。num_classes需与数据集匹配cifar100 时请将--num_classes 100与--dataset cifar100一并设置否则 logits 的形状解析会出错。实验定位README 明确标注该目录为Experimental code适用于复现与学术研究生产环境部署前需结合自身数据做充分验证。通过本文提供的两条命令路径与参数对照表配合对updateg、eval_dro_metrics等核心函数的源码理解你可以直接在 drops 目录中复现 DROPS 的两步/一步训练流程并进一步修改eps、dro_div、eta_lambda等关键超参探索分布鲁棒优化在长尾分类中的行为特性。赞分享人工智能深度学习NLP计算机视觉强化学习【免费下载链接】google-researchGoogle Research项目地址https://gitcode.com/gh_mirrors/go/google-research点击查看免费下载相关推荐CIW/CICW 标签噪声鲁棒学习实战指南约束实例与类别重加权在 Google Research 开源代码中的应用CIW/CICW 标签噪声鲁棒学习实战指南约束实例与类别重加权在 Google Research 开源代码中的应用 导读 本文围绕 ciw_label_noi人工智能深度学习NLP计算机视觉强化学习多语言支持详解Plus Jakarta Sans如何实现越南语等复杂文字的完美呈现多语言支持详解Plus Jakarta Sans如何实现越南语等复杂文字的完美呈现 Plus Jakarta Sans是一款由Tokotype的Gumpita人工智能深度学习NLP计算机视觉强化学习Google Authenticator深度解析开源双因素认证技术实现Google Authenticator深度解析开源双因素认证技术实现 Google Authenticator作为谷歌开源的动态验证码生成器基于OATH开网络安全应用安全创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考