1. CLIP 的训练范式？对比学习、双塔结构、文本-图像对齐CLIP（Contrastive Language-Image Pre-training）是 OpenAI 提出的多模态预训练模型，其核心训练范式如下：1.1 对比学习（Contrastive Learning）CLIP 采用对比学习目标，核心思想是拉近匹配的文本-图像对在特征空间中的距离，推远不匹配的对。具体来说：给定一个 batch 的 N 个图像-文本对，模型需要从 N×N 个可能的组合中找出 N 个正样本对。损失函数为对称的交叉熵损失（InfoNCE），分别计算 image-to-text 和 text-to-image 两个方向的对比损失。# 伪代码：CLIP 对比损失 def clip_loss(image_features, text_features, temperature=0.07): # image_features: [N, D], text_features: [N, D] logits = image_features @ text_features.T / temperature # [N, N] labels = torch.arange(N) # 对角线为正样本 loss_i = F.cross_entropy(logits, labels) # image-to-text loss_t = F.cross_entropy(logits.T, labels) # text-to-image return (lo