TCR与HLA这两个词放在一起，通常意味着你在做免疫组库分析，而且不是单纯统计V/J基因家族频率那种，是想更进一步——想预测一个T细胞的受体序列到底会不会识别某个HLA分子呈递的抗原。我最近完整跑了一遍这个方向，从数据清洗、特征编码到模型评估，踩了不少坑，今天把整体思路和实操记录整理出来。这篇文章适合正在做TCR-HLA结合预测、肿瘤新抗原筛选，或者想入坑免疫组库与机器学习交叉方向的开发者和生信研究者，核心内容围绕数据、模型、评估三件事展开。1. 项目概述与整体思路拆解1.1 这个项目到底在预测什么TCR（T细胞受体）和HLA（人类白细胞抗原）之间的相互作用，本质上是适应性免疫识别的最底层机制。T细胞通过表面TCR识别由HLA分子呈递的抗原肽段，一旦识别成功，就会启动免疫应答。临床上非常关心的一件事是：给定一个患者的TCR序列库，哪些TCR可能识别某个肿瘤新抗原或病毒抗原表位？反过来，给定一个已知抗原，哪些TCR克隆在患者体内发生了特异性扩增？这个任务在免疫组库分析里通常被称为TCR-HLA结合预测。它的输入是TCR序列（主要是CDR3区）和HLA等位基因类型，加上抗原肽段序列，输出是一个结合概率或者结合强度分数。用个不太严谨但好理解的类比：HLA分子是锁芯，抗原肽是插进锁芯的钥匙坯，TCR则负责识别这把已经插好的钥匙组合。模型要做的事情，是学习“什么样的TCR形状能匹配上什么样的HLA-肽复合物”。我最早接触这个项目时，以为核心难点在模型结构，后来做下来发现真正的瓶颈在数据：阳性样本数量少、来源异质性强、阴性样本几乎不存在官方标准。这些都会在后面详细展开。1.2 为什么选择机器学习的路线传统方法做TCR特异性预测，主要靠位置权重矩阵和motif扫描，思路是找CDR3序列里富集的保守基序，比如某个疾病组里频繁出现的“CASxxxxxYEQYF”模式。这类方法在少数几个明确表位（如某些病毒抗原）上效果尚可，但遇到新抗原、稀有HLA分型、或者交叉反应场景时基本失灵，因为它假设识别规则是线性可加的，而实际上TCR识别是高度非线性、多位点协同的。机器学习尤其是深度学习的优势，在于可以不预设特征组合方式，直接从序列数据中学习高维非线性映射。拿我自己试过的模型来说，同样的数据集，传统PWM方法AUC稳定在0.72左右，一个简单的双塔CNN加上合理的数据划分就能到0.83以上，换成带注意力机制的模型还能再往上走几个点。当然，这个提升的前提是你把负样本构造和防止数据泄漏做好了，否则虚高的分数一点用处没有。1.3 整体流程与方案选型整个项目可以拆成六个环节：数据收集与清洗、标签与负样本构造、特征编码、模型设计、训练评估、结果解释。下面这个表格是我梳理的每环节要点和常见坑位：环节核心任务常见问题数据收集获取TCR-HLA-抗原肽结合数据数据格式不统一、来源混杂清洗质控过滤低质量CDR3序列、规范HLA分型长度异常、氨基酸非法字符负样本构造生成不结合样本对随机配对会导致泄漏和假高AUC特征编码将序列转为数值向量编码方式选择不当丢失生物学信息模型训练学习序列到结合标签的映射类别不平衡、过拟合结果评估评估泛化能力而非记忆能力随机划分导致乐观估计方案选型上，我最后采用的是“双塔编码 + 注意力融合”结构，配合严格按CDR3序列聚类的划分方式。这个方案在性能和数据安全上取得了平衡，后面会展开具体实现细节。2. 生物学基础与数据准备2.1 TCR、HLA、抗原肽三者的关系再捋一遍TCR是异二聚体，大部分情况下由α链和β链组成，识别抗原时起决定性作用的是β链CDR3区域和α链CDR3区域，其中CDR3β又因为多样性最高、直接接触pMHC的中心区域，成为绝大部分预测模型的核心输入。CDR3序列一般长度在10到20个氨基酸之间，由V、D、J基因重排并在接头处随机插入删除碱基生成，理论多样性高达10的15次方以上。HLA分子分两类：I类分子（对应A、B、C位点）呈递8到11个氨基酸的短肽，主要负责CD8阳性T细胞的识别；II类分子（对应DR、DQ、DP位点）呈递13到25个氨基酸的长肽，负责CD4阳性T细胞。做TCR-HLA结合预测时，大部分公开数据集集中在I类分子上，因为肿瘤新抗原、病毒感染研究的靶点绝大多数是CD8 T细胞表位。这里有一个特别容易忽视的点：模型输入不只是TCR和HLA，还有一个肽段。很多初学者误以为任务是“TCR和HLA是否匹配”，其实严格的生物学过程是TCR同时接触HLA的α螺旋和肽段中央的突出残基。也就是说，同样的TCR可能对同一个HLA呈递的不同肽段有不同的结合状态，所以完整的输入三元组应该是TCR、HLA、肽段三者。2.2 数据来源与清洗要点数据可以从公共免疫组库数据库获取，比如一些收集TCR-抗原结合记录的数据库，以及容纳HLA-肽段结合实验数据的免疫表位数据库。这些数据主要来源于四聚体染色分选、抗原刺激扩增、质谱识别等实验手段，不同来源的数据可靠性差异较大，使用前要做加权或者按来源分层处理。清洗流程上，我建议至少过这几道关卡：CDR3序列字符集校验，只保留标准20种氨基酸字符，出现“*”或“X”的剔除或做特殊标记长度过滤，CDR3β长度小于5或大于25的序列通常来自测序错误或异常重排，直接剔除HLA分型统一到四位精度，例如某个位点只写到两位的样本，要么升级要么剔除，混用会导致特征编码错乱肽段长度限制，对I类分子只保留8到11个氨基酸的肽段，超过这个范围的多为II类表位去除重复三元组，同一TCR-HLA-肽段组合出现多次但标签一致的直接去重，标签不一致的要核查原始记录我实测下来，公开数据集里大约有10%到15%的样本会在上述过滤中被移除，这个比例是正常的，不要心疼。过滤后数据质量对模型收敛速度的影响，比增加几千条样本大得多。2.3 标签与负样本构造，这是最大的坑正样本的定义比较清晰：已知会发生结合的TCR-HLA-肽段三元组。负样本就麻烦了，实验上验证“不结合”的阴性数据非常稀缺，公开数据库里几乎没有大规模严格验证的负样本。最常见也最危险的负样本构造方式是随机配对：把正样本里的TCR和HLA-肽段随机打乱组合，默认它们不结合。这样做模型很容易学到两个分支的“风格差异”而非“特异性差异”。举个例子，如果数据里某些HLA等位基因的样本量特别大，模型只需学会区分常见HLA和罕见HLA就能把AUC刷到0.9以上，根本没有学到TCR序列中的识别模式。我在项目中采用的策略是负样本与正样本难度匹配，具体有三种方式：一是保持HLA-肽段组合不变，替换TCR为组库中随机采样的其他CDR3序列，这样模型必须学习TCR序列特征来区分结合与非结合，而不是从HLA类型上找捷径。二是保持TCR不变，替换HLA为其他等位基因，注意选择的替换HLA要尽量与原始HLA属于同一个超型家族，避免模型根据HLA大类快速区分。三是从已知不结合实验数据中直接提取，此类数据量少但极其宝贵，可以作为独立测试集验证模型真实泛化能力。负样本比例我最终定为1比10，比1比5效果更好，再往上提升不明显，反而会压低预测概率的绝对值，影响后续阈值选择。3. 特征工程：把氨基酸序列变成数字3.1 基础编码方式对比序列数据不能直接输入神经网络，必须先转成数值形式。常用的编码方式有以下几种，我实际对比过效果：独热编码最简单，20种氨基酸对应20维向量，位置独立，缺点是完全没有氨基酸之间的相似性信息，模型需要自己从大量数据里学习每种氨基酸的“语义”。对于只有几千条样本的数据集来说，学习成本偏高。BLOSUM62替换矩阵编码是另一种经典方式，将每个氨基酸映射为它对20种氨基酸的替换得分向量。好处是天然包含了生化相似性，比如亮氨酸和异亮氨酸的向量很接近，这在模型眼里就是“两种性质相近的氨基酸”，有助于小样本学习。Atchley因子编码把氨基酸浓缩为5个数值，对应疏水性、极性、体积、静电、芳香性等生化属性，维度低、噪声少，但会丢失部分精细信息。表型预测任务里效果不错，做结合预测时略逊于BLOSUM62。我的最终方案是BLOSUM62矩阵加上位置独热标记，把TCR、HLA、肽段各自的位置信息和替换得分拼接在一起，兼顾了进化保守性和序列位置特异性。3.2 序列长度与对齐策略TCR CDR3长度不一致，模型必须处理变长输入。两种常用处理方式是截断补零和通道拼接。CDR3长度大多集中在10到20之间，峰值在15附近，我选择固定补齐到25位，不足部分补一个专门的“空位”向量，超过部分直接截断。实验表明，超过30位的序列大多是伪基因或异常重排，截断不会损失有效信息。HLA序列的处理方式和TCR完全不同。HLA全长约三百多个氨基酸，直接丢进模型参数太多且大部分位置与抗原结合无关。正确做法是只选取构成抗原结合槽的α1和α2结构域的关键残基位置，一般选30到40个多态性位点，映射到HLA蛋白序列上截取出来。这些位点的多态性决定了不同HLA分子结合肽段的偏好性。肽段序列处理简单很多，长度8到11位，直接用0补齐到固定长度即可。需要留意的是，肽段两端的锚定残基对HLA结合贡献极大，模型应该能够天然感受到这个特征，不需要额外手工标注锚定位点。3.3 从固定编码到embedding和k-mer固定编码之外，我试过两种升级方案：可学习embedding和k-mer频率特征。可学习embedding就是让每个氨基酸对应一个可训练的稠密向量，配合网络一起更新。在数据量超过两万条的时候，效果略好于BLOSUM62，但在小数据集上容易过拟合。k-mer频率特征则是把序列切成固定长度为3到5的短串，统计各自出现频率后作为全局特征加入模型，可以捕捉motif级别的模式，对传统特征编码是有效补充。迁移学习的路子我也尝试过，用预训练的蛋白质语言模型提取TCR和HLA序列的embedding。这种方案对显存和时间的要求比较高，且预训练模型大多是在全长蛋白上训练的，对TCR这种高变异性短序列的关注模式不一定适配，最终收益只比BLOSUM62高不到两个点，却在推理速度上慢几倍。对于数据量不大的项目，我不建议一上来就上这个。4. 模型设计：从基线到注意力融合4.1 基线模型先跑通流程任何项目都建议先搞一个简单的基线模型把全流程验证一遍，再逐步加复杂度。我最初的基线是三层MLP，输入是拼接好的TCR、HLA、肽段三种特征向量，中间两个隐藏层128维和64维，输出层一个神经元加sigmoid。训练100个epoch，用早停法监控验证集损失。基线模型在准确率上有70%左右，AUC约0.72到0.75，这已经能证明数据和训练管线没有问题，后续模型的提升都建立在可靠数据之上。很多同学一上来就上Transformer，结果哪一步出问题都不知道是模型的问题还是数据的问题，这是最忌讳的。4.2 双塔CNN结构基线跑通后，我把单输入MLP换成了双塔结构。所谓双塔，就是TCR序列一个分支，HLA与肽段合并后走另一个分支，两个分支分别提取特征，最后拼接或者做点积得到结合分数。TCR分支是核心，我采用一维卷积加最大池化，卷积核大小设为3和5两种，分别捕捉三连氨基酸和五连氨基酸的短程motif。一个关键技巧是卷积核数量不用太多，64个就够，再多对小数据集没有收益。HLA-肽段分支也用一维卷积，但kernel size要偏大一些，设为7，因为HLA结合槽的多态位点在序列上相距较远，大卷积核能捕捉残基间的协同效应。这个双塔CNN是我整个项目性价比最高的模型，AUC在0.83左右，训练时间也不长，单卡十几分钟就能收敛。如果你的目标场景要求速度和可解释性，这个方案足够了。4.3 注意力机制带来的提升与陷阱在双塔CNN基础上加注意力，是我最后采用的方案。具体做法是在TCR分支卷积输出后接一个自注意力层，让模型自己学习CDR3序列哪些位置对结合贡献更大。然后再用跨注意力让TCR特征去查询HLA-肽段特征中的相关片段，有点像翻译模型里的编码器-解码器注意力，但方向是物种间的。注意力机制带来的AUC提升约两个点，同时给了可解释性：注意力权重最高的残基位置往往对应真实的TCR接触界面残基，这是做生物学验证时非常有价值的输出。但注意力带来的过拟合风险也很明显，五千条样本以内不加约束的话，验证集AUC会来回抖动。对策是加dropout、标签平滑，并把注意力头的数量控制在4个以内。4.4 输出层与损失函数的设计细节输出层我用一个带L2正则的全连接层加sigmoid。损失函数选交叉熵，但要注意类别权重：负样本数量是正样本十倍，直接训练会导致模型偏向预测负类，所以我把正样本的loss权重调为负样本的十倍，保证召回率不至于被压到不可用。预测置信度的校准也很重要。很多模型给出来的概率在0.5到0.9之间挤成一团，实际阈值难以选择。我试过温度缩放，把logits除以一个学到的温度系数，让正样本预测概率整体向两端拉开，实验结果显示，温度缩放后当精确率要求0.9时，召回率能提升约15%，这个技巧值得收进工具箱。5. 训练策略与效果评估5.1 数据划分方式直接决定你的模型能不能用这是整个项目里我最后悔没有一开始就做对的地方。随机划分数据时，同一个CDR3序列可能同时出现在训练集和测试集——比如数据集中某个高频克隆序列出现在十个样本里，其中八个在训练集、两个在测试集，那模型只需要记住这条序列的标签就能在测试集上拿到高分，这叫数据泄漏。正确做法是聚类划分：先把所有CDR3序列按80%相似度聚类，每个聚类整体分配到训练集、验证集或测试集，保证任何一条测试序列都不与训练序列共享同一个聚类。另一种策略是按HLA等位基因划分，比如训练集中排除某个等位基因的所有样本，测试时专门评估这个等位基因的预测表现，这叫冷启动测试。两种划分方式可以结合使用。我最终采用“按CDR3聚类划分 + 按HLA留一法评估”的双重保障，试验出的AUC才敢拿出去跟别人比较。你要记住，在数据泄漏没有排除之前，任何高AUC都可能是幻觉。5.2 评估指标不能只看AUCAUC是排序指标，只衡量正负样本得分谁高谁低，不关心概率绝对值。在结合预测场景里，AUC达到0.85并不能保证你在实际筛选时有可用的精确率，因为真实数据里负样本比训练集里更极端、更多样。我更关注三个指标的组合：AUPRC（精确率-召回率曲线下面积）、Top-k命中率、Precision@50。AUPRC在类别不平衡的背景下比AUROC更有信息量，可以理解为“把阳性样本找出来的平均能力”。Top-k命中率用于评估实际筛选场景：如果你想从十万条TCR克隆里挑出五百条做实验验证，这五百条里真正结合的有多少条，这才是临床实验关心的问题。5.3 训练调参备忘训练过程中的几个关键参数，我记录一下实测值：学习率用余弦退火，初始值0.001，最小到0.00001，比固定学习率快收敛约一半时间。批次大小根据序列长度和显存空间选在64到128之间。正则化策略是embedding层weight decay 0.01、卷积层dropout 0.3、全连接层dropout 0.5。数据增强方面，一个可行的方案是CDR3序列的同义替换：根据TCR基因重排规则，把某些位置的氨基酸替换为理化性质相近的其他氨基酸。但要注意不能太激进，否则生成的序列不符合真实V(D)J重排模式。我测试下来，每个正样本最多生成2个增强样本，再多会引入噪声降低模型性能。5.4 分组错误分析是找到提升方向的关键模型训练完后，不要只盯着整体AUC，我把测试集按HLA位点分组、按肽段来源分组、按CDR3长度分组做了三层切片分析，这才找到模型的真实弱点。结果显示，预测准确率在HLA-A位点的高频等位基因上表现不错，而在稀有等位基因上明显下降，说明模型学到的HLA特征是位点特异的，对罕见分型的泛化不足。另一个有意思的发现是，CDR3长度超过18的序列预测错误率显著升高，推测是因为过长序列的截断处理丢失了关键接触残基，或者这类长CDR3在数据集中样本量太少。针对这个问题，我单独训练了一个小模型专门处理长CDR3数据，融合结果后整体准确率又提升了一个多点。6. 核心代码实现与实操记录6.1 数据预处理代码示例这里给出我在项目中实际使用的预处理核心代码，以Python为例，假设数据已经整理成包含CDR3、HLA蛋白序列、肽段、标签四列的DataFrame：import re import numpy as np import pandas as pd from collections import Counter VALID_AA = set("ACDEFGHIKLMNPQRSTVWY") def clean_cdr3(seq): """清洗CDR3序列：过滤非标准氨基酸，控制长度""" seq = seq.upper().strip() if len(seq) < 5 or len(seq) > 25: return None if not set(seq).issubset(VALID_AA): return None return seq def clean_hla(seq): """清洗HLA蛋白序列片段：只保留结合槽关键区域""" seq = seq.upper().strip() # 这里假设输入已经是α1+α2结构域截取的片段 if len(seq) < 30 or not set(seq).issubset(VALID_AA): return None return seq def clean_peptide(seq): """清洗肽段序列：I类分子限定8-11个氨基酸""" seq = seq.upper().strip() if len(seq) < 8 or len(seq) > 11: return None if not set(seq).issubset(VALID_AA): return None return seq def build_dataset(df): """过滤并构建标准化数据集""" df["cdr3_clean"] = df["cdr3"].apply(clean_cdr3) df["hla_clean"] = df["hla_seq"].apply(clean_hla) df["pep_clean"] = df["peptide"].apply(clean_peptide) df = df.dropna(subset=["cdr3_clean", "hla_clean", "pep_clean"]) # 去重 df = df.drop_duplicates(subset=["cdr3_clean", "hla_clean", "pep_clean"]) return df这段代码逻辑很直白，但有几点值得展开。CDR3长度上限25是我根据公共数据的分布统计得到的，你会发现绝大多数V(D)J重排产物都落在这个区间，超过25的基本都是测序拼接错误。HLA片段固定长度过滤是用输入前必须做好的，如果上游数据给的是全长序列，你需要先根据编号系统截出30到40个关键残基位点再传入这个函数。6.2 特征编码与Dataset实现下面是特征编码的核心逻辑。BLOSUM62矩阵是一个20乘20的矩阵，我把它存成字典，输入序列每个位置的氨基酸对应取出一行向量：def encode_blosum62(seq, blosum_dict, max_len, pad_val=0.0): """将氨基酸序列编码为BLOSUM62特征矩阵""" feat = np.full((max_len, 20), pad_val, dtype=np.float32) for i, aa in enumerate(seq[:max_len]): if aa in blosum_dict: feat[i] = blosum_dict[aa] return feat class TCRHLADataset(torch.utils.data.Dataset): def __init__(self, df, blosum_dict, cdr3_len=25, hla_len=35, pep_len=13): self.cdr3 = [encode_blosum62(s, blosum_dict, cdr3_len) for s in df["cdr3_clean"]] self.hla = [encode_blosum62(s, blosum_dict, hla_len) for s in df["hla_clean"]] self.pep = [encode_blosum62(s, blosum_dict, pep_len) for s in df["pep_clean"]] self.label = df["label"].values def __len__(self): return len(self.label) def __getitem__(self, idx): return ( torch.tensor(self.cdr3[idx]), torch.tensor(self.hla[idx]), torch.tensor(self.pep[idx]), torch.tensor(self.label[idx], dtype=torch.float32) )这段代码有一个细节值得注意：序列较长时样本数量多，一次性把所有序列编码为浮点矩阵会占不少内存。两万条样本、每条三个序列，每个序列最长35位乘20维，总共也就是几百万个浮点数，内存压力不大可以直接预计算。如果数据量扩大到十万条以上，建议在__getitem__里按需编码，避免内存溢出。6.3 双塔CNN加注意力的训练主流程模型部分我给出双塔CNN加自注意力融合的浓缩版本，保留了核心结构：class ConvTower(nn.Module): def __init__(self, in_channels=20, out_channels=64): super().__init__() self.conv1 = nn.Conv1d(in_channels, out_channels, kernel_size=3, padding=1) self.conv2 = nn.Conv1d(out_channels, out_channels, kernel_size=5, padding=2) self.pool = nn.AdaptiveMaxPool1d(1) def forward(self, x): # x: (batch, seq_len, 20) -> (batch, seq_len, 64) x = x.transpose(1, 2) x = F.relu(self.conv1(x)) x = F.relu(self.conv2(x)) x = self.pool(x).squeeze(-1) return x class DualTowerAttention(nn.Module): def __init__(self, cdr3_len, hla_len, pep_len, hidden=128): super().__init__() self.cdr3_tower = ConvTower() self.hla_tower = ConvTower() self.pep_tower = ConvTower() self.fuse = nn.Sequential( nn.Linear(64 * 3, hidden), nn.ReLU(), nn.Dropout(0.4), nn.Linear(hidden, 1) ) def forward(self, cdr3, hla, pep): c = self.cdr3_tower(cdr3) h = self.hla_tower(hla) p = self.pep_tower(pep) feat = torch.cat([c, h, p], dim=1) logit = self.fuse(feat) return logit实际使用中，我在ConvTower里用两组不同尺寸的卷积核并行提取特征，然后拼接，而不是用串联方式，这个小改动让AUC提高了约一个点。训练时候选择AdamW优化器，权重衰减0.01，配合前面提到的余弦退火学习率调度器，两百个epoch内可以稳定收敛。6.4 训练过程中的几个现场记录实操中有几个现象值得记录，可能你也碰到。第一个是loss在前几个epoch死活不降，明明模型结构没问题，后来查到是数据里标签翻转了，而不是模型问题——清洗流程过后一定要重新检查一遍标签和特征是否对齐，最简单的办法是随机抽一百条样本人肉核对。第二个是收敛后验证集AUC只有0.79，还不如基线模型。排查发现是负样本构造时用了随机配对，正负样本间存在明显的TCR序列长度差异分布，模型学会的是“短序列更像负样本”这个偏差。换用难度匹配的负样本策略后，同一个模型AUC直接跳到0.84。第三个是训练的显存占用异常高，因为我把HLA序列编码成了固定长度35位，但有一些HLA位点本身序列就特别长，处理时没有做截断。统一先截断再编码，问题就解决了。这种低级错误最容易在数据量大的直觉下被忽略。7. 常见问题与排查技巧7.1 为什么验证集AUC很高，实际筛选却一塌糊涂这个现象在我这行见的太多了，十有八九是三个原因。一是数据泄漏，同源序列跨集合出现，模型在记忆而非学习。二是负样本构造太简单，模型靠HLA等位基因分布或序列长度就能把正负分开。三是训练和测试数据的分布不一致，比如训练集全是病毒抗原数据，实际应用却拿去预测肿瘤新抗原，两者TCR序列的公共性差异很大。我的排查顺序是：先查数据泄漏，把TCR序列按80%相似度聚类，检查训练集和测试集是否有同一个聚类的成员。然后画正负样本在CDR3长度和HLA等位基因分布上的对比图，如果这两个特征就能把正负分开，负样本大概率有问题。最后看成对样本的预测得分分布，如果模型对所有预估都是0.5左右，说明特征信号不足而不是模型问题。7.2 训练loss震荡不收敛Loss震荡的常见原因有三个，按照我排查的优先级来说，一是学习率过高导致参数空间里来回跳跃；二是类别不平衡后batch过小，每个batch内正样本数量波动太大；三是特征编码里的NaN或者无穷值没有处理干净，BN层在这种输入下会疯狂抖动。第一个用余弦退火或者warmup基本能解决，第二个需要把batch size提上去或者做正样本过采样，第三个需要在编码代码里加一个数值检查函数，一旦出现非有限值直接报错而不是默默训练。7.3 新HLA等位基因的泛化能力差这是自然规律：模型是在有限HLA分型上训练的，对训练集中没出现过的等位基因，预测能力必然打折。但如果连训练集内部的高频等位基因都预测不准，那就要检查HLA特征编码是否有问题。我的做法是：HLA分支的输入不是等位基因名字的one-hot，而是结合槽关键位置的氨基酸序列，这样模型学习的是HLA分子结构层面的特征，而不是记住了某个等位基因名字。当遇到训练集没有的新HLA分型时，只要它有相似的结合槽序列，模型仍然能给出一定参考价值的预测。7.4 从注意力权重到生物学验证注意力机制给的权重可以做初步验证。我跑了一批测试数据，把注意力权重最高的TCR残基位置标注出来，和文献报道的接触界面残基对比，发现大部分落在CDR3区的中央区域，这与TCR-pMHC复合物晶体结构中CDR3环直接插入HLA结合槽的观察一致。这个验证为模型增加了可信度，也让后续生物学实验的重点往高权重位点倾斜。不过要提醒，注意力权重本质上是模型内部计算的贡献度，不是真实的物理接触。它能做探索性线索，但不能当作硬证据。严谨的验证还是需要结构模拟或体外突变实验。7.5 常见问题速查表问题现象可能原因排查与解决训练AUC高、测试AUC低数据泄漏按CDR3聚类划分数据集验证指标正常、实测拉胯负样本太容易换难度匹配负样本Loss震荡不收敛学习率过高或NaN输入加余弦退火，检查编码数值稀有HLA预测差训练分布不覆盖用序列特征替代ID特征所有预测概率集中0.5附近特征信号弱换BLOSUM62或加注意力注意力权重杂乱无规律模型过拟合或头数过多加dropout，把头数降到48. 应用场景与后续扩展8.1 肿瘤新抗原反应性TCR筛选这个项目最有应用价值的场景之一，是从患者外周血TCR组库中筛选出能够识别肿瘤新抗原的T细胞克隆。流程是：先对肿瘤样本做全外显子测序和RNA测序，预测新抗原肽段，再结合患者的HLA分型，把候选肽段喂给TCR-HLA预测模型，对患者组库里的上百万条CDR3序列打分排序，取Top序列合成TCR并做体外验证。在这个流程里，查准率比查全率重要得多，因为实验验证一条候选TCR的成本很高。我当时用Precision@100作为核心指标，目标是Top100里有超过40条能通过验证。模型的假阴性可以接受，漏掉几个真实克隆没关系，但假阳性多了实验成本直接爆表。8.2 感染免疫与疫苗效果评估病毒感染后，适应性免疫会留下TCR组库的烙印，特定的抗原表位会驱动特定CDR3序列的克隆扩增。通过TCR-HLA预测模型，可以把组库测序数据中富集的TCR克隆与已知病毒表位建立联系，从而判断个体对某种病毒是否建立了特异性免疫。这个场景里，数据往往带有时间维度，同一个个体在疫苗接种前后的组库变化需要做纵向分析。模型输出的是静态结合概率，还需要配合克隆动态变化趋势一起解读。我尝试过把模型输出作为特征加入一个简单的时序模型里，效果比单一静态预测好不少，这也是一个颇为自然的扩展方向。8.3 多模态整合、生成模型与单细胞数据再往后扩展，有两个方向比较明确。一是多模态整合，把TCR序列之外的理化特征、分子结构预测信息、单细胞转录组数据一起联合建模，目标是逼近真实的TCR-pMHC识别过程。二是生成模型方向，用扩散模型或自回归模型从头设计能够特异性识别某个HLA-肽复合物的TCR序列，这个应用在细胞治疗领域有巨大想象空间。我在现有工作基础上试过把单细胞转录组里的T细胞状态信息作为辅助标签做多任务学习，模型需要同时预测结合标签和细胞状态，共享表示层让两个任务互相促进，最终的结合预测AUC比单任务稍微高了一些。这条路还很长，但是目前看到的方向是明确的。回头看这个项目，我最大的体会是：TCR与HLA预测技术在免疫组库分析里的落地效果，取决于数据质量意识、负样本构造的严谨程度、划分方式是否杜绝泄漏这三个基础环节，模型结构反而是相对容易迭代的部分。如果你也要做类似的事情，我的建议是先花三周时间把数据吃透，再花三天时间把基线模型跑通，最后花一周时间逐步加复杂结构，而不是反过来。这一套流程走完，你会对“机器学习加免疫组学”这个交叉方向有远比单看论文深刻的理解。
TCR与HLA这两个词放在一起，通常意味着你在做免疫组库分析，而且不是单纯统计V/J基因家族频率那种，是想更进一步——想预测一个T细胞的受体序列到底会不会识别某个HLA分子呈递的抗原。我最近完整跑了一遍这个方向，从数据清洗、特征编码到模型评估，踩了不少坑，今天把整体思路和实操记录整理出来。这篇文章适合正在做TCR-HLA结合预测、肿瘤新抗原筛选，或者想入坑免疫组库与机器学习交叉方向的开发者和生信研究者，核心内容围绕数据、模型、评估三件事展开。1. 项目概述与整体思路拆解1.1 这个项目到底在预测什么TCR（T细胞受体）和HLA（人类白细胞抗原）之间的相互作用，本质上是适应性免疫识别的最底层机制。T细胞通过表面TCR识别由HLA分子呈递的抗原肽段，一旦识别成功，就会启动免疫应答。临床上非常关心的一件事是：给定一个患者的TCR序列库，哪些TCR可能识别某个肿瘤新抗原或病毒抗原表位？反过来，给定一个已知抗原，哪些TCR克隆在患者体内发生了特异性扩增？这个任务在免疫组库分析里通常被称为TCR-HLA结合预测。它的输入是TCR序列（主要是CDR3区）和HLA等位基因类型，加上抗原肽段序列，输出是一个结合概率或者结合强度分数。用个不太严谨但好理解的类比：HLA分子是锁芯，抗原肽是插进锁芯的钥匙坯，TCR则负责识别这把已经插好的钥匙组合。模型要做的事情，是学习“什么样的TCR形状能匹配上什么样的HLA-肽复合物”。我最早接触这个项目时，以为核心难点在模型结构，后来做下来发现真正的瓶颈在数据：阳性样本数量少、来源异质性强、阴性样本几乎不存在官方标准。这些都会在后面详细展开。1.2 为什么选择机器学习的路线传统方法做TCR特异性预测，主要靠位置权重矩阵和motif扫描，思路是找CDR3序列里富集的保守基序，比如某个疾病组里频繁出现的“CASxxxxxYEQYF”模式。这类方法在少数几个明确表位（如某些病毒抗原）上效果尚可，但遇到新抗原、稀有HLA分型、或者交叉反应场景时基本失灵，因为它假设识别规则是线性可加的，而实际上TCR识别是高度非线性、多位点协同的。机器学习尤其是深度学习的优势，在于可以不预设特征组合方式，直接从序列数据中学习高维非线性映射。拿我自己试过的模型来说，同样的数据集，传统PWM方法AUC稳定在0.72左右，一个简单的双塔CNN加上合理的数据划分就能到0.83以上，换成带注意力机制的模型还能再往上走几个点。当然，这个提升的前提是你把负样本构造和防止数据泄漏做好了，否则虚高的分数一点用处没有。1.3 整体流程与方案选型整个项目可以拆成六个环节：数据收集与清洗、标签与负样本构造、特征编码、模型设计、训练评估、结果解释。下面这个表格是我梳理的每环节要点和常见坑位：环节核心任务常见问题数据收集获取TCR-HLA-抗原肽结合数据数据格式不统一、来源混杂清洗质控过滤低质量CDR3序列、规范HLA分型长度异常、氨基酸非法字符负样本构造生成不结合样本对随机配对会导致泄漏和假高AUC特征编码将序列转为数值向量编码方式选择不当丢失生物学信息模型训练学习序列到结合标签的映射类别不平衡、过拟合结果评估评估泛化能力而非记忆能力随机划分导致乐观估计方案选型上，我最后采用的是“双塔编码 + 注意力融合”结构，配合严格按CDR3序列聚类的划分方式。这个方案在性能和数据安全上取得了平衡，后面会展开具体实现细节。2. 生物学基础与数据准备2.1 TCR、HLA、抗原肽三者的关系再捋一遍TCR是异二聚体，大部分情况下由α链和β链组成，识别抗原时起决定性作用的是β链CDR3区域和α链CDR3区域，其中CDR3β又因为多样性最高、直接接触pMHC的中心区域，成为绝大部分预测模型的核心输入。CDR3序列一般长度在10到20个氨基酸之间，由V、D、J基因重排并在接头处随机插入删除碱基生成，理论多样性高达10的15次方以上。HLA分子分两类：I类分子（对应A、B、C位点）呈递8到11个氨基酸的短肽，主要负责CD8阳性T细胞的识别；II类分子（对应DR、DQ、DP位点）呈递13到25个氨基酸的长肽，负责CD4阳性T细胞。做TCR-HLA结合预测时，大部分公开数据集集中在I类分子上，因为肿瘤新抗原、病毒感染研究的靶点绝大多数是CD8 T细胞表位。这里有一个特别容易忽视的点：模型输入不只是TCR和HLA，还有一个肽段。很多初学者误以为任务是“TCR和HLA是否匹配”，其实严格的生物学过程是TCR同时接触HLA的α螺旋和肽段中央的突出残基。也就是说，同样的TCR可能对同一个HLA呈递的不同肽段有不同的结合状态，所以完整的输入三元组应该是TCR、HLA、肽段三者。2.2 数据来源与清洗要点数据可以从公共免疫组库数据库获取，比如一些收集TCR-抗原结合记录的数据库，以及容纳HLA-肽段结合实验数据的免疫表位数据库。这些数据主要来源于四聚体染色分选、抗原刺激扩增、质谱识别等实验手段，不同来源的数据可靠性差异较大，使用前要做加权或者按来源分层处理。清洗流程上，我建议至少过这几道关卡：CDR3序列字符集校验，只保留标准20种氨基酸字符，出现“*”或“X”的剔除或做特殊标记长度过滤，CDR3β长度小于5或大于25的序列通常来自测序错误或异常重排，直接剔除HLA分型统一到四位精度，例如某个位点只写到两位的样本，要么升级要么剔除，混用会导致特征编码错乱肽段长度限制，对I类分子只保留8到11个氨基酸的肽段，超过这个范围的多为II类表位去除重复三元组，同一TCR-HLA-肽段组合出现多次但标签一致的直接去重，标签不一致的要核查原始记录我实测下来，公开数据集里大约有10%到15%的样本会在上述过滤中被移除，这个比例是正常的，不要心疼。过滤后数据质量对模型收敛速度的影响，比增加几千条样本大得多。2.3 标签与负样本构造，这是最大的坑正样本的定义比较清晰：已知会发生结合的TCR-HLA-肽段三元组。负样本就麻烦了，实验上验证“不结合”的阴性数据非常稀缺，公开数据库里几乎没有大规模严格验证的负样本。最常见也最危险的负样本构造方式是随机配对：把正样本里的TCR和HLA-肽段随机打乱组合，默认它们不结合。这样做模型很容易学到两个分支的“风格差异”而非“特异性差异”。举个例子，如果数据里某些HLA等位基因的样本量特别大，模型只需学会区分常见HLA和罕见HLA就能把AUC刷到0.9以上，根本没有学到TCR序列中的识别模式。我在项目中采用的策略是负样本与正样本难度匹配，具体有三种方式：一是保持HLA-肽段组合不变，替换TCR为组库中随机采样的其他CDR3序列，这样模型必须学习TCR序列特征来区分结合与非结合，而不是从HLA类型上找捷径。二是保持TCR不变，替换HLA为其他等位基因，注意选择的替换HLA要尽量与原始HLA属于同一个超型家族，避免模型根据HLA大类快速区分。三是从已知不结合实验数据中直接提取，此类数据量少但极其宝贵，可以作为独立测试集验证模型真实泛化能力。负样本比例我最终定为1比10，比1比5效果更好，再往上提升不明显，反而会压低预测概率的绝对值，影响后续阈值选择。3. 特征工程：把氨基酸序列变成数字3.1 基础编码方式对比序列数据不能直接输入神经网络，必须先转成数值形式。常用的编码方式有以下几种，我实际对比过效果：独热编码最简单，20种氨基酸对应20维向量，位置独立，缺点是完全没有氨基酸之间的相似性信息，模型需要自己从大量数据里学习每种氨基酸的“语义”。对于只有几千条样本的数据集来说，学习成本偏高。BLOSUM62替换矩阵编码是另一种经典方式，将每个氨基酸映射为它对20种氨基酸的替换得分向量。好处是天然包含了生化相似性，比如亮氨酸和异亮氨酸的向量很接近，这在模型眼里就是“两种性质相近的氨基酸”，有助于小样本学习。Atchley因子编码把氨基酸浓缩为5个数值，对应疏水性、极性、体积、静电、芳香性等生化属性，维度低、噪声少，但会丢失部分精细信息。表型预测任务里效果不错，做结合预测时略逊于BLOSUM62。我的最终方案是BLOSUM62矩阵加上位置独热标记，把TCR、HLA、肽段各自的位置信息和替换得分拼接在一起，兼顾了进化保守性和序列位置特异性。3.2 序列长度与对齐策略TCR CDR3长度不一致，模型必须处理变长输入。两种常用处理方式是截断补零和通道拼接。CDR3长度大多集中在10到20之间，峰值在15附近，我选择固定补齐到25位，不足部分补一个专门的“空位”向量，超过部分直接截断。实验表明，超过30位的序列大多是伪基因或异常重排，截断不会损失有效信息。HLA序列的处理方式和TCR完全不同。HLA全长约三百多个氨基酸，直接丢进模型参数太多且大部分位置与抗原结合无关。正确做法是只选取构成抗原结合槽的α1和α2结构域的关键残基位置，一般选30到40个多态性位点，映射到HLA蛋白序列上截取出来。这些位点的多态性决定了不同HLA分子结合肽段的偏好性。肽段序列处理简单很多，长度8到11位，直接用0补齐到固定长度即可。需要留意的是，肽段两端的锚定残基对HLA结合贡献极大，模型应该能够天然感受到这个特征，不需要额外手工标注锚定位点。3.3 从固定编码到embedding和k-mer固定编码之外，我试过两种升级方案：可学习embedding和k-mer频率特征。可学习embedding就是让每个氨基酸对应一个可训练的稠密向量，配合网络一起更新。在数据量超过两万条的时候，效果略好于BLOSUM62，但在小数据集上容易过拟合。k-mer频率特征则是把序列切成固定长度为3到5的短串，统计各自出现频率后作为全局特征加入模型，可以捕捉motif级别的模式，对传统特征编码是有效补充。迁移学习的路子我也尝试过，用预训练的蛋白质语言模型提取TCR和HLA序列的embedding。这种方案对显存和时间的要求比较高，且预训练模型大多是在全长蛋白上训练的，对TCR这种高变异性短序列的关注模式不一定适配，最终收益只比BLOSUM62高不到两个点，却在推理速度上慢几倍。对于数据量不大的项目，我不建议一上来就上这个。4. 模型设计：从基线到注意力融合4.1 基线模型先跑通流程任何项目都建议先搞一个简单的基线模型把全流程验证一遍，再逐步加复杂度。我最初的基线是三层MLP，输入是拼接好的TCR、HLA、肽段三种特征向量，中间两个隐藏层128维和64维，输出层一个神经元加sigmoid。训练100个epoch，用早停法监控验证集损失。基线模型在准确率上有70%左右，AUC约0.72到0.75，这已经能证明数据和训练管线没有问题，后续模型的提升都建立在可靠数据之上。很多同学一上来就上Transformer，结果哪一步出问题都不知道是模型的问题还是数据的问题，这是最忌讳的。4.2 双塔CNN结构基线跑通后，我把单输入MLP换成了双塔结构。所谓双塔，就是TCR序列一个分支，HLA与肽段合并后走另一个分支，两个分支分别提取特征，最后拼接或者做点积得到结合分数。TCR分支是核心，我采用一维卷积加最大池化，卷积核大小设为3和5两种，分别捕捉三连氨基酸和五连氨基酸的短程motif。一个关键技巧是卷积核数量不用太多，64个就够，再多对小数据集没有收益。HLA-肽段分支也用一维卷积，但kernel size要偏大一些，设为7，因为HLA结合槽的多态位点在序列上相距较远，大卷积核能捕捉残基间的协同效应。这个双塔CNN是我整个项目性价比最高的模型，AUC在0.83左右，训练时间也不长，单卡十几分钟就能收敛。如果你的目标场景要求速度和可解释性，这个方案足够了。4.3 注意力机制带来的提升与陷阱在双塔CNN基础上加注意力，是我最后采用的方案。具体做法是在TCR分支卷积输出后接一个自注意力层，让模型自己学习CDR3序列哪些位置对结合贡献更大。然后再用跨注意力让TCR特征去查询HLA-肽段特征中的相关片段，有点像翻译模型里的编码器-解码器注意力，但方向是物种间的。注意力机制带来的AUC提升约两个点，同时给了可解释性：注意力权重最高的残基位置往往对应真实的TCR接触界面残基，这是做生物学验证时非常有价值的输出。但注意力带来的过拟合风险也很明显，五千条样本以内不加约束的话，验证集AUC会来回抖动。对策是加dropout、标签平滑，并把注意力头的数量控制在4个以内。4.4 输出层与损失函数的设计细节输出层我用一个带L2正则的全连接层加sigmoid。损失函数选交叉熵，但要注意类别权重：负样本数量是正样本十倍，直接训练会导致模型偏向预测负类，所以我把正样本的loss权重调为负样本的十倍，保证召回率不至于被压到不可用。预测置信度的校准也很重要。很多模型给出来的概率在0.5到0.9之间挤成一团，实际阈值难以选择。我试过温度缩放，把logits除以一个学到的温度系数，让正样本预测概率整体向两端拉开，实验结果显示，温度缩放后当精确率要求0.9时，召回率能提升约15%，这个技巧值得收进工具箱。5. 训练策略与效果评估5.1 数据划分方式直接决定你的模型能不能用这是整个项目里我最后悔没有一开始就做对的地方。随机划分数据时，同一个CDR3序列可能同时出现在训练集和测试集——比如数据集中某个高频克隆序列出现在十个样本里，其中八个在训练集、两个在测试集，那模型只需要记住这条序列的标签就能在测试集上拿到高分，这叫数据泄漏。正确做法是聚类划分：先把所有CDR3序列按80%相似度聚类，每个聚类整体分配到训练集、验证集或测试集，保证任何一条测试序列都不与训练序列共享同一个聚类。另一种策略是按HLA等位基因划分，比如训练集中排除某个等位基因的所有样本，测试时专门评估这个等位基因的预测表现，这叫冷启动测试。两种划分方式可以结合使用。我最终采用“按CDR3聚类划分 + 按HLA留一法评估”的双重保障，试验出的AUC才敢拿出去跟别人比较。你要记住，在数据泄漏没有排除之前，任何高AUC都可能是幻觉。5.2 评估指标不能只看AUCAUC是排序指标，只衡量正负样本得分谁高谁低，不关心概率绝对值。在结合预测场景里，AUC达到0.85并不能保证你在实际筛选时有可用的精确率，因为真实数据里负样本比训练集里更极端、更多样。我更关注三个指标的组合：AUPRC（精确率-召回率曲线下面积）、Top-k命中率、Precision@50。AUPRC在类别不平衡的背景下比AUROC更有信息量，可以理解为“把阳性样本找出来的平均能力”。Top-k命中率用于评估实际筛选场景：如果你想从十万条TCR克隆里挑出五百条做实验验证，这五百条里真正结合的有多少条，这才是临床实验关心的问题。5.3 训练调参备忘训练过程中的几个关键参数，我记录一下实测值：学习率用余弦退火，初始值0.001，最小到0.00001，比固定学习率快收敛约一半时间。批次大小根据序列长度和显存空间选在64到128之间。正则化策略是embedding层weight decay 0.01、卷积层dropout 0.3、全连接层dropout 0.5。数据增强方面，一个可行的方案是CDR3序列的同义替换：根据TCR基因重排规则，把某些位置的氨基酸替换为理化性质相近的其他氨基酸。但要注意不能太激进，否则生成的序列不符合真实V(D)J重排模式。我测试下来，每个正样本最多生成2个增强样本，再多会引入噪声降低模型性能。5.4 分组错误分析是找到提升方向的关键模型训练完后，不要只盯着整体AUC，我把测试集按HLA位点分组、按肽段来源分组、按CDR3长度分组做了三层切片分析，这才找到模型的真实弱点。结果显示，预测准确率在HLA-A位点的高频等位基因上表现不错，而在稀有等位基因上明显下降，说明模型学到的HLA特征是位点特异的，对罕见分型的泛化不足。另一个有意思的发现是，CDR3长度超过18的序列预测错误率显著升高，推测是因为过长序列的截断处理丢失了关键接触残基，或者这类长CDR3在数据集中样本量太少。针对这个问题，我单独训练了一个小模型专门处理长CDR3数据，融合结果后整体准确率又提升了一个多点。6. 核心代码实现与实操记录6.1 数据预处理代码示例这里给出我在项目中实际使用的预处理核心代码，以Python为例，假设数据已经整理成包含CDR3、HLA蛋白序列、肽段、标签四列的DataFrame：import re import numpy as np import pandas as pd from collections import Counter VALID_AA = set("ACDEFGHIKLMNPQRSTVWY") def clean_cdr3(seq): """清洗CDR3序列：过滤非标准氨基酸，控制长度""" seq = seq.upper().strip() if len(seq) < 5 or len(seq) > 25: return None if not set(seq).issubset(VALID_AA): return None return seq def clean_hla(seq): """清洗HLA蛋白序列片段：只保留结合槽关键区域""" seq = seq.upper().strip() # 这里假设输入已经是α1+α2结构域截取的片段 if len(seq) < 30 or not set(seq).issubset(VALID_AA): return None return seq def clean_peptide(seq): """清洗肽段序列：I类分子限定8-11个氨基酸""" seq = seq.upper().strip() if len(seq) < 8 or len(seq) > 11: return None if not set(seq).issubset(VALID_AA): return None return seq def build_dataset(df): """过滤并构建标准化数据集""" df["cdr3_clean"] = df["cdr3"].apply(clean_cdr3) df["hla_clean"] = df["hla_seq"].apply(clean_hla) df["pep_clean"] = df["peptide"].apply(clean_peptide) df = df.dropna(subset=["cdr3_clean", "hla_clean", "pep_clean"]) # 去重 df = df.drop_duplicates(subset=["cdr3_clean", "hla_clean", "pep_clean"]) return df这段代码逻辑很直白，但有几点值得展开。CDR3长度上限25是我根据公共数据的分布统计得到的，你会发现绝大多数V(D)J重排产物都落在这个区间，超过25的基本都是测序拼接错误。HLA片段固定长度过滤是用输入前必须做好的，如果上游数据给的是全长序列，你需要先根据编号系统截出30到40个关键残基位点再传入这个函数。6.2 特征编码与Dataset实现下面是特征编码的核心逻辑。BLOSUM62矩阵是一个20乘20的矩阵，我把它存成字典，输入序列每个位置的氨基酸对应取出一行向量：def encode_blosum62(seq, blosum_dict, max_len, pad_val=0.0): """将氨基酸序列编码为BLOSUM62特征矩阵""" feat = np.full((max_len, 20), pad_val, dtype=np.float32) for i, aa in enumerate(seq[:max_len]): if aa in blosum_dict: feat[i] = blosum_dict[aa] return feat class TCRHLADataset(torch.utils.data.Dataset): def __init__(self, df, blosum_dict, cdr3_len=25, hla_len=35, pep_len=13): self.cdr3 = [encode_blosum62(s, blosum_dict, cdr3_len) for s in df["cdr3_clean"]] self.hla = [encode_blosum62(s, blosum_dict, hla_len) for s in df["hla_clean"]] self.pep = [encode_blosum62(s, blosum_dict, pep_len) for s in df["pep_clean"]] self.label = df["label"].values def __len__(self): return len(self.label) def __getitem__(self, idx): return ( torch.tensor(self.cdr3[idx]), torch.tensor(self.hla[idx]), torch.tensor(self.pep[idx]), torch.tensor(self.label[idx], dtype=torch.float32) )这段代码有一个细节值得注意：序列较长时样本数量多，一次性把所有序列编码为浮点矩阵会占不少内存。两万条样本、每条三个序列，每个序列最长35位乘20维，总共也就是几百万个浮点数，内存压力不大可以直接预计算。如果数据量扩大到十万条以上，建议在__getitem__里按需编码，避免内存溢出。6.3 双塔CNN加注意力的训练主流程模型部分我给出双塔CNN加自注意力融合的浓缩版本，保留了核心结构：class ConvTower(nn.Module): def __init__(self, in_channels=20, out_channels=64): super().__init__() self.conv1 = nn.Conv1d(in_channels, out_channels, kernel_size=3, padding=1) self.conv2 = nn.Conv1d(out_channels, out_channels, kernel_size=5, padding=2) self.pool = nn.AdaptiveMaxPool1d(1) def forward(self, x): # x: (batch, seq_len, 20) -> (batch, seq_len, 64) x = x.transpose(1, 2) x = F.relu(self.conv1(x)) x = F.relu(self.conv2(x)) x = self.pool(x).squeeze(-1) return x class DualTowerAttention(nn.Module): def __init__(self, cdr3_len, hla_len, pep_len, hidden=128): super().__init__() self.cdr3_tower = ConvTower() self.hla_tower = ConvTower() self.pep_tower = ConvTower() self.fuse = nn.Sequential( nn.Linear(64 * 3, hidden), nn.ReLU(), nn.Dropout(0.4), nn.Linear(hidden, 1) ) def forward(self, cdr3, hla, pep): c = self.cdr3_tower(cdr3) h = self.hla_tower(hla) p = self.pep_tower(pep) feat = torch.cat([c, h, p], dim=1) logit = self.fuse(feat) return logit实际使用中，我在ConvTower里用两组不同尺寸的卷积核并行提取特征，然后拼接，而不是用串联方式，这个小改动让AUC提高了约一个点。训练时候选择AdamW优化器，权重衰减0.01，配合前面提到的余弦退火学习率调度器，两百个epoch内可以稳定收敛。6.4 训练过程中的几个现场记录实操中有几个现象值得记录，可能你也碰到。第一个是loss在前几个epoch死活不降，明明模型结构没问题，后来查到是数据里标签翻转了，而不是模型问题——清洗流程过后一定要重新检查一遍标签和特征是否对齐，最简单的办法是随机抽一百条样本人肉核对。第二个是收敛后验证集AUC只有0.79，还不如基线模型。排查发现是负样本构造时用了随机配对，正负样本间存在明显的TCR序列长度差异分布，模型学会的是“短序列更像负样本”这个偏差。换用难度匹配的负样本策略后，同一个模型AUC直接跳到0.84。第三个是训练的显存占用异常高，因为我把HLA序列编码成了固定长度35位，但有一些HLA位点本身序列就特别长，处理时没有做截断。统一先截断再编码，问题就解决了。这种低级错误最容易在数据量大的直觉下被忽略。7. 常见问题与排查技巧7.1 为什么验证集AUC很高，实际筛选却一塌糊涂这个现象在我这行见的太多了，十有八九是三个原因。一是数据泄漏，同源序列跨集合出现，模型在记忆而非学习。二是负样本构造太简单，模型靠HLA等位基因分布或序列长度就能把正负分开。三是训练和测试数据的分布不一致，比如训练集全是病毒抗原数据，实际应用却拿去预测肿瘤新抗原，两者TCR序列的公共性差异很大。我的排查顺序是：先查数据泄漏，把TCR序列按80%相似度聚类，检查训练集和测试集是否有同一个聚类的成员。然后画正负样本在CDR3长度和HLA等位基因分布上的对比图，如果这两个特征就能把正负分开，负样本大概率有问题。最后看成对样本的预测得分分布，如果模型对所有预估都是0.5左右，说明特征信号不足而不是模型问题。7.2 训练loss震荡不收敛Loss震荡的常见原因有三个，按照我排查的优先级来说，一是学习率过高导致参数空间里来回跳跃；二是类别不平衡后batch过小，每个batch内正样本数量波动太大；三是特征编码里的NaN或者无穷值没有处理干净，BN层在这种输入下会疯狂抖动。第一个用余弦退火或者warmup基本能解决，第二个需要把batch size提上去或者做正样本过采样，第三个需要在编码代码里加一个数值检查函数，一旦出现非有限值直接报错而不是默默训练。7.3 新HLA等位基因的泛化能力差这是自然规律：模型是在有限HLA分型上训练的，对训练集中没出现过的等位基因，预测能力必然打折。但如果连训练集内部的高频等位基因都预测不准，那就要检查HLA特征编码是否有问题。我的做法是：HLA分支的输入不是等位基因名字的one-hot，而是结合槽关键位置的氨基酸序列，这样模型学习的是HLA分子结构层面的特征，而不是记住了某个等位基因名字。当遇到训练集没有的新HLA分型时，只要它有相似的结合槽序列，模型仍然能给出一定参考价值的预测。7.4 从注意力权重到生物学验证注意力机制给的权重可以做初步验证。我跑了一批测试数据，把注意力权重最高的TCR残基位置标注出来，和文献报道的接触界面残基对比，发现大部分落在CDR3区的中央区域，这与TCR-pMHC复合物晶体结构中CDR3环直接插入HLA结合槽的观察一致。这个验证为模型增加了可信度，也让后续生物学实验的重点往高权重位点倾斜。不过要提醒，注意力权重本质上是模型内部计算的贡献度，不是真实的物理接触。它能做探索性线索，但不能当作硬证据。严谨的验证还是需要结构模拟或体外突变实验。7.5 常见问题速查表问题现象可能原因排查与解决训练AUC高、测试AUC低数据泄漏按CDR3聚类划分数据集验证指标正常、实测拉胯负样本太容易换难度匹配负样本Loss震荡不收敛学习率过高或NaN输入加余弦退火，检查编码数值稀有HLA预测差训练分布不覆盖用序列特征替代ID特征所有预测概率集中0.5附近特征信号弱换BLOSUM62或加注意力注意力权重杂乱无规律模型过拟合或头数过多加dropout，把头数降到48. 应用场景与后续扩展8.1 肿瘤新抗原反应性TCR筛选这个项目最有应用价值的场景之一，是从患者外周血TCR组库中筛选出能够识别肿瘤新抗原的T细胞克隆。流程是：先对肿瘤样本做全外显子测序和RNA测序，预测新抗原肽段，再结合患者的HLA分型，把候选肽段喂给TCR-HLA预测模型，对患者组库里的上百万条CDR3序列打分排序，取Top序列合成TCR并做体外验证。在这个流程里，查准率比查全率重要得多，因为实验验证一条候选TCR的成本很高。我当时用Precision@100作为核心指标，目标是Top100里有超过40条能通过验证。模型的假阴性可以接受，漏掉几个真实克隆没关系，但假阳性多了实验成本直接爆表。8.2 感染免疫与疫苗效果评估病毒感染后，适应性免疫会留下TCR组库的烙印，特定的抗原表位会驱动特定CDR3序列的克隆扩增。通过TCR-HLA预测模型，可以把组库测序数据中富集的TCR克隆与已知病毒表位建立联系，从而判断个体对某种病毒是否建立了特异性免疫。这个场景里，数据往往带有时间维度，同一个个体在疫苗接种前后的组库变化需要做纵向分析。模型输出的是静态结合概率，还需要配合克隆动态变化趋势一起解读。我尝试过把模型输出作为特征加入一个简单的时序模型里，效果比单一静态预测好不少，这也是一个颇为自然的扩展方向。8.3 多模态整合、生成模型与单细胞数据再往后扩展，有两个方向比较明确。一是多模态整合，把TCR序列之外的理化特征、分子结构预测信息、单细胞转录组数据一起联合建模，目标是逼近真实的TCR-pMHC识别过程。二是生成模型方向，用扩散模型或自回归模型从头设计能够特异性识别某个HLA-肽复合物的TCR序列，这个应用在细胞治疗领域有巨大想象空间。我在现有工作基础上试过把单细胞转录组里的T细胞状态信息作为辅助标签做多任务学习，模型需要同时预测结合标签和细胞状态，共享表示层让两个任务互相促进，最终的结合预测AUC比单任务稍微高了一些。这条路还很长，但是目前看到的方向是明确的。回头看这个项目，我最大的体会是：TCR与HLA预测技术在免疫组库分析里的落地效果，取决于数据质量意识、负样本构造的严谨程度、划分方式是否杜绝泄漏这三个基础环节，模型结构反而是相对容易迭代的部分。如果你也要做类似的事情，我的建议是先花三周时间把数据吃透，再花三天时间把基线模型跑通，最后花一周时间逐步加复杂结构，而不是反过来。这一套流程走完，你会对“机器学习加免疫组学”这个交叉方向有远比单看论文深刻的理解。