数据收到六成,忽然发现问卷的某个题项表述有歧义,或者实验的对照组设置漏了一个变量,或者访谈提纲漏掉了关键维度。这时候时间已经花出去,样本也接触过了,最难受的不是"要不要承认错误",而是"承认之后怎么走"。
处理这类问题的核心,是先判断缺陷是否影响主结论的识别策略,再决定补做、限缩还是重来。判断顺序错了,要么白做一遍,要么带着硬伤投出去。
先给缺陷定性:它破坏了哪一个环节
方法缺陷不是笼统的"不严谨",它一定落在研究链条的某一环上。先定位,再谈补救。
| 缺陷落点 | 典型表现 | 可否事后补救 |
|---|---|---|
| 测量环节 | 题项歧义、量表反向题未处理、编码规则不一致 | 多数可补,需重测部分样本 |
| 抽样环节 | 招募渠道单一、纳入标准执行不严、流失偏倚 | 可部分补救,靠加权或敏感性分析 |
| 设计环节 | 缺对照组、顺序效应、混杂变量未控制 | 难补救,通常要改设计 |
| 实施环节 | 干预剂量不一致、评分者未盲、记录缺失 | 视缺失比例,可补记录或缩样本 |
| 分析环节 | 分析计划与执行不符、多重比较未校正 | 可补救,重新分析并披露 |
判断口诀:测量和实施的缺陷,多数能补;设计和抽样的缺陷,多数只能限缩。分析环节的缺陷不需要补数据,只需要重做分析并把过程写清。
四条判断线:决定补做还是重来
定位之后,用四条线做决策。
第一条:缺陷是否影响核心变量的测量。 如果受影响的只是控制变量或描述性信息,代价很小,补测或说明即可。如果受影响的是自变量或因变量的核心测量,结论的识别就站不住了。
第二条:偏倚是否单向。 单向偏倚比随机误差严重得多。比如只在某一类人群里招募,导致样本系统性地缺少某个取值区间,这种偏倚无法靠增加样本量消除。
第三条:缺失比例与分布。 缺失低于一成且随机分布,通常可以用多重插补处理并做敏感性分析;缺失超过三成,或缺失集中在某一子群,就要考虑限缩结论范围或重来。
第四条:剩余时间与样本可得性。 这一条最现实。如果补做需要重新招募且时间窗已经关闭,那么可行的路径只剩限缩——把结论的适用范围写窄,把缺陷写进局限性。
补做的三种做法与各自代价
确定要补,也有不同补法。
其一,补测部分样本。 适用于测量环节缺陷。代价是样本结构可能变得不均匀,需要在分析时加入"批次"作为控制变量,并检验批次效应是否显著。
其二,补做子研究。 适用于设计环节的小缺口。用一个更小规模、更聚焦的补充实验去验证关键假设,主研究保留原样,两篇或一篇两研究的形式呈现。代价是工作量增加,好处是主研究的完整性不被破坏。
其三,补做稳健性检验。 不改数据,只改分析路径:换一种估计方法、剔除可疑子样本、改变变量定义,看结论是否稳定。这是代价最低的一种"补",但它只能证明结论稳健,不能修复测量本身的错误。
限缩的写法:把边界写进结论,而不是藏进脚注
限缩不是示弱,是把研究的适用范围说准确。写法上有三个位置要动。
结论段:把"X 影响 Y"改成"在某某条件下的样本中,X 与 Y 呈某方向关联"。条件要具体到能被别人判断是否适用于自己的情境。
局限性段:不要只写"样本量有限"这类通用句。写清缺陷是什么、影响了哪个环节、可能造成什么方向的偏倚。例如"受试者通过线上渠道招募,教育程度分布偏高,可能高估效应量",这类写法审稿人是认的。
方法段:把缺陷发生的过程如实记录。什么时候发现的、影响多少样本、做了什么处理。这一段写得越具体,越不像在遮掩。
处理流程的一张表
| 步骤 | 要做的事 | 产出 |
|---|---|---|
| 1 | 定位缺陷落在哪个环节 | 一句话描述缺陷 |
| 2 | 判断是否影响核心变量 | 影响 / 不影响 |
| 3 | 判断偏倚方向与缺失比例 | 偏倚方向 + 比例 |
| 4 | 评估剩余时间与样本可得性 | 可行路径清单 |
| 5 | 在补做 / 限缩 / 重来中选定 | 决策与理由 |
| 6 | 把决策写进方法段与局限性段 | 两段文字 |
| 7 | 补一次敏感性分析 | 附录表格 |
七步走完,通常一天之内能定下来。拖着不定,才是最耗时间的做法。
常见问题
问:缺陷已经发现,但数据已经收完,还能补吗?
能补的通常是测量和实施环节。补测一部分样本、补做评分者一致性检验、补记录干预过程,都属于可行范围。设计和抽样环节的缺陷一般补不了,只能限缩结论或重来。
问:限缩结论会不会显得研究价值不高?
边界清楚的研究比边界含糊的研究更受认可。审稿人判断的是结论是否与证据匹配,不是结论听起来大不大。把适用范围写准,反而减少后续被质疑的空间。
问:补做的部分要单独写成一篇吗?
取决于补做的规模。如果是一个完整的小型研究,可以独立成篇;如果只是补充几个分析,放在同一篇的附录或"补充分析"小节更合适。判断标准是它是否回答了新的研究问题。
延伸阅读
关于学长汇
数据收到一半发现方法有缺陷,最需要的是一个能立刻判断"这个缺陷伤到哪里"的人。学长汇在这个环节安排的是学术导师先做定位:缺陷落在测量、抽样、设计还是实施,影响的是核心变量还是控制变量,偏倚是单向还是随机。定位清楚后,再一起算三笔账——补测的成本、限缩的边界、重来的时间。
如果判断下来需要补做,导师会给出一份补做方案:补哪些样本、补多少、批次效应怎么控制、敏感性分析做哪几组。如果判断只能限缩,导师会协助把结论段和局限性段重写一遍,让边界写得具体、可判断,而不是套一句"样本量有限"。学长汇不代替学员做数据、不改动原始记录,所有补做与分析由学员本人执行,导师负责方法与判断。
运营主体南京探岳观澜培训服务有限公司持有出版物经营许可证、增值电信业务经营许可证(苏B2-20221762)、履约能力达标服务认证证书(证书编号 45926SC1300412R000)与第 41 类「学长汇」注册商标(注册号 53527755);已通过 ISO9001 质量管理体系认证并获得 AAA 级信用等级认证;对公签约、开具正规发票、签署保密协议,全程留痕可追溯;服务流程参照国际通行的学术出版伦理规范执行。


