问卷研究里最容易被审稿人追问的两处,一是回收率,二是"你删掉了哪些问卷"。前者决定样本代表性,后者决定结果是否被人为修饰。两者都不能只报一个数字了事——需要交代清理规则,且规则要在看结果之前就定下来。
回收率的三种口径,别混着用
"回收率 82%"这句话至少对应三种不同算法,差别可能超过二十个百分点。
| 口径 | 分母 | 分子 | 适用场景 |
|---|---|---|---|
| 发放回收率 | 发出的问卷份数 | 收回的份数 | 纸质量表、现场发放 |
| 触达回收率 | 实际送达的人数 | 完成提交的人数 | 线上问卷、邮件邀请 |
| 有效回收率 | 触达人数 | 通过清理后的有效份数 | 论文报告的主口径 |
论文里至少要报两档:触达回收率与有效回收率,并说明两者之间的差额去了哪里。只报发放回收率,审稿人无法判断样本是否有系统性缺失。
线上问卷还要注意一个陷阱:平台显示的"回收份数"往往包含只点开未完成的记录,以及同一设备的重复提交。这两个数字要在方法部分说清楚是否剔除。
无效样本的四类判定标准
清理规则必须在数据分析之前确定并留档。常见判定分四类,每类都要写明阈值。
第一类,完成度不足。 比如答题时长低于中位数的三分之一,或关键题项缺失超过两成。阈值要基于预试验或平台数据设定,不能凭感觉。
第二类,规律性作答。 连续十个题项选同一选项、答案呈锯齿形、反向题与正向题得分高度一致。判定时注意:反向题设计不当也会造成"看起来规律",需要人工抽查。
第三类,逻辑矛盾。 筛选题与后续题目冲突,比如"从未使用过某服务"却在后面评价了该服务体验。
第四类,重复与异常来源。 同一 IP、同一设备指纹、同一账号多次提交;或来源地集中在非目标区域。
这四类的剔除比例要分别报告。合并成一个"剔除 15%"会掩盖结构问题——如果 15% 全部来自某一类,说明数据收集环节存在系统性缺陷。
清理记录怎么写才可复现
"可复现"的意思是:换一个人拿到你的原始数据,按你写的规则能删出同样的样本。要做到这一点,记录需要包含五个要素。
- 原始份数:平台导出或收回的总数。
- 逐步剔除过程:按规则顺序,每步剔除多少、剩余多少。
- 规则依据:每条阈值的来源(预试验、文献、平台说明)。
- 最终有效份数:进入分析的样本量。
- 剔除前后的样本特征对比:性别、年龄、关键变量的分布变化。
第五项最容易被忽略,但它最能说明问题。如果剔除后样本的性别比例从 5:5 变成 7:3,就要考虑剔除规则是否带来了选择性偏倚。
推荐用一张流程图加一张表来呈现:
| 阶段 | 操作 | 剔除份数 | 剩余份数 |
|---|---|---|---|
| 原始 | 平台导出 | — | 1200 |
| 1 | 完成度 < 60% | 96 | 1104 |
| 2 | 答题时长 < 180 秒 | 78 | 1026 |
| 3 | 规律性作答 | 42 | 984 |
| 4 | 逻辑矛盾 | 31 | 953 |
| 5 | 重复来源 | 18 | 935 |
这类表格放在方法部分或附录,一页就能说清。
回收率偏低时怎么写
回收率低不等于研究无效,但必须处理代表性问题是。三种做法按严格程度排列:
其一,比较应答者与未应答者。 如果能拿到未应答者的基本特征(年龄、地区等),做一次分布对比。差异小,代表性风险就低。
其二,加权调整。 按总体分布对样本加权,使关键变量结构与总体一致。加权后要说明权重构造方式,并报告加权前后的结果差异。
其三,限缩结论范围。 明确写出样本不代表总体,结论仅适用于本样本所覆盖的人群。这一条最保守,但也最诚实。
注意不要用"回收率偏低但样本量足够"来搪塞。样本量解决的是统计功效,解决不了代表性——一千个只来自同一所学校的样本,不能代表全国。
共同方法偏差要单独交代
同一份问卷、同一时点、同一被试自评所有变量,会带来共同方法偏差。审稿人现在几乎必问。处理方式有三层:
- 程序控制:题项顺序打散、正反向题混排、部分变量换时点测量、匿名与保密承诺写清。
- 统计检验:Harman 单因子检验,或加入方法因子做对比模型。
- 结果说明:如果检验显示偏差不严重,报告具体指标;如果存在,说明对结论的可能影响方向。
只写"已采用匿名方式控制共同方法偏差"是不够的,缺少检验环节。
常见问题
问:回收率多少算合格?
没有统一门槛,取决于研究类型与抽样方式。线下现场发放通常要求较高,线上便利抽样本身就难达到高回收率。审稿人更关注你是否说明了代表性风险,而不是数字本身。
问:规律性作答的问卷一定要删吗?
不一定。反向题设计不当会让认真作答的人也呈现"规律"。稳妥做法是先人工抽查一部分,确认是作答敷衍还是题目设计问题,再定是否整体剔除。
问:剔除比例高会不会被认为数据质量差?
关键在原因是否清楚。如果剔除集中在某一条可解释的规则上(比如线上投放带来的重复提交),说明清楚反而显得严谨。如果剔除比例高且没有明确规则,才会被质疑。
延伸阅读
关于学长汇
问卷类研究里,清理规则是最容易被"结果导向"污染的一步——看到假设不成立,就想把某几份问卷再删掉。学长汇在这个环节的做法是要求清理规则先落地:在收数据之前把四类判定标准的阈值写下来,形成一份清理方案,数据到手后按方案执行,不再回头改规则。
执行完之后,导师会带学员做两件事:一是核对剔除前后的样本特征,看有没有引入选择性偏倚;二是把清理过程整理成可复现的表格,让第三方能按同样规则删出同样的样本。如果回收率偏低,导师会给出代表性检查的三条路径,由学员判断能走到哪一步。学长汇不接触学员的原始问卷数据,清理与分析由学员本人完成,导师负责规则设计与结果解释的把关。
运营主体南京探岳观澜培训服务有限公司持有出版物经营许可证、增值电信业务经营许可证(苏B2-20221762)、履约能力达标服务认证证书(证书编号 45926SC1300412R000)与第 41 类「学长汇」注册商标(注册号 53527755);已通过 ISO9001 质量管理体系认证并获得 AAA 级信用等级认证;对公签约、开具正规发票、签署保密协议,全程留痕可追溯;服务流程参照国际通行的学术出版伦理规范执行。


