澎湃Logo
下载客户端

登录

  • +1

问卷中“答案顺序”、“中间答案设置与否”影响调查数据的收集吗?

2021-07-05 17:55
来源:澎湃新闻·澎湃号·湃客
字号

原创 杨静、董海军 定量群学

本期围绕第一个分主题“调查问卷的数据收集”推送两篇文章。一篇是关于问卷设计中“答案顺序”对社会调查结果的影响研究,另外一篇是问卷设计中“中间答案”设置与否对调查结果的影响差别研究。在问卷设计中,我们常常会忽略掉这些细节设计引起的差别。风笑天老师的两篇文章围绕问卷设计中“答案”设计的细节,采用实验研究的原理,建立同质的两组调查对象,分别加以不同的“实验刺激”即运用不同设计版本的问卷进行施测,比较出问卷中答案顺序以及中间答案设置与否对调查结果的影响,这让我们重新审视问卷设计中被遗忘的问题,走向更加科学严谨的问卷调查。

文章一:答案顺序对调查结果有影响吗?

1

研究背景

社会调查是以问卷作为收集资料的基本工具,来研究人们的行为、态度和特征的一种最常见的社会研究方式。问卷使用方式的不同,导致问卷设计的要求和难度也不一样。对于自填式问卷调查来说,由于它完全依赖于问卷自身的书面语言(而不是调查员的口头语言)来与被调查者发生互动、进行引导、实现沟通。因而,问卷设计中的各个方面,比如提问的语言、问题的形式、答案排列方式等等,都有可能对被调查的回答造成影响。一般情况下,调查研究人员主要以封闭式问题、特别是选择式的封闭式问题来构成调查问卷。因此,问卷中的绝大部分问题都会涉及到答案的设计。这种设计主要包括两方面工作:一是答案的内容确定。它需要保证所列出的答案既在内容上与问题相呼应,同时还要达到穷尽性和互斥性的要求。二是答案顺序的排列。即如何安排多个不同答案的先后顺序。实际问卷设计中,大多数研究者都会关注到第一个问题,而对问卷答案的顺序会有忽略。然而,人们阅读文本的方式和习惯却是有一定规律的。比如说,人们都是从左到右、从上到下依次进行阅读的,而不是随意的、随机的和杂乱进行的。那么,在“人们有规律的阅读方式”与调查问卷中“答案排列的不同顺序”这二者之间,有无内在的、有规律的联系呢?即在自填式问卷调查中,对于同样的调查问题,如果答案排列的顺序不同,会不会对被调查者的回答产生影响?如果答案排列的顺序对被调查者的回答有影响,那么,是什么样的影响?这种影响有没有什么规律?如果有规律,这种规律又是什么?在调查实践中,我们可以采取什么样的办法来减小这种影响?

2

研究设计

1、构建两组完全相同的对象

在调查设计中采用了随机化分发问卷的方法。即事先将调查问卷设计成两个不同的版本,这两种版本问卷中的问题完全一样,但部分问题的答案顺序有所不同。每一种版本问卷印制的数量相同。然后邮寄到各个城市的调查对象手里。问卷的发放完全处于一种随机化的状态中。两组对象情况个人背景特征情况见下表。表1的结果表明,采用随机化方法所得到的两组的对象,在各种个人背景特征上几乎完全一样。在一定程度上把两组对象看作完全相同的两个复制品。

2、对两组对象进行施测

在问卷中对36个问题进行了两种答案顺序的不同排列,让两组调查对象回答不同答案顺序的问卷,形成了甲乙两组不同的调查结果。

3

结果呈现

通过对甲乙两组问卷结果进行的对比分析发现,总的来看,对于问卷中的不同问题,不同答案顺序的影响不一样。在有些类型的问题上,不同答案排列顺序对调查结果没有影响;而在另一些类型的问题上,不同答案排列顺序对调查结果却具有十分明显的影响。

从总体上看,在具有两种不同顺序答案排列的36个问题中,有28个问题(占78%)的两种回答结果之间存在显著差异,只有8个问题(占22%)的两种回答结果之间不存在显著差异。表明在调查问卷中,不同答案顺序对调查结果的影响是比较普遍存在的现象。

具体差异:(1)对于客观性的事实问题、行为问题,不同答案排列顺序的影响不大;(2)对于主观性的认知问题、程度问题、评价问题,不同答案排列顺序的影响明显。

1.事实问题

问卷中的事实性问题,指的是那些以了解被调查者在某方面的具体事实为内容的问题。比如,“你和第一个男(女)朋友是如何相识的”、“在你找到第一份工作的过程中,谁对你的帮助最大”等。以“在你找到第一份工作的过程中,谁对你的帮助最大”为例来说明。

在你找到第一份工作的整个过程中,谁对你的帮助最大?①父母②家里亲戚③父母的熟人朋友④老师和学校⑤兄弟姐妹⑥兄弟姐妹的熟人朋友⑦邻居⑧自己的同学朋友⑨没人帮助,完全是我自己应聘找的。其中,甲组(样本分组中用1.00表示)答案的排列如上,乙组(样本分组中的2.00)的答案排列则是将甲组④、⑤、⑥位置上的答案分别与①、②、③位置上的答案进行对换。表3是两组回答的汇总统计及其差异显著性检验的结果,分析表明,尽管进行了位置对换,两组对象回答的结果之间并不存在显著差别。换句话说,对于这样一类事实性问题,不同答案排列顺序对调查结果没有什么影响。

2.行为问题

问卷中的行为问题,指的是那些以了解被调查者“做了什么”以及“怎么做的”等等为主要内容的问题。比如,“你平时上网最经常做什么”、“你在家里通常做哪些家务”、“你遇到困难主要找谁帮忙”等。以“你上网最经常做什么”为例来说明。问卷中的问题和答案是:你平时上网最经常做什么?(选两项)①聊天②了解时事新闻③了解教育、科技知识④玩游戏⑤浏览娱乐体育节目⑥查找职业、财经信息⑦收发邮件⑧获得生活常识⑨其他。其中,甲组答案的排列如上,乙组答案排列则同样是将答案④、⑤、⑥的位置分别与答案①、②、③的位置进行对换。表4是两组回答的汇总统计及其差异显著性检验的结果。结果同样表明对于这样一类客观行为问题,不同答案排列顺序对调查结果也基本上没有什么影响。

3.认知问题

问卷中的认知问题,指的是那些以了解被调查者对某方面事物的主观看法和认识为内容的问题。比如,“你认为找一个好的工作主要依靠什么”、“你觉得工作中的压力主要来自哪个方面”等。以“你认为找一个好的工作主要依靠什么”为例来分析。问卷中的问题和答案是:你认为找一个好的工作主要依靠什么?①个人能力强、素质好②有文凭、学历高③懂外语、会计算机④有一定的工作经验⑤有熟人、关系、路子⑥靠机遇、运气⑦所学的专业热门⑧其他(请指明)。其中,甲组答案的排列如上,乙组答案排列同样是将答案④、⑤、⑥的位置分别与答案①、②、③的位置进行对换。表5是两组回答的统计比较及其差异显著性检验的结果。与前述两种情况明显不同的是,两组回答之间差异十分显著:在甲组回答中,排在①、②、③位置的答案的比例,基本上都明显高于乙组的比例(此时乙组的这些答案分别排在了④、⑤、⑥的位置);而甲组排在④、⑤、⑥位置的答案的比例,则全部低于乙组的比例(此时乙组的这些答案分别排在了①、②、③的位置)———这说明,当我们把排在④、⑤、⑥位置的答案与排在①、②、③位置的答案进行对换后,回答者的选择结果也发生了明显改变。换句话说,不同答案顺序对于认知问题的调查来说,具有非常明显的影响。

4.程度问题

问卷中的程度问题,指的是那些以了解被调查者对某一现象或某种客观状况所具有的主观看法或态度的不同程度为内容的问题。比如,“你对自己目前从事的工作是否满意”、“你对自己人际关系方面的状况是否满意”、“你的父亲是否理解你”等等。针对这类程度问题,探讨的是,当答案顺序从“非常理解”到“很不理解”的排列,改变为从“很不理解”到“非常理解”的排列,或者从“非常满意”到“很不满意”的排列,改变为从“很不满意”到“非常满意”的相反顺序时,两组回答结果有无显著变化。下面以“父亲是否理解你”这一问题的统计结果为例来说明。从表6结果中可以看出,当答案从“非常理解”到“很不理解”排列(即正向陈述)时,其所得结果中的正向比例(即答案①和答案②)高于乙组;反之,但当答案是从“很不理解”到“非常理解”排列(即反向陈述)时,乙组所得结果中的中间答案以及负向答案的比例(即答案③、答案④和答案⑤)高于甲组。卡方检验结果表明,这种差异是显著的。说明,当程度的答案方向改变时,调查所得结果也存在明显不同。

4

结论

在自填式问卷调查中,对于同样的调查问题,如果答案排列的顺序不同,就有可能对被调查者的回答产生影响。这种影响是一种比较普遍存在的现象,值得研究者重视和注意。答案排列的顺序对被调查者的回答产生影响的基本规律是:对于客观性的事实问题、行为问题,答案的不同顺序对调查结果不具有明显影响;但对于主观性的认知问题、程度问题以及评价问题,不同答案顺序所得结果之间有着明显的不同,特别是第一个答案的影响更为突出(即更容易被回答者选中)。这一研究结果对社会研究中广泛运用的、以封闭式问题为主要形式的问卷调查提出了一定的挑战。同时,它也对调查研究者的问卷设计工作以及对使用问卷收集资料的质量提出了更高要求。

在实际调查中,可以采取什么样的办法来减小这种影响呢?研究者在设计调查问卷时,最好能为一套调查问题及答案设计出多个不同的版本。在每一种版本的问卷中,所提出的问题、所给出的答案以及问题的前后顺序等等完全一样,只是问卷中一部分问题的答案排列顺序有所不同。这部分问题就是以询问被调查者对社会现象的认知、判断、评价以及态度等等为内容的主观性问题,包括各种量表。可以采用随机化方法、轮换的排列方式、正反向排列法来减少答案顺序对结果的影响。

文章二:问卷设计中“中间答案”设置与否有差别吗?

1

研究背景

在问卷设计测量被调查者的态度、主观评价等方面内容的问题时,研究者常常会面临这样一种选择:问题的答案设计究竟是采用没有中间答案的偶数形式,还是采用有中间答案的奇数形式?比如:“请问你赞成生三胎政策吗?”研究者在设计问题的答案时,可以有两种方式:一种是设计成没有中间答案的偶数形式。比如,“1赞成、2不赞成”;或者,“1赞成、2比较赞成、3不太赞成、4很不赞成”。另一种是设计成有中间答案的奇数形式。比如,“1赞成、2中立、3不赞成”;或者,“1赞成、2比较赞成、3无所谓、4不太赞成、5很不赞成”。目前学术界中对两种答案设计方式都有采用。但对“这两种不同的答案形式所得到的调查结果之间是否存在差别”,以及“如果存在差别,那么这种差别具有什么样的特征”“这种差别的范围有多大”“这种差别对调查的结论会产生什么样的影响”“在实际调查设计和结果分析中研究者又应该如何应用不同的答案形式”等一系列问题尚缺乏探讨。

2

研究设计

1、建立两个相同的样本组

在调查设计中采用了随机化分发问卷的方法。笔者事先将调查问卷设计成两个不同的版本:问卷中的所有问题完全一样,但部分问题的答案形式不同,一部分采用奇数答案形式设计,另一部分则采用偶数答案形式设计。每一种版本问卷印制的数量相同(各占二分之一)。各地负责调查的研究者并不知道该问卷有两个版本。所以,调查问卷的实际发放完全处于一种随机化的状态中。采用随机化方法所得到的两个组的对象,在各种个人背景特征上几乎完全一样卡方检验(以及F检验)的结果表明,两组对象之间在各种特征上不存在显著差异。

2、两种不同的答案设计方法

研究中总共有九个题目采用了两种不同的答案设计方法。这九个题目中,涉及态度问题的一个,涉及评价性问题的四个,涉及事实性问题的四个。对它们的答案设计分别采用无中间项的四个答案形式和加上一个中间项的五个答案形式。两个版本的问卷中两种答案形式交叉设计,即每一个版本中都既有四个答案的形式,也有五个答案的形式。具体做法是甲版本问卷中某些问题用的是四个答案时,乙版本问卷中对应问题则用五个答案;甲版本问卷中的另一些问题用的是五个答案时,乙版本问卷中对应问题则用的是四个答案。这样做可以有效避免回答者形成答题偏好和填答惯性。

3

结果呈现

当采取两种不同数目的答案形式时,调查结果会出现十分明显的分布差异。总体上,依据调查问题性质的不同,两种形式的答案之间的分布总差距(即增加中间答案时“吸引”的回答者比例,或者说,去掉中间答案时“流走”的回答者比例)从5%左右直到33%左右。这一结果启示我们,调查问卷设计中,不能忽视态度问题答案形式中有无中间答案的影响。

将表2中的九个问题按性质分为态度性问题(第1题)、评价性问题(第2、3、4、5题)和事实性问题(第6、7、8、9题),态度性问题两种回答之间的差距最大,达到33%左右;事实性问题的两种回答之间的分布差距也比较大,大约在17%~21%;而评价性问题的两种答案形式之间的分布差异相对较小,大约在5%~15%。结果说明,问卷设计中对各种程度问题的答案采用有无中间答案的两种数目的设计时,对态度性问题调查结果的影响最大,对事实性问题调查结果的影响次之,对评价性问题调查结果的影响相对较小。另外,发现中间答案的出现主要“吸引了”没有中间答案的问卷中两个“比较级”的回答(或者说,取消中间答案主要“增加了”有中间答案的问卷中两个“比较级”的回答)。态度问题中,中间答案所“吸引”的比例最大,尤其是对否定方向的回答者;事实性问题中,中间答案所“吸引”比例也较大,但两个方向的比例相当;评价性问题中,中间答案所“吸引”的比例最小,且主要是对肯定方向的回答者“吸引”较多,对否定方向回答者“吸引”的比例则较少。

4

结论

有中间答案或者没有中间答案这两种答案形式各有什么优缺点?问卷设计中是应该、或是不应该提供中间答案?

无中间答案的偶数形式可以促使每一个回答者都明确地表明自己的态度、评价及其程度,这是优点。但这种偶数形式的答案忽略了人们的态度存在“不偏不倚”的中立状况的可能,具有“强迫”那些持有中立态度的被调查者在“非此即彼”的情景中做出选择的不足。有中间答案的奇数形式则兼顾到了客观现实的情况,从这方面来说,有中间答案的奇数形式具有优点,比较可取。但另一方面,奇数形式的答案设计又往往存在着一种为回答者提供可以隐藏其真实态度的机会和空间的可能。

面对这种客观存在的差别和影响,社会研究者在实际调查设计和结果分析中又应该如何应用这两种不同的答案形式呢?

对于两类答案差别较大的态度性问题、特别是比较敏感的态度性问题,以及事实性问题,研究者可以考虑用偶数形式的答案设计,以便可以相对“硬性”地要求回答者表明自己的态度或迫使他做出明确反应。避免一部分回答者利用中间答案“隐藏”自己的态度倾向的做法。而对于差别相对较小的评价性问题,以及不敏感的态度性问题、事实性问题,则尽可能采用有中间答案的奇数形式,以便全面反映不同回答者的程度差别。特别是在对被调查者如实回答问题具有较大把握的时候,我们更倾向于采用有中间答案的奇数形式。

本研究的结果为我们认识两种答案设计之间的差别,以及这种差别对调查结果的影响提供了清楚的依据。特别是对于采用偶数答案方式设计的调查结果与实际社会中人们的主观态度、客观行为、状态评价之间的可能差距,以及采用奇数答案方式设计的调查结果与实际社会中一部分人将自己的主观态度、客观行为、评价状态“隐藏”于中间答案的可能性,这些都是我们在看待各种调查结果和研究结论时应特别注意的一个方面。

文献来源

风笑天.社会调查中答案顺序对调查结果的影响——来自一项大规模调查的经验证据[J].华中师范大学学报(人文社会科学版),2008(02):27-32.

风笑天.社会调查中的“中间答案”:设置与否的差别研究[J].广西民族大学学报(哲学社会科学版),2013,35(01):110-115.

导读人:中南大学公共管理学院2019级社会学博士研究生杨静;中南大学公共管理学院社会学教授董海军

原标题:《问卷中“答案顺序”、“中间答案设置与否”影响调查数据的收集吗?》

阅读原文

    本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。

    +1
    收藏
    我要举报

            扫码下载澎湃新闻客户端

            沪ICP备14003370号

            沪公网安备31010602000299号

            互联网新闻信息服务许可证:31120170006

            增值电信业务经营许可证:沪B2-2017116

            © 2014-2024 上海东方报业有限公司

            反馈