论文部分内容阅读
大数据具有科技和政治的二重性：一方面，大数据是现代信息科技发展的产物;另一方面，作为互联网发展的产物，大数据也会基于政治因素被人为操纵。大数据操纵比以往任何操纵人心的方法更为强大且隐蔽，让人难以察觉。
大数据操纵与社交机器人大数据操纵与社交机器人
“润物细无声”的阈下
以隐藏信息来影响人们的潜意识，可谓“润物细无声”，它在心理学领域有一个专有名词——阈下。阈下是指阈限以下，还可被称为“阈下刺激”“阈下效应”“阈下知觉”“感觉阈限”。这是一种潜意识的、低于阈值的刺激所引起的行为和心理反应，因为作用于人的感受器官的适宜刺激必须达到一定强度（阈限值）才能引发感受。
从阈下得到启发，人们开始借助现代先进信息技术手段，利用阈下信息影响目标对象的认知、情感、意志等方面，特点是呈现的快速性、投送的微弱隐蔽性及影响的潜在性。这点在广告中很常见。信息接收主体表现为可能觉得有什么东西露了一下面，可又不能确切说出是什么东西，或压根儿就没有意识到这个东西出现了。这犹如电影《盗梦空间》的情节，信息发送方潜入你的梦境，给你注入一个想法，而你还以为这完全是自己的想法。
比如，大型超市的轻音乐能让顾客放慢脚步，购买那些自己可能并不需要的商品。时尚娱乐业推出各种非主流文化，如网络游戏，让青少年每天体验各种胡思乱想和紧张情绪。政客们与顾问们合作，检视自身言行的方方面面，如衣着、语调、表情、妆容、发型、演讲都要是最佳状态，以说服投票人。
但是进入互联网+大数据时代，能与阈下信息媲美的数据操纵兴起，而且数据操纵远比过去已知的操纵手段更加强大、更具隐秘性，可谓大道无形。
数据引导你的作为
曾几何时，打开剑桥分析网站首页，一行大字醒目跃入眼帘：“数据引导你的作为。”如今，数据已成为驱动经济社会发展的重要资源，基于用户数据分析的行为科学研究进入了新时代。有时，这也被称为“计算机劝导技术”，该名词由斯坦福大学行为设计学家福格于1996年创造。这种技术衍生出一个尖刻的术语——豚鼠经济，指人就像一只只豚鼠，被训练和引导，最终习惯成自然。
今天，数据将不再仅反映我们是谁，它还在引导人们决定自己到底是谁。互联网公司为了向用户提供更精准的定制化产品和资讯服务，让其推送的产品和资讯与用户偏好恰好吻合。不过，要引导用户行为，首先要对用户进行画像。
“交互设计之父”艾伦·库伯最早提出“用户画像”概念：用户画像是目标用户的具体表现形式。也就是说，用户画像是真实用户的虚拟代表，是建立在一系列真实数据基础上的目标用户模型。它根据用户的社会属性、生活习惯、情趣偏好和消费行为等数据，将用户区分为不同类型，然后从每种类型中抽取典型标签特征，如名字、性别、地域、场景等，从而形成一个用户画像的原型。
用户画像犹如打开“上帝视角”，每个用户的社会属性、使用行为、消费行为、偏好属性、潜在需求都清晰可见。互联网公司掌握了这些用户画像，就可以不断向用户投递个性化的信息流和广告，用数据引导用户行为。《连线》杂志创始主编凯文·凯利认为：“技术狂热是我们的一种自然状态，我们喜爱我们的东西，并且由它们引导。”用户习惯了这种信息接收方式，就变为被信息喂养的人——技术瓦解了“自我的真实”。久而久之，互联网公司的推送信息就能影响人的决策，“数据引导你的作为”就成为一种现实。
现在，许多互联网公司都具备“数据引导你的作为”的能力，甚至强大到足以改变人们对“我是谁”“我想成为谁”等问题的回答。虽然互联网公司只是试图最大限度地参与并引导用户的购买决策，并非操纵用户的世界观，但它们已成为各种势力利用的工具，利用大数据操纵舆论已成为现实。
数据左右你的情绪
你在社交媒体上表达的情感可能会影响其他人的情绪。
1993年，美国社会心理学家伊莱恩·哈特菲尔德提出情绪传染理论，他认为人类存在自发模仿身边人言行并将它同步为自身行为的习惯，将它指向情绪方面就构成了情感传染。2012年，脸书首席数据科学家亚当·卡拉默、康奈尔大学交流与信息科学学院教授贾米·古伊洛瑞和杰弗里·汉考克对68万名母语为英语的脸书用户秘密进行“社交网络大规模情绪传染”实验，在这些用户完全不知情的情况下，通过修改他们可以接触的好友新鲜事的正负面情绪帖，研究情绪在社交媒体上的传播与扩散方式，以及是否可以侧面操控用户情绪。这项实验的研究论文《社交网络中大规模情绪扩散的实验证据》于2013年发表在《美国国家科学院院刊》上，实验表明：情绪可以在互联网上蔓延，互联网对产生情绪共鸣有推波助澜的作用。
这项研究真正让人感到恐惧的是，脸书具备大规模操纵情感的能力，可以通过信息流轻易操纵人们的喜怒哀乐。如今，信息流和推荐算法无处不在，它们已不仅仅意味着我们在浏览什么。脸书的情绪传染实验只是简单校验了一下信息茧房的假说，结果却发现信息流可能影响人们的情绪。实际上，在阅读、购物、旅行、音乐等方面的选择上，我们都会被信息流左右。
数据操纵你的价格
近两年，“大数据杀熟”成为一个热门词。
杀熟自古有之，只不过在今天，互联网产品或服务的提供者在大数据支撑下分析用户习惯和使用记录，为用户量身定价，“让愿意花10元的人花10元，让愿意花100元的人花100元”，真正做到千人千价。
2015年1月，微信正式向用户推送朋友圈广告，宝马、可口可乐与vivo手机是微信首批广告商。一些用户在微信朋友圈刷出了宝马汽车广告，另一些用户却刷出了vivo或可口可乐的广告。经统计调查发现，苹果手机用户收到的宝马广告最多，宝马广告只發送给19～50岁的一线城市用户，或在移动支付方面支出超过某个标准的用户。微信用户不满情绪因此暴涨，一些用户认为他们被归入较低的社会阶层，抱怨道：“连腾讯都发现我只买得起可口可乐，而且我终生都买不起宝马。”微信采用的是精准投放，这也被认为是中国数据歧视的起源。 脸书曾提供发送定向广告时排除特定种族、性别和家庭背景群体的服务，这对弱势群体来说可谓充满歧视的差别待遇，其恶劣影响更甚于杀熟。比如，当大数据和算法判断求职者为男性时，为其推送高薪主管类职位消息的概率远大于同等条件的女性求职者;利用大数据计算参与恐怖主义活动的概率，并采取不同程度限制出行或监控的措施;在缺乏直接信用记录和数据的情况下，基于其他信息（如电话账单、教育背景、社交网络等）预估信用评分，最终导致特定群体无法申请小额贷款;银行降低某人信用卡消费额度的原因并非基于该持卡人的消费与还款记录，而是基于该持卡人被归为“同一类型”的消费者共同的记录与特征。
社交机器人操纵
社交机器人是人工智能发展到一定阶段的产物，是指社交媒体上模拟人类用户、自主运行、自动生产发布内容的算法智能体，是模仿人类的社交媒体言行的计算机程序。社交机器人能模仿真人用户在网上的行为模式，并与真人开展社交，常常进行对话、关注、点赞、评论、转发等操作，是使内容或话题看起来比实际更受欢迎的廉价工具。
近年来的许多研究发现，脸书、推特等社交媒体上存在大量社交機器人，它们在注册账号资料填写、社交网络构建、信息发布规律特性等方面都能较好地模拟人的行为。2006年，牛津大学互联网研究所主任菲利普·霍华德在专著《新媒体运动和被管理的公民》中首次预言社交媒体将被滥用于操控公共意见、误传政治信息和进行虚假宣传。2009年，市场咨询服务公司Sysomos发布报告指出，约24%的推特内容由社交机器人生成。亚利桑那州立大学与卡内基-梅隆大学的研究者在2015年共同指出，推特中至少有7%的社交机器人账号。外国学者芒森通过比对脸书的官方数据指出，5%～11%的脸书账号是假的，账号背后并非真实的人类用户。
近年来的许多案例表明，活跃的社交机器人对政治、经济、社会等能产生明显影响。2010年的美国中期选举和马萨诸塞州特别选举中，数量惊人的包含着超链接的推文被社交机器人生成，这些超链接皆指向预先建立的包含支持己方候选人、打击对方候选人的虚假新闻网站。2013年4月23日，叙利亚电子军控制美国白宫的推特账号，发布“白宫发生爆炸事件，总统奥巴马受伤”的消息，在社交机器人助推下大肆传播，最终重创美国股市。舍费尔等学者认为，安倍晋三能在2014年日本首相选举中胜出，得益于推特的大规模机器人军队助其在网上快速建立国家主义议程框架。2016年6月英国脱欧公投期间，有7.7万个机器人参与了签署在线公投请愿书。
2016年美国总统大选期间，特朗普的推特粉丝约1/4是机器人，近19%与大选相关的推文是由社交机器人发出的。南加利福尼亚大学信息科学研究院的亚历山德罗·贝西和埃米利奥·费拉拉研究发现，约40万部社交机器人在大选前日夜运作，以惊人的速度在推特上不断发推文和转推，发挥强大的影响力，以左右、歪曲网上讨论。人们并不擅于分辨所接触的信息源，而社交机器人由于活跃，可生产更多推文，被转推的次数很多，让人误以为某些候选人在网上似乎真的得到了基层支持。事实上，那些支持者是机器人。2016年美国总统大选中，推特社交机器人生成了1.4亿条推文，包含400万个相关话题;脸书社交机器人分享了3800万条虚假新闻。
可以说，机器人在一定程度上影响了政治竞选活动。社交机器人已经成为西方政客操纵舆论的工具。研究者根据社交机器人的政治操纵问题，提出“政治机器人”一词。政治机器人通过与社交媒体平台用户建立社交关系，传播幕后操纵者的政治主张，混淆视听，操纵舆论以实现政治目的，被称为隐形操纵、隐蔽说服，这也派生出专有术语“伪草根营销”或“推特炸弹”。
（摘自中信出版集团《操纵：大数据时代的全球舆论战》 作者：中璋）
大数据操纵与社交机器人大数据操纵与社交机器人
“润物细无声”的阈下
以隐藏信息来影响人们的潜意识，可谓“润物细无声”，它在心理学领域有一个专有名词——阈下。阈下是指阈限以下，还可被称为“阈下刺激”“阈下效应”“阈下知觉”“感觉阈限”。这是一种潜意识的、低于阈值的刺激所引起的行为和心理反应，因为作用于人的感受器官的适宜刺激必须达到一定强度（阈限值）才能引发感受。
从阈下得到启发，人们开始借助现代先进信息技术手段，利用阈下信息影响目标对象的认知、情感、意志等方面，特点是呈现的快速性、投送的微弱隐蔽性及影响的潜在性。这点在广告中很常见。信息接收主体表现为可能觉得有什么东西露了一下面，可又不能确切说出是什么东西，或压根儿就没有意识到这个东西出现了。这犹如电影《盗梦空间》的情节，信息发送方潜入你的梦境，给你注入一个想法，而你还以为这完全是自己的想法。
比如，大型超市的轻音乐能让顾客放慢脚步，购买那些自己可能并不需要的商品。时尚娱乐业推出各种非主流文化，如网络游戏，让青少年每天体验各种胡思乱想和紧张情绪。政客们与顾问们合作，检视自身言行的方方面面，如衣着、语调、表情、妆容、发型、演讲都要是最佳状态，以说服投票人。
但是进入互联网+大数据时代，能与阈下信息媲美的数据操纵兴起，而且数据操纵远比过去已知的操纵手段更加强大、更具隐秘性，可谓大道无形。
数据引导你的作为
曾几何时，打开剑桥分析网站首页，一行大字醒目跃入眼帘：“数据引导你的作为。”如今，数据已成为驱动经济社会发展的重要资源，基于用户数据分析的行为科学研究进入了新时代。有时，这也被称为“计算机劝导技术”，该名词由斯坦福大学行为设计学家福格于1996年创造。这种技术衍生出一个尖刻的术语——豚鼠经济，指人就像一只只豚鼠，被训练和引导，最终习惯成自然。
今天，数据将不再仅反映我们是谁，它还在引导人们决定自己到底是谁。互联网公司为了向用户提供更精准的定制化产品和资讯服务，让其推送的产品和资讯与用户偏好恰好吻合。不过，要引导用户行为，首先要对用户进行画像。
“交互设计之父”艾伦·库伯最早提出“用户画像”概念：用户画像是目标用户的具体表现形式。也就是说，用户画像是真实用户的虚拟代表，是建立在一系列真实数据基础上的目标用户模型。它根据用户的社会属性、生活习惯、情趣偏好和消费行为等数据，将用户区分为不同类型，然后从每种类型中抽取典型标签特征，如名字、性别、地域、场景等，从而形成一个用户画像的原型。
用户画像犹如打开“上帝视角”，每个用户的社会属性、使用行为、消费行为、偏好属性、潜在需求都清晰可见。互联网公司掌握了这些用户画像，就可以不断向用户投递个性化的信息流和广告，用数据引导用户行为。《连线》杂志创始主编凯文·凯利认为：“技术狂热是我们的一种自然状态，我们喜爱我们的东西，并且由它们引导。”用户习惯了这种信息接收方式，就变为被信息喂养的人——技术瓦解了“自我的真实”。久而久之，互联网公司的推送信息就能影响人的决策，“数据引导你的作为”就成为一种现实。
现在，许多互联网公司都具备“数据引导你的作为”的能力，甚至强大到足以改变人们对“我是谁”“我想成为谁”等问题的回答。虽然互联网公司只是试图最大限度地参与并引导用户的购买决策，并非操纵用户的世界观，但它们已成为各种势力利用的工具，利用大数据操纵舆论已成为现实。
数据左右你的情绪
你在社交媒体上表达的情感可能会影响其他人的情绪。
1993年，美国社会心理学家伊莱恩·哈特菲尔德提出情绪传染理论，他认为人类存在自发模仿身边人言行并将它同步为自身行为的习惯，将它指向情绪方面就构成了情感传染。2012年，脸书首席数据科学家亚当·卡拉默、康奈尔大学交流与信息科学学院教授贾米·古伊洛瑞和杰弗里·汉考克对68万名母语为英语的脸书用户秘密进行“社交网络大规模情绪传染”实验，在这些用户完全不知情的情况下，通过修改他们可以接触的好友新鲜事的正负面情绪帖，研究情绪在社交媒体上的传播与扩散方式，以及是否可以侧面操控用户情绪。这项实验的研究论文《社交网络中大规模情绪扩散的实验证据》于2013年发表在《美国国家科学院院刊》上，实验表明：情绪可以在互联网上蔓延，互联网对产生情绪共鸣有推波助澜的作用。
这项研究真正让人感到恐惧的是，脸书具备大规模操纵情感的能力，可以通过信息流轻易操纵人们的喜怒哀乐。如今，信息流和推荐算法无处不在，它们已不仅仅意味着我们在浏览什么。脸书的情绪传染实验只是简单校验了一下信息茧房的假说，结果却发现信息流可能影响人们的情绪。实际上，在阅读、购物、旅行、音乐等方面的选择上，我们都会被信息流左右。
数据操纵你的价格
近两年，“大数据杀熟”成为一个热门词。
杀熟自古有之，只不过在今天，互联网产品或服务的提供者在大数据支撑下分析用户习惯和使用记录，为用户量身定价，“让愿意花10元的人花10元，让愿意花100元的人花100元”，真正做到千人千价。
2015年1月，微信正式向用户推送朋友圈广告，宝马、可口可乐与vivo手机是微信首批广告商。一些用户在微信朋友圈刷出了宝马汽车广告，另一些用户却刷出了vivo或可口可乐的广告。经统计调查发现，苹果手机用户收到的宝马广告最多，宝马广告只發送给19～50岁的一线城市用户，或在移动支付方面支出超过某个标准的用户。微信用户不满情绪因此暴涨，一些用户认为他们被归入较低的社会阶层，抱怨道：“连腾讯都发现我只买得起可口可乐，而且我终生都买不起宝马。”微信采用的是精准投放，这也被认为是中国数据歧视的起源。 脸书曾提供发送定向广告时排除特定种族、性别和家庭背景群体的服务，这对弱势群体来说可谓充满歧视的差别待遇，其恶劣影响更甚于杀熟。比如，当大数据和算法判断求职者为男性时，为其推送高薪主管类职位消息的概率远大于同等条件的女性求职者;利用大数据计算参与恐怖主义活动的概率，并采取不同程度限制出行或监控的措施;在缺乏直接信用记录和数据的情况下，基于其他信息（如电话账单、教育背景、社交网络等）预估信用评分，最终导致特定群体无法申请小额贷款;银行降低某人信用卡消费额度的原因并非基于该持卡人的消费与还款记录，而是基于该持卡人被归为“同一类型”的消费者共同的记录与特征。
社交机器人操纵
社交机器人是人工智能发展到一定阶段的产物，是指社交媒体上模拟人类用户、自主运行、自动生产发布内容的算法智能体，是模仿人类的社交媒体言行的计算机程序。社交机器人能模仿真人用户在网上的行为模式，并与真人开展社交，常常进行对话、关注、点赞、评论、转发等操作，是使内容或话题看起来比实际更受欢迎的廉价工具。
近年来的许多研究发现，脸书、推特等社交媒体上存在大量社交機器人，它们在注册账号资料填写、社交网络构建、信息发布规律特性等方面都能较好地模拟人的行为。2006年，牛津大学互联网研究所主任菲利普·霍华德在专著《新媒体运动和被管理的公民》中首次预言社交媒体将被滥用于操控公共意见、误传政治信息和进行虚假宣传。2009年，市场咨询服务公司Sysomos发布报告指出，约24%的推特内容由社交机器人生成。亚利桑那州立大学与卡内基-梅隆大学的研究者在2015年共同指出，推特中至少有7%的社交机器人账号。外国学者芒森通过比对脸书的官方数据指出，5%～11%的脸书账号是假的，账号背后并非真实的人类用户。
近年来的许多案例表明，活跃的社交机器人对政治、经济、社会等能产生明显影响。2010年的美国中期选举和马萨诸塞州特别选举中，数量惊人的包含着超链接的推文被社交机器人生成，这些超链接皆指向预先建立的包含支持己方候选人、打击对方候选人的虚假新闻网站。2013年4月23日，叙利亚电子军控制美国白宫的推特账号，发布“白宫发生爆炸事件，总统奥巴马受伤”的消息，在社交机器人助推下大肆传播，最终重创美国股市。舍费尔等学者认为，安倍晋三能在2014年日本首相选举中胜出，得益于推特的大规模机器人军队助其在网上快速建立国家主义议程框架。2016年6月英国脱欧公投期间，有7.7万个机器人参与了签署在线公投请愿书。
2016年美国总统大选期间，特朗普的推特粉丝约1/4是机器人，近19%与大选相关的推文是由社交机器人发出的。南加利福尼亚大学信息科学研究院的亚历山德罗·贝西和埃米利奥·费拉拉研究发现，约40万部社交机器人在大选前日夜运作，以惊人的速度在推特上不断发推文和转推，发挥强大的影响力，以左右、歪曲网上讨论。人们并不擅于分辨所接触的信息源，而社交机器人由于活跃，可生产更多推文，被转推的次数很多，让人误以为某些候选人在网上似乎真的得到了基层支持。事实上，那些支持者是机器人。2016年美国总统大选中，推特社交机器人生成了1.4亿条推文，包含400万个相关话题;脸书社交机器人分享了3800万条虚假新闻。
可以说，机器人在一定程度上影响了政治竞选活动。社交机器人已经成为西方政客操纵舆论的工具。研究者根据社交机器人的政治操纵问题，提出“政治机器人”一词。政治机器人通过与社交媒体平台用户建立社交关系，传播幕后操纵者的政治主张，混淆视听，操纵舆论以实现政治目的，被称为隐形操纵、隐蔽说服，这也派生出专有术语“伪草根营销”或“推特炸弹”。
（摘自中信出版集团《操纵：大数据时代的全球舆论战》 作者：中璋）