青年锐视角

规训与惩罚:互联网下的“囚徒困境”


       “如果你要驯服一个人,就要冒着掉眼泪的危险。一旦你驯服了什么,就要对她负责,永远的负责。”《小王子》中的这段话常被人引作描述恋人之间的羁绊。仔细揣摩,我们还能感觉到一种隐形的“操控”,即“驯服”。所谓“驯服”,一般是指人驯化物使之顺从的过程,其隐含的主体是人,比如人驯化猫、狗、水稻、玉米等动植物。但从本质上来看,驯服者与被驯服者双方是一种相互依存的“共生”关系。人驯服动物需要消耗大量的时间、精力来苦心经营,才能形成持久而稳定的驯服关系。只有驯服的双方相互需要,彼此之间达成“协议”,建立“合作”的关系,才能实现利益的最大化。从这个角度来看,人驯化物的过程同样也是物驯化人的过程。如果从人与物互相驯服的视角来考察互联网背景下的算法,也许会对网络运行机制有新的认识。从人类的发展史来看,人类似乎天生有一种征服的欲望,渴望挣脱自己的宿命,不断克服人类自身的局限,发展出科技的“爪牙”作为人类征服世界的工具,从军备竞赛到外空探索,从工业生产到衣食住行,无不显示出人改造世界的强大力量。计算机网络正是人类身体器官的延伸,是人的本质的发展,也就是“人的本质力量的对象化”。

      如果说科技的出现使得人类对于客观世界有了更深刻的认识和把握,那么互联网算法的出现,使得人类对于自身的了解趋于全面化、精细化。大数据的精确计算意味着机器可能比你还了解你自己,苏格拉底“认识你自己”的问题或将不攻自破。但值得注意的是,算法必须基于大数据的监测,而大数据就来自于你在互联网上的“足迹”,即人自身的活动。从这个意义来说,人创造出算法这种监测工具的同时也意味着算法实现了对人的监控。人操纵着算法,算法也在学习着人类。当算法能够精准拿捏人性每一个细节的需求时,人类的欲望将无限膨胀。但这种欲望就像一个鼓胀的气球——一戳就破,算法对人类的认识越精确,对人类的威胁也就越大。体现在个人和社会层面,网游对玩家需求的精确把握使得无数青少年沉溺其中,短视频平台的算法推荐使得手机占用了人们将越来越多的时间,外卖平台对外卖过程的量化考核加剧了骑手的身心负担。从国家层面来看,算法与网络安全息息相关,没有网络安全就没有国家安全。有市场人士指出,“近几年,随着云计算、物联网、大数据等技术为代表的下一代互联网技术的快速发展,传统安全边界被打破,基础网络和新型网络产品带来的漏洞风险日益上升。”

       计算机网络对人类的操控只是开始,一旦为资本所利用,很容易导致算法垄断。这意味着算法对人的操控更加隐蔽而“高明”,也意味着算法将成为资本谋取利益的工具。资本的参与为算法赋“权”,滋生了罪恶的温床。历史上著名的赵高“指鹿为马”的故事,就鲜明地体现了权力对人的操纵作用。谁掌握了权力,谁就掌握了话语权,谁也就拥有了颠倒是非黑白的能力。近年来层出不穷的新闻反转现象就是其恶果之一。从红黄蓝幼儿园虐童事件到杭州公交车坠江事件,从女教师体罚学生至吐血到鲍毓明李星星案……这种现象的出现,不仅是新闻生产者的失职,更是网络被资本裹挟的结果。无良媒体和营销号为博取大众关注、赚取流量,在面对新闻事件时,不是首先核实新闻的真实性,而是精确“捕捉”大众痛点,炒作新闻话题,引导社会舆论,制造社会热点。面对新闻的多次反转和无良媒体的情感渲染,公众的理性探讨就会逐渐演变为情感宣泄,无良自媒体的一次次“捉弄”引发大众的愤怒情绪,进而发展为大型的网络暴力。而网络暴力也导致了大量的个人信息泄露,不仅是新闻当事人的个人隐私,也包括持不同立场的舆论双方因争论导致的“人肉搜索”。新闻事件引发的社会“震级”越高,随之而生的流量也就越多,网络成为不少平台“狩猎”流量、变现流量的“围场”。这是现代版的“指鹿为马”。西方人文学者福柯在其著作《规训与惩罚》中描述了一种与传统隔间监狱相对的“全景敞视监狱”——以实现对犯人的全方位监控。福柯认为,这种监狱的模型能在被监视者心里造成“我不知道自己是不是会被发现”的观念,从而起到约束行为的作用,它象征着权力以一种沉默的、自动的、经济的、有效的方式发挥着无处不在的影响。网络算法正是以这种“全景监控”的方式塑造了一个“规训社会”,在这个网络空间中,个人暴露在阳光之下,只有隐形的网络权力运行机制——算法躲在暗处“监视”,从这个意义上说,个人将不存在任何隐私。

      当下,互联网的发展正在走向“囚徒困境”——互联网算法显现的问题和面临的挑战,或是发展的必然,也或是成长的代价。这也是其“双刃剑”特征的又一次凸显。面对困境,如何更好地规范和引导网络健康发展成当务之急,只有政府的规范引导、社会舆论的监督、公众的自我反思才有望重建互联网的理性与秩序,构建安全文明的网络空间。而对于互联网算法涉及的科技与伦理问题,还需要更多的实践和探索。 (文学院中文1901颜静怡)