打开演算法黑箱：反噬的AI、走钟的运算，当演算法出了错，人类还能控制它吗？ pdf epub mobi txt 电子书 下载 2025

简体网页||繁体网页

☆☆☆☆☆

原文作者： Hannah Fry

图书标签:

• 人工智能
• 算法
• 机器学习
• 数据科学
• 科技伦理
• 风险分析
• 社会影响
• 算法偏见
• 未来科技
• 技术哲学

 
★Amazon年度百大好书！英国皇家学会科学图书奖决选作品！
★出版前即高价售出多国版权，最受瞩目的演算法书籍之一！
★访谈演算法的创造者和演算结果的接受者，收录大量故事和实例研究！
 
▍ 各界赞誉推荐
 
丁彦允 ∣ 喜门史塔雷克创办人兼总经理
王国祯 ∣ 国立交通大学资讯工程学系教授
王杰智 ∣ 国立交通大学电机工程学系教授、工业技术研究院机械与机电系统研究所数位长
李友专 ∣ 台北医学大学医学科技学院特聘教授兼院长
林守德 ∣ 国立台湾大学资讯工程学系教授、教育部人工智慧技术及应用人才培育计画办公室主任
林福来 ∣ 台湾师范大学名誉教授
洪文玲 ∣ 台湾科技与社会研究学会理事长
许素朱 ∣ 国立清华大学艺术学院院长暨科技艺术研究中心主任
张智皓 ∣ 《今天学哲学了没》作者
郭荣彦 ∣ Lawsnote创办人、律师
陈适安 ∣ 台北荣总医院副院长
赵坤茂 ∣ 国立台湾大学资讯工程学系教授
刘士达 ∣ 国立清华大学科技艺术研究中心科技创新组组长、艺术学院科技艺术跨域学士班讲师
郑国威 ∣ 泛科知识公司知识长
卢鸿兴 ∣ 国立交通大学统计学研究所教授
 
▍ 该读哪本书、该走哪条路，演算法说了算！但演算法真的比它将统治的人类更优秀？
 
■ 当人工智慧遇上天然呆，什么时候该相信机器、什么时候该信任自己的判断？
■ 有些热门商品摆明就是废、有些保证火红，演算法能不能发掘出当红炸子鸡？
■ 演算法对犯罪率的预测大幅超越人类法官，可以用演算法来保障社会正义吗？
■ 人类的感觉是否能够用演算法来量化，我们能否接受自己的情绪受到操纵？
■ 演算法代表我们做出改变人生的抉择，AI时代的权力究竟掌握在谁手上？
 
▍ 演算法就在我们的医院、我们的法庭、我们的车辆里
 
你被控涉嫌犯罪。比较希望谁来决定你的命运——人类，或是演算法？
演算法比较前后一致，比较不容易判断失误。但能在宣判之前听你说真心话的，是人类。
 
你需要移植肝脏才能活命。希望谁来决定器官分配？
演算法可以帮器官捐赠者找到合适的病患，可能挽救更多的生命。但它说不定会把你排到名单的后头去。
 
你正想买一辆无人驾驶车。有一辆车的程式设计是在车祸时尽可能多救几条命，另一辆则保证把自己车上乘客的性命列为优先。你选哪一辆？
 
欢迎来到演算法的时代，这个故事是关于一个不太遥远的未来，机器统治至高无上，进行各种重大决策——不管是医疗保健、运输、金融、安全、我们看什么、我们去哪里，甚至是要把谁送去坐牢。那么，我们应该依赖机器到何种程度？我们想要什么样的未来？
 
着名数学家汉娜‧弗莱带领我们踏上的这趟旅程，是关于我们周遭无所不在的演算法，其善、其恶、其彻头彻尾的丑陋。在本书中，她掀开演算法内在的运作、展示其力量、揭露其极限，并检视演算法是否真的较其正要取代的人类更为进步。
 
▍ 对本书的赞誉
 
本书是市面上科学写作的珍宝。汉娜‧弗莱以具说服力的叙述和魅力风格，概括电脑演算法的数学要点，并阐明这些数学如何改变诸如医疗保健、司法、运输和艺术等领域。在我们这个日益为数据所驱动的世界，她是睿智的导览员，带我们看见这个世界的优势与可怖。
――艾利克斯‧贝洛斯（Alex Bellos） ∣ 《数字奇航》（Alex’s Adventures in Numberland）作者
 
本书是针对我们周遭无所不在的演算法，一部轻快活泼又亲近易读的指南。
――乔丹‧艾伦伯格（Jordan Ellenberg） ∣ 威斯康辛大学麦迪逊分校数学教授、《数学教你不犯错》（How Not to Be Wrong）作者
 
以前，电脑是工具，接着是玩具；现在，它在我们周遭随处可见。在这个令人不知所措的新世界，找不到比汉娜‧弗莱更棒的导览员，她的这部着作随处可见机智、叙事精采且极其透彻的洞见。太棒了！
――提姆‧哈福特（Tim Harford） ∣ 《亲爱的卧底经济学家》（The Undercover Economist）和《转角遇见经济学》（Fifty Things that Made the Modern Economy）作者、电视及广播节目主持人
 
本书是紧张刺激、节奏明快的阅读经验，你将被激怒、受到挑衅和挑战。众多经过缜密研究的例证，揭露我们生存其中的惊人新世界，而目的暧昧不明的黑箱决策，正在决定我们个人与集体的命运。欢迎来到大数据的现代世界，你满有可能被恶搞了。
――凯西‧欧尼尔（Cathy O’Neil） ∣ 《大数据的傲慢与偏见》（Weapons of Math Destruction）作者
 
每一个不假思索地将我们的命运交託给演算法的人，都应该阅读汉娜‧弗莱精湛又令人愉悦的召唤之作。因为你知道吗，机器决定的未来可能恰违背我们人类的最佳利益。
――大卫‧罗文（David Rowan） ∣ 英国版 《连线》杂志（Wired）创始主编
 
叙事熟稔精妙、睿智且笔调轻松，汉娜‧弗莱对于我们如何在人工智慧时代生存的精采探讨，将在未来若干年的吧台边、餐桌旁激盪出更多论辩。
――亚当‧拉塞福（Adam Rutherford） ∣ 英国演化生物学家、科普作家
 
汉娜‧弗莱是这个星球上最棒的解说者之一。在本书中，她着手处理一项需要认真思考的议题，以其明晰的笔法、迷人的故事，以及一贯的幽默感和令人愉悦的风格，娓娓道来。
――史蒂芬‧斯托盖茨（Steven Strogatz） ∣ 康乃尔大学数学教授、《X的奇幻旅程》（The Joy of x）作者
 
弗莱以令人耳目一新的简明文笔，说明人工智慧、机器学习和复杂的演算法的真正涵义，对剑桥分析丑闻、无人驾驶车和其他许多让人不安的现代现象提供一些简洁的解释。
――凯蒂‧盖丝特（Katy Guest） ∣ 《卫报》（The Guardian）
 
对不熟悉人工智慧技术面向的读者来说，本书提供了演算法如何运作的最佳通俗解说。
――《科学》期刊（Science）

风格独具、深思熟虑又一丝不苟的持平记述，说明日渐支配我们生活的软体能做到和无法做到的事……一部出色易读的导览，从一个故事轻松转换到另一个故事，不让读者觉得棘手。
――奥利佛‧穆迪（Oliver Moody） ∣ 《泰晤士报》（The Times）

《代码的低语：数字时代下的权力、控制与人类命运》 在信息洪流以前所未有的速度冲刷着我们生活的今天，我们与技术之间的关系正经历着一场深刻的重塑。我们习惯于将冰冷的逻辑、精准的计算视为可靠的基石，是效率的代名词，是现代文明进步的驱动力。然而，当我们深入观察支撑起这个数字世界的底层代码与复杂系统时，一个更微妙、更令人不安的图景开始浮现：代码不仅是工具，它正在成为一种新的权力结构，一种无形的意识形态，深刻地界定着我们的选择、认知乃至社会走向。 本书并非探讨某一个特定技术的原理，而是深入剖析了支撑现代社会运行的“计算范式”本身所蕴含的哲学困境、社会结构性影响以及伦理边界。我们将目光投向那些隐藏在屏幕背后，驱动着金融市场波动、塑造着公共舆论走向、决定着资源分配的抽象算法体系。这不是一本关于编程技巧的指南，而是一次对数字基础设施如何重塑人类主体性的严肃反思。 第一部分：逻辑的殖民与认知的重塑 数字时代的开端，伴随着一种乐观的承诺：技术将解放人类，带来透明与效率。然而，本书首先探讨的是这种解放背后的隐忧——“逻辑的殖民”。当我们越来越多的决策权让渡给预设规则的系统时，人类的直觉、经验和价值判断是如何被系统性地边缘化的？ 我们将考察的是“自动化偏见”的社会根源。这种偏见并非源于技术的恶意，而是源于系统设计者在编码之初所植入的特定价值观和预设框架。每一个“是”或“否”的背后，都凝结着设计者对“最优解”的特定理解。这种理解，一旦被大规模推广，便可能固化社会中的既有不公，甚至在无意中压制了多元化的思考路径。例如，在信贷评估、招聘筛选乃至司法辅助系统中，当历史数据被用作预测未来的唯一标准时，那些未能被数据充分记录的边缘群体和非传统路径，便可能被无形地排除在主流机会之外。系统看似客观，实则将历史的局限性编码进了未来的可能性。 我们还将深入分析“数字黑箱”对人类自我认知的侵蚀。当系统的运行逻辑变得极其复杂，即便是设计者也难以完全追溯每一个决策的精确因果链条时，人类对自身行为的解释权被削弱。我们开始接受“系统说了算”的解释，而不是深入探究其背后的人类意图与局限。这种对解释权的放弃，是对理性主体性的极大削弱。我们必须追问：一个无法被完全理解和解释的系统，是否还值得我们无条件地信赖其判断？ 第二部分：基础设施的权力结构 现代社会的基础设施已不再仅仅是钢筋水泥，而是流动的代码和庞大的数据中心。本书认为，控制了这些基础设施的实体，便掌握了新的、比传统政治权力更为隐蔽却更具渗透性的影响力。 我们将探讨“数据主权”的消逝与重构。数据是新时代的石油，但它并非均匀分布。少数科技巨头通过对全球信息流的汇集与分析，构建起了前所未有的信息壁垒。这种集中化不仅是商业竞争的问题，更是社会权力分配的根本性议题。当信息流被少数机构通过算法进行筛选、排序和推荐时，他们实际上成为了集体注意力的“守门人”。他们通过微妙的干预，塑造了我们所见的世界图景，影响着社会共识的形成速度与方向。 我们还会审视“平台化生存”的本质。从社交互动到商业往来，从信息获取到政治参与，越来越多的人类活动被吸纳进由少数商业实体构建的数字场域中。这些场域的规则由企业而非公共机构制定，其核心目标是最大化用户粘性和商业价值。这导致了对公共领域的商业化侵蚀，以及对公民权利在数字空间中定义的模糊化。当我们所有的存在都必须通过特定平台的接口时，这些平台对我们的控制程度，已经远超出了传统的公共服务提供者。 第三部分：控制的幻觉与人类的能动性 技术革命常常伴随着一种“控制的幻觉”——即我们似乎对世界拥有前所未有的掌控力，因为一切都可以被量化、预测和优化。然而，本书的论点在于，这种对完美的计算控制，恰恰可能导致更深层的失控。 过度依赖自动化系统，会造成人类技能的退化和反应迟钝。当系统在常规状态下表现完美时，一旦遭遇“黑天鹅”事件或设计者未曾预料的复杂交互，人类操作者可能因为长期脱离实际操作而无法及时接管，导致灾难性的后果。这种“功能性失忆”是技术进步带来的隐性风险。 最后，本书将着力于探讨人类如何在数字霸权中重建能动性。这并非呼吁彻底抵制技术，而是主张一种更为审慎、更有意识的技术参与。我们需要发展新的“数字素养”——不仅是使用软件的能力，更是质疑、解构和重新设计规则的能力。我们需要推动对基础设施的“可解释性”和“问责制”的制度化要求，将计算的透明度视为一项基本人权。 《代码的低语》试图唤醒读者，认识到我们正生活在一个由代码重塑的现实中。理解代码的逻辑，挑战其默认设置，并重新确立人类价值在数字世界中的优先地位，是当代社会面临的最紧迫的挑战之一。这不是一场技术与反技术的斗争，而是关于我们希望由何种逻辑来定义未来生活形态的深刻对话。

作者简介

汉娜‧弗莱Hannah Fry
伦敦大学学院（University College London）城市数学副教授。每天的工作是运用数学模型来研究人类行为模式，曾与政府部门、警方、医疗保健分析师和超市合作。
在TED上的演讲累积数百万人次观看，并为BBC和英国公共广播电视服务网（PBS）制作过多部电视纪录片；主持BBC长期播出的科学性播客节目《拉塞福与弗莱的好奇事件簿》（The Curious Cases of Rutherford & Fry）。
着有《数学的恋爱应用题》（The Mathematics of Love）等书。

译者简介

林志懋
台湾大学物理系肄业、台湾大学哲学系毕业，曾任职杂志社文稿编辑、出版社编辑，现专职翻译。译有《叔本华》、《伏尔泰》、《天赐美味》、《阿基米德的浴缸》、《数学巨人哥德尔》、《艾可博士的36道推理谜题》、《所谓的知识分子》（合译）、《光的故事》、《万物的尺度》（合译）、《知识超人：埃及大冒险》、《补脑全书》、《培养自律的小孩》、《公尺的诞生》（合译）、《巴西，如斯壮丽》、《万物运动大历史》、《酒杯里的谋杀》、《愚昧者》（合译）、《打败NASA上太空》。

关于书名的一个註解
导论
 
【第一章  权力】
回归基本面／盲目信任／人工智慧遇上天然呆／何时否决／权力斗争
 
【第二章  资料】
聚沙成塔／目标市场／西部蛮荒／剑桥分析／精细操弄／给我评比
 
【第三章  司法】
一致性的难题／正义方程式／问问观众／人类vs机器／寻找黑武士／机器的偏差／艰难的决定／总结
 
【第四章  医疗】
模式猎手／视物机器／AI盟友／修女研究／预测的力量／数位诊断／亲爱的，这是最基本的／麻烦的资料／隐私问题／基因洩天机／最大的善？
 
【第五章  车辆】
我周遭有什么？／贝牧师的大教堂／所以，你的无人驾驶车应该去撞行人来救你的命吗？／违反道路规则／公司宝宝／自动化的反讽／寄予厚望
 
【第六章  犯罪】
山猫行动与草坪洒水器／未来图表／标示与助长／犯罪预报机／预言付诸实现／你以为你是谁？／看见分身／百万分之一？／取得平衡／复杂难解的取舍
 
【第七章  艺术】
多重世界／猎寻当红炸子鸡／品质量化／「杰出的艺术家模仿，伟大的艺术家盗窃」——毕卡索
 
【结语】
人类加上机器
 
谢辞
注释

这真是一本好书，解开「演算法」这个时髦科技魔法箱子！！
《打开演算法黑箱》这个书名就非常吸引人，彷彿告诉你可以解答许多黑色魔法的祕密，其实「演算法」这个名词已经在学术界、产业界长久以来应用于蒐集到的资料来进行分析及相关预测，最常见于医疗诊断、司法体系、新兴的商业购物及带有大量政治争议性的民主选举操作。为何这几年来任何一种方案只要加上「机器学习」、「人工智慧」、「类神经网路系统」等字样，似乎这个方案就有了魔法般，马上成为行业中权威的代名词？人类似乎知晓自身的缺陷（决策带有情感、无法长期处理单一重复动作），而将完美的解决方案投射于一台能够自我学习成长又永远不带情绪、喜好偏见的自动化电脑！然而大家却不知道每一种演算法的SOP 及逻辑推理都是设计者（人类专家）预先设定的啊！
当然机器学习后的演算法一定是可以帮助人类解决大部分消耗脑力判断的工作，也一定能大幅提升生活的品质甚至到更高的境界，然而如果演算逻辑的设定来自于人类，那么意味着每一台机器的决策思考点是否又面临着道德的风险与矛盾呢？因为每个演算逻辑设计者就还是生命中伴随着喜怒哀乐成长历程的你跟我啊！
对于想要了解「演算法」是什么、演算法为何能够成为科技新魔法的你，绝对是你不能错过的一本好书。
        ―― ――丁彦允 ∣ 喜门史塔雷克创办人兼总经理
 
在《打开演算法黑箱》这本着作中，作者汉娜．弗莱搭配生动的真实案例，告诉我们资料和机器学习型演算法如何改变现代生活的每一个层面，从司法体系、医疗保健、无人驾驶车，到犯罪预测及防范、艺术创作等，以及人类该如何因应。作者借着多个依赖演算法做决定而造成伤害的故事，说明不要尽信人工智慧机器的权威。她建议演算法和人类以伙伴关系一起合作，善用彼此的强项，并且互相提升彼此的能力。此外，作者提到免费的演算法正刺探我们的隐私，蒐集及运用个人资料以获利，也因此欧盟已立法制定了「一般资料保护规则」。她也提及一些浏览器已有内建的「智慧防追踪」。我们应该敦促政府检讨及修正「个人资料保护法」，更完善保障个人隐私及消费者权益。总括而言，这本着作提醒我们在享受人工智慧机器带来更便利的生活之余，也要思考人类在这智慧时代的定位。
        ―― ――王国祯 ∣ 国立交通大学资讯工程学系教授
 
如作者所言：未来，不是偶然，而是你我使然。人工智慧因人而生，这次将彻底改写人类的未来。
        ―― ――李友专 ∣ 台北医学大学医学科技学院特聘教授兼院长
 
《打开演算法黑箱》这本书不断交错着两种正反互驳的观点：演算法可以很厉害，也可能犯很愚笨的错误；信任它可能可以走得很远，但盲目的信任往往会导致巨大的灾害；它往往复杂得难以解释，但却不是不可能被操弄；它可以带给人类更美好的生活，但是也同时带来隐私与安全上的隐忧。在人工智慧的世代，人类如何能善用之并与其和平共处，相信读者从这本书中可以找到许多的启发。
        ―― ――林守德 ∣ 国立台湾大学资讯工程学系教授、教育部人工智慧技术及应用人才培育计画办公室主任
 
生活科技培养设计思考。
资讯科技培养演算思维。
这是最新十二年国教中学资讯教育的两门课程。《打开演算法黑箱》这本书启迪我们学习如何思考设计演算法，适合做为科技教育的必读选材。
演算法是让电脑按照步骤执行大量演算的指令清单。演算法清一色是数学运算：运用方程式、算术、代数、微积分、逻辑和机率等，并转译成电脑编码。这是为什么在AI的时代，先进国家一再强调未来数学基础好的人才是社会最需要的。
演算法已渗透到我们的各种日常。本书从权力的观点，控制与被控制的角度做为上位纲领，以实例深入剖析司法判刑、医疗诊断、自驾车的伦理、犯罪预期、艺术仿真等既已发生的议题，跨越科技领域，从心理学、社会学、法学、医学、音乐、美术、文学等等，穿透力十足的整理、论辩，引领我们思考，人类与机器的强项必须如何协调整合才能让「演算法的整体净效益成为社会健康发展的正能量」。这本书是大学通识教育的优良教材。
作者数学家汉娜．弗莱她严谨论证的特质，在本书的撰写上充分的延伸发挥了。
这是一本超越休闲性的科普读物，生活在数位AI时代，必读！
        ―― ――林福来 ∣ 台湾师范大学名誉教授
 
本书说的机器，已经不再是工业时代靠着机构与内燃机哐啷作响的生产设备，而是在看得见的你我手上的手机、车上的微电脑主机板，或是也许在远的、看不见的机房里，用许多方式组成或大或小的资讯设备。它们不太做实际的「动作」，但实际上以某种「难以名之」的方式，影响了在这个社会里能动作的人――我们。这种难以看见接触，高度专业性，同时也被镶嵌在庞大技术系统里的资讯运作，对于广大的一般人来说，是难以想像的黑箱。黑箱虽并不直接等于恶或是无法挑战的霸权，我们首先必须能意识到黑箱的存在，并且对黑箱中运作的技术有兴趣，时时不断地保持敏锐与好奇，对于生活在资讯时代的这个人生，坚持一些重要做为人的价值。
资讯科学的兴起是奠基在数学上。博士时期以数学角度研究流体学领域微小液滴变形的汉娜．弗莱，之后以讨论各种生活中常见的事物，推广公众对数学的兴趣，在二○一八年获得Christopher Zeeman Medal for Communication of Mathematics的肯定。《打开演算法黑箱》以各种发生过的实例，从说明及分析基础的数学逻辑――演算法――如何与在事件中的人互动，提点出这个时代做为一个人的挑战，与任务。
人工智慧（AI）有没有智慧很难断定，但确是实实在在地满载了演算法和繁重（发展演算法和应用演算法）的工人（labour）时数的努力；谈演算法的书没有数学公式，但叙说了过去数学逻辑与社会运作人类生活种种幸与不幸的交织。新世界如何美丽？我们如何拆解黑箱、透明化黑箱，甚至从头开始建立民主、开放的，根本没有「箱」的知识系统？
这是一本写给人的书，写给黑箱外、也是写给黑箱里的人看的书。在台湾学术、教育领域正极力推展AI做为新显学的今日，出生在这个时代的年轻天然资讯人，曾经经历过，或参与过，演算法从解一个小的偏微分方程，到协助今日铺天盖地的脸部辨识、自驾技术的蓬勃发展与运用的中年世代，还有在农业时代成长、在资讯时代成熟的所有人，这是写给你的书。
        ―― ――洪文玲 ∣ 台湾科技与社会研究学会理事长
 
科技时代，AI做为一种选项，我们应该考量的不是「用」或者「不用」，而是「怎么用」。要回答这个问题，我们需要知道AI可以「做什么」。在这点上，本书无疑是成功的。汉娜．弗莱从具体案例出发，透过平易近人的口吻，向我们展示演算法早已是日常生活中不可或缺的一环，时刻影响着我们的选择。如果你仍认为人生掌握在自己手中，我会强烈建议你读读这本书。
        ―― ――张智皓 ∣ 《今天学哲学了没》作者
 
人工智慧或演算法对于司法裁判的影响争论已久，从二○一六年开始，法律人和科技人对于司法的判决，由人类法官决定，或是由演算法来决定何者更优，双方各执一词争论不休。
如果你对于只从片面的角度探讨这个问题，拉抬自己认同的骄傲专业感到厌烦，那么应该来看看这本书。
作者客观的评价了演算法和司法系统的冲突与矛盾，没有高估了科技，也没有低估人与人之间的矛盾对于制度的影响，真实的评价了人类社会一个真实的纠结：「我们不喜欢错误，但不可否认的，错误是人类社会的一部分」。
        ―― ――郭荣彦 ∣  Lawsnote创办人、律师
 
进入人工智慧时代，我们该如何规范人工智慧，或甚至反过来说，人工智慧该如何规范我们，是不容回避的课题。本书透过大量案例显示，人们不完全理解我们部署的系统潜在危险。当前的机器学习运行得如此之快，以至于没有人真正知道机器是如何做出决策，甚至连开发人员也不知道。这些系统还会持续从环境中学习并更新他们的函式，使研究人员更难控制和理解决策过程。在这样缺乏透明度的黑盒子问题笼罩下，要建立道德准则跟规范，当然就极为困难。但人类的专家有的偏见跟偏误，更是早就被证实有更大的问题，而我们不也是一直倚赖这样有缺陷的系统在运作吗？你跟我若是在运气不好，在不久后的某一天上法庭，非常有可能是接受机器法官的判决。身为人类，你认为下一步该怎么做呢？看完这本书，我想你会对于这个难题有个好答案。
        ―― ――郑国威 ∣ 泛科知识公司知识长

◎多重世界
 
在所有形式的娱乐活动中，我们都把热门度当成品质的代表物在用。举例来说，二○○七年有一项研究，审视了《纽约时报》畅销书排行榜对于一本书的公众知名度有何影响。该项研究作者艾伦．索伦森（Alan Sorensen）借由探讨排行榜编制方式的特异惯例，寻找那些原本应该依其实际销售上榜，却因时间延误及意外疏忽而未上榜的书籍销售成功的轨迹，并与那些真正上榜的书籍进行比较。他发现一个戏剧化的效应：光是上榜就让销售平均增加百分之十三至百分之十四，第一次出书的作家则增加百分之五十七的销售。
 
我们运用越多平台来看有哪些东西热门——畅销书排行榜、亚马逊排名、烂番茄评分、Spotify排行榜——社会认同所造成的影响就会越大。当抛给我们的选项数以百万计，加上行销手段、知名度、媒体炒作和评论赞赏全都在争取你的注目，效应更进一步放大。
 
这一切都意味着，有时可怕的音乐也能登顶。这不是只有我在愤世嫉俗。一九九○年代，英国有两位充分了解此一事实的音乐制作人，谣传他们打赌谁能把烂到不可能再烂的歌曲弄上排行榜。据说，这场赌局的结果是一个叫做Vanilla的女子乐团，她们初登场的歌〈No way no way, mah na mah na〉，是以着名的布偶电视节目歌曲改编而成。这个乐团的演出成果只能宽容地描述为是在唱歌没错，一件看起来像是用微软小画家做出来的艺术作品，一段大有助于拿下历来最糟表演奖的行销影片。但Vanilla有强大的盟友。由于几家杂志的专题报导，以及上BBC的电视节目《流行金榜》（Top of the Pops）亮相，这首歌还是成功登上排行榜第十四名（原注：可惜本书格式不适于节录音乐，因为我真的希望让你们听听这首歌烂到多好笑。你们会去Google一下吧？）。
 
老实说，这个乐团的成功很短命。到了她们的第二支单曲，热门程度已经开始衰退。她们从未发表第三支单曲。这一切的确像是在暗示，社会认同并非唯一有作用的因素——真的就像「音乐实验室」（Music Lab）团队的后续实验所证明的。
 
他们第二项研究的设计大致和第一次相同。但这次为了测试从热门度的感受变成自证预言（self-fulfilling prophecy，译注：指人们先入为主的判断将或多或少影响人们的行为，亦即我们会在不经意间使自己的预言成为现实）到何种程度，研究人员增加了一项转折。

评分☆☆☆☆☆

最近在書店翻到這本《打開演算法黑箱：反噬的AI、走鐘的運算，當演算法出了錯，人類還能控制它嗎？》，書名就很聳動，直接點出了大家心裡最深的隱憂。想當初AI剛起步的時候，大家還在驚嘆它能做多厲害的事，從下棋到寫詩，好像無所不能，總覺得是人類智慧的延伸，是解決問題的萬靈丹。結果呢？現在聽到的都是關於AI的偏見、失控，甚至可能威脅到人類的生存。這本書光是書名，就成功勾起我的好奇心，想知道究竟是哪些環節出了問題，讓原本是為了造福人類的科技，現在卻可能反噬我們。我很好奇作者會用什麼樣的案例來闡述這些「黑箱」的運作，是真的像電影裡演的那樣，AI有了自主意識，開始對抗人類，還是更貼近現實，是我們在設計和應用AI的過程中，本身就埋下了某些無法預知的風險？特別是「走鐘的運算」這個詞，聽起來就很有畫面感，好像程式碼跑歪了，結果卻是一連串的災難。這本書會不會解釋，我們是不是把太多決策權交給了我們其實並不完全理解的系統？而且，當演算法出錯，我們有辦法修正嗎？還是它已經變得太複雜，連發明它的人都束手無策了？這大概是我對這本書最感興趣的地方，希望能從裡面得到一些啟發，也釐清我對AI未來發展的恐懼。

评分☆☆☆☆☆

坦白說，我在考慮要不要買這本書之前，腦袋裡閃過無數個關於AI的討論，大部分都圍繞著「它會不會取代我的工作？」或是「AI寫的東西可不可信？」之類比較表面的問題。但《打開演算法黑箱》這個書名，立刻就把話題拉深了好幾個層次。它不只是討論AI能做什麼，而是更根本地去探討「當它失控時，我們該怎麼辦？」這個問題，聽起來就很有深度，不是那種淺嘗輒止的科普文。我特別好奇作者會怎麼描繪「反噬的AI」這個概念，是純粹的技術性問題，還是牽涉到倫理、社會甚至是哲學層面的挑戰？像是新聞上常報導的，AI在招募、貸款審核或是刑事判決上出現歧視性結果，這都是因為演算法的設計者本身就帶有偏見，還是演算法在學習過程中自己產生了這種偏見？如果是後者，那是不是代表AI本身就具備某種程度的「自主性」，即使不是意識，也足以讓我們擔憂？「走鐘的運算」讓我聯想到那些因為數據不完整、算法有缺陷而導致的離譜結果，但更讓我不安的是，這種「走鐘」有沒有可能是有意圖的？或者說，當AI變得足夠複雜，它是否會為了達到某個目的，而採取我們意想不到的方式，即使那樣的方式對我們不利？這本書的書名，真的讓我開始認真思考，我們是不是在不知不覺中，為自己創造了一個越來越難以駕馭的未來。

评分☆☆☆☆☆

最近因為工作關係，接觸到一些關於大數據分析和機器學習的內容，雖然不是核心技術人員，但對於演算法在現代社會的影響力，多少有點體會。然而，很多時候，我們看到的都是演算法成功應用在推薦系統、自動駕駛等等，那些光鮮亮麗的一面。但《打開演算法黑箱》這個標題，卻直接揭露了那潛藏在光鮮亮麗背後，令人不安的另一面。我對「反噬的AI」這個說法特別有感，總覺得當我們過度依賴這些自動化的系統，是不是也正在削弱我們自己判斷和決策的能力？而且，如果AI的學習數據源頭就存在問題，例如有種族歧視或性別偏見的訊息，那AI學到的豈不是就會放大這些偏見？這本書聽起來就像是一本對現代科技發展進行深度反思的讀物，它可能不會提供什麼簡單的解決方案，但卻能引導我們去思考更深層次的問題。我尤其好奇作者會如何解釋「走鐘的運算」，這是不是指單純的程式錯誤，還是更複雜的，例如AI在追求效率或特定目標時，忽略了人性的價值和社會的倫理規範？當演算法的影響力越來越大，甚至滲透到我們生活的每一個角落，我們是否還有能力去審視、去糾正，甚至去阻止它做出錯誤的判斷？這本書的書名，正是觸及了這個攸關我們未來福祉的關鍵議題。

评分☆☆☆☆☆

這本《打開演算法黑箱：反噬的AI、走鐘的運算，當演算法出了錯，人類還能控制它嗎？》的書名，聽起來就充滿了實驗室裡冒著白煙、儀器發出怪聲的科幻場景，但仔細想想，這不正是我們正在經歷的現實嗎？每天新聞上充斥著AI的新聞，有時候是讚美它的智慧，有時候卻是報導它的失誤，甚至引發了爭議。我對「反噬的AI」這個概念特別感興趣，總覺得我們投入了這麼多資源和心力去發展AI，如果它最終卻成為對我們自身的威脅，那將是多麼諷刺的一件事。書名中的「走鐘的運算」，讓我想起那些因為數據偏差導致的AI種族歧視、性別歧視，或者是演算法為了追求某個極端化的目標，而忽略了社會整體利益的現象。這本書感覺不像是那種教你如何利用AI賺大錢的書，而是更偏向於一種批判性的反思，探討AI發展的陰暗面。我很好奇作者會不會深入剖析，是什麼樣的機制，讓一個原本應該是理性、客觀的演算法，變得「走鐘」？而最關鍵的問題是，「人類還能控制它嗎？」，這句話聽起來有點絕望，但也非常真實。我們是否已經走在了一條不歸路上，將來會不會真的被我們自己創造出來的技術所擺佈？這本書的書名，勾起了我對科技倫理和未來社會走向的深刻憂慮，很想從書中尋找一些能夠釐清這些迷霧的線索。

评分☆☆☆☆☆

收到這本書的資訊，心裡的第一個感覺就是「終於有人說出我想說的了！」近年來AI發展的速度，真的讓人既興奮又有點毛骨悚然。《打開演算法黑箱》這個名字，直接命中了我對AI的疑慮。我常常在想，那些我們每天都在使用的推薦演算法，像是購物網站、新聞App，它們到底是如何運作的？它們會不會為了讓我們花更多錢，而不斷推送我們並不真正需要的東西？更不用說一些涉及公共利益的演算法，像是交通號誌的調度、犯罪預測系統，如果這些演算法「走鐘」了，那後果不堪設想。書名中的「反噬的AI」，聽起來就像是一把雙刃劍，我們以為在掌控它，結果卻可能被它所傷。我很好奇作者會不會舉出一些真實世界的案例，來證明演算法的失控是如何發生的，以及它造成了怎樣的影響。這本書的重點，顯然不在於教我們如何寫演算法，而是要我們去理解，當我們把越來越多的權力，交給那些我們不一定能完全理解的「黑箱」時，我們該如何保持警惕？「人類還能控制它嗎？」這個問句，更是直擊核心，也是我最想從這本書中找到答案的。希望這本書能提供一些不同於主流媒體的視角，讓我們更清楚地認識演算法的真實面貌。