【编者按】
当科技发展日新月异,伦理边界却日益模糊。这份年度伦理困境清单提醒我们,在拥抱技术革新的同时,更需警惕其潜在风险。从护肤品伪科学到基因编辑争议,每一个议题都关乎人类社会的未来走向。我们亟需建立开放、理性的公共对话机制,让科技发展始终行驶在以人为本的轨道上。

这是巴伦的2020年清单,排名不分先后。
社会是虚荣的——这并不奇怪。但护肤品市场正在利用这一事实,”皮肤科技”预计在2020年价值128亿美元。皮肤科技的子类别包括但不限于:LED面膜、电子洁面仪、面部按摩器、智能镜子和护肤摄像头。问题在于,美容公司将自己标榜为”临床验证”,而事实上并非如此。制造商进行的大多数研究不符合科学方法,且不可复制。被雇来吹捧这些产品的专家也不是科学家——他们通常是名人,甚至是有着自己议程的皮肤科医生名人。
这里巴伦提出了一个令人震惊的问题:你就是你的数据吗?虽然招聘公司已经可以看到候选人的社交媒体历史,但一些公司更进一步,使用神经学游戏和情绪感知识别作为评估的一部分。如果走向极端,这意味着机器可以完全根据你对游戏的反应或面部表情来决定你是否适合某个职位。别管你的简历、电话面试、现场面试或令人印象深刻的履历——这一切都可能毫无意义。
研究人员估计大约有8,000种掠夺性期刊,即缺乏同行评审等伦理实践且标准极低的期刊。问题是,当这些期刊发表任何内容时,这些信息就成为不知情的研究人员和科学家的素材,他们被欺骗相信这是真相。鉴于学术界发表论文的巨大压力,一些人变得足够绝望——有意或无意地——与这些掠夺性期刊打交道。正如你将在本清单后面读到的,我们再也承受不起更多虚假数据了。
唐纳德·特朗普总统的白宫正在考虑一个有争议的计划,即监控精神病患者,以此阻止美国的大规模枪击事件——这个计划听起来很像现实版的《少数派报告》。HARPA由一个与政府无关的第三方胰腺癌基金会运营,将利用手机和智能手表上的数据来检测精神病患者何时即将变得暴力。除了侵犯公民自由之外,研究尚未找到可靠的基准来预测暴力行为,甚至无法区分精神病患者与非精神病患者。
ClassDojo是一个流行的在线工具,通过课堂记录,对儿童的行为进行评分,然后与班级和家长分享。该系统的公司表示,其目的是在课堂上培养积极行为,但专家提出了不少担忧,包括:1)信息是否可能被黑客攻击;2)良好行为如何量化/定义?;以及3)它是否会在学生中引发焦虑/羞耻?
恰当地命名为”格林奇机器人”的在线实体,在热门商品一上市就抢购一空,以控制供需。一旦商品售罄,它们就会在二级市场上以虚高的价格转售。这不是一个新问题,但也没有新的解决方案。2016年,国会通过了《更好的在线票务销售(BOTS)法案》,但效果不佳。《2018年阻止格林奇机器人法案》去年提出,目前正等待众议院的进一步行动。然而,该法案只会使转售由自动化机器人购买的产品成为非法,显然不适用于世界其他地区。
这项名为”夜莺计划”的合作,是美国第二大医疗系统Ascension与谷歌合作,在谷歌云上托管健康记录。该计划覆盖21个州的大约2,600家医院、医生办公室和其他相关设施,持有数千万患者记录。两家公司都签署了HIPAA(健康保险可携性与责任法案),意味着谷歌除了提供云托管服务外,不能对这些记录做任何其他事情。然而,《华尔街日报》报道称,医生和患者都没有被告知这些记录发生了什么,大约150名谷歌员工可以访问这些数据。随着数据越来越多地转移到云端和其他存储选项,以及微软和苹果等公司也推出健康项目,我们必须确保我们的数据受到保护。