2024年1月，印度知名智库观察家研究基金会（ORF）在《ORF问题简报》第687期刊文《以科幻小说为蓝本：为人工智能和新兴技术时代的政策提供信息》（Science Fiction as the Blueprint: Informing Policy in the Age of AI and Emerging Tech），文章探讨了在人工智能、虚拟现实和脑-机接口等颠覆性技术盛行的时代，科幻小说和技术发展之间复杂的相互作用。
作者认为，科幻小说在塑造技术轨迹和治理框架方面能够发挥重要作用，也将成为评估新兴技术社会影响的重要工具。本文对其主要内容进行译介，供相关人员学习参考。
以科幻小说为蓝本：为人工智能和新兴技术时代的政策提供信息
作者：Siddharth Yadav
编译：月贝非凡工作室
全文摘要与关键词
1.政策困境与科幻灵感：新兴技术快速发展使政策制定面临“无法参与技术对话”的困境，科幻小说成为技术政策“灵感”，并参与“社会政治话语”
2.“科幻小说”如何影响社会认知与政策？“全景监狱”→越权警告，“天网”→规范自主武器平台；科幻叙事→时代文化+社会伦理；科学-科幻愈发边界模糊
3.“科幻小说”如何推动技术创新？儒勒凡尔纳小说→第一艘作战潜艇+第一枚液体燃料火箭；赛博朋克（计算机，大众媒体）
4.“科幻小说”如何缓解科技政策困境？科幻小说与技术创新的2类反馈循环；“科幻小说原型设计”技术创新方法；识别文化框架
5.行动建议：研发中推广“科幻小说原型设计”；融入课程；决策者与创意产业合作等
6.简评：随着技术创新步伐的加快，当前的科技现实和科幻小说之间的界限更加模糊，迫切需要前瞻性的政策去拥抱科幻小说的想象力。
1 政策困境与科幻灵感
1.1 新兴技术：具有战略意义的关键要素
新兴技术快速发展急需“强有力的”政策响应。以人工智能为代表的新兴技术将成为具有战略意义的关键要素。人工智能（AI）、虚拟现实（VR）、脑-机接口（BCIs）等前沿技术的快速发展，给各国政府带来了急切的挑战。新兴技术的加速创新，AI非专家开发人员混乱和耸人听闻的营销策略，以及新兴技术平台潜在的不对称且跨部门影响，都需要积极主动的政策响应和强有力的社会政治讨论。
政策制定者困境！如何参与到技术对话中？然而，政策制定者和分析人士面临着一个特殊的困难，即如何能够有效参与到同新兴技术平台的对话中，并占据话语权。
1.2 科幻小说叙事：为新兴技术的政策框架提供信息
“科幻小说”成为新兴技术政策的“灵感来源”！2017年，欧洲议会的人工智能政策讨论中就讨论了“科幻小说的叙事可以被用来为新兴技术的政策框架提供信息”这一议题。此次讨论以各种科幻小说开始，比如玛丽·雪莱的《弗兰肯斯坦》，捷克作家卡雷尔·卡佩克在1921年创造的“机器人”一词，以及艾萨克·阿西莫夫1943年的短篇小说《环绕》中提出的机器人三定律等等。
技术超前，制度也超前。虽然在世界首批人工智能政策文件中就人工智能可能的应用进行讨论后（2017年2月），欧洲议会通过了《机器人技术民事法律规则》（Civil Law Rules for Robotics）。然而，6年后，除了在科幻小说中，并没有像人们期待的那样，开发出有意识的机器人或强大的人工智能。
1.3 规范前沿技术，批判性分析，进而预测未来的发展趋势
“科幻小说”逐渐参与到“社会政治话语”。由于技术的指数级增长和对人类技术未来的广泛看法，科幻小说在社会政治话语中的相关性可能会增加。
一方面，该领域的研究人员认为，通用人工智能或超级人工智能的梦想永远不会实现。有些人不同意，比如计算机科学家人工智能教父杰弗里·辛顿，他离开了谷歌的职位，理由是担心人工智能快速开发的风险。此外，英国首相里希·苏纳克曾表示，减轻人工智能造成的人类灭绝威胁需要成为全球优先事项。
在这两个极端之间，近年来出现了前所未有的技术增长，GPT-4等大型语言模型吸引了全世界的注意力，马克·扎克伯格在元宇宙中展示了实时逼真的社会互动。此外，行业领袖已经表明，人工智能平台在未来十年在全球经济中成为更加自主和有能力贡献者。
2 科幻小说
2.1 科幻小说：影响社会认知和政策考虑
“全景监狱”的国家监控→对越权的警告。作为一种体裁，科幻小说通常被认为是一个技术能力被夸大和耸人听闻的领域，它通过推断未来各种形式的实施，对于阐明不断发展的技术中固有的潜在风险和偏见至关重要，这一类型的重要性在乔治·奥威尔1984年的著作中得到了体现，尽管它早于当时的技术可行性，但一个类似全景监狱的国家监控已经成为全球公认的警告政府越权的隐喻。
“天网，机器主导未来”→规范自主武器平台发展。同样地，大众媒体上对人工智能的描述，尤其是《终结者》系列电影中的“天网”，已经在公众意识中根深蒂固了机器主导未来的概念。事实上，这一概念有助于持续的推动，以规范自主武器平台的发展。
2.2 科幻小说的叙事，在发展技术框架中至关重要
科幻叙事→时代的文化精神。尽管全球人工智能起义的想法仍然像上世纪80年代那样具有推测性，但它在文化时代精神中的持久存在凸显了叙事在发展技术框架中的重要性。这种科幻小说的叙事至关重要，因为故事、想象、认识论和物质性都是紧密相关的，因此它们是理解未来世界及其重构的核心。
科幻叙事→社会文化与伦理影响。这些引人注目的叙述不仅吸引人，而且阐明了技术在发展中的长期社会文化和伦理影响，从而强调了这一类型对政策话语的贡献。
2.3 科学推测与科幻小说，难以区分
“科学预测”与“科幻小说”的边界正在模糊。政策界越来越意识到，新技术平台出现的范围和速度，使人们很难将科学推测与科幻小说的预期区分开来。
政策恐慌。此外，随着政策制定者和技术人员试图努力解决它们的影响，技术创新的速度已经在全球经济的各个部门引起了恐慌。例如，为了回应过去一年生成式人工智能的发展，美国国会于2023年9月举行了首届人工智能监管论坛，特斯拉、谷歌、微软和Meta等公司的首席执行官出席了该论坛。此外，2023年10月，美国总统乔·拜登发布行政命令，以确保使用基于风险的方法开发安全和负责任的人工智能平台。
3 科幻小说与技术创新
3.1 科幻小说：突破想象力极限，激发现实技术进步
不是夸大，不是预测，而是探索未来！科学家和技术人员经常认为科幻小说夸大了当前的科学能力，扭曲了公众对未来技术的期望。尽管许多未来主义的愿景仍未实现，但这一类型的真正目的不是预测，而是探索潜在的未来。
“激进的未来”已经成为现实。自2011年以来，广受好评的系列《黑镜》采用了虚拟现实、社交媒体、机器人狗和无人机等当前技术，并根据当前趋势推断激进的未来。然而，这一类型并不局限于社会政治评论，而且在历史上刺激创新，甚至影响像手机这样的日常用品。值得注意的是，摩托罗拉的马丁·库珀将翻盖手机的设计归功于《星际迷航》中的沟通者。
3.2 科幻小说 – 科学之间的“反馈循环”
美国发明家西蒙·莱克创立的公司，在1898年发明了第一艘操作潜艇。莱克将自己建造潜艇的动机归因于他对水下旅行和探索的迷恋，而根本性原因是其阅读了儒勒·凡尔纳的《海底两万万里》。
在阅读了儒勒·凡尔纳1865年的小说《从地球到月球》之后，早期摇滚先驱康斯坦丁·齐奥尔科夫斯基提出了使用化学燃料的多级火箭产生增量加速度以实现离开地球大气层的逃逸速度的想法。戈达德成功地建造了世界上第一枚液体燃料火箭，并于1926年成功发射，并表示在阅读了《油井的世界战争》后，他将自己的一生奉献给了太空飞行。
3.3 科幻小说与新兴技术的“重叠”越来越多
“赛博朋克”诞生，科幻触手可及。随着20世纪的发展，特别是随着20世纪80年代以来计算机、电信和大众媒体的兴起，新的迭代科幻小说类型开始进入主流，虚构的故事不再展示遥远的星系，而是开始展示近期的技术，如人工智能、虚拟现实、脑-机接口和互联网。这种新兴的亚流派被称为“赛博朋克”，并催生了各种书籍和著名电影。
西方世界：科技创新与科幻的轴心。由于20世纪末技术创新的轴心主要在西方，特别是美国硅谷，所以，描述从太空到城市的技术想象的叙事主要产生在西方。
《神经狂》VS“虚拟世界”
欧洲议会在2018年进行的人工智能政策讨论指出，“人工智能系统可以纯粹是基于软件的，并在虚拟世界中采取行动“。“虚拟世界”一词的使用很有趣，因为这样的世界并不存在，这个术语将空间属性归于互联网和显示在电脑屏幕上的信息。这个概念源于威廉·吉布森1984年的小说《神经狂》，该小说将“网络空间”和其他超智能和虚拟现实等概念引入主流文化。吉布森在20世纪80年代以后融入了硅谷的科技文化，并与技术专家和企业家交流了各种想法。吉布森与硅谷人物的互动，包括虚拟现实先驱贾伦·拉尼尔，他承认吉布森对技术发展的影响，展示了科幻小说和技术之间的相互交流。
《雪崩》VS“元宇宙”
尼尔·斯蒂芬森在作品《雪崩》生动地描绘了一个反乌托邦世界，没有中央政府。谷歌地理部门的前主任约翰·汉克将《雪崩》归功于鼓舞人心的“地球观察者”，它后来演变成了谷歌地球。作者在小说中创造了“元宇宙”一词，这是他对技术的开创性贡献，他将互联网设想为一个沉浸式的领域。他参与了科幻小说与科技政策的融合，这进一步凸显了他的影响力。
4 科幻小说如何缓解科技政策困境？
4.1 “科幻小说vs技术创新”的关系：两类反馈循环
科幻小说和技术创新之间的反馈循环的一般分为两大类：
一类是创建新技术平台的循环
一类是从现有技术推断的循环
如，凡尔纳和威尔斯所写的故事对潜艇设计和火箭设计的影响，导致了水下旅行和太空探索等新的全球产业的诞生。《星际迷航》通信器、虚拟现实编程语言和元宇宙等科幻概念在电信、电视和互联网等是现有技术的迭代。后者更为常见，且更值得关注。
4.2 技术创新的方法：“科幻小说原型设计”
技术创新方法：“科幻小说原型设计”。为了分析这种关系，科学和技术研究员布莱恩·d·约翰逊提出了“科幻小说原型设计”的概念。该概念旨在通过混合事实和虚构来开发预测未来技术创新的方法，为未来的技术创造理想化和规范化的愿景。
可控的想象力+技术需求可行性评估。科幻小说原型设计的一个关键特征是，它允许研究人员和工程师通过可控的想象力和对该类型技术的需求性和可行性的评估过程来推断他们工作的结果。例如，2023年进行的一项人种学研究询问了20名人工智能研究人员关于科幻小说对他们工作的影响。
伦理、教学与预期建模。上述研究中确定了三类影响为：伦理思维、教学和预期建模（Ethical Thinking, Pedagogy, and Anticipatory Modelling）。接受采访的研究人员表示，科幻小说让他们能够思考各种问题，比如由面部识别和生理跟踪技术造成的与人工智能相关的安全和隐私风险。科幻小说原型还允许文学和科学学者创建在教育和实践中使用文本的伦理观点的教学模型和框架。基于这些特征，科幻小说叙事提供了预期建模所需的工具，这意味着允许读者检查可能的未来社会。
4.3 利用科幻小说，推动新兴技术的定义、监管与评估
近期有多项政策举措计划利用科幻小说来为关于如何定义、监管和评估新兴技术的政策讨论提供信息。
科幻小说纳入学校课程，推动科技创新与文化目标统一。总部位于美国的科学与想象力中心（The US-based Centre for Science and the Imagination）一直在与斯蒂芬森这样的作者合作，设计教学和研究计划，利用科幻小说和技术之间的反馈循环，将科学创新与文化目标和期望相一致。学者和教育工作者已经开展了几个项目，将科幻小说纳入学校的课程。
全球AI倡议，识别各种文化框架。在政策领域，英国的莱弗休姆中心一直倡导一套全球人工智能协议，该协议可以有效识别各种文化框架，如科幻小说，将会影响人工智能治理的文化认知和政策。
4.4 二者动态相互作用，具有重要意义
“科幻小说的原型设计”赋予了研究人员和政策制定者一个独特的视角，通过它来预测新兴技术的后果。科幻小说和技术创新之间的动态相互作用，对于将文化目标与文化治理相结合具有重要意义，它是伦理审议的熔炉，是创新教学模式的催化剂，也是构建阐述未来社会经济潜力的强有力工具。
5 意见和建议
建议1：在研发中推广“科幻小说的原型设计”；
建议2：为新兴技术建立伦理准则；
建议3：将科幻小说融入到教育课程中；
建议4：促进决策者和创意产业之间的合作；
建议5：制定小说提供的基于证据的政策；
建议6：促进伦理监管下的新兴技术全球合作。
6 结 语
身处于技术快速演进的时代，在决策、研究和教育中积极拥抱科幻小说是势在必行的战略。
因此，本文提出了整体整合科幻小说原型、确保创新启发、得到伦理指导和教育支持的建议，以期促进决策者、创业者和国际机构之间的合作，进而能够建立一个技术进步与现实背景相对平衡的未来社会。
这些措施将有助于创建一个指南，进而引导人类驾驭新兴技术的发展轨迹，确保能够拥有一个技术创新、社会导向和人类价值观平衡的未来。
参考文献：
https://www.orfonline.org/research/science-fiction-as-the-blueprint-informing-policy-in-the-age-of-ai-and-emerging-tech
声明：本文来自认知认知，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。