3月5日，美国国家亚洲研究局（National Bureau of Asian Research，NBR）在其官网上发布了名为《美韩技术合作—出口控制、数据政策与人工智能》（U.S.-ROK Tech Cooperation—Export Controls, Data Policy, and Artificial Intelligence）的报告。本文将选取其中关于人工智能的第二章进行整理总结和重点分析，其主要内容如下：
01
执行摘要
本章探讨了美国和韩国在人工智能的发展和治理方面的做法，并提出了加强合作、促进人工智能共同价值观的途径。
主要论点
随着人工智能准备影响国内和全球的经济与安全环境，世界各国政府一直在努力制定政策方针，以平衡该技术日益广泛的应用所带来的机遇和风险。美国和韩国都采用了基础性的人工智能政策框架，作为先进的技术大国，这两个国家都有条件在塑造全球人工智能治理方面发挥主导作用。
本章的第一部分深入介绍了韩国的人工智能产业，强调了韩国政府在促进创新和确保人工智能可信度方面所做的努力。主张美国与韩国合作，有效应对人工智能风险，解决潜在的过度集中带来的挑战。
第二部分重点介绍了美国在人工智能治理方面的最新政策发展，并考察了美国与韩国的研究合作状况。美国迄今为止一直谨慎行事，避免对人工智能领域施加过多监管，并强调志同道合的国家需要开展全球合作，以找到共同的政策方法。鉴于美国和韩国有着共同的利益和价值观，两国在建立全球人工智能规范和框架方面可以发挥重要的领导作用。
政策建议
鉴于人工智能带来的巨大风险和机遇，除了促进人工智能的发展，相关政策还必须确保值得信赖和合乎道德的做法。
作为拥有共同价值观的技术领导者，美国和韩国必须共同努力，制定有效的政策，从而影响全球关于人工智能治理的讨论。
加强各级政府和民间社会的参与将促进两国利益相关者在政策上更加一致。除了政府对政府的对话机制外，还应努力加强企业对企业的联系、联合研究和学术交流，这将促进两国在人工智能领域更紧密的合作，并最终促进共同挑战的解决方案的制定。
02
韩国在全球人工智能领域的创新和竞争政策
1.韩国的人工智能产业生态
韩国的大型企业积极参与人工智能价值链，其中包括数据采集和处理、模型开发和部署。它们主要将人工智能融入金融、医疗保健、移动和娱乐等成熟行业，旨在提高全球竞争力并创造附加值。最近，人工智能的部署已过渡到云领域，价值链延伸到网络基础设施和半导体技术领域，这些领域是云生态系统不可或缺的组成部分。在这一延伸的价值链中，半导体和电信领域的韩国公司——尤其是三星电子和 SK 海力士，它们利用其独特的技术专长和财务资源，在这些后端产业中发挥了重要作用。
韩国在全球人工智能市场的份额相对较低，仅占1%-2%，但韩国国内的人工智能产业生态系统一直在持续发展。韩国的老牌企业集团正积极主动地与有前途的初创企业合作，为它们提供数据和模型基础设施，并共同创造新的服务。苹果、谷歌和微软等全球科技巨头都在韩国开展业务，并对Siri、DeepMind和OpenAI等初创企业采取收购-雇佣战略或进行重大投资，随后推出了Siri、AlphaGo和必应聊天等服务。韩国在线平台公司Naver拥有一个名为Naver AI Lab的内部研究机构，它收购了计算机视觉初创公司V.DO，并将该公司的技术整合到内容服务Naver Webtoon中。此外，它还通过收购CompanyAI和增强其语言模型引擎CLOVA，加强了自然语言处理能力。
虽然ICT行业在推动韩国经济增长方面发挥了重要作用，但与美国和中国等领先国家相比，韩国人工智能产业的竞争力仍然相对较弱。这两个大国的主要公司几乎参与了人工智能价值链的所有环节，而韩国的人工智能公司则不同，它们局限于特定的领域，因此在国内充分吸收外部创新具有挑战性。
谷歌、微软和亚马逊网络服务等全球公司已率先确保云平台的安全，而云平台是人工智能生态系统的基础。而韩国缺乏在云服务领域具有全球竞争优势的公司，这对人工智能的发展至关重要。像Naver、KT和Kakao这样的韩国人工智能公司确实提供了云服务，但韩国公司仍然在很大程度上依赖于全球云平台服务。韩国公平贸易委员会 2022年的一项研究发现，亚马逊网络服务公司在2019年至 2021年期间占据了国内云市场约70%的份额，这表明全球参与者在韩国市场占有相当大的份额。市场呈现出高度集中的态势。微软（2021年占12%）和Naver（2021年占7%）略有增长，但整体市场动态基本保持稳定。
虽然韩国一直在建立一个自我维持的人工智能产业生态系统，包括通过政府努力促进其发展，但该国尚未出现具有全球竞争力的初创企业。人工智能独角兽企业的诞生比例从2020年的约10%增至2022年的13%。2021年，韩国人工智能初创企业仅获得11亿美元投资，仅相当于美国 529 亿美元投资的2%。韩国人工智能初创企业面临的挑战通常归因于获取数据和建立可行商业模式方面的困难，而非技术能力上的不足。虽然这些初创企业可能拥有强大的技术实力，但它们却难以创造可持续的市场需求，并且面临着有效采用其先进技术所需的熟练技术劳动力短缺的挑战。因此，生态系统的活力受到了阻碍。
2.韩国当前的人工智能政策
自2015年左右以来，韩国政府一直将人工智能作为提升国家科技竞争力、克服低经济增长“新常态”带来的挑战的一个机遇。尽管韩国的经济增长率保持在2%左右的稳定但相对较低的水平，但韩国寻求通过重新振兴其ICT产业来重振经济，而ICT产业一直是经济增长的历史驱动力。在向以ICT技术智能化为特征的第四次工业革命过渡的过程中，韩国认识到人工智能作为一种通用技术，在整合各行各业和提高整个社会经济领域的生产力方面发挥着举足轻重的作用。
为了赶上美国和中国等以先进的人工智能技术和大公司在人工智能领域的高市场占有率而著称的领先国家，韩国推出了《国家人工智能战略》等举措。这些举措推出了旨在提高人工智能竞争力、促进人工智能广泛融合和实现以人为本的人工智能社会的政策。这些努力包括为基础研究提供资金，以及全面发布政府机构掌握的高质量公共数据。此外，还提出了建立人工智能中心的倡议，为私人人工智能开发提供数据、软件和高性能计算，使学术界、初创企业和私营部门的其他实体从中受益。鉴于最近基于大型语言模型的生成式人工智能的激增，人们已认识到专门用于人工智能计算的高性能半导体的重要性。因此，政府与产业界、学术界和研究机构合作，启动了K-Cloud项目，以开发高速、低功耗的国产人工智能半导体。这些半导体将用于数据中心，从而增强韩国在云计算领域的竞争力。
韩国注重建立灵活的治理和框架，以降低人工智能领域的潜在风险，加强创新和机遇。具体来说，当局努力缓解阻碍行业激活的现有立法中的不确定性。这样做是为了减轻商业活动的负担，同时注重为可信赖的人工智能创造一个自我监管的环境。此外，2023年9月通过的《个人信息保护法》修正案包括了关于海外数据传输的最新规定，并引入了在违法情况下下令暂停跨境数据传输的法律依据。
与经合组织的《人工智能原则》和欧盟的《可信人工智能伦理准则》类似，韩国科学和信息通信技术部于2020年底制定了《国家人工智能伦理准则》，并于2021年制定了《可信人工智能国家战略》。为使私营部门自愿采用和传播道德标准，还制定了各种措施，如道德清单。此外，还成立了一个由政府、学术界和产业界等各部门利益相关者组成的政策论坛，从技术、治理和教育角度讨论人工智能伦理问题。2020年成立的人工智能立法和监管审查小组是另一个重要步骤。该小组对人工智能法律、法规和制度相关问题进行研究，选择立法修订任务，并为其实施提供支持。
对可能威胁民主价值观的深度伪造和有偏见的结果等问题的担忧，以及人工智能发展到人工通用智能的可能性，一直是全球人工智能监管讨论的焦点。韩国国会于2023年2月14日提出了《促进人工智能产业和建立可信人工智能框架法》（《人工智能基本法》）。该法案旨在通过制定国家人工智能战略和建立人工智能的信任基础来促进人工智能产业的发展。《人工智能基本法》还指定了可能威胁公共安全的高风险应用领域，如自动驾驶，并提供了人工智能伦理法律框架以及确保信任和可靠性的措施。与欧盟的《人工智能法》采用基于风险的方法不同，韩国《人工智能基本法》的主要目标是促进人工智能技术创新。
03
美国的人工智能政策与合作机会
1.美国的人工智能发展与治理
美国仍然是包括人工智能在内的关键技术和新兴技术的创新和商业化的重要中心。
尽管中国作者发表了更多与人工智能相关的论文，但美国研究人员撰写的人工智能科学出版物的引用率超过了世界上任何其他国家的论文。美国研究人员与其他国家研究人员的合作率相对较高。在美国发表的所有人工智能论文中，近40%是国际合作的成果。在2010年至2021年期间，美国共授予了35000多项人工智能专利。美国也是全球人工智能投资的最重要来源。、随着美国在人工智能发展中处于持续领先地位，华盛顿的政策制定者们正在探索针对该技术的监管方法。拜登总统于2023年10月30日宣布了关于“安全、可靠、可信地开发和使用人工智能”的行政命令，他表示：“为了实现人工智能的前景并避免风险，我们需要对这项技术进行管理。”
虽然美国政府显然将人工智能作为21世纪的一项关键技术，但在监管方法上仍持谨慎态度，尤其是与欧盟在其《人工智能法案》中采取的全面、基于风险的方法相比。虽然一些美国立法者提出了有关人工智能的提案，但国会大多仍不愿起草和通过全面立法来降低风险，而是对人工智能治理采取观望态度。
从目前的结构来看，行政命令中的规定可能只会影响到少数几家顶级公司，人工智能领域的大多数公司都不在其框架范围内。美国政府在人工智能治理方面的其他工作也是自愿性的。美国国家标准与技术研究院于2023年1月制定并发布了《人工智能风险管理框架》，该框架建立了一个流程，任何开发人工智能系统的组织都可以通过该流程提高人工智能的可信度。
2.美国和韩国在人工智能领域合作的机遇与阻碍
华盛顿和首尔的决策者都越来越认识到人工智能的变革潜力。在信息和通信技术、电动汽车和半导体等其他高科技行业，美国和韩国之间的紧密合作为两国带来了巨大利益。人工智能也不例外。
两国创新生态系统之间的紧密联系应能使两国在人工智能领域建立有效的伙伴关系。每年有近4万名韩国学生在美国的大学学习，其中近30%就读于工程、数学或计算机科学专业。从2010年到202 年，来自美国的投资者投资了约38亿美元。美国的人工智能公司也受益于两国之间的金融关系，同期来自韩国的投资者投资了近40亿美元。
除了现有的关系外，美国还必须利用与韩国的技术和经济伙伴关系，以最有效地推进美国的人工智能能力。自2016年“AlphaGo冲击”以来，首尔的政策制定者将人工智能技术视为优先事项，韩国在人工智能技术的开发和商业化方面发挥着越来越重要的作用。2010年至2021年期间，韩国授予了13720项人工智能专利，仅次于中国和美国，几乎是日本授予专利数量的两倍，而日本是仅次于韩国的全球第二大人工智能专利来源国。
合作的机会显而易见。目前，美国和韩国已经是人工智能治理国际讨论中两个最重要的参与者。两国在亚太地区内外的多边和小型论坛中的存在，使得合作对于推进两国在人工智能领域的国家优先事项尤为重要。在韩国，承诺就人工智能治理问题采取立法行动的《人工智能基本法》尚未通过和实施。如果两国的政策制定者不优先考虑共同努力促进人工智能发展和治理方面的合作，美国可能会求助于七国集团或北约等论坛来管理人工智能风险。此外，尽管最近在加强美韩技术关系方面取得了进展，但国内的政治现实有可能限制两国在人工智能方面的合作。为了更好地将近期的外交势头制度化，并利用人工智能领域的进步有效促进两国的技术、经济和安全利益，还必须做更多的工作。
04
政策建议
美国与韩国在人工智能领域的合作关系是一种充满活力的多层面关系，具有塑造全球技术未来的巨大潜力，而推进合作的利害关系很大。为了有效地与其他人工智能发展和治理愿景竞争，两国都不能单方面追求自己的目标。认识到加强美韩两国在人工智能方面合作的重要性，两国应考虑以下几点政策选择。
更多地参与双边和多边论坛，协调制定亚太地区开发和使用人工智能的核心标准和原则。通过合作以及与其他志同道合的伙伴合作，美国和韩国可以推进人工智能治理的优先事项，平衡创新与道德考虑。可以进一步利用在人工智能安全峰会和印太经济框架等多边论坛上的合作，促进符合民主价值观和保护公民自由的人工智能政策。
将定期峰会和高级别会议制度化，促进在人工智能发展和治理问题上加强政策协调。这些常态化的协调机制将有助于确保有效的跨国政策合作，特别是在国家安全、经济政策和道德治理等关键领域。最终，这些沟通渠道将有助于建立更可持续、更有活力的双边伙伴关系。
促进与人工智能相关的学术交流、联合科研和跨国商业联系。不依靠政府高层的指令，而是依靠有机的、基层的跨国伙伴关系，将拉近两国之间的距离，促进成功的人工智能合作。这种联系还能促进两国各自创新生态系统的竞争力。在可能的情况下，政策制定者可以促进和鼓励学术交流、联合科研和商业联系，其将有助于使美国和韩国之间的合作进一步制度化。
来源｜NBR官网
编译｜尚健
审核｜肖嘉晨
声明：本文来自上海市人工智能与社会发展研究会，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。