图：CISA局长Jen Easterly（右）和前CISA局长Chris Krebs（中）参加RSAC 2024主题小组讨论
前情回顾·RSAC 2024动态
安全内参5月9日消息，美国现任和前任政府机构领导人强调了公共和私人部门在保障AI安全方面的重要性，并对地缘政治冲突导致美国关键基础设施面临日益严峻的网络安全威胁表示担忧。
DHS推进AI安全公私合作对话
在RSA大会的一场主题小组会议上，美国国土安全部部长Alejandro Mayorkas指出，应对AI的影响已成为日益重要的优先事项。他表示，国土安全部人工智能安全（安全内参注：Safety and Security）顾问委员会在本周举行首次会议，成员包括OpenAI、微软、Alphabet和英伟达等公司的首席执行官。这个蓝带委员会于上个月宣布成立，旨在与政府合作，了解AI对美国关键基础设施防御的影响。
首次会议将以闭门形式召开。Mayorkas对会议细节没有多加说明，但表示参会者围绕着“如何定义安全”、如何处理防御者和攻击者“同时使用”AI等问题进行了“非常充分的讨论”。
他补充说，会议议程还包括制定首要原则，为委员会的工作奠定基础，并明确每个参与者的角色和责任。
Humane Intelligence首席执行官兼联合创始人、美国科学特使Rumman Chowdhury与Mayorkas一同进行了小组讨论。她曾担任推特公司META（机器学习伦理、透明度和问责制度）总监。
Chowdhury强调，该委员会“不仅仅是科技巨头的集合体”。Mayorkas指出，有必要听取一系列负责处理和保护关键数据和资产的技术公司的声音。他表示，委员会还包括著名学者和公民权利领袖，平民占委员会近半席位。
国土安全部人工智能安全顾问委员会将继续每季度召开会议，但Mayorkas表示委员会将保持“每日交流”。国土安全部长还借RSAC大会之机，呼吁在场的网络安全专业人士考虑将他们的技能带到公共部门。
CISA主管强调“设计安全”重要性
在周二举行的RSA大会第二场主题小组会议上，美国网络安全与基础设施安全局（CISA）现任局长Jen Easterly和前任局长Chris Krebs发表了讲话，继续谈论企业和公共部门如何保障AI安全这一话题。Chris Krebs目前担任SentinelOne公司首席情报和公共政策官。
本次小组会议由《华盛顿邮报》数字威胁记者Joseph Menn主持，题为“火焰中的世界：在数字化世界中进行防御……并取得胜利”。讨论涵盖了勒索软件、外国对美国关键基础设施的攻击、AI以及CISA的“设计安全”倡议等话题。
Easterly强调，预计未来几年以金钱为动机的网络犯罪（如勒索软件）和外国支持的威胁行为，将对美国产生日益严重的影响。他指出，一些研究表明，到2025年，全球网络犯罪可能会给企业造成高达10万亿美元的损失。同时，像伏特台风这样的外国国家威胁行为者，最近被观察到从实施间谍活动转向“潜入美国的关键基础设施”，准备在未来冲突中削弱美国的防御。
上周，Easterly在国会国土安全拨款小组委员会作证，称外国对关键基础设施的网络攻击，是她三十多年职业生涯中看到的对美国最严重的威胁。她表示，在落实“设计安全”原则的过程中，可以采用共同的解决方案来应对勒索软件和关键基础设施攻击的威胁，因为勒索软件团伙和国家威胁行为者都在不断寻找安全漏洞，以便进入系统获得初始访问权限。
目前，美国在这方面面临的挑战之一是，CISA推广的“设计安全”承诺是自愿的，缺乏政策执行手段，无法促使软件制造商在设计产品时更加重视安全。Krebs表示，企业自发的责任感只是促使企业最终采纳“设计安全”原则的四大“动因”之一。
Krebs认为另外三大动因是民事诉讼、监管行动和立法。Krebs承认，目前，欧盟正在通过人工智能法案等法律来“设定议程”，推动安全朝着正确的方向发展；而美国却在依赖其他动因。
谈到AI，Krebs表示，他预计攻击者和防御者之间会发起“一波波”AI“对抗”，但相信防御者将会凭借目前来自私营部门的AI创新而胜出。一方面，网络安全公司正在开发AI驱动的安全工具，处于领先地位。另一方面，微软最近的报告显示，像ChatGPT这样的大语言模型仅仅被国家威胁行为者用于基本的研究、社会工程和翻译等任务。
Easterly表示，AI有望成为“本世纪最强大的武器”之一，希望防御者能够有效和负责任地利用其力量。
参考资料：https://www.scmagazine.com/news/rsac-2024-keynotes-cisa-dhs-officials-talk-new-frontiers-in-cyber-risk-defense
声明：本文来自安全内参，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。