连接到互联网的投票设备
密歇根大学的一个研究团队在48小时内接管了华盛顿特区的互联网投票试点——官员们几天后才发现。以下是这对在联网机器上运行的每场选举意味着什么。
2006年9月的一个周二早上,在普林斯顿大学的计算机实验室里,三名研究人员拿着一台真实的投票机——一台Diebold AccuVote-TS,这种机器部署在美国各地投票站。他们拿到这台机器还不到一天。在获得访问权限的大约六十秒内,他们安装了能够窃取选票、掩盖踪迹并在正常选举操作中自动传播到接触的每台机器上的软件。
无需网络连接。一张内存卡和一分钟的物理访问就足够了。
现在加上网络。情况会变得糟糕得多。
你看不见的房间里的机器
每台投票机都是一台计算机。而每台与另一台计算机通信的计算机——通过调制解调器、蜂窝连接、Wi-Fi无线电、以太网端口,甚至"投票簿"同步电缆——在安全术语中都是联网计算机。问题不在于互联网连接的投票设备在理论上是否存在风险。问题在于运行你选举的官员是否能够区分隔离的机器和非隔离的机器——以及你是否有办法检查他们的答案。
这种区别至关重要,因为电子投票的整个安全论证在历史上一直基于一个前提:这些机器是气隙隔离的。它们不与互联网通信。它们是孤岛。
当研究人员探究这个前提时——在实验室、在现场试点、由大学团队在48小时的时间内——这些孤岛开始看起来像半岛。
华盛顿特区,2010年9月:48小时
哥伦比亚特区选举委员会做了值得称赞的事情:在部署海外和军事选民的互联网投票回邮系统之前,它进行了一次公开公众试验,并明确邀请公众对其进行检验。
由密歇根大学计算机科学家J. Alex Halderman领导的研究团队接受了邀请——同一位研究人员四年前在普林斯顿投票机分析中出现过——在大约48小时内,该团队通过利用软件漏洞获得了对试点服务器的近乎完全控制。他们可以更改投出的每张选票。他们可以读取应该保密的选票。而且——作为入侵是真实的且他们完全控制的证明——他们对系统进行了编程,使其在每次模拟投票后播放密歇根大学校歌。
官员们没有发现入侵。研究人员必须自己披露它。
哥伦比亚特区选举委员会取消了将该系统用于实时具有约束力投票的计划。 研究结果后来发表为"攻击华盛顿特区互联网投票系统",刊登在同行评审的《金融密码学》会议论文集中。
值得思考的部分是:这次攻击之所以成功,是因为团队披露了它。 如果他们是恶意行为者而非为公众利益标记漏洞的研究团队,选票就会被改变,没人会知道。
华盛顿特区试点现在是选举安全研究中的标准案例。但它并没有改变它所暴露的基本状况:即假设互联网连接在处理选票的系统中是不存在的、受控的或可遏制的。
"气隙隔离"是一种声称,不是保证
以下是官员们说投票机没有连接到互联网时的意思:这些机器不应该连接。它们被设计为隔离的。它们被认证为不允许实时连接的标准。
以下是这种声称不涵盖的内容:同步选民名单的电子投票簿——通常通过蜂窝调制解调器。接收来自计票器结果的选举管理系统通常通过可能共享基础设施的本地网络。通过在某处连接的计算机传递的可移动媒体上传递的固件更新。在设备中留下启用的Wi-Fi无线电,因为在凌晨2点设置期间禁用它是一个额外的配置步骤。
一台"不连接到互联网"的机器和一台可验证、独立确认隔离的机器不是同一件事。 前者是一项政策。后者是可审计的事实。大多数选举基础设施运行在前者上,却声称有后者的信用。
2005年GAO关于电子投票的报告(GAO-05-956)直接标记了这一点:改进电子投票安全性和可靠性的联邦努力正在进行但不完整,关键活动——包括分享系统漏洞信息——尚未完成。该报告是在华盛顿特区试点之前八年写的。它所识别的差距是结构性的,而非偶然的。
普林斯顿论文:联网机器上发生的事情
回到2006年的普林斯顿实验室。Feldman、Halderman和Felten论文展示了后来华盛顿特区试点在现场环境中确认的东西:受到破坏的投票机不需要自我宣布。他们构建的恶意代码改变了所有内部记录、日志和计数器以保持内部一致。该机器将通过标准诊断检查。例行审计,查找机器自身日志中的不一致,不会发现任何问题。
他们还构建了一个病毒——在字面计算机科学意义上。在正常选举夜程序中从机器传播到机器的代码,这与在每个县、每个投票站、每个选举夜发生的相同内存卡交换。
现在考虑如果机器有任何连接会发生什么改变。联网破坏不需要物理访问。它不需要一个流氓内部人员拿着内存卡和六十秒独自与机器相处。它需要在与其他东西通信的设备上存在软件漏洞——投票簿、结果传输系统、为技术支持留下的远程访问工具。
普林斯顿论文主要不是关于一分钟物理攻击者能做什么。它是关于从内部看,拥有闭源、不可验证软件的联网系统是什么样子的:一台在你能检查的每种方式上看起来正确,但在重要的每种方式上都能是错误的机器。
野生状态下的连接问题
华盛顿特区试点是在公开测试中被破坏的现场互联网投票系统最清晰的记录案例。但根本问题——假设连接不存在,却发现连接存在——对于在线选票回邮并非唯一。
加州2007年的全面审查中,加州大学计算机科学家检查了该州认证投票系统的源代码,发现Diebold系统容易受到恶意软件影响,容易受到在机器间传播的病毒。Hart InterCivic系统有不安全的网络接口。这些系统不打算连接到互联网。漏洞存在,等待一条通道。
同年俄亥俄州的EVEREST审查对其研究的所有三个系统得出了类似的结论:关键安全故障使其技术控制不足以保证可信赖的选举。 在共同的故障中:对内部攻击的防御不足、加密实现不当以及可被其监督对象改变或删除的审计日志。
如果日志可以被伪造,"我们检查了日志,没有发现任何问题"就不是安全的证据。这是运行检查的证据。
新南威尔士州2015年的iVote系统——一次现场在线选举,已投出约280,000票——被独立研究人员Halderman和Teague发现从外部分析服务器加载代码,该连接容易受到已知TLS弱点攻击。位于网络上的攻击者可能能够操纵选票并破坏选票隐私。选举机构的选前安全审查没有标记这一点。研究人员在投票仍在进行时发表了他们的发现。
这些案例中的模式不是无能。它是复杂软件系统的结构特征:每个连接点都是一个攻击面,在没有为公众可验证性构建的系统中,没有独立方式确认所有连接都已关闭。
"认证"实际认证什么
当投票系统从美国选举援助委员会获得联邦认证时,它已通过由认证实验室在特定时间点运行的一套测试。这些测试检查系统是否符合系统提交时编写的《自愿投票系统指南》。
认证不确认:在你投票站部署的具体设备是否运行通过测试的相同软件。调制解调器、Wi-Fi无线电或远程访问工具是否在认证后被添加或保持活跃。它接触的网络是否已被破坏。组件上的固件是否在认证日期后更新。
"认证"意味着它曾通过过一次测试。这对选举日房间里的机器没有说任何话。
这不是理论上的关注。2021年Coffee County, Georgia事件——整个司法管辖区的投票系统软件被县官员放进去的人复制——涉及被认证和在活跃使用中的软件。认证没有阻止复制。它没有检测到它。它没有创建任何机制让公众验证他们投票的代码发生了什么。该事件记录在Curling v. Raffensperger案中的联邦法庭证词中。
官员们为你无法关闭的可验证性差距
这是互联网连接的——或可信任连接的——投票设备的核心问题:连接造成了一类攻击,受攻击系统无法自我报告证据。
由选民标记并由人类或光学扫描仪计数的纸质选票有独立的物理存在。机器计票可以与它们进行核实。这就是为什么乔治亚州2020年全州手工计票大约500万张选票——由狭小的差距触发——能够有意义地确认机器结果。纸质记录在那里。它是可检查的。偏差约为千分之一。
互联网破坏的投票机或被破坏的结果传输系统,如果系统被设计为权威记录,可能没有等效的独立检查。当华盛顿特区团队在2010年改变选票时,这些改变将是记录中的选票。纸张类比不是"某人在计票单上标记了错误的数字"。这是"某人替换了选票本身,新选票与原始选票无法区分"。
德国宪法法院在其2009年的判决中阐明了重要的标准,该判决推翻了投票计算机:投票和确定结果的基本步骤必须可由不具有专业知识的公民检查。 一个系统的正确性需要信任闭源软件、不透明的网络路径和不可验证的日志,无论是否发生过任何篡改,都不符合该标准。
2020年11月CISA联合声明——该声明宣布选举"美国历史上最安全的"——将其信心基于存在允许重新计票和审计的纸质记录。这就是声明本身的理由。 这隐含承认安全来自可验证性,而不是官方声言。
什么能实际关闭差距
华盛顿特区团队被检测到是因为他们制造了噪音——政府服务器上播放校歌不是微妙的。老练的攻击者不会播放校歌。
修复不是更好的入侵检测。入侵检测是一个有帮助的信任层,但它是一个信任层:你信任检测系统、监控它的人以及它生成的日志。修复是构建选举系统,其中计票的正确性是任何人都可以独立验证的,无需信任任何这些层。
这意味着:
- 选民标记的纸质选票作为权威记录——而不是选民无法读取的二维码,如联邦法院在Curling v. Raffensperger中所发现的。
- 结果在投票站级别发布,采用机器可读格式,每个投票站确定的瞬间——而不是在数小时或数天后聚合以隐藏基础数据的方式。
- 加密、端到端可验证计票,其中选民可以确认他们的加密选票包含在计票中而不透露他们如何投票——2019年瑞士公开代码审查所显示的可实现的标准,但必须在没有后门的情况下实现。该审查发现了一个。
- 在部署前进行公开对抗测试,而不是之后——巴西最高选举法院用其年度公开安全测试制度化的方法。华盛顿特区试点之所以作为安全阀门工作,是因为它在选票是真实之前进行了测试。在闭源实验室测试后的认证不是同一件事。
互联网连接差距主要不是关于特定机器是否有调制解调器。它是关于计票系统的设计是否让任何人——选民、研究人员、对立候选人、法院——能够独立确认结果而无需接受官员或供应商的话。
需要你信任网络的结果是需要你信任网络上所有人的结果。
你仍然无法验证什么——以及什么能改变那
现在,在大多数美国司法管辖区和大多数使用电子投票的民主国家中,没有公共机制来确认:
- 你投票的机器是否运行了它被认证的软件。
- 投票站和中央计票器之间的结果传输系统在计票期间是否被访问。
- 编程机器的选举管理系统在选举前数周内是否本身连接到任何外部东西。
官员可能能够告诉你这些事情。供应商可能有日志。审计员可能已检查。那些都是声称——由有利益关系且责任有限的各方做出。
什么能改变它: 投票站级别、机器可读的结果实时发布,加上选民自己可以检查的加密选票收据,以及开源软件其行为可被独立确认与选举日运行的相匹配。不是保证正确的软件已安装。这是证明。
这是华盛顿特区2010年试点没有达到的标准——即使没有密歇根团队也会没有达到,因为没有公共机制来确认它是安全的。校歌不是破坏。这只是证据。
来源
- Wolchok, Wustrow, Halderman, Prasad — Attacking the Washington, D.C. Internet Voting System, Financial Cryptography 2012
- Feldman, Halderman & Felten — Security Analysis of the Diebold AccuVote-TS Voting Machine (USENIX/EVT)
- GAO-05-956, 'Elections: Federal Efforts to Improve Security and Reliability of Electronic Voting Systems Are Under Way, but Key Activities Need to Be Completed' (Sept. 21, 2005)
- Halderman, Teague — The New South Wales iVote System: Security Failures and Verification Flaws in a Live Online Election, E-Vote-ID 2015 (arXiv:1504.05646)
- California Secretary of State, Top-to-Bottom Review (2007) — decisions and the independent experts' reports
- Source Code Review of the Diebold Voting System (University of California, 2007)
- Source Code Review of the Hart InterCivic Voting System (University of California, 2007)
- EVEREST: Evaluation and Validation of Election-Related Equipment, Standards and Testing — Final Report (December 7, 2007)
- Lawfare — What the Heck Happened in Coffee County, Georgia?
- Curling v. Raffensperger, No. 1:17-cv-2989-AT, Opinion and Order (N.D. Ga. Oct. 11, 2020) (Justia)
- Bundesverfassungsgericht, Judgment of 3 March 2009, 2 BvC 3/07 and 2 BvC 4/07 (English translation)
- Joint Statement, Election Infrastructure Government Coordinating Council & Sector Coordinating Council (Nov. 12, 2020) (CISA)
- Lewis, Pereira, Teague — Ceci n'est pas une preuve (trapdoor commitments in the Scytl-SwissPost Internet voting system), 2019