インターネットに接続された投票機器
ミシガン大学のチームがワシントンD.C.のインターネット投票パイロットを48時間で乗っ取りました。その間、当局は数日間気づきませんでした。ネットワークに接続された機器で運営されるすべての選挙が何を意味するのかをここに示します。
2006年9月のある火曜日の朝、プリンストン大学のコンピュータラボで、3人の研究者が物理的な投票機を手にしています。本物の投票機、Diebold AccuVote-TSで、アメリカ中の選挙区に配備されているものです。彼らがそれを手にしてからまだ1日未満です。物理的アクセスから約60秒以内に、投票を盗み、痕跡を隠し、通常の選挙運営中に触れるすべての他の機械に自動的に広がるソフトウェアをインストールしています。
ネットワーク接続は不要です。メモリカードと1分間の物理的アクセスで十分でした。
今、ネットワークを追加してください。ストーリーはかなり悪くなります。
見えない部屋の中の機械
すべての投票機はコンピュータです。そして他のコンピュータと通信するコンピュータ(モデム、携帯電話接続、Wi-Fiラジオ、イーサネットポート、または「投票者名簿」同期ケーブルを通じて)は、セキュリティの観点から言えば、ネットワークに接続されたコンピュータです。重要な質問は、インターネットに接続された投票機器がリスクかどうかではなく、選挙を運営する職員がアイソレートされた機械と接続されている機械の違いを見分けることができるかどうか、そしてあなたが彼らの答えをチェックする方法があるかどうかです。
この区別が非常に重要な理由は、電子投票のセキュリティ議論全体が歴史的に前提に基づいているからです。すなわち、機械はエアギャップされています。インターネットと通信しません。それらは孤立した島です。
研究者がその前提をつつき始めるとき(ラボで、ライブパイロットで、大学チームと48時間の窓口で)、島は半島に見え始めます。
ワシントンD.C.、2010年9月:48時間
コロンビア特別区選挙委員会は、表彰に値することをしました。海外および軍の投票者向けのインターネット投票返却システムを配備する前に、公開パイロット試験を実施し、明確に公衆がそれを調査することを招待しました。
ミシガン大学のコンピュータ科学者J. Alex Haldermanが率いるチーム(4年前のプリンストン投票機分析に名前が出ている同じ研究者)が招待を受け入れました。約48時間以内に、チームはソフトウェアの脆弱性を悪用することでパイロットサーバのほぼ完全な制御を得ました。彼らはキャストされたすべての投票を変更できました。秘密であるべき投票を読むことができました。そして、侵入が実在し、彼らが完全な制御を持っていることを実証として、各シミュレートされた投票後にミシガン大学の戦闘歌を再生するようにシステムをプログラムしました。
職員は侵入を検出しませんでした。研究者自身がそれを明かさなければなりませんでした。
D.C.選挙委員会はライブバインディング投票にシステムを使用する計画をキャンセルしました。 その後の調査結果は、査読済みの金融暗号学会議の議事録に「Attacking the Washington, D.C. Internet Voting System」として公開されました。
ここで重要な点は:攻撃は、チームがそれを開示したから機能したということです。 彼らが公益のために脆弱性にフラグを立てている研究チームではなく、敵対的な行為者であった場合、投票は変更されたはずで、誰も知らなかったはずです。
D.C.パイロットは今、選挙セキュリティ研究の標準的な例です。しかし、それが露呈した基本的な状況を変えませんでした:投票を処理するシステムではインターネット接続性が存在しない、制御される、または含まれていると仮定すること。
「エアギャップ」は保証ではなく主張です
職員が投票機がインターネットに接続されていないと言うとき、彼らが意味するのは:機械は接続されるべきではないということです。彼らはアイソレートされるように設計されました。ライブ接続性を許可しなかった標準に認定されています。
その主張がカバーしないもの:投票者ロールを同期する電子投票簿(通常は携帯電話モデムを通じて)。タビュレータから結果を受け取る選挙管理システムは、インフラストラクチャを共有するローカルネットワークを通じて。接続されたコンピュータをどこかのチェーンを通じて通過したリムーバブルメディアを通じて配信されたファームウェア更新。セットアップ中の午前2時に誰かがスキップした余分な構成ステップであるため、無効にされたままの設定デバイスのWi-Fiラジオ。
「インターネットに接続されていない」機械と、検証可能で独立して確認されてアイソレートされていることが確認された機械は同じものではありません。 最初はポリシーです。2番目は監査可能な事実です。ほとんどの選挙インフラは最初のものを実行し、2番目のものに信用を主張しています。
電子投票に関する2005年GAOレポート(GAO-05-956)はこれを直接フラグしました。電子投票のセキュリティと信頼性を向上させるための連邦の努力は進行中でしたが不完全でした。システムの脆弱性に関する情報の共有を含む主要な活動は完了していませんでした。そのレポートはD.C.パイロットの8年前に書かれました。それが特定したギャップは構造的なものであり、偶然的ではありませんでした。
プリンストン論文:接続された機械で何が起こるか
2006年のプリンストンラボに戻りましょう。Feldman、Halderman、およびFelten論文は、D.C.パイロットが後にライブ環境で確認するであろう何かを実証しました:損なわれた投票機は自分自身を発表する必要がないということです。彼らが構築した悪意のあるコードは、すべての内部レコード、ログ、およびカウンターを変更して、内部的に一貫した状態に保ちました。機械は標準的な診断チェックに合格するでしょう。機械の独自のログに矛盾がないかを調べるルーチン監査は何も検出しないでしょう。
彼らはまた、ウイルスも構築しました。コンピュータ科学の文字通りの意味で。すべての都市部、すべての投票所、すべての選挙日に起こる通常の選挙夜の手続き中に機械から機械に広がるコード。同じメモリカード交換がすべての都市部で起こります。
今、機械がすべて接続性を持っている場合に何が変わるかを考えてください。ネットワークされた侵害は物理的アクセスを必要としません。メモリカードと機械の60秒を持つ不正な内部者を必要としません。投票簿、結果送信システム、技術サポート用に残されたリモートアクセスツールと通信するデバイスのソフトウェア脆弱性が必要です。
プリンストン論文は、主に1分間の物理的攻撃者が何ができるかについてではありません。それは、閉じた検証不可能なソフトウェアを持つ接続されたシステムが内部からどのように見えるかについてです。正しく見えるあらゆる方法でチェックできるあらゆる方法で間違っている可能性のある機械です。
野生での接続性問題
D.C.パイロットは、ライブインターネット投票システムが公開テストで損なわれた最も明確に文書化されたケースです。しかし根本的な問題(接続性は存在しないと仮定され、存在することが判明)はオンライン投票返却に限定されません。
カリフォルニアの2007年の包括的レビュー。ユニバーシティオブカリフォルニアのコンピュータ科学者が州の認定投票システムのソースコードを検査したもの。Dieboldシステムが悪意のあるソフトウェアと機械間でウイルスが広がる可能性があることに脆弱であることが判明しました。Hart InterCivicシステムは保護されていないネットワークインターフェースを持っていました。これらはインターネットに接続されることを意図していなかったシステムでした。脆弱性はとにかく存在し、経路を待っていました。
同じ年のオハイオのEVERESTレビューは、それが研究した3つのシステムすべてにおいて同様の結論に達しました:信頼できる選挙を保証するために彼らの技術的制御が不十分であることを示す重大なセキュリティ障害。 共有された障害の中には:内部者攻撃に対する防御が不十分。暗号化が不適切に実装されている。彼らが監視することを意図していた人々によって改ざんまたは消去される可能性のある監査ログ。
ログが偽造できる場合、「ログを確認しましたが何も見つかりませんでした」は安全の証拠ではありません。チェックが実行されたという証拠です。
ニューサウスウェールズiVoteシステムは2015年に、すでにキャストされたおよそ280,000票のライブオンライン選挙で、独立した研究者HaldermanおよびTeagueによって、既知のTLS弱点に脆弱な接続を介して外部分析サーバからコードをロードすることが判明しました。ネットワーク上に配置された攻撃者は投票を操作し、投票の秘密を危険にさらす可能性があります。選挙当局の事前選挙セキュリティレビューはこれにフラグを立てていませんでした。研究者は投票がまだ進行中である間に調査結果を公開しました。
これらのケース全体のパターンは無能さではありません。複雑なソフトウェアシステムの構造的特徴です:すべての接続ポイントは攻撃面です。公開検証のために構築されていないシステムでは、すべてが閉じられていることを確認するための独立した方法はありません。
「認定」が実際に認定するもの
投票システムが米国選挙支援委員会から連邦認定を受ける場合、認定されたラボによって時間のある段階で実行された一連のテストに合格しています。テストは、システムが提出時に記述された自発的投票システムガイドラインを満たしているかどうかを確認します。
認定は確認しません:選挙区に配備される特定のユニットがテスト対象と同じソフトウェアを実行しているかどうか。認定後にモデム、Wi-Fiラジオ、またはリモートアクセスツールが追加または有効になったままになっているかどうか。それが接する必要がネットワークから危険にさらされているかどうか。コンポーネント上のファームウェアが認定日後に更新されたかどうか。
「認定」とは、一度テストに合格したことを意味します。選挙日に部屋の中の機械について何も言いません。
これは理論的な懸念ではありません。2021年のコーヒー郡、ジョージア州のエピソード。郡の当局者によって許可された人々によって投票システムソフトウェア全体がコピーされた管轄区域。認定され、積極的に使用されていたソフトウェアが関与していました。認定はコピーを防止しませんでした。それを検出しませんでした。公開がコピーを投票していたコードに何が起こったかを確認するためのメカニズムを作成しませんでした。そのエピソードはCurling v. Raffensperger事件での連邦裁判所の質問で文書化されています。
職員があなたのために閉じることができないのは検証可能性ギャップです
インターネット接続された(またはもっともらしく接続された)投票機器の核心的な問題はここにあります:接続性は、攻撃されたシステムが自己報告できないように証拠を残さない攻撃のクラスを作成します。
有権者によってマークされ、人間または光学スキャナーによってカウントされた紙の投票には、独立した物理的存在があります。機械の集計はそれと照合できます。これがジョージア州の2020年のおよそ500万票の全州手書きカウントが(狭い余裕により引き起こされた)機械的結果を有意に確認できた理由です。紙がそこにありました。チェック可能でした。変動はほぼ0.1パーセントでした。
インターネットで危険にさらされた投票機器、または危険にさらされた結果送信システムは、システムが決定的なレコードになるように設計されていた場合、同等の独立チェックを持たない可能性があります。D.C.チームが2010年に投票を変更したとき、その変更はレコードの投票であろう。紙の類似は「誰かが集計シートに間違った番号をマークしました」ではありません。「誰かが投票自体を置き換え、新しい投票は元の投票と区別できません」。
ドイツ連邦憲法裁判所は、投票コンピュータを無効にする2009年の判決で、ここで重要な標準を言い表しました:投票の本質的なステップと結果の決定は、専門知識なしで市民によって検査可能でなければならない。 閉じたソフトウェア、不透明なネットワークパス、検証不可能なログを信頼する必要がある正確性を持つシステムは、改ざんが発生したかどうかに関わらずその標準に失敗します。
2020年11月のCISA共同声明(選挙を「アメリカ史上最も安全」と宣言)はその信頼を、再カウントと監査を可能にする紙レコードの存在に基づいていました。それはその声明の独自の推論です。 セキュリティは公式主張ではなく検証可能性から流れるという暗黙の了解です。
実際にギャップを閉じるもの
D.C.チームはノイズを出したために検出されました。政府サーバで戦闘歌が再生されることは微妙ではありません。高度な攻撃者は戦闘歌を再生しません。
修正は、より良い侵入検出ではありません。侵入検出はセキュリティ層であり、それは信頼層です:検出システム、それを監視する人々、および生成するログを信頼しています。修正は、カウントの正確性が誰もが独立して検証可能な、任意の層を信頼することなく選挙システムを構築することです。
これは以下を意味します:
- 投票者がマークした紙の投票用紙を決定的なレコードとして。有権者が読むことができないQRコードではなく、連邦裁判所がCurling v. Raffenspergerで見つけたように。
- 各投票所が最終化する瞬間に投票所レベルで結果を公開し、機械が読める形式で。数時間または数日後に集計されず、基になるデータを隠す方法で。
- 有権者が自分の暗号化された投票用紙が投票を明かすことなくカウントに含まれていることを確認できる暗号化、エンドツーエンド検証可能な集計。スイスの2019年の公開コードレビューが実装可能であることを示しているが、背後扉なしで実装する必要がある標準。そのレビューは1つ見つけました。
- 配備前の公開敵対テスト、その後ではなく。ブラジルの最高選挙裁判所が年次公開セキュリティテストで制度化したアプローチ。D.C.パイロットはテストが投票が実在する前にテストされたため、安全弁として機能しました。閉じたラボテスト後の認定は同じではありません。
インターネット接続ギャップは主に特定の機械がモデムを持っているかどうかについてではありません。それは、カウントシステムの設計が誰かが(有権者、研究者、対抗候補者、裁判所)当局またはベンダーの言葉を受け取らずに独立して結果を確認させるかどうかについてです。
ネットワークを信頼することが必要な結果は、ネットワーク上の誰もが信頼する必要がある結果です。
あなたが検証できないもの。そしてそれを変えるもの
現在、ほとんどの米国の管轄区域およびほとんどの電子投票を使用する民主主義では、確認するための公開メカニズムはありません:
- あなたが投票した機械が認定されたソフトウェアを実行していたかどうか。
- 投票所と中央集計機の間の結果送信システムがカウント中にアクセスされたかどうか。
- 機械をプログラムする選挙管理システムが選挙前の数週間に何かに外部で接続されたかどうか。
職員はあなたにそれらの事柄を知らせることができるかもしれません。ベンダーはログを持つかもしれません。監査人はチェックしたかもしれません。これらはすべて主張です。利益と限定的な独立した説明責任を持つ当事者によってなされました。
それを変えるもの: 投票所レベルの機械が読める結果をリアルタイムで公開し、暗号化投票用紙を有権者が自分でチェックできるようにし、動作が選挙日に実行されているものと独立して確認できるオープンソースソフトウェアと一緒に。正しいソフトウェアがインストールされているという約束ではありません。証拠。
これはD.C. 2010パイロットが満たすために失敗した標準です。ミシガンチームがなくても失敗したであろう。それが安全だったことを確認するための公開メカニズムがなかったからです。戦闘歌は違反ではありませんでした。それはただの証拠でした。
世界中の選挙システム全体でインターネット接続された機器ギャップがどれほど広くあるかを見てください。 →
ソース
- Wolchok、Wustrow、Halderman、Prasad — ワシントンD.C.インターネット投票システムへの攻撃、Financial Cryptography 2012
- Feldman、Halderman&Felten — Diebold AccuVote-TS投票機のセキュリティ分析(USENIX / EVT)
- GAO-05-956、「選挙:電子投票システムのセキュリティと信頼性を改善するための連邦の努力が進行中ですが、主要な活動を完了する必要があります」(2005年9月21日)
- Halderman、Teague — ニューサウスウェールズiVoteシステム:ライブオンライン選挙でのセキュリティ障害および検証の欠陥、E-Vote-ID 2015(arXiv:1504.05646)
- カリフォルニア州務長官、包括的レビュー(2007年)。決定および独立した専門家レポート
- Diebold投票システムのソースコードレビュー(カリフォルニア大学、2007年)
- Hart InterCivic投票システムのソースコードレビュー(カリフォルニア大学、2007年)
- EVEREST:選挙関連機器、基準およびテストの評価および検証。最終レポート(2007年12月7日)
- Lawfare — コーヒー郡、ジョージア州で起きたことはいったい何ですか?
- Curling v. Raffensperger、No。1:17-cv-2989-AT、意見および命令(N.D. Ga。 2020年10月11日)(Justia)
- Bundesverfassungsgericht、2009年3月3日の判決、2 BvC 3/07および2 BvC 4/07(英語翻訳)
- 共同声明、選挙インフラ政府調整評議会および部門調整評議会(2020年11月12日)(CISA)
- Lewis、Pereira、Teague — Ceci n'est pas une preuve(Scytl-SwissPostインターネット投票システムでのバックドアコミットメント)、2019年