Оборудование для голосования, подключённое к интернету
Команда Мичиганского университета взяла под контроль пилотную программу интернет-голосования в Вашингтоне за 48 часов — и официальные лица не заметили этого несколько дней. Вот что это означает для каждых выборов, проводимых на сетевых машинах.
Вторник, сентябрь 2006 года, компьютерная лаборатория Принстонского университета. Три исследователя держат в руках физическую машину для голосования — реальную, Diebold AccuVote-TS, такую же, как установленные по американским участкам. Она у них есть менее суток. Всего за около шестидесяти секунд доступа они установили программное обеспечение, которое будет крадёт голоса, скрывает следы и распространяется автоматически на каждую машину, с которой она контактирует при обычной работе на выборах.
Подключение к сети не требуется. Карта памяти и минута физического доступа — этого достаточно.
Теперь добавьте сеть. История становится намного хуже.
Машина в комнате, которую вы не видите
Каждая машина для голосования — это компьютер. И каждый компьютер, который общается с другим компьютером — через модем, мобильное соединение, Wi-Fi, порт Ethernet или даже кабель синхронизации «списка избирателей» — с точки зрения безопасности является сетевым компьютером. Вопрос не в том, является ли подключённое к интернету оборудование для голосования теоретическим риском. Вопрос в том, могут ли официальные лица, проводящие выборы, отличить отключённую машину от подключённой — и есть ли у вас способ проверить их ответ.
Это различие имеет огромное значение, потому что весь аргумент безопасности электронного голосования исторически основывался на посылке: машины изолированы. Они не подключены к интернету. Они являются островами.
Когда исследователи проверяют эту посылку — в лаборатории, в живом пилоте, с командой университета и временем в 48 часов — острова начинают выглядеть как полуострова.
Вашингтон, сентябрь 2010: 48 часов
Совет по выборам округа Колумбия сделал то, что заслуживает похвалы: перед внедрением системы интернет-возврата бюллетеней для иностранных и военных избирателей он провёл открытое публичное испытание и явно пригласил общественность проверить её.
Команда, возглавляемая специалистом по компьютерной безопасности Мичиганского университета Дж. Алексом Халдерманом — тем же исследователем, чьё имя упоминается в анализе машины для голосования в Принстоне четырьмя годами ранее — приняла приглашение. Всего за около 48 часов команда получила почти полный контроль над сервером пилота, используя уязвимость в программном обеспечении. Они могли изменить каждый поданный бюллетень. Они могли читать бюллетени, которые должны были оставаться секретными. И — как демонстрация того, что вторжение было реальным и они имели полный контроль — они запрограммировали систему воспроизводить боевой гимн Мичиганского университета после каждого имитационного голоса.
Официальные лица не обнаружили вторжение. Исследователям пришлось раскрыть его самим.
Совет по выборам округа Колумбия отменил планы использования системы для реальных голосований. Результаты позднее были опубликованы в виде статьи «Нападение на систему интернет-голосования Вашингтона» в рецензируемых материалах конференции Financial Cryptography.
Вот что стоит запомнить: атака сработала потому, что команда раскрыла её. Если бы они были враждебным актором вместо исследовательской команды, сообщившей об уязвимостях в общественных целях, бюллетени были бы изменены и никто бы этого не узнал.
Пилот округа Колумбия теперь является каноническим примером в исследованиях избирательной безопасности. Но он не изменил основное условие, которое он выявил: предположение, что интернет-подключение отсутствует, контролируется или ограничивается в системах, обрабатывающих голоса.
Прочитайте статью исследователей здесь.
«Воздушный зазор» — это утверждение, а не гарантия
Вот что имеют в виду официальные лица, говоря, что машины для голосования не подключены к интернету: машины не должны быть подключены. Они были разработаны для изоляции. Они сертифицированы по стандарту, который не допускал живого подключения.
Вот чего это утверждение не охватывает: электронные списки избирателей, которые синхронизируют избирательные реестры — часто через мобильный модем. Системы управления выборами, которые получают результаты от табуляторов по локальным сетям, которые могут использовать общую инфраструктуру. Обновления микропрограмм, доставляемые через съёмные носители, которые прошли через подключённый компьютер где-то выше в цепочке. Wi-Fi радио, которое было оставлено включённым на устройстве, потому что его отключение было дополнительным шагом конфигурации, который кто-то пропустил в 2 часа ночи во время настройки.
Машина, которая «не подключена к интернету», и машина, которая верифицируемо, независимо подтверждена как изолированная, — это не одно и то же. Первое — это политика. Второе — это проверяемый факт. Большинство избирательной инфраструктуры работает на первом и претендует на заслуги второго.
Доклад Контрольно-ревизионного управления 2005 года об электронном голосовании (GAO-05-956) прямо указал на это: федеральные усилия по улучшению безопасности и надёжности электронного голосования были в процессе, но неполны, и ключевые мероприятия — включая обмен информацией об уязвимостях систем — не были завершены. Этот доклад был написан за восемь лет до пилота округа Колумбия. Выявленный им пробел был структурным, а не случайным.
Статья из Принстона: что происходит на подключённой машине
Вернёмся в лабораторию Принстона в 2006 году. Статья Feldman, Halderman и Felten продемонстрировала то, что пилот округа Колумбия позднее подтвердит в реальной среде: что скомпрометированная машина для голосования не должна объявлять о себе. Вредоносный код, который они создали, изменил все внутренние записи, журналы и счётчики, чтобы оставаться внутренне непротиворечивыми. Машина прошла бы стандартную диагностическую проверку. Плановая проверка, ищущая расхождения в собственных журналах машины, не нашла бы никаких.
Они также создали вирус — в буквальном компьютерном смысле. Код, который распространяется с машины на машину во время обычных процедур ночи выборов, того же самого обмена картами памяти, который происходит в каждом округе, в каждом участке, в каждую ночь выборов.
Теперь подумайте, что меняется, если машина имеет какое-либо подключение. Сетевой компромисс не требует физического доступа. Это не требует недобросовестного инсайдера с картой памяти и шестьюдесятью секундами наедине с машиной. Это требует уязвимости программного обеспечения на устройстве, которое взаимодействует с чем-то ещё — со списком избирателей, системой передачи результатов, инструментом удалённого доступа, оставленным активным для технической поддержки.
Статья из Принстона — это не в основном о том, что может сделать однозначный физический злоумышленник. Это о том, как выглядит изнутри подключённая система с закрытым, непроверяемым программным обеспечением: машина, которая может быть неправильной во всех способах, которые имеют значение, при этом выглядит правильно во всех способах, которые вы можете проверить.
Проблема подключения в реальной жизни
Пилот округа Колумбия — это самый ясный задокументированный случай скомпрометированной в открытом тесте системы интернет-голосования. Но основная проблема — подключение, предполагаемое отсутствующим, найденное присутствующим — не уникальна для онлайн-возврата бюллетеней.
При комплексной проверке Калифорнии в 2007 году, в ходе которой учёные Калифорнийского университета изучили исходный код сертифицированных в штате систем голосования, они обнаружили, что система Diebold была уязвима для вредоносного программного обеспечения и для вирусов, распространяющихся между машинами. Система Hart InterCivic имела небезопасные сетевые интерфейсы. Это были системы, которые не предполагали подключения к интернету. Уязвимости существовали в любом случае, ожидая пути проникновения.
Проверка EVEREST в Огайо в том же году пришла к аналогичному выводу по всем трём проверяемым системам: критические сбои безопасности, которые делают их технические средства контроля недостаточными для гарантирования надёжных выборов. Среди общих сбоев: неадекватная защита от атак инсайдеров, неправильно реализованная криптография и журналы проверки, которые могли быть изменены или стёрты людьми, за которыми они должны были наблюдать.
Если журналы можно подделать, то «мы проверили журналы и ничего не нашли» — это не доказательство безопасности. Это доказательство того, что проверка была проведена.
Система iVote Нового Южного Уэльса в 2015 году — живые онлайн-выборы с примерно 280 000 уже поданных голосов — была найдена независимыми исследователями Халдерманом и Тиг загружающей код с внешнего сервера аналитики через соединение, уязвимое к известным слабостям TLS. Злоумышленник, находящийся в сети, потенциально мог манипулировать голосами и скомпрометировать тайну голосования. Проверка безопасности избирательного органа перед выборами не выявила это. Исследователи опубликовали свои выводы, пока голосование всё ещё продолжалось.
Закономерность во всех этих случаях — это не некомпетентность. Это структурная особенность сложных систем программного обеспечения: каждая точка подключения — это поверхность атаки, и в системах, которые не построены для публичной проверяемости, нет независимого способа подтвердить, что все они закрыты.
Что на самом деле сертифицирует «сертификация»
Когда система голосования получает федеральную сертификацию от Комиссии США по содействию выборам, она прошла набор тестов, проведённых аккредитованной лабораторией в определённый момент времени. Тесты проверяют, соответствует ли система Добровольным рекомендациям по системам голосования, как они были написаны при подаче системы.
Сертификация не подтверждает: работает ли конкретное устройство на вашем участке то же программное обеспечение, которое было протестировано. Был ли модем, Wi-Fi радио или инструмент удалённого доступа добавлен или оставлен активным после сертификации. Была ли скомпрометирована сеть, с которой она соприкасается. Была ли обновлена микропрограмма компонента после даты сертификации.
«Сертифицировано» означает, что она прошла один тест. Это ничего не говорит о машине в комнате в день выборов.
Это не теоретическая проблема. Инцидент в Coffee County, Джорджия в 2021 году — когда программное обеспечение избирательной системы всего округа было скопировано людьми, пущенными официальными лицами округа — затронул программное обеспечение, которое было сертифицировано и активно использовалось. Сертификация не предотвратила копирование. Она его не обнаружила. Она не создала никакого механизма, посредством которого общественность могла бы проверить, что произошло с кодом, по которому они голосовали. Этот инцидент задокументирован в федеральных судебных показаниях в деле Curling v. Raffensperger.
Пробел в проверяемости, который официальные лица не могут закрыть за вас
Вот главная проблема с подключённым к интернету — или предположительно подключённым — оборудованием для голосования: подключение создаёт класс атак, которые не оставляют доказательств, которые атакуемая система может сообщить о себе.
Бумажные бюллетени, помеченные избирателями и подсчитанные людьми или оптическими сканерами, имеют независимое физическое существование. Итог машины можно проверить против них. Вот почему государственный подсчёт Джорджии в 2020 году примерно пяти миллионов бюллетеней — спровоцированный узким большинством — мог содержательно подтвердить результат машины. Бумага была там. Она была проверяема. Расхождение составило около одной десятой процента.
Скомпрометированная интернетом машина для голосования или скомпрометированная система передачи результатов может не иметь эквивалентной независимой проверки, если система была разработана как авторитетная запись. Когда команда округа Колумбия изменила бюллетени в 2010 году, эти изменения были бы официальными бюллетенями. Аналогия с бумагой — это не «кто-то поставил неправильный номер на табулограмму». Это «кто-то заменил самые бюллетени, и новые бюллетени неотличимы от оригиналов».
Немецкий конституционный суд сформулировал стандарт, который здесь имеет значение, в своём решении 2009 года, отменившем компьютеры для голосования: существенные этапы голосования и определения результата должны быть проверяемы гражданином без специальных знаний. Система, чья правильность требует доверять закрытому программному обеспечению, непрозрачным сетевым путям и непроверяемым журналам, не удовлетворяет этому стандарту независимо от того, произойдёт ли когда-либо какое-либо вмешательство.
Совместное заявление CISA от ноября 2020 года — которое объявило выборы «самыми безопасными в американской истории» — основало свою собственную уверенность на существовании бумажных записей, которые позволяют пересчёты и проверки. Это собственное рассуждение этого заявления. Это неявное признание того, что безопасность вытекает из проверяемости, а не из официального утверждения.
Что действительно закроет пробел
Команда округа Колумбия была обнаружена потому, что они создали шум — боевой гимн, играющий на государственном сервере, — это не тонко. Изощрённый злоумышленник не стал бы проигрывать боевой гимн.
Решение — это не лучшая система обнаружения вторжений. Обнаружение вторжений — это слой, который помогает, но это слой доверия: вы доверяете системе обнаружения, людям, которые её мониторят, и журналам, которые она генерирует. Решение — это построение избирательных систем, где правильность подсчёта независимо проверяема любым человеком, без необходимости доверять любому из этих слоёв.
Это означает:
- Бумажные бюллетени, помеченные избирателями, как авторитетная запись — не QR-коды, которые избиратель не может прочитать, как установил федеральный суд в Curling v. Raffensperger.
- Результаты, опубликованные на уровне участка в машиночитаемых форматах в момент финализации каждого участка — не объединённые часы или дни спустя способами, которые скрывают лежащие в основе данные.
- Криптографический подсчёт, верифицируемый от конца до конца, где избиратель может подтвердить, что его зашифрованный бюллетень включен в подсчёт без раскрытия того, как они голосовали — стандарт, который проверка открытого кода Швейцарии 2019 года показала как достижимый, но должна быть реализована без потайных ходов. Эта проверка нашла один.
- Публичное состязательное тестирование перед развёртыванием, а не после — подход, который Верховный избирательный суд Бразилии институционализировал со своими ежегодными публичными тестами безопасности. Пилот округа Колумбия работал как предохранительный клапан, потому что он был протестирован перед тем, как голоса стали реальными. Сертификация после закрытого лабораторного теста — это не то же самое.
Пробел в интернет-подключении — это не в основном о том, есть ли на конкретной машине модем. Это о том, позволяет ли дизайн системы подсчёта кому-либо — избирателю, исследователю, кандидату-конкуренту, суду — независимо подтвердить результат без доверия к словам официальных лиц или поставщика.
Результат, который требует вам доверять сети, — это результат, который требует вам доверять всем в сети.
Что вы всё ещё не можете проверить — и что это изменит
Прямо сейчас в большинстве юрисдикций США и в большинстве демократий, которые используют электронное голосование, нет публичного механизма для подтверждения:
- Работает ли машина, на которой вы голосовали, то программное обеспечение, на которое она была сертифицирована.
- Был ли доступ к системе передачи результатов между участком и центральным табулятором во время подсчёта.
- Была ли система управления выборами, которая программирует машины, сама подключена к чему-либо внешнему в недели перед выборами.
Официальные лица могут рассказать вам об этом. Поставщики могут иметь журналы. Аудиторы могут проверить. Это всё утверждения — сделанные сторонами с интересами и ограниченной независимой подотчётностью.
Что это изменит: результаты на уровне участка, машиночитаемые и опубликованные в реальном времени, наряду с криптографическими квитанциями бюллетеней, которые избиратели могут проверить сами, и открытым исходным кодом, чьё поведение может быть независимо подтверждено соответствующим тому, что работает в день выборов. Не обещание, что правильное программное обеспечение установлено. Доказательство.
Это стандарт, который пилот округа Колумбия 2010 года не удовлетворил — и не удовлетворил бы даже без команды Мичигана, потому что не было публичного механизма для подтверждения его безопасности. Боевой гимн был не нарушением. Он был просто доказательством.
Изучите полную карту пробелов в избирательной целостности. →
Прочитайте двухминутную версию. →
Источники
- Wolchok, Wustrow, Halderman, Prasad — Attacking the Washington, D.C. Internet Voting System, Financial Cryptography 2012
- Feldman, Halderman & Felten — Security Analysis of the Diebold AccuVote-TS Voting Machine (USENIX/EVT)
- GAO-05-956, 'Elections: Federal Efforts to Improve Security and Reliability of Electronic Voting Systems Are Under Way, but Key Activities Need to Be Completed' (Sept. 21, 2005)
- Halderman, Teague — The New South Wales iVote System: Security Failures and Verification Flaws in a Live Online Election, E-Vote-ID 2015 (arXiv:1504.05646)
- California Secretary of State, Top-to-Bottom Review (2007) — decisions and the independent experts' reports
- Source Code Review of the Diebold Voting System (University of California, 2007)
- Source Code Review of the Hart InterCivic Voting System (University of California, 2007)
- EVEREST: Evaluation and Validation of Election-Related Equipment, Standards and Testing — Final Report (December 7, 2007)
- Lawfare — What the Heck Happened in Coffee County, Georgia?
- Curling v. Raffensperger, No. 1:17-cv-2989-AT, Opinion and Order (N.D. Ga. Oct. 11, 2020) (Justia)
- Bundesverfassungsgericht, Judgment of 3 March 2009, 2 BvC 3/07 and 2 BvC 4/07 (English translation)
- Joint Statement, Election Infrastructure Government Coordinating Council & Sector Coordinating Council (Nov. 12, 2020) (CISA)
- Lewis, Pereira, Teague — Ceci n'est pas une preuve (trapdoor commitments in the Scytl-SwissPost Internet voting system), 2019