Исходный код, который вам запрещено читать
Каждая машина для голосования, работающая на ваших выборах, содержит программное обеспечение, которое по закону вам запрещено читать — и люди, сертифицирующие его как безопасное, часто его тоже никогда не читали.
Осень 2007 года. Команды компьютерных учёных из Калифорнийского университета сидят перед исходным кодом избирательных машин, который они никогда раньше не имели права видеть. Государственный секретарь Калифорнии только что дал им что-то необычное: настоящее программное обеспечение, работающее в системах Diebold, Sequoia и Hart InterCivic, сертифицированных для использования по всему штату. У исследователей есть недели. У них есть код. У них есть оборудование.
То, что они находят, не внушает оптимизма.
В отчёте Diebold говорится, что «технологические средства защиты в программном обеспечении не обеспечивают достаточную безопасность для гарантирования надёжных выборов». Отчёт Sequoia выявляет «серьёзные уязвимости безопасности по всей системе, что вызывает серьёзные сомнения в том, можно ли полагаться на данное программное обеспечение при защите целостности выборов». В отчёте Hart InterCivic отмечается, что система «не была разработана в соответствии с принципами многоуровневой защиты» и что её компоненты «в основном доверяют друг другу».
Это не маргинальные выводы. Это заключения независимых, квалифицированных учёных, которым было дано такое же право доступа, которое уже использовали сертификационные лаборатории для одобрения этих систем для публичного использования.
В чём различие? Сертификационные лаборатории сказали: одобрено. Независимые учёные сказали: не так быстро.
История секретности в области избирательных технологий — это история об этом разрыве.
Почему вам не разрешено читать программное обеспечение
Вот стандартная схема в большинстве юрисдикций США — и многих демократиях во всём мире.
Частная компания пишет программное обеспечение. Это программное обеспечение подсчитывает голоса на публичных выборах. Компания считает код коммерческой тайной. Она лицензирует систему государственному органу, который проводит на ней ваши выборы. Аккредитованная тестовая лаборатория изучает код под соглашением о конфиденциальности. Лаборатория выдаёт сертификат. Выборы проводятся.
Вы голосовали. Машина считала. Вы не можете прочитать программное обеспечение, которое это считало. Ваш сосед тоже не может. В большинстве случаев не может и директор выборов округа, который купил эту систему. Не могут журналист, академический исследователь или судья — не без разрешения продавца, которое почти никогда не даётся.
Вас просят доверять процессу, механизм которого является коммерческой тайной.
Это не гипотетическая жалоба. У неё есть конкретные последствия — задокументированные в судах, в отчётах аудитов и в рецензируемых компьютерных исследованиях.
Что происходит, когда исследователи получают доступ
Комплексный обзор Калифорнии 2007 года — самое наглядное тематическое исследование того, что скрывается под закрытым кодом. Государственный секретарь дал независимым командам доступ к исходному коду для изучения систем Diebold, Sequoia и Hart InterCivic. Выводы, теперь уже открытые, описывают уязвимости перед вредоносным программным обеспечением, вирусы, которые могут распространяться между машинами, механизмы аудита, которые могут не обнаружить целенаправленные атаки, и незащищённые сетевые интерфейсы.
За год до этого исследователи Принстона уже продемонстрировали наихудший сценарий на реальной машине Diebold AccuVote-TS. Ариэль Фельдман, Дж. Алекс Халдерман и Эдвард Фелтен показали, что злоумышленник, имеющий примерно минуту физического доступа, может установить вредоносный код, способный воровать голоса, сохраняя при этом все внутренние журналы, счётчики и записи в соответствии. Они создали работающий вирус для избирательной машины, который автоматически распространялся между машинами во время нормальной деятельности на выборах. Машина была сертифицирована. Код был проверен. Ни один из этих фактов не помешал исследователям сделать то, что они продемонстрировали.
Работа команды из Принстона имеет простое, жестокое следствие: если программное обеспечение неправильно — по злому умыслу или случайно — и никакая независимая сторона не может его прочитать, никто не узнает об этом до тех пор, пока что-то не пойдёт явно неправильно. И это может никогда не пойти явно неправильно.
Это суть проблемы кода, держащегося в секрете. Не заговор. Не утверждение, что какие-то конкретные выборы были украдены. Структурное свойство закрытой системы: возможны необнаруживаемые ошибки, и механизм их обнаружения был передан на аутсорсинг.
Огайо подтвердил это в 2007 году. Его обзор EVEREST — девять недель работы команд из Пенсильванского государственного университета, Пенсильванского университета и WebWise Security — изучил системы ES&S, Hart InterCivic и Premier (ранее Diebold) и пришёл к выводу, применимому ко всем трём: каждая система имеет «критические сбои безопасности, которые делают её технические средства защиты недостаточными для гарантирования надёжных выборов». Общие сбои включали недостаточную защиту от атак инсайдеров, неправильное использование криптографии и журналы аудита, которые могли быть изменены или удалены теми же людьми, которые их должны были контролировать.
Журналы, которые администраторы могли стереть. Аудиты, которые не смогли бы обнаружить то, для чего они были разработаны.
Ловушка сертификации
На этом этапе разумный человек возражает: но эти системы сертифицированы. Это не значит ли, что кто-то проверял?
Да. Кто-то проверял. Один раз. При условиях, которые помогал разработать продавец. Используя стандарты, которые, как отметили федеральные аудиторы в отчёте GAO 2005 года, всё ещё разрабатывались годами после того, как HAVA их потребовала. GAO обнаружила, что «ключевые действия остались незавершёнными» — что механизм обеспечения безопасности и надёжности систем голосования всё ещё строился даже по мере развёртывания сертифицированных систем.
Сертификация в технологии голосования означает: это программное обеспечение прошло определённый набор тестов, администрируемых аккредитованной лабораторией, в момент его предоставления. Это не означает, что то же самое программное обеспечение работает сегодня. Это не означает, что тесты охватывали все сценарии атак. Это не означает, что независимый исследователь не может найти критический дефект, который процесс сертификации пропустил.
Это снимок, а не постоянная гарантия.
«Сертифицировано» — это то, что вам говорит продавец. «Проверяемо» — это то, что вы можете проверить сами.
Это различие наиболее важно на близких выборах. Когда выборы решаются несколькими сотнями голосов, а система, подсчитывающая эти голоса, не может быть независимо проверена, вы не в состоянии подтвердить результат. Вы в состоянии поверить в заверение.
Эпизод в Coffee County, Грузия в 2021 году иллюстрирует, чего стоит одно только заверение. 7 января 2021 года фирма компьютерной криминалистики вошла в офис выборов Coffee County и скопировала всю избирательную систему — сервер системы управления выборами, устройства для разметки избирательных бюллетеней, сканер, программное обеспечение Dominion штата Грузия — с помощью местных должностных лиц. Программное обеспечение, которое должно было быть секретным, заблокированным, сертифицированным и защищённым, было воспроизведено и распространено за один день. Государственный секретарь Грузии позже назвал это несанкционированным доступом в нарушение государственного закона. Несколько человек, причастных к этому, признали себя виновными.
Секретность, оказывается, — это не стратегия безопасности. Это желание.
Как выглядит реальная альтернатива
21 августа 2018 года Государственный секретарь Калифорнии сертифицировал что-то, что никогда раньше не существовало: Voting Solutions for All People, VSAP Tally Version 1.0, построенный округом Лос-Анджелес. Штат назвал это «первой сертифицированной в Калифорнии избирательной системой с использованием открытого исходного кода» и «первой общественной системой подсчёта голосов с открытым исходным кодом, сертифицированной в соответствии со стандартами систем голосования Калифорнии».
Прочитайте это медленно. Округ Лос-Анджелес — крупнейшая избирательная юрисдикция Соединённых Штатов — построил и владеет собственной системой голосования. Код был открыт. Округ создал рабочую группу с открытым исходным кодом, чтобы другие юрисдикции могли на нём строить, вместо того чтобы покупать ещё один чёрный ящик продавца.
Вот как выглядит альтернатива: не иностранная концепция, не теоретический дизайн, а работающая, сертифицированная система в самом густонаселённом округе Америки.
Открытый исходный код не означает, что каждый избиратель читает программное обеспечение. Это означает, что любой квалифицированный исследователь — из любого университета, любой страны, команды безопасности любой партии — может его прочитать. Это означает, что если есть дефект, весь мир может его найти, а не только внутренняя команда продавца. Это означает, что исправление тоже может быть проверено.
Контраст с закрытыми системами не абстрактный. Когда Swiss Post опубликовал исходный код своей системы интернет-голосования в 2019 году, независимые криптографы Сара Джейми Льюис, Оливье Перейра и Ванесса Тиг обнаружили то, что внутренние тесты не поймали: люк в криптографическом доказательстве перемешивания, который позволил бы органу власти, имеющему доступ к определённым значениям, сгенерировать доказательство, которое казалось бы корректно проверяемым, скрывая изменённые голоса. Дефект был невидим в чёрном ящике. Он стал обнаруживаемым в момент, когда источник стал открытым.
Швейцарские власти приостановили систему до момента устранения проблемы. Публикация кода не создала дефект. Она обнажила тот, который был там уже.
Дефект, который можно найти и исправить, безопаснее дефекта, который скрыт и которому доверяют.
Что сказали суды
Проблема секретности — это не только аргумент информатики. Суды обратили на это внимание.
Федеральный конституционный суд Германии в своём знаковом постановлении 2009 года по электронному голосованию постановил, что использование избирательных компьютеров требует, чтобы «существенные этапы голосования и определения результата могли быть проверены гражданином надёжно и без каких-либо специальных знаний в этой области». Суд установил, что поскольку машины Nedap хранили голоса только в электронной памяти — без независимо проверяемой записи — они не соответствовали этому стандарту. Принцип публичной проверяемости вытекает непосредственно из конституционного требования публичных выборов.
Это постановление не ждало доказательства мошенничества. Оно сказало: система, правильность которой основана на скрытом программном обеспечении, конституционно недостаточна, независимо от того, продемонстрировал ли кто-нибудь атаку.
В Соединённых Штатах федеральный суд Грузии рассмотрел ту же проблему под другим углом. В деле Curling v. Raffensperger, решение октября 2020 года, суд рассмотрел показания экспертов о устройствах для разметки бюллетеней Dominion в Грузии и установил, что система «не обеспечивает проверяемый и подлежащий аудиту запись избирательного бюллетеня, потому что она использует QR-код для подсчёта голосов, и сам этот код не может быть прочитан и проверен избирателем». Суд процитировал заключение Национальных академий о том, что «в настоящее время не существует технического механизма для обеспечения того, чтобы приложение подсчёта голосов давало точные результаты, и только тестирование не может гарантировать, что системы не были скомпрометированы».
Только тестирование не может гарантировать. Суд так сказал. Это не партийное заявление. Это высказывание об ограничениях сертификации.
Суд, принимая во внимание близость к выборам ноября 2020 года, отказался приказать переход на вручную заполненные бумажные избирательные бюллетени. Это разумное судебное решение о времени. Оно не решает основную проблему.
Более сложный вопрос: открытый исходный код необходим, но достаточен ли он?
Здесь интеллектуальная честность требует шага дальше лёгкого аргумента.
VSAP — настоящий прогресс. Опубликованный код — настоящий прогресс. Но открытое программное обеспечение и работающие, проверяемые выборы — это не одно и то же. Швейцарский случай это доказывает: исходный код был опубликован, но криптографическое доказательство было написано таким образом, что люк было трудно найти. Это требовало специализированного математического опыта, а не просто чтения функций рецензентом кода.
Открытый код, который в принципе проверяемый, но требует докторской степени по криптографии для фактического аудита, — это не то же самое, что открытый код, который может прочитать любой компетентный разработчик.
Затем есть разрыв при внедрении. То, что опубликовано, и то, что работает на машине в день выборов, могут быть не одинаковыми. Это проблема воспроизводимых сборок: чтобы убедиться, что сертифицированное программное обеспечение — это программное обеспечение, развёрнутое, нужно скомпилировать опубликованный исходный код и подтвердить, что двоичный файл совпадает с тем, что находится на оборудовании. Это шаг, который большинство юрисдикций не предпринимает, и большинство продавцов не были обязаны поддерживать.
И даже правильное, открытое, независимо проверенное программное обеспечение всё ещё нуждается в долговечной бумажной записи и реальном аудите для проверки. Поштатный подсчёт голосов в Грузии в 2020 году — примерно пять миллионов бюллетеней, рассмотренных в 159 округах — подтвердил машинный подсчёт с точностью около одной десятой процента. Это подтверждение было возможно только потому, что существовала бумага, отмеченная избирателями. Без неё только открытый исходный код всё ещё оставил бы разрыв.
Полный ответ таков: открытый и проверяемый исходный код, плюс воспроизводимые сборки, плюс проверенная избирателем бумага, плюс обязательные независимые аудиты, плюс машиночитаемые результаты на уровне избирательных участков, опубликованные в момент их окончательности. Каждый уровень ловит то, что упускают другие. Уберите любой из них — и вы просите кого-то доверять.
Что всё ещё не проверяемо — и что сделало бы это проверяемым
Прямо сейчас в большинстве юрисдикций вот что вы не можете независимо подтвердить:
Что сертифицированное программное обеспечение — это программное обеспечение, работающее на машинах в вашем избирательном участке. Что программное обеспечение, работающее на машинах, не было изменено с момента сертификации. Что процесс компиляции создаёт один и тот же двоичный файл из источника, опубликованного продавцом или округом. Что журналы аудита на этих машинах не были изменены. Что сертифицированная, но ошибочная система имела свой дефект обнаружен, потому что никому вне команды продавца не было разрешено смотреть.
Ни один из этих разрывов не требует злонамеренных актёров. Каждый — структурное свойство закрытых проприетарных систем.
Что сделало бы их проверяемыми? Опубликованный, контролируемый версиями исходный код, обновляемый каждый раз, когда программное обеспечение изменяется. Воспроизводимые сборки, так чтобы любой компетентный технолог мог подтвердить, что развёрнутый двоичный файл совпадает с опубликованным исходным кодом. Обязательный доступ для независимых исследователей безопасности — не закрытая лаборатория под NDA, а открытое состязательное рецензирование, модель, которую Бразилия использует для своих национальных машин электронного голосования с 2009 года, явно приглашая квалифицированных тестеров попытаться сломать систему перед каждыми выборами. Бумажные записи, проверенные избирателями, которые физически отличаются от электронного вывода машины. И результаты на уровне избирательных участков, опубликованные мгновенно, в машиночитаемых форматах, в момент подсчёта каждого участка — чтобы общественность могла независимо агрегировать и перепроверять числа, вместо того чтобы ждать официального итога, чтобы доверять.
Разрыв между тем, где находятся большинство систем, и этим стандартом задокументирован, конкретен и может быть закрыт.
Первый шаг — признание того, что «сертифицировано» и «проверяемо» — это не синонимы — и что только один из них даёт вам что-то, что вы можете проверить сами.
Посмотрите, как распространён разрыв секретного исходного кода в юрисдикциях по всему миру
Изучите полную карту разрывов целостности выборов
Двухминутная версия проблемы проверяемости
Источники
- California Secretary of State, Top-to-Bottom Review (2007) — decisions and independent experts' reports
- Source Code Review of the Diebold Voting System (University of California, 2007)
- Source Code Review of the Sequoia Voting System (University of California, 2007)
- Source Code Review of the Hart InterCivic Voting System (University of California, 2007)
- EVEREST: Evaluation and Validation of Election-Related Equipment, Standards and Testing — Final Report (December 7, 2007)
- Feldman, Halderman & Felten — Security Analysis of the Diebold AccuVote-TS Voting Machine (USENIX/EVT)
- Lawfare — What the Heck Happened in Coffee County, Georgia?
- Atlanta Journal-Constitution — Coffee County was the site of a 2021 election breach
- California Secretary of State news release (Aug. 21, 2018): certifying LA County VSAP Tally
- LA County Registrar-Recorder/County Clerk, VSAP official program report
- Lewis, Pereira, Teague — Ceci n'est pas une preuve (trapdoor commitments in the Scytl-SwissPost Internet voting system), 2019
- Bundesverfassungsgericht, Judgment of 3 March 2009, 2 BvC 3/07 and 2 BvC 4/07 (English translation)
- Curling v. Raffensperger, No. 1:17-cv-2989-AT, Opinion and Order (N.D. Ga. Oct. 11, 2020)
- GAO-05-956, 'Elections: Federal Efforts to Improve Security and Reliability of Electronic Voting Systems Are Under Way, but Key Activities Need to Be Completed' (Sept. 21, 2005)
- Georgia Public Broadcasting — Risk-Limiting Audit Confirms Biden Won Georgia
- Tribunal Superior Eleitoral (Brazil) — Teste Público de Segurança dos Sistemas Eleitorais