Изходният код, който нямате право да четете
Всяка машина за гласуване, която управлява вашите избори, съдържа софтуер, който е законно забранено да четете — и хората, които го сертифицират като безопасен, често го никога не са чели.
Есента на 2007 г., екипи от компютърни учени от Калифорнийския университет седят пред изходния код на машини за гласуване, които никога не са им позволили да видят. Държавният секретар на Калифорния им е дал нещо невероятно: фактическия софтуер, работещ вътре в системите на Diebold, Sequoia и Hart InterCivic, сертифицирани за използване в целия щат. Изследователите имат седмици. Имат кода. Имат хардуера.
Това, което намират, не е успокояващо.
Докладът на Diebold заключава, че „технологичните контроли в софтуера не осигуряват достатъчна сигурност за гарантиране на надежден избор." Докладът на Sequoia установява „значителни слабости в сигурността в цялата система, което поставя сериозни въпроси дали софтуерът би могъл да се разчита на защитата на целостта на избори." Докладът на Hart InterCivic отбелязва, че системата „не е проектирана по защитни линии в дълбочина" и че нейните компоненти „в голяма степен се доверяват един на друг."
Това не са граничните находки. Това са заключения на независими, квалифицирани учени, което получиха същия достъп, който лабораториите за сертификация вече бяха използвали, за да позовекажат, че тези системи са подходящи за публично използване.
Разликата? Лабораториите за сертификация казаха: одобрено. Независимите учени казаха: още не толкова бързо.
Историята на секретността на техниката за гласуване е историята на тази разлика.
Защо нямате право да четете софтуера
Ето стандартното договореното устройство в повечето американски юрисдикции — и много демокрации по света.
Частна компания пише софтуер. Този софтуер брои гласовете при публични избори. Компанията смята, че кодът е търговска тайна. Лицензира системата на държавен орган, който управлява вашия избор с нея. Акредитирана лаборатория за тестване изследва кода под споразумение за неразкриване. Лабораторията издава сертификат. Изборите се проведоха.
Вие гласувахте. Машината преброи. Не можете да четете софтуера, който направи броенето. Нито вашият съсед. Нито, в повечето случаи, директорът на окръжния избор, който купи системата. Нито журналист, академичен изследовател или съдия — не без позволението на продавача, което почти никога не е дадено.
От вас се поиска да се доверите на процес, чийто механизъм е търговска тайна.
Това не е хипотетична жалба. Има конкретни последствия — документирани в съд, в доклади за преглед и в рецензирана от сътрудници компютърна наука.
Какво се случва, когато изследователите получат достъп
Калифорнийският преглед отгоре надолу през 2007 г. е най-ясното казусно изследване на това, което затвореният код е крил. Държавният секретар даде на независимите екипи достъп до изходния код, за да изучават системите Diebold, Sequoia и Hart InterCivic. Находките, сега публични, описват уязвимости към злонамерен софтуер, вирусите, които могат да се разпространяват между машини, механизми за преглед, които може да не открият определени атаки, и мрежови интерфейси, които не бяха защитени.
Една година по-рано, изследователи от Принстън вече бяха демонстрирали най-лошия сценарий със реална машина Diebold AccuVote-TS. Ариел Фелдман, Дж. Алекс Халдерман и Едвард Фелтен показаха, че нападател с около минута физически достъп би могъл да инсталира злонамерен код, способен да крадат гласовете, докато поддържа всеки вътрешен дневник, брояч и запис в съответствие. Те изградиха работещ вирус на машина за гласуване, който се разпространява автоматично между машинските при нормална избирателна дейност. Машината е била сертифицирана. Кодът е бил преглеждан. Нито един факт не е спрял изследователите от демонстрирането на това, което показаха.
Статията на екипа на Принстън има просто, жестоко значение: ако софтуерът е погрешен — чрез злоба или катастрофа — и никоя независима страна не може да го чете, никой няма да знае, докато нещо не се окаже видимо погрешно. И то може никога да не се окаже видимо погрешно.
Това е ядрото на проблема със секретния изходен код. Не теория на конспирацията. Не твърдение, че някой конкретен избор е бил откраднат. Структурно свойство на затворена система: необнаружими грешки са възможни, а механизмът за тяхното открийте е предоставен.
Охайо го потвърди през 2007 г. Своят преглед EVEREST — девет седмици работа на екипи от Държавния университет на Пенсилвания, Университета на Пенсилвания и WebWise Security — разгледа системи от ES&S, Hart InterCivic и Premier (известна като Diebold) и стигна до заключение, което се прилагаше на трите: всяка система притежава „критични пробойни в сигурността, които правят техните технически контроли недостатъчни за гарантиране на надежден избор." Споделени неудачи включваше недостатъчна защита срещу атаки от вътрешни лица, неправилно използване на криптография и дневници за преглед, които би можели да бъдат изтрити или изтрити от същите хора, които трябваше да наблюдават.
Дневници, които администраторите могли да изтрият. Преглеждане, което не би хвалило нещото, което беше проектирано да хвалят.
Пастта на сертификацията
В този момент разумен човек възразява: но тези системи са сертифицирани. Не означава ли това, че някой е проверил?
Да. Някой проверил. Веднъж. При условия, които продавачът помогна да проектира. Използвайки стандарти, които, както отбелязаха федералните одиторски в доклада на GAO от 2005 г., все още се разработваха години след като HAVA ги наложи. GAO установи, че „ключови дейности останаха незавършени" — че машинерията за осигуряване на сигурност и надеждност на системата за гласуване все още се строеше, докато сертифицирани системи се разполагаха.
Сертификацията в технологията на избори означава: този софтуер премина дефиниран набор от тестове, администрирани от акредитирана лаборатория, в момента, когато е представен. Не означава, че същия софтуер работи днес. Не означава, че тестовете обхващаха всеки сценарий на атака. Не означава, че независим изследовател не може да намери критична грешка, която процесът на сертификация е пропуснал.
Това е снимка, а не гарантия.
„Сертифицирано" е това, което продавачът ви казва. „Проверяемо" е това, което можете сами да проверите.
Различието е най-важно при близки избори. Когато състезанието се свързва със събирането на няколкостотин гласа, а системата, която брои тези гласа, не може да бъде независимо проверена, вие не сте в позиция да потвърдите резултата. Вие сте в позиция да вярвате на заверка.
Епизодът на Coffee County, Джорджия от 2021 г. илюстрира това, което е гаранцията сама стойност. На 7 януари 2021 г., компания за компютърна криминалистика влезе в офиса на избори на Coffee County и копира цялата система за гласуване — сървърът на системата за управление на избори, устройствата за маркиране на бюлетини, скенера, софтуера на Dominion на Джорджия — с помощта на местни служители. Софтуерът, който трябваше да бъде таен, заключен, сертифициран и защитен, беше възпроизведен и разпространен в един午. Държавния секретар на Джорджия по-късно го описа като неоторизиран достъп в нарушение на държавния закон. Няколко човека, свързани с него, признаха вината си.
Секретността, оказва се, не е стратегия за сигурност. Това е желание.
Как наистина изглежда алтернативата
На 21 август 2018 г., Държавния секретар на Калифорния сертифицира нещо, което никога не е съществувало преди: Voting Solutions for All People, VSAP Tally Version 1.0, построена от окръг Лос Анджелес. Щатът я нарече „първата сертифицирана система за избори на Калифорния, която използва софтуер с отворен код" и „първата публично притежавана, сертифицирана система за неговия брой отворен код под стандартите на Калифорния за системи за избори."
Прочетете това бавно. Окръг Лос Анджелес — най-голямата избирателна юрисдикция в Съединените щати — построи и притежаваше своя система за гласуване. Кодът е бил публичен. Окръгът установи работна група с отворен код, така че други юрисдикции биха могли да я надградят, вместо да купят още един пакет на продавача.
Така изглежда алтернативата: не чужда концепция, не теоретичен дизайн, но работеща, сертифицирана система в най-населения окръг на Америка.
Софтуерът с отворен код не означава, че всеки избирател чете софтуера. Означава, че всеки квалифициран изследовател — от всеки университет, всяка страна, всеки тим за сигурност на партия — може да го чете. Означава, че ако има грешка, целия свят може да я намери, не само вътрешния тим на продавача. Означава, че поправката също може да бъде проверена.
Контрастът със затворени системи не е абстрактен. Когато Swiss Post публикува изходния код на своята система за интернет гласуване през 2019 г., независими криптографи Сара Джейми Люис, Оливие Перейра и Ванеса Теаг открили нещо, което вътрешното тестване не беше хванало: люка в криптографския тестват доказателство, който би позволил на орган с достъп до определени стойности да генерира доказателство, което се появи като верифициране правилно, докато покрива променени гласове. Грешката беше невидима в чорен кутия. Стана намираема в момента, когато изходния код беше публичен.
Швейцарските органи спряха системата, очаквайки поправка. Публикацията на кода не създаде грешката. Тя разкри един, който вече беше там.
Дефект, който може да бъде намерен и поправен, е по-безопасен от дефект, който е скрит и се доверява.
Какво казаха съдилищата
Проблемът със секретността не е само аргумент на компютърната наука. Съдилищата са забелязали.
Федералния конституционен съд на Германия, в своето знаменито решение от 2009 г. относно електронното гласуване, установи, че използването на машини за гласуване изисква „съществените стъпки на гласуването и определяне на резултата могат да бъдат разгледани от гражданина надежно и без никакви специалисирани познания по предмета." Съдът установи, че тъй като машините на Nedap съхраняват гласовете само в електронната памет — без независимо проверяемо записване — те не отговаряха на този стандарт. Принципът на публичната проверяемост вытича директно от конституционното изискване на публични избори.
Това решение не чакаше доказателство за измама. Казаше: система, чиято коректност почива на скрит софтуер, е конституционно недостатъчна, независимо дали някой вече е демонстрирал атака.
В Съединените щати, федерален съд в Джорджия дойде на същия проблем от различен ъгъл. В Curling v. Raffensperger, решено октомври 2020 г., съдът чу експертни свидетелства относно устройствата за маркиране на бюлетини Dominion на Джорджия и установи, че системата „не осигурява проверяем и одитиран бюлетин, тъй като разчита на QR кода за гласуване табулация и че самия този код не може да бъде прочетен и проверен от избирателя." Съдът цитира заключението на Националните академии, че „нито един технически механизъм в настоящия момент не съществува, за да се гарантира, че приложение за брой гласа произвежда точни резултати и че тестването само не може да гарантира, че системите не са скомпрометирани."
Тестването само не може да го гарантира. Съдът казаше така. Това не е партийно твърдение. Това е твърдение относно границите на сертификацията.
Съдът, като се позовава на близостта до избори на ноември 2020 г., отказа да нареди преминаване към ръчно отбелязани хартиени бюлетини. Това е разумно съдебно решение относно времето. Не разрешава основния проблем.
По-трудния въпрос: софтуерът с отворен код е необходим, но е ли достатъчен?
Тук интелектуална честност изисква стъпка отвъд лесния аргумент.
VSAP е истински напредък. Публикуваният код е истински напредък. Но софтуерът с отворен код и работещ, проверяем избор не са същото. Случаят на Швейцария го доказва: изходния код беше публикуван, но криптографския доказателство беше написан по такъв начин, че люка да бъде трудно намираем. Потребивас специализирана математическа експертиза, не просто корекция на кода, четеща функции.
Отворен код, който е подлежащ на проверка в принцип, но изисква докторска степен по криптография, за да наистина одит, не е същото като отворен код, който всеки компетентен разработчик може да прочете.
Тогава има пропастта на имплементацията. Това, което е публикувано и това, което работи на машина в избирателния ден, може да не е еднакво. Това е проблемът на възпроизводимото изграждане: за да проверите, че софтуерът сертифициран е софтуерът разгърнат, трябва да компилирате публикувания изход и да потвърдите, че бинарния съвпада с това, което е на хардуера. Това е стъпка, която повечето юрисдикции не предприемат, и повечето продавачи не са задължени да подкрепят.
И дори верен, публичен, независимо одитиран софтуерен стек все още се нуждае от дълготрайно хартиено записване и истински преглед, за да се проверява срещу него. Изборът на гласове на ръка на Джорджия през 2020 г. — приблизително пет милиона бюлетини разгледани в 159 окръга — потвърди машинната преписка до около една десета на процента. Това потвърждение беше възможно само, защото съществуваше бюлетин, отбелязан от избирателя. Без него, отворения код сам все още би оставил пропаст.
Пълния отговор е: отворен и проверяем изходен код, плюс възпроизводимо построяване, плюс проверен от избирателя хартия, плюс задължителни независими преглеждане, плюс резултати на машини, четими за прецинкт, публикувани в момента, в който са окончателни. Всеки слой хвалня това, което останалите пропускат. Премахнете един от тях и попросвате някой да се доверява.
Какво все още не е проверяемо — и какво би го направило проверяемо
Точно сега, в повечето юрисдикции, ето какво не можете независимо да потвърдите:
Че софтуерът сертифициран е софтуерът работещ на машини във вашия прецинкт. Че софтуерът работещ на машини не е модифициран откак сертификацията. Че процесът на компилация произвежда същия бинарен от изходния код, който продавачът или окръгът публикува. Че дневниците за преглед на тези машини не са изменени. Че сертифициран, но дефектен система е имала своя дефект намерен, защото никой извън екипа на продавача не е позволено да гледа.
Нито един от тези пропуски не изисква злонамерени актьори. Всеки е структурно свойство на затворени, собственически системи.
Какво би ги направило проверяемо? Публикуван, с контролирана версия изходен код актуализиран всеки път, когато софтуера се промени. Възпроизводимо построяване, така че всеки компетентен технолог може да потвърди разгръщания бинарен съвпада публикувания изход. Задължителен достъп за независими изследователи на сигурност — не затворена лаборатория под NDA, но отворен неприятелски преглед, моделът, който Бразилия използвайте своите национални машини за електронно гласуване откак 2009 г., явно канейки квалифицирани тестващи, за да опитат да счупят системата преди всеки избор. Хартиени записи, проверени от избирателя, които са физически отличени от машинския електронен резултат. И резултати на прецинкт, публикувани моментално, в машинири четими формати, в момента, в който всеки прецинкт е погледнат — така че публиката може независимо да събери и кръст-проверява числата, вместо да чака официален общо, което да се вярва.
Пропастта между там, където повечето системи са и където този стандарт седи, е документирана, конкретна и затворима.
Първия стъпка е признаването, че „сертифицирано" и „проверяемо" не са синоними — и че само един от тях ти дава нещо, което можеш сам да проверите.
Вижте как често срещан е пропастта със секретния изходен код в юрисдикции по целия свят
Изследвайте пълната карта на пропастта със интегритета на избори
Двуминутна версия на проблема със проверяемостта
Източници
- California Secretary of State, Top-to-Bottom Review (2007) — decisions and independent experts' reports
- Source Code Review of the Diebold Voting System (University of California, 2007)
- Source Code Review of the Sequoia Voting System (University of California, 2007)
- Source Code Review of the Hart InterCivic Voting System (University of California, 2007)
- EVEREST: Evaluation and Validation of Election-Related Equipment, Standards and Testing — Final Report (December 7, 2007)
- Feldman, Halderman & Felten — Security Analysis of the Diebold AccuVote-TS Voting Machine (USENIX/EVT)
- Lawfare — What the Heck Happened in Coffee County, Georgia?
- Atlanta Journal-Constitution — Coffee County was the site of a 2021 election breach
- California Secretary of State news release (Aug. 21, 2018): certifying LA County VSAP Tally
- LA County Registrar-Recorder/County Clerk, VSAP official program report
- Lewis, Pereira, Teague — Ceci n'est pas une preuve (trapdoor commitments in the Scytl-SwissPost Internet voting system), 2019
- Bundesverfassungsgericht, Judgment of 3 March 2009, 2 BvC 3/07 and 2 BvC 4/07 (English translation)
- Curling v. Raffensperger, No. 1:17-cv-2989-AT, Opinion and Order (N.D. Ga. Oct. 11, 2020)
- GAO-05-956, 'Elections: Federal Efforts to Improve Security and Reliability of Electronic Voting Systems Are Under Way, but Key Activities Need to Be Completed' (Sept. 21, 2005)
- Georgia Public Broadcasting — Risk-Limiting Audit Confirms Biden Won Georgia
- Tribunal Superior Eleitoral (Brazil) — Teste Público de Segurança dos Sistemas Eleitorais