Особлива подяка волонтерам Balvi, Paul Dylan-Ennis, pcaversaccio, vectorized, Bruce Xu та Luozhu Zhang за обговорення та зворотній зв'язок.

Нещодавно я все більше зосереджуюся на покращення стану конфіденційностів екосистемі Ethereum. Конфіденційність є важливим гарантом децентралізації: хто має інформацію, той має владу, отож нам потрібно уникати централізованого контролю над інформацією. Коли люди в реальному світі висловлюють занепокоєння щодо централізованої технічної інфраструктури, іноді занепокоєння стосується того, що оператори неочікувано змінюють правила або видаляють користувачів, але так само часто йдеться про збір даних. У той час як криптовалютний простір має своє походження в проектах, подібнихChaumian Ecash, яка ставить збереження цифрової фінансової конфіденційності на перше місце, останнім часом недооцінювала конфіденційність з дуже поганих причин: до появи ZK-SNARKs у нас не було можливості пропонувати конфіденційність у децентралізований спосіб, тому ми не акцентували на цьому увагу, замість цього виключно акцентувалися на інших гарантіях, які ми могли надати в той час.

Однак сьогодні приватність вже не можна ігнорувати. Штучний інтелект значно розширює можливості для централізованого збору та аналізу даних, одночасно значно розширюючи обсяг даних, якими ми ділимося добровільно. У майбутньому нові технології, такі як інтерфейси мозок-комп'ютер, принесуть додаткові проблеми: ми можемо буквально говорити про те, що штучний інтелект читає наші думки. У той же час, у нас є більш потужні інструменти для збереження конфіденційності, особливо в цифровій сфері, ніж шифрувальники 1990-х років могли собі уявити: високоефективні докази з нульовим розголошенням (ZK-SNARKs) можуть захистити нашу особистість, розкриваючи при цьому достатньо інформації, щоб довести, що ми заслуговуємо на довіру, повністю гомоморфне шифрування (FHE) може дозволити нам обчислювати дані, не бачачи даних, А заплутування незабаром може запропонувати ще більше.

Приватність - це не відокремлення. Це про стояння разом.

На цей час варто відступити назад і переглянути питання: чому нам потрібна конфіденційність взагалі? Відповідь кожної людини буде різною. У цьому пості я наведу свою власну, яку розіб'ю на три частини:

• Приватність - це свобода: приватність дає нам простір для життя так, як це відповідає нашим потребам, не постійно турбуючись про те, як наші дії будуть сприйняті в усіляких політичних та соціальних іграх.
• Приватність - це порядок: цілий низ механізмів, що лежать в основі базового функціонування суспільства, залежать від приватності для функціонування
• Конфіденційність - це прогрес: якщо ми знайдемо нові способи ділитися інформацією вибірково, захищаючи її від зловживань, ми зможемо розблокувати багато цінності та прискорити технологічний та соціальний прогрес

Конфіденційність - це свобода

Back in the early 2000s, it was popular to have viewpoints similar to those epitomized by David Brin’s 1998 book Прозоре суспільство: технологія зробить інформацію по всьому світу набагато більш прозорою, і хоча це матиме недоліки і вимагатиме адаптації, у середньому це дуже хороша річ, і ми можемо зробити її справедливою, переконавшись, що люди можуть наглядати (або, скоріше,sousveil) уряд також. У 1999 році генеральний директор Sun Microsystems Скотт Макнілі відомо вигукнув«приватність мертва, змиришся з цим!». Ця ментальність була поширена на початковому етапі уявлення та розвитку Facebook, яка заборонені псевдонімні ідентичностіЯ особисто пам'ятаю, як я дістався до цього менталітету на презентації на заході Huawei в Шеньчжені у 2015 році, де (західний) спікер випадково згадав у відповіді, що "приватність закінчилася".

Прозоре суспільство представляло найкраще та найблискуче з того, що міг запропонувати ідеологія "кінець приватності": воно обіцяло кращий, більш справедливий і чесний світ, використовуючи силу прозорості, щоб зробити уряди відповідальними, а не пригнічувати індивідуумів та меншини. Однак з погляду віддаленості виявляється, що навіть цей підхід був продуктом свого часу, написаний на витривалості ентузіазму щодо глобальної співпраці і миру та "кінця історії", і він залежав від числа надмірно оптимістичних припущень про людську природу. Головним чином:

1. Верхні шари глобальної політики, як правило, були б добросовісними й розумними, зробивши вертикальну конфіденційність (тобто не розголошуючи інформацію потужним особам та установам) все менш і менш потрібною. Зловживання владою, як правило, були б локалізованими, тому найкращим способом боротьби з цими зловживаннями є винести їх на поверхню.
2. Культура продовжуватиме вдосконалюватися до такої міри, що горизонтальна конфіденційність (тобто нерозкриття інформації іншим представникам громадськості) стане непотрібною. Ботаніки, геї і, зрештою, всі інші можуть перестати ховатися в шафі, тому що суспільство перестане бути суворим і засуджує унікальні риси людей і замість цього стане відкритим і сприйнятливим.

Сьогодні немає жодної великої країни, для якої перше припущення загалом вважається вірним, і досить багато таких, для яких це загалом вважається невірним. На другому фронті культурна толерантність також швидко регресує - достатньо лише зробити пошук в Twitter за фразами типу ""Булінг – це добре«є лише одним доказом цього, хоча знайти їх легко.

Особисто мені доводиться регулярно стикатися з недоліками «прозорого суспільства», оскільки кожна моя зовнішня дія має певний ненульовий шанс несподівано стати публічною медіа-історією:

Найгіршим порушником був той, хто зняв хвилинне відео, поки я сидів на ноутбуці в Чіангмаї, і продовжив публікувати його на сяохуншу, де воно відразу ж набрало багато тисяч лайків і репостів. Звичайно, моя власна ситуація далека від людської норми - але так було завжди і з приватністю: приватність менше потрібна людям, чиї життєві ситуації відносно нормальні, і більше потрібна людям, чиї життєві ситуації відхиляються від норми, в будь-яку сторону. І як тільки ви складаєте всі різні напрямки, які мають значення, кількість людей, які дійсно потребують конфіденційності, в кінцевому підсумку виявиться досить великою - і ніколи не знаєш, коли станеш одним з них. Це головна причина, чому конфіденційність часто недооцінюють: йдеться не лише про вашу ситуацію та вашу інформацію сьогодні, а й про невідоме невідоме про те, що станеться з цією інформацією (і як це вплине на вас) у майбутньому.

Приватність від корпоративних цінових механізмів сьогодні є нішевою проблемою, навіть серед прибічників штучного інтелекту, але з появою інструментів аналізу на основі штучного інтелекту ймовірно, що це стане все більш актуальним питанням: чим більше компанія знає про вас, тим більше ймовірність того, що вони запропонують вам персоналізовану ціну, яка максимізує те, скільки вони можуть витягнути з вас, помножене на ймовірність того, що ви заплатите.

Я можу виразити своє загальне твердження про конфіденційність як свободу в одному реченні наступним чином:

Приватність дає вам свободу жити вашим життям так, як це найкраще відповідає вашим особистим цілям і потребам, не постійно збалансовуючи кожну дію між «приватною грою» (ваші власні потреби) та «публічною грою» (як всілякі інші люди, посереднічені всілякими механізмами, включаючи каскади соціальних медіа, комерційні стимули, політику, інституції і т. д., будуть сприймати та реагувати на вашу поведінку)

Без конфіденційності все стає постійним батлом "що думатимуть інші люди (і боти) про те, що я роблю" - впливові люди, компанії та колеги, люди сьогодні та у майбутньому. З конфіденційністю ми можемо зберегти баланс. Сьогодні цей баланс швидко руйнується, особливо в фізичній сфері, і стандартний шлях сучасного техно-капіталізму, з його жагою до бізнес-моделей, які знаходять способи захоплювати вартість від користувачів, не просячи їх явно платити за речі, це ще більше руйнує його (навіть в дуже чутливих областях, як от, нарешті, наші власні розуми). Тому нам потрібно протидіяти цьому ефекту та підтримувати конфіденційність більш явно, особливо в місці, де ми можемо це робити найбільш практично: цифровій сфері.

Проте чому не дозволити урядові задні ворота?

Є одна загальна відповідь на вищезазначені аргументи: недоліки конфіденційності, які я описав, в значній мірі є недоліками того, що громадськість занадто багато знає про наше приватне життя, і навіть коли мова йде про зловживання владою, це стосується корпорацій, керівників і політиків, які занадто багато знають. Але ми не дамо громадськості, корпораціям, керівникам і політикам мати усі ці дані. Замість цього ми дозволимо невеликій групі висококваліфікованих і добре перевірених правоохоронців бачити дані, взяті з камер вуличного відеоспостереження та підслуховуванням інтернет-кабелів та чат-програм, виконувати строгі процедури відповідальності, і ніхто інший не дізнається.

Це досить тихе, але широко поширене положення, тому важливо висвітлити його явно. Є кілька причин, чому, навіть якщо вони реалізовані на високому рівні якості з хорошими намірами, такі стратегії є по своїй суті нестійкими:

1. На практиці це не лише уряд, а й всілякі корпоративні структури різного рівня якості. У традиційних фінансових системах інформація про KYC та платежі зберігається платіжними процесорами, банками та всілякими іншими посередниками. Провайдери електронної пошти бачать величезні обсяги даних всіх видів. Телекомунікаційні компанії знають ваше місцезнаходження й регулярно незаконно перепродаватиЗагалом, поліцювання всіх цих суб'єктів на достатньому рівні жорсткості, що забезпечує, що вони дійсно мають високий рівень дбайливості про дані користувачів, настільки велике зусилля як для спостерігача, так і для того, кого спостерігають, що ймовірно несумісне з підтриманням конкурентоспроможного вільного ринку.
2. Особи, які мають доступ, завжди будуть відчувати потяг до зловживання ним (включаючи продаж третім сторонам). У 2019 році кілька працівників Twitter були заряджено та пізніше засудженийза продаж персональної інформації дисидентів Саудівській Аравії.
3. Дані завжди можуть бути взламані. У 2024 році були взламані дані, які американським телекомунікаційним компаніям було законно вимагано збирати.за вказівкою державних хакерів з Китаю. У 2025 році великі обсяги чутливих особистих даних, які утримує уряд України було взламано РосієюІ в іншому напрямку, високочутливі урядові та корпоративні бази даних в Китаї також можуть бути взламані, включаючи від уряду США.
4. Режим може змінитися. Уряд, який є надійним сьогодні, може не бути надійним завтра. Люди, які сьогодні перебувають в керівництві, можуть бути переслідовані завтра. Поліцейське управління, яке зберігає бездоганно високі стандарти поваги та декоруму одного дня, може виявитися зменшеним до всіляких радісних жорстокостей десятиліттям пізніше.

З точки зору окремої особи, якщо дані беруться з них, вони не мають способу сказати, чи як вони будуть зловживати в майбутньому. Значно найбезпечніший підхід до обробки великої кількості даних - централізовано збирати якнайменше з них в першу чергу. Дані повинні бути максимально утримувані користувачами самими собою, а криптографічні засоби використовуються для забезпечення агрегації корисної статистики без компрометації індивідуальної конфіденційності.

Аргумент, що уряд повинен мати можливість отримати доступ до будь-чого за допомогою ордеру, через те, що саме так завжди все функціонувало, пропускає важливу деталь: історично кількість інформації, доступної для отримання за допомогою ордерів, була значно нижча, ніж те, що доступно сьогодні, навіть те, що було б доступно, якби найсильніші запропоновані форми конфіденційності в інтернеті були універсально прийняті. У 19 столітті середній розмова відбувалася один раз, за допомогою голосу, і ніколи не була записана кимось. З цієї причини: вся моральна паніка навколо "зникаючого"історично: середній розмова, а навіть фінансова транзакція, що є повністю й безумовно приватним, є многотисячнорічним історичним нормою.

Середній розмова, 1950 рік. Точно нуль слів розмови коли-небудь були записані, шпигували, піддавалися "законному перехопленню", аналізувалися штучним інтелектом або переглядалися ким-небудь у будь-який час, окрім учасників розмови під час її проведення.

Ще однією важливою причиною для мінімізації централізованого збору даних є притаманний міжнародний характер значної частини глобальної комунікації та економічної взаємодії. Якщо всі перебувають в одній країні, то принаймні послідовною позицією буде сказати, що «уряд» повинен мати доступ до даних у їхній взаємодії. Але що робити, якщо люди знаходяться в різних країнах? Звичайно, в принципі, ви можете спробувати придумати схему з мозком галактики, коли дані кожної людини зіставляються з якоюсь законною організацією доступу, яка відповідає за неї, хоча навіть там вам доведеться мати справу з величезною кількістю периферійних випадків, пов'язаних з даними, які стосуються кількох людей. Але навіть якби ви могли, це не реалістичний результат за замовчуванням. Реалістичний результат урядових бекдорів за замовчуванням такий: дані концентруються в невеликій кількості центральних юрисдикцій, які мають дані кожного, тому що вони контролюють додатки – по суті, глобальна техно-гегемонія. Надійна конфіденційність на сьогоднішній день є найстабільнішою альтернативою.

Конфіденційність - це порядок

Протягом понад століття визнано, що ключовим технічним компонентом, який робить демократію працюючою, є секретне голосування: ніхто не знає, за кого ви проголосували, і більше того, у вас немає можливості довести комусь іншому, за кого ви проголосували, навіть якщо ви дійсно хочете цього. Якби секретні голосування не були стандартом, виборців б намагалися заманити всілякі побічні стимули, які впливають на їх голосування: хабарі, обіцянки ретроактивних винагород, соціальний тиск, загрози та інше.

Можна побачити, що такі бічні стимули повністю руйнують демократію за допомогою простого математичного аргументу: на виборах з N людей ваша ймовірність вплинути на результат становить лише приблизно 1/N, тож будь-які розгляди, пов'язані з тим, який кандидат кращий, а який гірший, зазначені відносно N. Тим часом, «бічні ігри» (наприклад, підкуп виборців, примус, соціальний тиск) діють на вас безпосередньо на основі того, як ви голосуєте (а не на основі результату голосування в цілому), тому вони не діляться на N. Таким чином, якщо бічні ігри не будуть тісно контрольовані, вони за замовчуванням переважають всю гру і заглушують будь-які розгляди того, які політики кандидата насправді кращі.

Це стосується не лише демократії національного масштабу. Теоретично, це стосується майже будь-якої корпоративної або урядової проблеми принципала-агента:

• Суддя вирішує, як вирішити справу
• Чиновник уряду, який вирішує, якій компанії надати контракт або грант
• Працівник міграційної служби вирішує, надати чи відхилити візу
• Співробітник компанії соціальних мереж вирішує, як вживати політику модерації контенту
• Співробітник компанії, який вносить внесок у прийняття бізнес-рішення (наприклад, з якого постачальника купувати)

Основна проблема в усіх випадках однакова: якщо агент діє чесно, він поглиблює лише невелику частку користі від своєї дії для сутності, яку він представляє, тим часом якщо він слідує стимулам якоїсь бічної гри, він поглиблює повну частку цих переваг. Таким чином, навіть сьогодні ми спираємося на багато морального доброзичливості, щоб переконатися, що всі наші установи не будуть повністю захоплені хаотичним вихором бічних ігор, які перевертають інші ігри. Якщо конфіденційність подальше зменшується, то ці бічні ігри стають ще сильнішими, і моральна доброзичливість, необхідна для забезпечення функціонування суспільства, може стати нереалістично високою.

Чи можна переробити соціальні системи, щоб не мати цієї проблеми? На жаль, теорія ігор майже прямо говорить, що це неможливо (за одним винятком: тотальна диктатура). У версії теорії ігор, яка фокусується на індивідуальному виборі, тобто версії, яка передбачає, що кожен учасник приймає рішення самостійно і яка не допускає можливості груп агентів працювати як одне ціле для взаємної вигоди, розробники механізмів мають дуже широку свободу дій для ігри «інженер»досягти всіляких конкретних результатів. Фактично, є математичні доказищо для будь-якої гри принаймні одне стійке рівновага Неша повинно існувати, тому аналіз таких ігор стає досяжним. Але в версії теорії ігор, яка дозволяє можливість коаліцій, які співпрацюють разом (тобто «змовляються»), що називається кооперативною теорією гри,ми можемо довести, щоthere are large classes of games that do not have any stable outcome (called a “ядро)”). У таких іграх, незалежно від поточного стану справ, завжди є якась коаліція, яка може вигідно відхилитися від нього.

Якщо ми серйозно ставимося до математики, ми прийти до висновкущо єдиний спосіб створення стабільних соціальних структур - мати певні обмеження на кількість координації між учасниками, яка може відбуватися - це сильна конфіденційність (включаючи можливість заперечення). Якщо ви не ставите серйозно математику саму по собі, то достатньо спостерігати за реальним світом або принаймні подумати, що деякі з ситуацій голова-агент, описаних вище, можуть стати, якщо їх захоплять бічні ігри, щоб прийти до такого ж висновку.

Зверніть увагу, що це вводить ще один аргумент на користь того, чому урядові бекдори є ризикованими. Якщо кожен має необмежену можливість координуватися з кожним у всьому, результатом буде хаос. Але якщо це можуть робити лише кілька людей, тому що вони мають привілейований доступ до інформації, то результатом буде їхнє домінування. Одна політична партія, яка має бекдор-доступ до зв'язків іншої, легко може означати кінець можливості існування кількох політичних партій.

Ще одним важливим прикладом суспільного устрою, який залежить від обмежень змови для того, щоб функціонувати, є інтелектуальна та культурна діяльність. Участь в інтелектуальній та культурній діяльності за своєю суттю є внутрішньо мотивованим суспільним завданням: дуже важко зробити зовнішні стимули, спрямовані на позитивний внесок у суспільство, саме тому, що інтелектуальна та культурна діяльність частково є діяльністю з визначення того, які дії в суспільстві є позитивними діями в першу чергу. Ми можемо зробити приблизні комерційні та соціальні стимули, які вказують у правильному напрямку, але вони також вимагають значного доповнення внутрішньою мотивацією. Але це також означає, що цей вид діяльності дуже вразливий до неузгоджених зовнішніх мотивацій, особливо побічних ігор, таких як соціальний тиск і примус. Щоб обмежити вплив таких неузгоджених зовнішніх мотивацій, знову ж таки потрібна конфіденційність.

Приватність - це прогрес

Уявіть світ, де шифрування на відкритий ключ і симетричне шифрування взагалі не існували б. У цьому світі безпечне надсилання повідомлень на великі відстані має в собі значно більше труднощів - не неможливо, але важко. Це призведе до набагато меншої міжнародної співпраці, і в результаті набагато більше буде відбуватися через особистий офлайн-канали. Це зробило б світ набагато біднішим і більш нерівним місцем.

Я буду стверджувати, що сьогодні ми знаходимося саме в цьому місці, в порівнянні з гіпотетичним світом завтра, де широко поширені набагато потужніші форми криптографії - зокрема, програмована криптографія, підтримувана потужнішими формами повностекової безпеки та формальної перевірки, щоб надати нам міцні гарантії, що ця криптографія використовується правильно.

The протоколи єгипетських богів: три потужних та дуже загальнопризначених конструкції, які дозволяють нам виконувати обчислення над даними, зберігаючи ці дані повністю конфіденційними.

Відмінним джерелом прикладів є охорона здоров'я. Якщо ви поговорите з кимось, хто працює в галузі тривалості життя, опору до пандемій або інших галузях охорони здоров'я протягом останнього десятиріччя, вони одноголосно скажуть вам, що майбутнє лікування і профілактики персоналізоване, а ефективна реакція високо залежить від якісних даних, як дані про окремих осіб, так і дані про середовище. Ефективний захист людей від повітряних хвороб потребує знань про те, де якість повітря вища, а де нижча, і в яких регіонах патогени з'являються у будь-який данний час. Найбільш передові клініки тривалості надають індивідуальні рекомендації та лікування на основі даних про ваш організм, уподобання до їжі та способу життя.

Однак кожна з цих речей одночасно є великими ризиками для конфіденційності. Я особисто знаю про випадок, коли пристрій для повітряного моніторингу був наданий працівнику, який "призвів додому" до компанії, і зібрані дані були достатні для визначення, коли цей працівник займався сексом. З таких причин я очікую, що за замовчуванням багато найцінніших форм даних взагалі не будуть зібрані, саме через те, що люди бояться наслідків для конфіденційності. І навіть коли дані збираються, вони майже завжди не будуть широко розповсюджуватися або доступні для дослідників - з одного боку з бізнес-причин, але так само часто через затурканість приватних питань.

Така ж схема повторюється і в інших сферах. Існує величезна кількість інформації про нас самих у наших діях у документах, які ми пишемо, повідомленнях, які ми надсилаємо через різні програми, і різних діях у соціальних мережах, які можна використовувати для більш ефективного прогнозування та доставки речей, які нам потрібні в повсякденному житті. Існує величезна кількість інформації про те, як ми взаємодіємо з нашим фізичним середовищем, яка не пов'язана з охороною здоров'я. Сьогодні нам не вистачає інструментів, щоб ефективно використовувати цю інформацію, не створюючи антиутопічних кошмарів конфіденційності. Завтра у нас можуть з'явитися ці інструменти.

Найкращим способом вирішення цих проблем є використання надійної криптографії, яка може дозволити нам отримати переваги обміну даними без недоліків. Потреба в отриманні доступу до даних, включаючи персональні дані, стане ще більш важливою в епоху штучного інтелекту, оскільки є цінність від можливості локально навчати та запускати «цифрових двійників», які можуть приймати рішення від нашого імені на основі високоточних наближень наших уподобань. Зрештою, це також включатиме використання технології інтерфейсу мозок-комп'ютер (BCI), зчитування вхідних даних з високою пропускною здатністю з нашого розуму. Для того, щоб це не призвело до високоцентралізованої глобальної гегемонії, нам потрібні способи, щоб це було зроблено з повагою до надійної конфіденційності. Програмована криптографія є найбільш надійним рішенням.

МійAirValentмонітор якості повітря. Уявіть пристрій, подібний до цього, який збирає дані про якість повітря, робить загальні статистичні дані загальнодоступними на карті відкритих даних та винагороджує вас за надання даних - все це, використовуючи програмовану криптографію, щоб уникнути розголошення ваших особистих місць розташування та підтвердити, що дані є автентичними.

Приватність може бути прогресом для забезпечення безпеки нашого суспільства

Програмовані криптографічні техніки, такі як докази нульового знання, є потужними, тому що вони схожі на конструктор LEGO для потоку інформації. Вони можуть дозволити деталізоване керування тим, хто може бачити яку інформацію і, часто навіть важливіше, яку інформацію можна бачити взагалі. Наприклад, я можу довести, що у мене є канадський паспорт, який показує, що мені більше 18 років, не розголошуючи нічого іншого про себе.

Це дозволяє всілякі захоплюючі комбінації. Я можу навести кілька прикладів:

• Доказ про особистість без знання: доведення того, що ви унікальна особа (через різні форми ідентифікації: паспорт, біометрія, децентралізованаграф на основі соціальних зв'язків) без розголошення чого-небудь іншого про те, яка особа ви є. Це може бути використано для «доведення того, що ви не є ботом», всіляких «максимально N на особу випадків використання» та більше, зберігаючи повну конфіденційність за винятком розголошення того факту, що правила не порушуються.
• Конфіденційні пули, фінансове рішення щодо конфіденційності, яке може виключити поганих акторів без необхідності відмовлятися від торгових шлюзів. Під час витрачання користувачі можуть довести, що їх монети походять з джерела, яке не входить до загальновідомого списку взломів та крадіжок; самі зловмисники і злодії єдині, хто не зможе створити таке підтвердження, тому вони не зможуть приховатися.Railgun та privacypools.com зараз працюють та використовують таку схему.
• Сканування анти-шахрайства на пристрої: це не залежить від ZKPs, але воно відчувається, що відноситься до цієї категорії. Ви можете використовувати фільтри на пристрої (включаючи LLMs), щоб перевіряти вхідні повідомлення та автоматично виявляти потенційну дезінформацію та шахрайства. Якщо це робиться на пристрої, це не порушує приватність користувача, і це можна зробити таким способом, що дозволяє кожному користувачеві вибирати, до яких фільтрів підписуватися.
• Доказ власності для фізичних предметів: за допомогою комбінації блокчейнів та доказів нульового знання можливо відстежувати різні властивості предмета через його ланцюг виробництва. Це може дозволити, наприклад, врахування вартості навколишнього середовища без публічного розкриття ланцюга постачання.

зображення конфіденційних пулів

тайваньськийПеревірка повідомленнядодаток, який дає користувачеві можливість увімкнути або вимкнути кілька фільтрів, тут зверху вниз: перевірка URL-адреси, перевірка криптовалютної адреси, перевірка чуток

Приватність та штучний інтелект

Нещодавно, ChatGPT оголосивщо вона почне вводити ваші минулі розмови в штучний інтелект як контекст для вашої майбутньої розмови. Те, що цей тренд буде продовжуватися в цьому напрямку, є необхідним: штучний інтелект, який переглядає ваші минулі розмови та виводить з них висновки, фундаментально корисний. У найближчому майбутньому, ми, ймовірно, побачимо, як люди створюють продукти штучного інтелекту, які здійснюють ще глибші вторгнення в приватність: пасивно збирають ваші звички перегляду в Інтернеті, історію електронної пошти та чатів, біометричні дані та інше.

У теорії ваші дані залишаються конфіденційними для вас. У практиці це, здається, не завжди відбувається:

“Вау! ChatGPT має баг, і він передає мені питання, які ставлять інші! Це велика витік приватності. Я поставив питання, отримав помилку, а потім 'Повторити' згенерував питання, якого я б ніколи не поставив.

Завжди є можливість, що захист конфіденційності працював добре, і в цьому випадку штучний інтелект сплутався, сформувавши питання, якого Брюс ніколи не задавав, і відповівши на нього. Але немає способу перевірити. Так само немає способу перевірити, чи наші розмови використовуються для навчання чи ні.

Це все дуже хвилююче. Ще більше турбуючими є явні випадки використання штучного інтелекту для нагляду, де (фізичні та цифрові) дані про людей збираються та аналізуються великим масштабом без їхньої згоди. Вже зараз розпізнавання облич уже допомагає авторитарним режимам придушити політичне незгодуна масштабній основі. І найбільш турботливим усіх є неодмінний кінцевий аспект збору та аналізу даних ШІ: людський розум.

В принципі технологія міжмозкового інтерфейсу має неймовірну силу підвищити потенціал людини. Візьміть історію Noland Arbaugh, перший пацієнт Neuralink на момент минулого року:

Експериментальний пристрій дав Арбо, якому зараз 30 років, почуття незалежності. Раніше, для використання мундштука потрібно було, щоб хтось поставив його у вертикальне положення. Якщо він випустив мундштук, його потрібно було підняти для нього. І він не міг використовувати його довго, або в нього з'являлися виразки. За допомогою пристрою Neuralink він має майже повний контроль над комп'ютером. Він може переглядати веб-сайти та грати в комп'ютерні ігри, коли завгодно, і Neuralink каже, що він маєвстановити людський рекорд у керуванні курсором за допомогою BCI.

Сьогодні ці пристрої достатньо потужні, щоб допомогти пораненим та хворим. Завтра вони будуть настільки потужними, щоб надати повністю здоровим людям можливість працювати з комп'ютерами та спілкуватися телепатично одне з одним (!!), на рівні ефективності, яка для нас здається неможливою. Але фактично інтерпретація сигналів мозку, щоб зробити такий вид комунікації можливим, потребує штучного інтелекту.

Існує темне майбутнє, яке може виникнути природно в результаті злиття цих тенденцій, і ми отримуємо силіконових суперагентів, які всмоктують і аналізують інформацію про кожного, включаючи те, як вони пишуть, вчаться і думають. Але існує також світле майбутнє, де ми отримуємо переваги цих технологій, зберігаючи при цьому нашу приватність.

Це можливо зробити за допомогою поєднання кількох технік:

• Запуск обчислень локально, якщо це можливо - багато завдань (наприклад, базовий аналіз зображень, переклад, транскрипція, базовий аналіз хвиль мозку для ВКІ) настільки прості, що можуть повністю виконуватися на локальному обчислювальному пристрої. Звичайно, локальне виконання обчислень навіть надає переваги в зменшенні затримки та покращенні перевірки. Якщо щось можливо виконати локально, його слід виконати локально. Це включає обчислення, де різні проміжні кроки передбачають доступ до Інтернету, вхід в облікові записи у соціальних мережах та інше.
• Використання криптографії для повного забезпечення конфіденційності віддалених обчислень - повністю гомоморфне шифрування (FHE) може бути використаний для виконання обчислень штучного інтелекту віддалено, не дозволяючи віддаленому серверу бачити дані або результати. Історично FHE був дуже дорогим, але (i) останнім часом ефективність його швидко покращується, і (ii) LLM є унікально структурованою формою обчислень, а асимптотично майже всі вони є лінійними операціями, що робить його потенційно дуже придатним для ультраефективних реалізацій FHE. Обчислення, які включають приватні дані кількох сторін, можуть бути виконані за допомогою обчислень багатосторонньої комунікації; загальний випадок двох сторін може бути дуже ефективно оброблений техніками, такими якзакручені схеми.
• Використання апаратної перевірки для розширення гарантій на фізичний світ - ми могли б настоювати на тому, що апаратне забезпечення, яке може читати наші думки (незалежно від того, чи знаходиться воно всередині черепа, чи ззовні), повинно бути відкритим та перевіреним, та користуватисятехніки, такі як IRISщоб перевірити це. Ми також можемо це зробити в інших галузях: наприклад, ми могли б мати камери безпеки, які доводять, що вони зберігають та пересилають відеопотік лише у випадку, якщо місцева LLM позначає його як фізичне насильство або медичне надзвичайне ситуація, та видаляють його у всіх інших випадках, та мають інспекцію, яку проводить спільнота, з IRIS для перевірки того, що камери виконані правильно.

Майбутнє недосконале

У 2008 році лібертарний філософ Девід Фрідман написав книга під назвою Майбутнє Недосконале, в якому він навів серію ескізів про зміни в суспільстві, які можуть принести нові технології, не всі з них на його користь (чи на нашу користь). В один розділ, він описує потенційне майбутнє, де ми спостерігаємо складну взаємодію між конфіденційністю та спостереженням, де зростання цифрової конфіденційності компенсує зростання спостереження в реальному світі:

Немає користі використовувати міцне шифрування для моєї електронної пошти, якщо на стіні сидить відеокомар, який спостерігає, як я пишу. Таким чином, надійність конфіденційності в прозорому суспільстві потребує певного способу охорони інтерфейсу між моїм реальним тілом та кіберпростором ... Просте рішення - писати під капотом. Високотехнологічним рішенням є який-небудь зв'язок між розумом та машинами, який не проходить через пальці - або щось інше, що видно зовнішньому спостерігачеві.24

Конфлікт між прозорістю реального простору та конфіденційністю кіберпростору працює і в іншому напрямку ... Мій кишеньковий комп'ютер шифрує моє повідомлення за допомогою вашого відкритого ключа та передає його на ваш кишеньковий комп'ютер, який розшифровує повідомлення та відображає його через ваші VR-окуляри. Щоб переконатися, що нічого не читає зі скла над плечем, окуляри передають зображення вам не шляхом відображення його на екрані, а використовуючи крихітний лазер, щоб записати його на сітківці. З надією, що всередині вашого очного яблука все ще залишиться приватним простором.

Ми можемо опинитися в світі, де фізичні дії є повністю публічними, інформаційні транзакції повністю приватними. Це має деякі привабливі риси. Приватні громадяни все ще зможуть скористатися сильним приватним життям, щоб знайти вбивцю, але наймати його може вимагати більше, ніж вони готові заплатити, оскільки в досить прозорому світі всі вбивства виявляються. Кожен вбивця виконує одне завдання, а потім йде безпосередньо в тюрму.

Яка взаємодія між цими технологіями та обробкою даних? З одного боку, саме сучасна обробка даних робить прозоре суспільство таким загрозливим – без цього не мало б значення, якщо б ви знімали на відео все, що відбувалося у світі, оскільки ніхто не міг би знайти певні шість дюймів відео стрічки, яку він шукав серед мільйонів миль, що виробляються кожен день. З іншого боку, технології, які підтримують сильну конфіденційність, надають можливість відновити конфіденційність, навіть у світі сучасної обробки даних, утримуючи інформацію про ваші транзакції від усіх, окрім вас.

Такий світ може бути найкращим з усіх можливих світів: якщо все піде добре, ми побачимо майбутнє, де фізичне насильство буде дуже мало, але водночас збережемо наші онлайн-свободи та забезпечимо основну функціонування політичних, громадянських, культурних та інтелектуальних процесів у суспільстві, які залежать від певних обмежень у загальній прозорості інформації для їхньої подальшої роботи.

Навіть якщо це не ідеально, це набагато краще, ніж версія, де фізичний та цифровий приватність зводяться на нівень нуля, що в кінці кінців включає в себе приватність наших власних розумів, і в середині 2050-х ми отримуємо статті, які стверджують, що, звичайно, нереалістично чекати, що ми будемо думати думки, які не підлягають законному перехопленню, і відповіді на ці статті, складаються з посилань на останній випадок, коли компанія зі штучним інтелектом отримала вразливість, яка призвела до того, що протягом року 30 мільйонів осіб приватні внутрішні монологи стали доступними усьому Інтернету.

Суспільство завжди покладалося на рівновагу між приватністю та прозорістю. У деяких випадках я також підтримую обмеження приватності. Щоб навести приклад, абсолютно відокремлений від звичайних аргументів, я підтримую кроки уряду США дозаборонити не конкуренційні умови в контрактах, в основному не через їх прямі впливи на працівників, а через те, що вони є способом змусити таємні знання компаній бути частково відкритими. Змушуючи компанії бути більш відкритими, ніж вони хотіли б, це обмеження приватності - але я б сказав, що це має чисто-корисний характер. Проте з макроперспективи, найбільш серйозним ризиком найближчих технологій є те, що приватність наблизиться до історичних мінімумів, і це в надзвичайно незбалансований спосіб, де найпотужніші особи та найпотужніші нації отримують велику кількість даних про всіх, а всі інші майже нічого не бачать. З цієї причини підтримка приватності для всіх, і зроблення необхідних інструментів відкритими, універсальними, надійними та безпечними є одним з важливих викликів нашого часу.

Disclaimer：

1. Ця стаття перепечатана з [ Віталік]. Усі авторські права належать оригінальному автору [Віталік]. Якщо є зауваження до цього перепублікування, будь ласка, зв'яжіться з Gate Learnкоманда, і вони оперативно вирішать це.

2. Відповідальність за відмову: Погляди та думки, висловлені в цій статті, є виключно тими, хто написав їх, і не становлять жодної інвестиційної поради.

3. Переклади статті на інші мови виконуються командою Gate Learn. Якщо не вказано інше, копіювання, поширення або плагіатування перекладених статей заборонене.