Компания Clearview AI собрала базу распознавания лиц на основе 30 миллиардов фотографий из социальных сетей (в первую очередь, Фейсбука). Как заявил BBC генеральный директор компании, по состоянию на март 2023 года, полиция США обратилась к этой базе данных уже почти миллион раз.
Эксперты и защитники цифровых прав человека уже раскритиковали Clearview AI за сомнительные методы сбора информации, без согласия тех кто разместил фотографии и изображён на них, и результаты этого сбора: по сути, сотни миллионов человек, не совершивших ничего плохого, попали под вечный полицейский надзор. И большинство об этом даже не знают.
Стараясь представить себя в более выгодном свете, Clearview AI нахваливает свои возможности на примерах выявления участников беспорядков во время нападения на Капитолий 6 января 2021 года, спасения детей от жестокого обращения и сексуальной эксплуатации и оправдания людей, несправедливо обвиненных в преступлениях.
Критики же указывают на нарушения конфиденциальности и неправомерные аресты, вызванные ошибочной идентификацией, сделанной с помощью распознавания лиц, включая случаи в Детройте и Новом Орлеане.
Как рассказал в интервью BBC генеральный директор компании Хоан Тон-Тат, полиция США обращалась к базе данных распознавания лиц Clearview AI почти миллион раз с момента основания компании в 2017 году. При этом правовая природа отношений между правоохранительными органами и Clearview AI остаются неясными. Фактически, из-за того, что это взаимодействие происходит в серой, недостаточно регулируемой зоне закона, полиция таким образом может иметь возможность обходить законодательные ограничения и нарушать конституционные права граждан.
В ответ на запрос издания Insider, Тон-Тат заявил, что «база данных общедоступных изображений Clearview AI собирается на законных основаниях, и функционирует как любая другая поисковая система, такая как Google». Он также добавил: «База данных Clearview AI используется правоохранительными органами для расследований преступлений и недоступна для широкой публики. Каждая фотография в наборе данных является потенциальной подсказкой, которая может спасти жизнь, обеспечить справедливость невинной жертве, предотвратить неправомерное опознание или оправдать невиновное лицо».
Что происходит, когда происходит несанкционированный скрапинг
Скрапинг — несанкционированный сбор баз данных из независимых источников — раздражает не только правозащитников, но и другие бигтех-компании. Например, Facebook, в 2020 году отправил Clearview требование о прекращении сбора информации с их платформы в нарушение их правил конфиденциальности.
«Действия Clearview AI вторгаются в частную жизнь людей, поэтому мы запретили их основателю доступ к нашим сервисам и отправили им законное требование прекратить доступ к любым данным, фотографиям или видео из наших сервисов», — заявил представитель Meta в электронном письме Insider со ссылкой на заявление, сделанное компанией в апреле 2020 года после того, как впервые выяснилось, что компания собирала фотографии пользователей и сотрудничала с правоохранительными органами.
С тех пор, по словам представителя Insider, Meta «произвела значительные технологические инвестиции» и выделяет «значительные командные ресурсы на борьбу с несанкционированным скрапингом продуктов Facebook».
По словам представителя, при обнаружении несанкционированного парсинга компания может предпринять действия, «такие как отправка писем о прекращении и воздержании, отключение учетных записей, подача судебных исков или запрос помощи у хостинг-провайдеров» для защиты пользовательских данных.
Однако, даже несмотря на изменение правил и политик платформ и соцсетей, когда Clearview AI заполучило фотографию и сопутствуюшие данные, биометрические отпечатки лиц и перекрестные ссылки в базе данных, связывающие людей с их профилями в социальных сетях и другой идентифицирующей информацией, навсегда остаются в её распоряжении — и люди, попавшие в их базы, практически не имеют возможности, чтобы попытаться удалить себя. В первую очередь потому, что они даже не знают, есть ли они в этих базах. Автор этой статьи не живёт в США, но имеет профиль на Фейсбуке, где за 10+ лет можно найти одну-две его фотографии. Значит ли это, что он тоже в базе Clearview AI и под потенциальным надзором американской полиции и любых других клиентов компании? Неизвестно, никаких уведомлений об этом не поступало.
Пока только у жителей штата Иллинойс есть право вычистить себя из этой базы, предоставив свою фотографию, которая, как утверждает Clearview AI, будет использоваться только для определения того, какие сохраненные фотографии следует удалить, после того, как компания проиграла суд организации ACLU в соответствии с законом штата о конфиденциальности. ACLU смогла добиться запрета на продажу доступа к Clearview частным бизнесам в США. Технология ИИ по всей стране для частного бизнеса. Однако жители других штатов и стран мира (число пользователей Фейсбука в несколько раз превышает количество жителей США) не имеют такой возможности, и компании по-прежнему разрешено сотрудничать с правоохранительными органами.
Вечный полицейский надзор
«Clearview — это полное оскорбление прав людей, точка, и полиция не должна иметь возможности использовать этот инструмент», — заявила «Инсайдеру» Кейтлин Сили Джордж, директор по кампаниям и операциям некоммерческой группы по защите цифровых прав «Борьба за будущее. Без законов, запрещающих им, полиция часто использует Clearview без ведома или согласия своего отдела, поэтому только публичные заявления Clearview о количестве таких обращений является единственной формой прозрачности, которую мы имеем о том, насколько широко распознавание лиц используется полицией».
Как передает CNN, по заявлению Clearview AI в 2022 году, клиентами компании являются «более 3100 агентств США, включая ФБР и Министерство внутренней безопасности». BBC сообщает, что полиция Майами признала, что использует эту технологию для всех видов преступлений, от магазинных краж до убийств. Риск попасть по сути под вечный полицейский надзор, распространяется на каждого — включая людей, которые думают, что им нечего скрывать.
По верному замечанию Мэттью Гуарилья, старшему аналитику некомммерческой группы по защите цифровых прав Electronic Frontier Fund: «Вы не знаете, что вам нужно скрывать. Правительства приходят и уходят, и вещи, которые не были незаконными, становятся незаконными. И внезапно вы можете оказаться кем-то, кого можно задним числом арестовать и привлечь к ответственности за то, что не было незаконным, когда вы это сделали». Знакомая ситуация для каждого россиянина, читающего эту статью, не так ли? Но и жители более стабильных западных стран не являются неуязвимыми от политической непредсказуемости: актуальный пример для США — это аборты. С изменением законодательства об абортах в США, люди, которые сделали аборты в штатах, где это было законно, теперь вынуждены опасаться ретроактивного судебного преследования.
По словам Гуарильи, даже люди, которые озабочены риском попадания своих фотографий в базу данных, могут оказаться в ней не по своей вине, несмотря на политику Facebook в отношении парсинга или их собственные меры безопасности.
«Вы можете быть хорошо осведомлены о том, что делает Clearview, и поэтому предотвращаете сканирование любых ваших профилей в социальных сетях Google, чтобы убедиться, что изображение, которое вы публикуете, не является общедоступным в открытом Интернете, и вы думаете, что это может защитить меня. Но особенность Clearview в том, что он распознает ваши фотографии в любом месте в Интернете». Если вы в кадре на фотографии со свадьбы или ваш друг публикует вашу совместную фотографию в своих соцсетях, как только Clearview спарсил её — он создаст постоянный биометрический отпечаток вашего лица.
Clearview и правоохранительные органы
Поиск в базе данных Clearview — это лишь один из многих способов, которыми правоохранительные органы могут использовать контент, размещенный на платформах социальных сетей, для помощи в расследованиях, включая отправку запросов непосредственно на платформу для получения пользовательских данных. Однако использование Clearview AI или других технологий распознавания лиц правоохранительными органами не контролируется в большинстве штатов и не подлежит общенациональному регулированию.
«Это проблема непрозрачности как полицейских департаментов, так и Clearview. Мы понятия не имеем, должны ли они вводить ордер, чтобы выполнить запрос, чего они, вероятно, не делают; мы понятия не имеем, контролируются ли их запросы супервайзер», — говорит Гуарилья, добавив, что программа часто напрямую загружается на телефоны офицеров, даже без ведома или одобрения их отдела.
После судебного иска в Иллинойсе, поданного ACLU, Clearview заявила, что прекратит практику предоставления бесплатных пробных учетных записей отдельным полицейским.
Гуарилья в своих рассуждениях описывает ситуацию, которая хороша знакома российским оппозиционным активистам и просто критически настроенным к власти гражданам: «Я думаю, нам действительно нужно спросить: насколько строго отслеживаются запросы, которые они направляют? Полицейский может просто вытащить свой телефон на уличной акции, протесте — и получить профили протестующих в социальных сетях, каждую фотографию, на которой они когда-либо были, их имена — представьте угрозу, которую это несет гражданским свободам, и риски людей с точки зрения возмездия или репрессий». По сути, речь о том, что такие мощные технологии как Clearview, будучи пока нерегулируемыми и неконтролируемыми, могут размывать гражданские права и свободы даже в странах с гораздо более сильными и устойчивыми институтами, таких как в США, приближая то, что ещё вчера казалось невозможным — реальность полицейского государства, уже хорошо знакомую гражданам многих менее демократичных стран.
Новая реальность: что делать?
Главный вопрос, который ставит эта ситуация — это вопрос контроля за доступом к публичными данными. Потому что с распространением видеонаблюдения и автоматического распознавания лиц, мир становится полностью прозрачным — но эта прозрачность односторонняя.
В целом, прозрачный мир — это не так уж плохо. Люди как вид выросли в небольших коммьюнити — племенах-деревнях, в которых все друг друга знали в течение всей жизни, все были друг у друга на виду. Поэтому современное понятие приватности — это историческая аномалия, возникшая как результат гигантского расселения и перемешивания людей в городах, когда скорость физического распространения на несколько порядков превысила способность человека информационной адаптации: иными словами, людей стало вокруг слишком много и они стали слишком мобильны, чтобы всех запоминать. Это создало феномен невидимости в толпе, одиночества в большом городе. И подарило людям возможность жить свою жизнь изолированно, не оглядываясь на мнение и предпочтения окружающих. Это имеет как свои преимущества, так и свои недостатки, но это время подходит к концу. Цифровые технологии снова возвращают человечество в его изначальные условия — деревни, только теперь величиной с планету, где каждого знают в лицо с помощью цифровой аугментации. Адаптироваться к такой жизни на виду вряд ли будет сложно — если к какому образу жизни человек и приспособлен эволюционно, то именно к такому: все наши социальные инстинкты ковались в условиях коммунальной жизни, начиная с древних африканских саванн миллионы лет назад. «Одинокий волк» — это метафора, в реальности человек таким никогда не был и быть не может. Мы — животные социальные, и превращение Земли в большую деревню — это пример законченного диалектической спирали: возвращению к исходному состоянию — но на новом уровне.
Впрочем, до идиллии тут далеко: чтобы этот новый старый образ жизни стал комфортным — многое нужно сделать для его адаптации. И проблема Clearview указывает на главную угрозу идиллическому коммунизму всех людей в общем планетарном доме: однобокость прозрачности. Условия изначальной человеческой коммуны подразумевали информационное равенство: да, индивид был у всех на виду — но и все были на виду у индивида, невозможно было наблюдать за людьми, оставаясь полностью анонимным. Если ты видел людей — то люди видели тебя. Это условие — что мы все по одну сторону стекла — создавало равенство, обеспечивая терпимость такой прозрачности своей жизни. Однако как только какая-то часть людей оказывается по ту сторону стекла, то все, кто за стеклом, превращаются в гигантский зоопарк для невидимых надзирателей. Это — условия для экстремального, потенциально непреодолимого неравенства. И эту ситуацию нужно предвидеть и не допускать её развития в зародыше, пока правила жизни при новой, цифровой прозрачности только устанавливаются и ещё не закостенели, превратившись в основу новых наследственных иерархий.
Мысленный эксперимент с представлением будущего человечества как возвращения к истокам, превращения цивилизации в большую деревню размером с планету, необходим, чтобы понимать необходимые условия, которых нужно добиваться. Эти условия — взаимная прозрачность: если в деревне все примерно в одинаковой степени знакомы с друг другом, то и в планетарной деревне возможность распознавать незнакомые лица тоже должна быть доступна в более-менее равной степени.
Что это на практике означает?
Право общественного доступа к базам данным видеонаблюдения и видеонаблюдению в реальном времени: для индивидов, общественных организаций и журналистов.
Прозрачность органов и людей, имеющих доступ к распознаванию лиц в реальном времени по долгу службы — эта привилегия должна идти по цене обязательной деанонимизации: общество должно знать, кто эти люди и как они выглядят. Ответ на вопрос “Who Watches the Watchmen?" может быть только один: они должны сидеть в прозрачной башне.
Обязательное логирование наблюдения с оповещением наблюдаемого. Об этом поговорим подробнее ниже.
Есть разница между просто пассивным наблюдением с распознаванием лиц, и обращением к этой информации человека. Иными словами, если кто-то — неважно кто, государственный служащий или частное лицо — с помощью системы распознавания лиц узнал какого-то конкретного человека, этот человек должен получить уведомление, кто его увидел. Как было бы в деревне: если кто-то увидел тебя — скорее всего, ты увидел его, в этом смысле сохраняется бы примерное информационное равенство. «А как же преступники?» — спросит кто-нибудь, — «Нельзя же преступников в розыске оповещать, что их на камере узнали следователи!» Не только можно, но это и происходит: о том, что человека в розыске увидели на камере, сам человек гарантированно узнает лично при встрече с полицией. Речь как раз об обычных людях, за которыми могут наблюдать пассивно, их не оповещая, с неизвестными целями: если человек воспользовался доступом к системе наблюдения, чтобы кого-то распознать и/или отследить — эта информация должна логироваться, кто, когда и кого увидел, и эта информация должна становиться доступной тому, кого узнали.
Разумеется, здесь может быть много нюансов — например, задержка при передаче такой логов наблюдения за человеком, или в каких-то случаях доступ к этой информации будет не пассивный, а активный (по запросу), может иметь несколько уровней доступа (при минимальном человек просто видит имя, должность и фото того, кто распознал его через видеонаблюдение, а при максимальном, например, по санкции суда — может сам получить доступ к системе и найти этого человека). Конкретные правила работы невозможно задать на берегу, не войдя в эту воду сперва — они могут появиться только на основе практики. На берегу нужно договориться о принципе, который будет лежать в основе этих правил: в эпоху цифровой прозрачности, эта прозрачность обязательно должна быть двусторонней, и каждый, кто попадает в поле зрения цифрового глаза, должен иметь право доступа к цифровому глазу сам.
Текст:@EgorKotkin
Иллюстрации: Антон Дмитриев
Для оплаты зарубежными картами или криптовалютой: xeovo.com. Скидка 10% по промокоду HABR2023
Для оплаты рублями: VPNPay
