Конфиденциальность и права под угрозой из-за технологий наблюдения

Города с камерами на каждом шагу, устройства, которые нас подслушивают, социальные сети, которые собирают и продают наши данные, платформы, которые используют искусственный интеллект для создания порнографических изображений известных людей: это не сценарии криминальных сериалов, а транспонирование взаимосвязанной и цифровой реальности, в которой мы живем. Новые уровни воздействия, к которым нас ведут искусственный интеллект, устройства безопасности и киберпреступность, — это вопросы, которые необходимо контролировать, поскольку на карту поставлены частная жизнь и права миллионов людей.

В области видеокамер и систем распознавания лиц Китай, безусловно, является одним из лидеров. Его инфраструктура видеонаблюдения с использованием искусственного интеллекта, предназначенная для массового наблюдения и поддержания «социальной стабильности», однако, не единственная в мире, действующая в этих целях. США, Израиль, Венгрия, Турция, Россия, Япония и Южная Корея в равной степени привержены этому направлению, и американские компании , прежде всего, играют ключевую роль в поставках оборудования, лежащего в основе этих интеллектуальных систем мониторинга. Однако вся индустрия видеонаблюдения переживает трансформацию, что подтверждает недавнее глобальное исследование американской компании Axis Communications.

Для более чем 60% представителей отрасли ИИ и генеративный ИИ будут существенно определять будущее отрасли с точки зрения безопасности, бизнес-аналитики (благодаря использованию сенсорных данных в дополнение к видеоисточникам) и операционной эффективности. Какие факторы увеличат значимость и влияние алгоритмов и моделей LLM? В отчёте, в частности, выделяются два аспекта: ускоряющийся переход к гибридным архитектурам, сочетающим возможности мгновенной обработки данных с помощью камер периферийного ИИ с долгосрочной масштабируемостью облака, и растущее использование систем распознавания лиц, подкрепляемое нормативными актами, призванными регулировать их применение (по крайней мере, на бумаге) с соблюдением этических норм.

В Соединенных Штатах интеллектуальное видеонаблюдение является спорной темой, отражающей фрагментарный подход к регулированию конфиденциальности (в основном оставленный на усмотрение отдельных штатов) и общественные дебаты, в которых долгое время стремились найти баланс между необходимостью обеспечения безопасности (особенно в сфере предотвращения преступлений и терроризма) и риском возможной милитаризации наблюдения. В этом контексте Нью-Йорк стал ярким примером повсеместного использования камер видеонаблюдения, оснащенных технологией распознавания лиц (по имеющимся данным, установлено более 25 000, большинство из которых работают в районах Бруклин и Бронкс) для охраны общественного порядка и предотвращения преступлений. Последствия для прав человека хорошо известны, как и действия итальянского Агентства по защите данных, которое в последние месяцы вмешалось и наложило штраф на Clearview AI, компанию, предоставляющую правоохранительным органам по всему миру обширную базу данных информации, собранной в интернете, для сопоставления с изображениями с камер и поиска потенциальных совпадений среди лиц, уже известных полиции, и потенциальных рецидивистов.

«Риск злоупотреблений, — объясняет Андреа Балдрати, партнёр-основатель BSD Legal и основатель Privacy Week, — заключается в сборе данных без ведома людей и их агрегации с помощью алгоритмических систем для создания профиля личности. Это может происходить и в условиях войны: например, известно, что израильская армия годами использует машинное обучение, а недавно и модели LLM, для мониторинга людей и их поведения. Это открывает возможности для неизбирательного использования технологий, подрывающего один из принципов демократии: презумпцию невиновности и защиту от обвинений в совершении преступления, которое ещё не было совершено». Однако в Европе наиболее ярким примером является Венгрия, где прошлой весной были приняты новые законы (фактически противоречащие Закону об искусственном интеллекте), расширяющие использование технологии распознавания лиц и позволяющие вести наблюдение за людьми, участвующими в мирных демонстрациях, не одобряемых центральным правительством, таких как парады ЛГБТК+.