«Поставщики ИИ используют удобство использования интерфейсов»

На этой неделе два мероприятия были посвящены защите и утечке персональных данных: День GDPR в Болонье, посвященный соблюдению нормативных требований (от Закона об искусственном интеллекте до NIS2), и Неделя конфиденциальности (продлится до пятницы, 31 октября 2025 года) в Милане, где несколько экспертов обсудили потенциальное сотрудничество человека и искусственного интеллекта с учетом конфиденциальности, этики и регулирования. Эта тема одновременно деликатная и сложная, поскольку на нашу онлайн-жизнь влияет множество факторов: от преимуществ использования наших цифровых данных до того, что эти преимущества влекут за собой риски, когда мы принимаем (не читая) условия использования приложения или небрежно используем смарт-устройства дома или в машине — в ситуациях, когда осведомлённость об опасностях (и, следовательно, защита) снижается, открывая возможности для злоумышленников.

Риски, с которыми мы сталкиваемся, разнообразны: от известных угроз, таких как программы-вымогатели и шпионское ПО, до более сложных угроз, таких как deep fakes и deep voice , которые представляют собой продвинутый фото- и аудиомонтаж, позволяющий выдавать себя за другое лицо. Они также включают в себя так называемый « sharenting » — обмен контентом несовершеннолетних между родителями. Умный дом , как это ни парадоксально, становится местом, где за нами могут шпионить через те самые устройства ( в первую очередь камеры видеонаблюдения, но также цифровые помощники, телевизоры и другие подключенные устройства), которые должны гарантировать нам большую безопасность или, по крайней мере, лучший образ жизни. Кроме того, существует, конечно, проблема распознавания лиц в общественных местах и ​​предиктивных систем полицейской деятельности на основе искусственного интеллекта: Закон об ИИ, если только не произойдет резкий поворот, должен надолго запретить их использование в ЕС.

Гвидо Скорца, член Итальянского комитета по защите данных (Garante della Privacy), был одним из докладчиков на мероприятии в Болонье и в интервью газете Il Sole 24 Ore проанализировал ход разработки двух ключевых нормативных актов в области конфиденциальности: Закона об искусственном интеллекте и GDPR. «Хотя они и схожи, — пояснил он, — эти два регламента касаются разных областей и направлены на обеспечение уважения основных прав и свобод жителей Европы в обществе данных и алгоритмов. К сожалению, мы пока не достигли желаемого уровня, и поэтому не можем говорить о полной защите конфиденциальности, поскольку наличие правил является необходимым, но недостаточным условием для регулирования влияния искусственного интеллекта на общество».

Таким образом, критических проблем, связанных с этой темой, предостаточно, и совершенно очевидно, что предстоит ещё долгий путь, чтобы избежать риска, на который обратил внимание Скорца, – победы технократии над демократией. Действительно, нет никаких сомнений в том, что крупные технологические компании, поставщики услуг искусственного интеллекта и производители систем для умных домов собирают миллиарды точек данных о цифровом поведении людей, открывая возможность для «шпионажа» или, по крайней мере, «соучастия» в системе профилирования, преследующей цели, выходящие за рамки прибыли. Как решить эту проблему? «Самый эффективный инструмент противодействия капитализму слежки и слежке за капитализмом, – поясняет эксперт, – это инвестиции в обучение людей осознанному использованию этих технологий и в информирование каждого о своих правилах и правах. Однако даже в этом случае мы отстаём, а в Италии мы занимаем третье место с конца по уровню базовой цифровой грамотности больше, чем в остальной Европе».

Скорца подчёркивает ещё один ключевой момент, касающийся поставщиков услуг ИИ, «которые злоупотребляют удобством использования своих интерфейсов, убеждая нас, что они настолько просты в использовании, что мы можем делать это небрежно и беззаботно, не слишком беспокоясь о последствиях для конфиденциальности». Речь идёт об OpenAI и других компаниях, занимающихся генеративным ИИ, инструменте, с помощью которого «каждый отдельный пользователь многое рассказывает о себе компаниям, предоставляющим эти услуги».