Агенты ИИ, конфиденциальность и этика снижают доверие


Легко говорить об агентах ИИ, но внедрение их в организации оказалось сложнее, чем ожидалось. Первоначальный энтузиазм сменился осторожностью, особенно в отношении двух вопросов — конфиденциальности и этики, — которые привели к резкому падению доверия с 43% организаций до 27%. И это несмотря на то, что агенты ИИ воспринимаются как «коллеги», способные раскрыть огромный потенциал внутри организаций. В докладе исследовательского института Capgemini «Расцвет агентного ИИ: как доверие становится ключом к сотрудничеству человека и ИИ» прогнозируется, что к 2028 году агентный ИИ сможет генерировать экономическую ценность до 450 миллиардов долларов во всем мире. Однако, несмотря на это, с одной стороны, число компаний, заявляющих о своей уверенности, сокращается, а с другой — двое из пяти руководителей во всем мире считают, что риски на данном этапе перевешивают выгоды. Об этом говорится в отчете, проведенном среди 1500 руководителей организаций с годовым доходом более 1 миллиарда долларов в 14 странах, включая Италию, и в 13 различных секторах.
В действительности, быстрое развитие новых инструментов искусственного интеллекта демонстрирует необходимость для организаций адаптироваться к ним устойчивым образом для всех. И хотя значительная часть компаний использует агентный ИИ для поддержки, ситуация с автономным использованием ИИ иная. Только 40% компаний заявляют, что доверяют агентам ИИ автономное управление задачами и процессами, в то время как большинство не полностью доверяют этой технологии.
В соответствии с мировыми тенденциями, итальянские организации испытывают меньше доверия к агентам на основе ИИ, чем в 2024 году. Примерно 60% итальянских организаций обеспокоены вопросами конфиденциальности, рисками безопасности и риском нежелательной предвзятости, связанными с использованием агентского ИИ. В течение следующих 12 месяцев итальянские организации ожидают, что сотрудничество с ИИ приведет к повышению квалификации членов команды, а в течение следующих трёх лет те же организации рассматривают агентов на основе ИИ как автономных членов команд, контролируемых людьми.
Анализ данных по Италии демонстрирует иной подход в краткосрочной и среднесрочной перспективе, а также эволюцию задействованных функций. Так, в течение следующих 12 месяцев среди бизнес-функций, где организации ожидают, что агенты ИИ будут управлять как минимум одним процессом или подпроцессом в день, выделяются продажи, ИТ, маркетинг и коммуникации, а также финансы. При увеличении временного периода до трёх лет этот список расширяется, и операционная деятельность также входит в число функций, которые, по мнению итальянских организаций, больше всего пострадают от внедрения агентского ИИ.
По словам Мони Феррари, генерального директора Capgemini в Италии, «экономический потенциал агентов ИИ огромен, но для его воплощения в реальность требуется нечто большее, чем просто технологии: для этого необходима стратегическая и структурированная трансформация, охватывающая людей, процессы и системы. Чтобы добиться успеха, организации должны сосредоточиться на результатах, переосмысливая свои процессы, ориентируясь на ИИ. В основе этой трансформации лежит необходимость укрепления доверия путем этичной и безопасной разработки ИИ с самых ранних этапов. Организационные структуры также должны быть переработаны для содействия эффективной синергии между людьми и ИИ, создавая условия для использования человеческого суждения и достижения лучших бизнес-результатов».
Формирующаяся в Италии картина, несмотря на свои уникальные особенности, не сильно отличается от мировой. В то время как четверть (26%) итальянских организаций уже частично внедрили решения на основе агентского ИИ, ещё 27% только начали изучать потенциал этой технологии. Целых 36% опрошенных итальянских организаций не имеют стратегии, но имеют инициативы в различных отделах по разработке и масштабированию, в то время как 28% итальянской выборки имеют стратегию и дорожную карту для инициатив в области агентского ИИ. Одним из отличий Италии от остальной международной выборки является тот факт, что 84% итальянской выборки, что значительно выше, чем в мировой выборке (62%), предпочитают сотрудничать с поставщиками решений для внедрения и адаптации имеющихся агентов ИИ, а не создавать собственные решения.
Как в Италии, так и во всем мире энтузиазм многих руководителей вызывает опасения у организаций. Почти четверть компаний уже запустили пилотные проекты, а 14% перешли к внедрению, но большинство всё ещё находятся на стадии планирования. Capgemini отмечает, что этот относительно медленный темп противоречит амбициям руководителей: 93% считают, что внедрение ИИ-агентов в течение следующих 12 месяцев станет источником конкурентного преимущества. Тем не менее, почти у половины компаний до сих пор нет чёткой стратегии внедрения.
Capgemini ожидает, что в краткосрочной перспективе ИИ-агенты получат широкое применение в сфере обслуживания клиентов, ИТ и продаж, а в течение следующих трёх лет — в операционной деятельности, исследованиях и разработках, а также маркетинге. Однако большинство развёртываний пока ограничены начальными уровнями автономности: лишь 15% бизнес-процессов работают в полуавтономном или полностью автономном режиме. Ожидается, что к 2028 году этот показатель вырастет до 25%, но в настоящее время большинство агентов по-прежнему выполняют функции помощников или вторых пилотов, выполняя рутинные задачи, а не управляя сложными рабочими процессами автономно.
Хотя синергия человека и ИИ является ключом к устойчивому внедрению, кризис доверия в организациях представляется проблематичным. Истинная ценность агентного ИИ также заключается в его способности переосмыслить наши методы работы. В течение следующих 12 месяцев более 60% компаний планируют создать гибридные команды человека и ИИ, в которых агенты будут поддерживать или дополнять человеческие возможности. В этой новой ситуации агенты ИИ больше не рассматриваются просто как инструменты, а как активные члены команды. Семьдесят процентов компаний считают, что внедрение агентов ИИ приведет к организационной реструктуризации, что приведет к переосмыслению ролей, структур команд и рабочих процессов. Компании обнаруживают, что наибольшая ценность достигается, когда люди остаются вовлеченными. Эффективное сотрудничество между людьми и ИИ может повысить вовлеченность в более ценные виды деятельности на 65%, стимулировать креативность (+53%) и повысить удовлетворенность сотрудников (+49%).
Новости и аналитика политических, экономических и финансовых событий.
Зарегистрироватьсяilsole24ore