Shadow AI: ако екипите ви вече ползват ИИ, къде остават данните ви?

Хипотетичен сценарий. Представете си една анализаторка на риска в застрахователна компания в четвъртък в шест следобед. Утре трябва да предаде резюме на четирийсет страници от една полица и нейните приложения. Одобреният от компанията инструмент не съществува или одобряването му отнема три седмици. Тя отваря личен акаунт на ИИ асистент в браузъра си, поставя целия документ и получава полезно резюме за минути. Няма лошо намерение: има срок за предаване, инструмент, който решава задачата, и никаква одобрена алтернатива под ръка.

В организация, която не е инвентаризирала тази употреба, може да няма документиран отговор къде е останал текстът, какви условия важат, кой би могъл да има достъп до него или колко дълго се съхранява.

Това е shadow AI: използването на инструменти с изкуствен интелект, които организацията не е одобрила, не е инвентаризирала и не наблюдава. Това е сегашната версия на стария shadow IT, с една разлика, която има значение за комитета: онова, което се споделя, не е електронна таблица в личен облак, а контекст, данни на клиенти и бизнес преценка, написани на естествен език.

Статията е за онзи, който отговаря за общото ръководство, финансите, операциите, търговската дейност или технологиите на банка, финтех, застрахователна компания, търговска верига или регулирана компания. Обхваща пет неща: какво казват проучванията с метод, защо една забрана сама по себе си може да не стигне, къде е излагането в Мексико, какви рамки вече съществуват, за да се управлява, и как да се оцени една одобрена алтернатива.

Какво казват проучванията и от кого идват

Почти всичко, което се публикува за shadow AI, идва от проучвания на доставчици и анализаторски фирми, а не от официална статистика. Това не ги обезсилва, но налага да се четат такива, каквито са: извадки на онзи, който ги е поръчал, с декларирани метод и възможни пристрастия. Ето онези, които можахме да прегледаме в първоизточника.

Употреба. Work Trend Index 2024 на Microsoft и LinkedIn, с 31 000 работници със знания в 31 страни (проучване, проведено между февруари и март 2024 г. от независима фирма по поръчка на Microsoft), съобщава, че 78 % от онези, които ползват ИИ на работа, носят собствените си инструменти, и че делът се покачва до 80 % в малките и средните предприятия [1]. Това е проучване на доставчик за работници със знания като цяло, не за Мексико, нито за регулирани сектори.

Изложени данни. 2024 Data Privacy Benchmark Study на Cisco, анонимно проучване, проведено през лятото на 2023 г. сред 2600 специалисти по поверителност и сигурност в 12 страни, съобщава, че 48 % от анкетираните са заявили, че са въвели непублична информация на своята компания в инструменти за генеративен ИИ, а 45 % — имена или информация за служители [2]. Това е самодекларация на анкетирани, не измерване на трафик и не оценка за Мексико.

Цена. Проучването Cost of a Data Breach 2025 на IBM е проведено от Ponemon Institute, спонсорирано и анализирано от IBM, и събира пробивите, преживени от 600 организации между март 2024 г. и февруари 2025 г. Една от всеки пет организации съобщава за пробив, който е приписала на shadow AI; само 37 % имат политики за управлението или откриването му; а онези, които съобщават за висока употреба на shadow AI, са наблюдавали средно с 670 000 щатски долара по-висока цена на пробив от тези с ниска или никаква употреба. При инцидентите с shadow AI са били засегнати лични данни в 65 % от случаите и интелектуална собственост в 40 % [3]. Това са асоциации, отчетени в извадката, а не причинна оценка, нито цена, приложима за Мексико. IBM уточнява, че това е първата година, в която тази серия разглежда сигурността и управлението на ИИ, така че все още няма тенденция за няколко години.

Три предпазни мерки, когато ги цитирате пред комитет. Първа: са от доставчици. Втора: измерват различни популации (потребители, специалисти по поверителност, организации с пробив) и не могат да се сумират, нито да се сравняват помежду си. Трета: за цитираните тук показатели резултатите се публикуват като глобални агрегирани данни; Microsoft и Cisco са включили участници от Мексико, но тези цифри не позволяват да се направи извод за национална или секторна разпространеност. Служат, за да се каже «това се случва и има цена, измерена в глобален мащаб», не за да се каже «на нас ни струва толкова».

Циркулират и други, по-впечатляващи цифри, като процент служители, които ползват ИИ «без одобрение», приписван на анализатори, или дела на онова, което се поставя в публични асистенти и би било поверително. Не ги използваме: не успяхме да ги открием в първичен източник с публикуван метод.

Защо една забрана сама по себе си може да не стигне

Обичайната реакция на един комитет е да блокира: да затвори домейните на ИИ асистентите и да издаде циркуляр. Cisco съобщава, че 27 % от организациите са забранили, поне временно, генеративния ИИ, докато 63 % са ограничили какви данни могат да се въвеждат и 61 % са ограничили какви инструменти могат да се ползват [2]. Ограниченията за данни и инструменти са отчитани по-често от пълната забрана. Тъй като отговорите могат да се припокриват, проучването не позволява да се твърди, че са взаимноизключващи се алтернативи, нито че между тях има последователност.

Практическата причина е проста. Ако спешната задача продължава и няма разрешена алтернатива, която да решава случая, някои хора могат да потърсят пътища извън корпоративния контрол: телефона си, личния си акаунт, домашната си мрежа. Блокирането може да изтласка част от употребата към по-малко видими места, а онова, което не се вижда, трудно се управлява и трудно се обяснява на одитор. Това е наше оперативно умозаключение, не заключение, измерено от цитираните проучвания: те показват, че употребата е широка дори там, където има правила, и не измерват какво става след блокиране.

Полезният въпрос, следователно, не е «как да го спрем?», а «какво даваме в замяна, което да е по-добро?».

Защо има значение в Мексико, макар да няма норма за «ИИ»

LFPDPPP е подходяща отправна точка за частните организации. Това е Федералният закон за защита на личните данни, притежавани от частни лица (Ley Federal de Protección de Datos Personales en Posesión de los Particulares), чийто указ за издаване е публикуван в DOF (Diario Oficial de la Federación, държавния вестник на Мексико) на 20 март 2025 г. [4]. Сред задълженията му са уведомлението за поверителност, съгласието, когато е приложимо, обработката на чувствителни данни и някои предавания: накратко, той урежда информираната и контролирана обработка на лични данни. За финансова институция, застраховател или регулирана компания този анализ не замества прегледа на секторната регулация, договорните задължения и вътрешните критерии, приложими към конкретния случай.

През юли 2026 г. Secretaría Anticorrupción y Buen Gobierno, която днес надзирава закона за защита на личните данни в притежание на частни лица, наложи глоба от 42 849 095 песос на Мексиканската федерация по футбол за нейната система за идентификация на фенове. Според съобщението на органа той е упрекнал това, че феновете не са били надлежно уведомени, че биометричните им данни са чувствителни лични данни, и че е получено неправилно съгласие за обработването им. Съобщението не споменава изтичане или неразрешен достъп и посочва, че федерацията може да оспори решението [5]. Не е случай на ИИ и не го представяме като такъв.

Урокът за един комитет е друг. Органът е санкционирал пропуски при уведомяването и при получаването на съгласие за обработка на лични данни. Ако служители на вашата компания поставят данни на клиенти в инструмент, който не сте инвентаризирали, въпросът «къде остана тази информация, на какво основание и кой я е разрешил?» може да няма документиран отговор. Това, а не само изтичането, е излагането. Специфично юридическо мнение за вашия случай се полага на вашия юридически съветник.

Управлявайте преди да забранявате: две рамки, които вече съществуват

Не е нужно да се измисля метод. Има два ориентира, които могат да служат като контролен списък за комитета.

NIST AI Risk Management Framework 1.0, публикувана на 26 януари 2023 г. от института по стандарти на САЩ. Ползва се доброволно и е организирана в четири функции: управлявай, картографирай, измервай и контролирай [6]. NIST посочва днес, че версия 1.0 е в процес на преразглеждане. През юли 2024 г. публикува специфичен профил за генеративен ИИ [7]. За един директор полезното е, че «управлявай» пресича останалите функции: определя отговорността и политиката, докато организацията идентифицира системите си с ИИ, употребите им и рисковете им. Инвентарът не замества управлението; той го захранва.

ISO/IEC 42001:2023, международният стандарт за системи за управление на ИИ: рамка за установяване, внедряване, поддържане и подобряване на система за управление на ИИ в една организация [8]. Може да помогне за подреждането на политики, отговорности и непрекъснато подобряване; не замества правните и договорните задължения на всяка организация.

Никоя от двете не решава проблема вместо вас. Но и двете съвпадат в нещо, което комитетът може да използва още от тази седмица: трудно се управлява онова, което не е инвентаризирано.

Одобрената алтернатива: правилното да е и най-лесното

Да управляваш не е само политика. То е да дадеш на хората инструмент, който решава същата задача с контрол. Една одобрена алтернатива трябва да се оценява по пет бизнес критерия и критерия за контрол:

1. Проверява само източници, разрешени за случая на употреба, така че отговаря със собствена информация, без да зависи

от това служител да копира и поставя документи.

1. Прилага правата, определени от компанията. Човек не получава чрез ИИ онова, което не може да проверява в първоначалната

система.

1. Съхранява доказателствата за употреба, които политиката за съхранение позволява и изисква: какво е попитано, какви данни са използвани и какво е отговорено, за да може да се обясни.
2. Третира чувствителните данни съгласно класификацията, политиката и приложимите задължения, например какво се скрива или блокира, преди да стигне до модел.
3. Документира къде се обработват данните, кои трети страни участват и какви договорни условия уреждат тези потоци.

За някои данни и процеси облакът на доставчик с подходящ договор може да е достатъчен. За други регулирана компания може да предпочете моделът да работи в нейна собствена инфраструктура.

Този последен критерий е онзи, който най-много променя разговора със съвета на директорите и с отдела по съответствие. Собствената инфраструктура може да намали определени потоци към трети страни, но сама по себе си не решава правата, копията, резервните копия, поддръжката, регистрите, съхранението, нито договорните задължения. Решението трябва да се опира на документирана карта на потоците и отговорностите.

Сценарий (илюстративен, без клиент). Застрахователна компания открива, че нейният отдел по щети ползва публични асистенти, за да резюмира заключения и имейли на ликвидатори на щети. Вместо да ги забрани, оценява вътрешен инструмент, който би проверявал преписките по щети с правата на потребителя, би резюмирал и съставял чернови и би оставял запис на всяко запитване. Хипотезата за проверка би била, че една разрешена алтернатива, полезна за същата задача и придружена от ясни правила, намалява стимула преписките да се копират в лични акаунти. Комитетът би трябвало да измери приемането, изключенията и наличните доказателства, преди да заключи, че рискът е намалял.

Пет въпроса за вашия следващ комитет

1. Знаем ли днес колко инструмента с ИИ се ползват в компанията и кой ги ползва? Ако отговорът е оценка, а не

инвентар, това е първата констатация.

1. Какви видове данни е забранено да излизат към външен асистент? Лични данни на клиенти, чувствителни данни,

непублична финансова информация, код и договори. Написано ли е и знаят ли го хората?

1. Каква одобрена алтернатива им дадохме? Ако отговорът е «един циркуляр», комитетът още няма доказателство за разрешена, използваема и възприета алтернатива.
2. Има ли ясна изпълнителна отговорност и структура за вземане на решения за употребите на ИИ? Една политика без именуван отговорник няма кой да я

прилага.

1. **Ако орган, клиент или одитор ни попита къде са останали данни, които някой е поставил в инструмент, можем ли да

отговорим с доказателства?** Кой инструмент, какви данни, на какво основание и с каква проследимост.

Ако два или повече отговора са «не знам», има достатъчно основание да се уговорят отговорник, начален обхват и съвместен преглед от бизнеса, технологиите, сигурността, поверителността и юристите.

От къде да започнете тази седмица

Преди да се реши проект, трябва да се уговорят начален обхват, изпълнителна отговорност и инвентар, пропорционален на риска.

Помолете Сигурността, Поверителността, Юридическия отдел и областите с най-голямо излагане (щети, кредит, събиране на вземания, обслужване на клиенти, финанси) да определят кратко, поверително проучване без наказателен характер: използвани инструменти, цел, категории данни и система на произход. Целта е употребата да излезе наяве, с цел картографиране, не санкциониране. С това проучване направете предварителна класификация в три групи: онази, която може да продължи с фирмен акаунт и договор, онази, която изисква вътрешен инструмент с контрол, и онази, която не бива да се случва. Тази класификация трябва да се валидира спрямо приложимите задължения, преди да се разреши, ограничи или преработи дадена употреба. Тя е, освен това, вход за «картографирай» в рамката на NIST и за един инвентар, какъвто би поискала една система за управление.

Ако упражнението покаже, че най-много се прави резюмиране, съставяне и справки в собствени документи, вече знаете къде е стойността на оценяването на една одобрена алтернатива.

Какво прави Hábil

Ако организацията ви установи нужда от разрешена алтернатива за конкретен процес, Hábil AI и Nova са възможности, които можете да оцените с Hábil. Hábil AI свързва ИИ със системите, които една компания вече има, с контрол върху това кой какво може да вижда и с проследимост на онова, което се проверява; когато данните не бива да излизат от организацията, Nova е ИИ, който работи в собствена инфраструктура. Кой вариант е подходящ, зависи от процеса, разрешените източници, чувствителността на данните, правата, приложимите задължения и доказателствата, които организацията ви трябва да съхранява. За контрола на достъпа — страницата Контрол на достъпа.

Първият разговор за диагностика е безплатен: служи да се прегледа случаят, зависимостите му и следващата стъпка, която е подходяща. Пишете ни в WhatsApp.