Какви решения може да взема ИИ самостоятелно?

За 1 минута

На въпроса «да го оставим ли да решава сам?» не се отговаря с технологията, а с два въпроса за всяко решение: колко вреда прави, ако излезе грешно? и може ли да се отмени? Това, което е с ниско въздействие и обратимо, може да върви само, със запис. Това, което движи пари или засяга човек, ИИ го предлага, а човек го одобрява. И има решения, за които ИИ само информира. Международните ръководства са съгласни и в още нещо: човекът, който одобрява, трябва да може да разбира, да спира и да връща назад, а не само да подписва.

Представете си средна по размер компания за финансови услуги. Тя е измислена, но прилича на много други. Вече използва ИИ, за да отговаря на въпроси на клиентите си и да подготвя вътрешни отчети. Сега отделът по операциите предлага следващата стъпка: ИИ, освен да открива дублираните плащания, да ги връща сам.

На срещата има две позиции. Операциите казват: «ИИ познава почти всеки път, а всяко ръчно връщане ни струва един ден». Съответствието (Compliance) казва: «ако върне пари на този, на когото не бива, кой отговаря?». И двете са прави. И двете спорят за ИИ, а същинското решение е друго: какъв вид решение е връщането на едно плащане.

Тази статия е за онзи, който трябва да определи докъде стига ИИ в неговата работа. Тя защитава една идея: всяко решение се класифицира, като първи филтър, по въздействието му и по това дали може да се отмени; тази класификация, а не технологията, подсказва дали ИИ действа сам, предлага или само информира.

Не всяко решение изисква едно и също

Освен да отговаря, един ИИ може да проверява системи, да подготвя движения и, ако му е разрешено, да ги изпълнява. Това налага да се решава, случай по случай, колко автономия има.

Рамката за управление на риска от ИИ на NIST, в Съединените щати, го казва направо: конфигурациите между хора и ИИ «can span from fully autonomous to fully manual». Един ИИ може да решава сам, да предаде решението на експерт или да служи като допълнително мнение за този, който решава. Някои системи, като онези, които подобряват компресията на видео, може да не изискват човешки надзор; други го изискват конкретно [2]. Тоест: правилният въпрос не е «надзор, да или не?», а «за кои решения?».

Двата въпроса, които подреждат всичко

1. Колко вреда прави, ако излезе грешно?

Не абстрактно: в песо, в клиенти, в хора. Лошо формулиран отговор на често задаван въпрос има малка цена. Плащане, върнато по грешна сметка, отхвърлено искане за кредит или лични данни, изпратени на този, на когото не бива, тежат по друг начин.

Като практическо правило, въздействието е високо, когато решението:

• движи пари —събира, плаща, връща, прилага отстъпка—;
• променя запис, който други използват, за да решават —салдо, досие, наличност—;
• засяга правата или възможностите на човек —кредит, работа, рекламация—;
• излага лични или поверителни данни.

2. Може ли да се отмени?

Погрешно поставен етикет на имейл се поправя с едно щракване. Съобщение, изпратено на клиент, може да е трудно за оттегляне и поправяне. Един превод може да се върне, но с цена, време и понякога недоволен клиент. Обратимостта не е да или не: тя е колко струва и колко време отнема да се отмени.

Матрицата: три нива на автономия

С тези два въпроса матрицата подсказва начално ниво за всяко решение:

Класификация за илюстрация; границите на всяко ниво ги определя всяка компания.

Въздействието и обратимостта са първият филтър, не единственият. Преди да дадете автономия на ИИ за дадено решение, добавете четири въпроса:

• Колко е вероятно да сгреши? Измерено с реални случаи, а не с демонстрация.
• До колко хора или транзакции стига? Малка грешка, повторена десет хиляди пъти, престава да бъде малка.
• Има ли правно или договорно задължение за това решение?
• Може ли грешката да се открие и спре, преди да ескалира?

Ако някой отговор е несигурен, започнете с ИИ, който предлага; нивото се повишава, когато доказателствата го оправдават. NIST го поставя по същия начин: рисковете се приоритизират по въздействието им, по вероятността и по ресурсите за справяне с тях [2].

Да се върнем към дублираните плащания. Откриването им е с ниско въздействие и обратимо: ИИ може да ги маркира сам. Подготовката на връщането също: остава готово, без да се изпълни. Връщането на парите движи пари и трудно се отменя: ИИ го предлага с доказателствата —двете такси, датите, клиента— и човек го одобрява. Човекът получава вече събраните доказателства и съсредоточава прегледа си в потвърждаване или отхвърляне; преди да се разшири процесът, се измерва дали този начин на работа намалява времето, без да намалява контрола. Съответствието получава някой, който отговаря.

Човекът да одобрява наистина

Да сложите човек да одобрява, не помага, ако той одобрява всичко, без да гледа. Регламентът на Европейския съюз за ИИ, в член 14 за човешкия надзор на системите с висок риск, изисква този, който упражнява надзор, да може, между другото, да е наясно с тенденцията да се доверява прекомерно на онова, което системата предлага —пристрастието към автоматизацията (automation bias)—, да тълкува правилно онова, което системата произвежда, да реши да не я използва или да пренебрегне, отмени или върне нейния резултат и да я прекъсне с бутон за спиране или подобна процедура [1].

Извън езика на правото това се превръща в четири практически условия за този, който одобрява:

• Вижда доказателствата, а не само предложението: откъде идва данната и защо ИИ предлага онова, което предлага.
• Има време да прегледа. Ако трябва да одобри триста предложения за един час, на практика не упражнява надзор.
• Може да отхвърля, без това да му струва нещо. Ако отхвърлянето му създава допълнителна работа или смъмряне, ще одобрява.
• Може да спре всичко: да спре ИИ в един процес, докато се преглежда какво се е случило.

Кой отговаря

Последното парче е отговорността. Принципите на ОИСР за ИИ изискват организациите и хората, които разработват, внедряват или експлоатират системи с ИИ, да носят отговорност за доброто им функциониране, според ролята и контекста си, и да осигуряват проследимост на данните, процесите и решенията [3]. NIST, от своя страна, изисква процесите за човешки надзор да са определени, оценени и документирани [2].

В една компания това означава да се запише, поне: кой е собственикът на всеки процес, в който действа ИИ; на какво ниво на автономия е всяко решение; какви доказателства и какъв запис остават за всяко действие и всяко одобрение; кой може да спре процеса; с какви критерии е изпробван преди да заработи; и какво се случва при грешка или когато процесът се променя. Ако решението засяга човек, също и как се преглежда и поправя неговият случай.

А в Мексико?

Честно уточнение: към ноември 2026 г. Мексико няма действащ общ федерален закон за изкуствения интелект. Има инициативи в Конгреса, все още неприети [4, 5]. Европейският регламент и ръководствата на NIST и ОИСР са цитирани тук като ориентир за добра практика. Европейският регламент може да обхване компания извън Съюза според системата, нейната роля и къде се използва резултатът ѝ; ако работата ви засяга Европа, потвърдете го с правна консултация. А липсата на закон за ИИ не оставя ИИ без правила: според случая могат да се прилагат правилата за защита на личните данни, финансовите, трудовите, потребителските и други правила на вашия бранш. Вашият юридически отдел е този, който потвърждава кои се прилагат за вашия процес.

Кога да го оставите сам и кога не

Може да действа сам, когато:

• Решението е с ниско въздействие и лесно се отменя: класифициране, етикетиране, резюмиране, приоритизиране на опашка от работа, уведомяване.
• Има твърди граници, които го ограничават —максимална сума, час, обем— и запис на всяко действие.
• Някой прави преглед на извадка редовно и може да понижи нивото, ако нещо се промени.

Не е добре да го оставяте сам, когато:

• Решението движи пари, променя запис, който други използват, или засяга човек.
• Няма запис какво е направил и защо или никой не знае как да се отмени.
• Процесът още не е измерен с реални случаи: първо се изпробва, като предлага, и едва с доказателствата се решава дали се качва на следващо ниво.

Какво отхвърляме и защо

• «Ако познава в 98 % от случаите, да решава сам.» Процентът казва колко пъти греши, а не колко струва всяка грешка. Грешка от 2 % при етикетите е поносима; при връщане на пари може да не е.
• «Човек да одобрява всичко, за всеки случай.» Звучи благоразумно, но ражда автоматични одобрения и умора и отнема на ИИ стойността, която е имал. Надзорът се съсредоточава там, където има значение.
• «ИИ решава, а после одитираме.» Преглед само след това може да намери вредата, когато тя вече е настъпила. При решения, които трудно се отменят, се съчетават предварителни контроли, наблюдение и последващ преглед.
• «Да изчакаме да има закон, за да решим.» Решенията се вземат днес. Тяхната класификация не зависи от закон; зависи от познаването на собствения процес.

Пет въпроса за следващия комитет

1. Какви решения взема днес ИИ в нашата компания и на какво ниво на автономия е всяко?
2. Кои движат пари, променят запис или засягат човек и кой ги одобрява?
3. Този, който одобрява, вижда ли доказателствата, има ли време да прегледа и може ли да отхвърля, без това да му струва нещо?
4. Можем ли още днес да спрем ИИ в един процес и да отменим онова, което е направил?
5. Остава ли запис за всяко действие и всяко одобрение и кой е собственикът на всеки процес?

Ако не можете да отговорите на първия, това е първата задача: да се направи списъкът.

Откъде да започнете тази седмица

Направете таблица с всяко решение, в което участва ИИ —или в което мислите да го използвате— и четири колони:

• Въздействие: ниско или високо, с причината в един ред.
• Обратимост: колко струва и колко време отнема да се отмени.
• Ниво: действа сам, предлага или информира.
• Собственик: кой одобрява и кой отговаря.

Редовете, в които сегашното ниво не съвпада с онова, което казва матрицата, са вашият списък с работа.

Какво прави Hábil

В Hábil изграждаме по мярка ИИ, който работи с данните и правилата на вашите системи.

Ако трябва да определите докъде стига ИИ във всеки процес, предложението е в Hábil AI. Hábil AI обслужва вашите клиенти, проверява вашата информация и изпълнява самостоятелно стъпки от вашите процеси, с човек, който одобрява всичко, което движи пари или данни. Вие решавате, по процес и по инструмент, докъде стига всеки агент: само да проверява и уведомява, да предлага, за да одобри човек, или да автоматизира в граници, които вие задавате. Агент, който действа, има нужда от права, ограничени до най-необходимото, от запис на всяко взето решение и от начин да не се изпълнява едно и също действие два пъти. А ако бъде открит неправилен отговор или действие, ИИ се спира, прегледава се записът, коригира се правилото или интеграцията и всичко се изпробва отново преди възобновяване.

Разговорът може да започне с вашата таблица с решения, дори наполовина попълнена: какво решава днес ИИ, какво бихте искали да решава и кой отговаря. С това заедно преглеждаме кое ниво е подходящо за всяко. Пишете ни в WhatsApp; за да защитим информацията, не споделяйте по този канал данни на клиентите си или на системите си: в разговора ще договорим канала за случая.

Поискайте първия си разговор, безплатно.

Прегледани на 13 ноември 2026 г. Всеки източник е с ниво на доверие: високо (прочетен първичен източник) или средно (вторичен източник).