Mi történik, ha az AI-rendszer kinövi az eredeti feladatát?

Léteznek üzleti problémák, amelyek nem robbanásszerűen jelennek meg, hanem lassan felhalmozódnak. Egy rendszert eredetileg egy jól körülhatárolt feladatra terveznek, majd fokozatosan bővítik szomszédos feladatokkal, kivételekkel, határesetekkel. Senki nem hagyja jóvá ezt a bővítést — egyszerűen megtörténik. Egy segítőkész kolléga új adatforrást kapcsol be, egy vezető átírja az utasítást, egy lelkes csapattag új folyamatot fűz hozzá. Fél évvel később a rendszer négyszer annyi munkát végez, mint amire tervezték, és senki sem ellenőrizte, hogy mindezt még mindig megfelelő minőségben teszi-e.

Ezt nevezzük hatókör-kúszásnak, és jelenleg ez az egyik legelterjedtebb, mégis legkevésbé felismert meghibásodási mód a vállalati AI-bevetések körében. Nincs összeomlás, nincs hibaüzenet, nincs egyetlen drámai pillanat. A rendszer tovább termel eredményeket — csakhogy egyre kevesebb pontossággal, egyre kevesebb relevanciával, egyre kevesebb megbízhatósággal. Mivel a változás fokozatos, könnyű elnézni.

Az igazi kérdés nem az, hogy jól építették-e fel a rendszert. Feltehetően igen — az eredeti feladathoz. A kérdés az, hogy amit a rendszer ma valójában csinál, az egyáltalán hasonlít-e arra, amire tervezték.

Miért csúszik el a hatókör?

A nagy nyelvi modellekre épülő AI-rendszerek természetüknél fogva generalisták. Nem utasítják el azt a munkát, amelyre nem tervezték őket — megpróbálják elvégezni. Ez teszi őket hasznosak és ez teszi őket kockázatossá, ha felügyelet nélkül hagyják. Egy rendszer, amelyet beérkező ügyfélkommunikáció összefoglalására terveztek, ha megkérik rá, megkísérli azokat osztályozni, rangsorolni, válaszokat fogalmazni rájuk, és érzelmi trendeket jelezni. Mindezt panasz nélkül végzi — és anélkül, hogy bármilyen jelzést adna arról, hol ér véget a megbízható működése.

Az üzleti logika, amely a bővítést motiválja, rendszerint helytálló. Ha a rendszer jól csinálja az A feladatot, miért ne adnánk neki a B feladatot is? A gond az, hogy a rendszer tényleges kompetenciáját — pontosságát, kalibrációját, az információkkal való megfelelő bánásmódját — csak az A feladatra vonatkozóan ellenőrizték. A B feladat kívülről hasonlónak tűnhet, miközben a lényeges részletekben alapvetően eltér. Egy strukturált ügyfélkérdésekre hangolt és tesztelt rendszer gyengén teljesíthet strukturálatlan belső kommunikáció esetén. Ami jól összefoglal, az rosszul osztályozhat. A határok ritkán nyilvánvalóak.

Van egy további szempont is. Ahogy az AI-rendszer munkakontextusa egyre változatosabb inputokkal telik meg, az összefüggések fenntartásának képessége romlik. A 2025-ös és 2026-os kutatások egybehangzóan megállapítják, hogy a kontextusminőség — a releváns, aktuális információ aránya a zajhoz képest — fontosabb a kontextus méreténél. Egy rendszer, amelyet tíz lazán összefüggő feladat egyidejű kezelésére kérnek, nem tízszer olyan képes, mint amely egyetlen feladatot végez jól. Valójában valószínűleg mindegyiknél gyengébben teljesít.

A jelzések, amelyeket valószínűleg elmulasztunk

A hatókör-kúszás ritkán okoz látható hibákat. Láthatatlanokat okoz. A rendszer tovább működik, az eredmények tovább érkeznek. A probléma az, hogy ezeket az eredményeket rossz mércével mérik: azzal, amit a rendszer korábban csinált, nem azzal, amit most kellene csinálnia.

Vannak azonban korai figyelmeztető jelek. Az első az eredményhomogenitás: a rendszer egyre hasonlóbb felépítésű válaszokat ad, függetlenül attól, mit kérdeztek tőle. Ez arra utal, hogy a legismertebb mintájába esik vissza ahelyett, hogy minden inputot gondosan elemezne. A második a jelzési csend: a rendszer abbahagyja a bizonytalanság jelzését és a határesetek emberi felülvizsgálatra irányítását — nem azért, mert képesebb lett, hanem mert kalibrációja eltolódott, és már nem ismeri fel, amit nem tud. A harmadik az input-kúszás: az inputok mennyisége, változatossága vagy formátuma lényegesen megváltozott a rendszer utolsó validálása óta, de senki sem tesztelte újra az új inputprofil alapján.

A kényelmetlenül feszítő igazság az, hogy a legtöbb szervezetnek nincs formalizált folyamata ezen jelek bármelyikének észlelésére. Van egy bevezetési folyamatuk, és van visszajelzési mechanizmusuk a nyilvánvaló hibákra. Nincs azonban rendszerszintű módszerük arra, hogy megkérdezzék: a rendszer hatóköre csendben kinőtte-e a tervezett képességeit.

Mit jelent a valódi irányítás a gyakorlatban?

A megoldás nem az, hogy a rendszereket annyira leszűkítjük, hogy ne lehessenek hasznosak. A hasznos AI-rendszereknek mozgástérre van szükségük. A megoldás az, hogy tudatosan kezeljük a hatókör bővítését, és kiépítjük azt a megfigyelési infrastruktúrát, amely az ilyen bővítést láthatóvá teszi.

A gyakorlatban ez három dolgot jelent. Első: fenntartott nyilvántartás arról, mire validálták eredetileg a rendszert — milyen inputokra, milyen outputokra, milyen feltételek mellett tesztelték. Ez nem bonyolult dokumentáció; egyetlen oldalnyi leírás a rendszer hatóköréről. A legtöbb szervezetnek nincs ilyen. Második: rendszeres felülvizsgálat — negyedévente általában elegendő —, amely összehasonlítja az aktuális használatot az eredeti szándékkal, és kifejezetten rákérdez, hogy a különbség nőtt-e. Harmadik: meghatározott eszkalációs útvonal — egyértelmű válasz arra a kérdésre, mit tegyen a rendszer, ha az általa validált hatókörön kívüli dolgokkal találkozik: jelezzen emberi felülvizsgálathoz, álljon meg, irányítsa más folyamathoz, vagy utasítsa el a feladatot.

Ez utóbbi különösen fontos. A jól tervezett AI-rendszer nem az, amelyik mindent megpróbál elvégezni. Az, amelyik ismeri a megbízható működésének határát, és ott másképpen viselkedik. Egy jól kialakított irányítási keretrendszer pontosan ezt fejezi ki: az emberi felügyeletnek nem folyamatos mikro-ellenőrzést kell jelentenie, hanem strukturált beavatkozási pontokat, amelyeket a cselekvés kockázatához és visszafordíthatóságához igazítanak. Nem minden lépést akarunk figyelni — azt akarjuk biztosítani, hogy a következményes bizonytalanság eljusson egy emberhez.

Három kérdés, amelyet érdemes feltenni ezen a héten

Nem kell formális audit ahhoz, hogy el lehessen kezdeni. Három gyakorlati kérdés a kockázatok nagy részét a felszínre hozza.

• Mit csinál a rendszer ma, konkrétan? Soroljuk fel a tényleges inputokat, az outputokat, és azokat a döntéseket vagy folyamatokat, amelyeket ezek táplálnak. Hasonlítsuk össze ezt az eredeti tervekkel. Ha nem tudjuk előállítani az eredeti tervet, maga ez a hiány az egyértelmű válasz.
• Megváltozott-e az inputprofil az utolsó validálás óta? Az input-változások a hatókör-kúszás leggyakoribb és legkevésbé figyelt forrásai. Új adatforrások, új csapattagok, új üzleti folyamatok, eltérő nyelvek vagy formátumok — bármelyik lényegesen megváltoztathatja a rendszer tényleges működési feltételeit anélkül, hogy bárki észrevenné.
• Mi történik, ha a rendszer olyan dologgal találkozik, amellyel nem kellene foglalkoznia? Ha a válasz az, hogy mégis foglalkozik vele, eszkalációs tervezési probléma áll fenn. A rendszernek meghatározott viselkedése kellene legyen a kompetenciahatárán: jelzés, megállás, átirányítás vagy visszautasítás. Ha nincs ilyen, pontosan ott működik korlátok nélkül, ahol a korlátok a legfontosabbak lennének.

A mélyebb kérdés: soha meg nem erősített bizalom

A hatókör-kúszás azért jár komoly üzleti következményekkel, mert a szervezet bizalmát csendben erodálja. A csapatok tovább támaszkodnak a rendszer eredményeire, döntések születnek ezek alapján — de a mögöttes megbízhatóság lassan romlott, és senki nem ment vissza ellenőrizni, hogy a belé vetett bizalom még indokolt-e.

A McKinsey 2025-ös AI-felmérése megállapítja, hogy bár a szervezetek 88 százaléka már alkalmaz AI-t legalább egy üzleti funkcióban, csupán körülbelül egyharmaduk kezdte el szisztematikusan bővíteni programjait. Az elfogadás és az érett bevetés között hatalmas a szakadék. Ennek egyik legfőbb oka pontosan ez: szervezetek, amelyek bevezetnek AI-rendszereket anélkül, hogy kiépítenék a szükséges üzemeltetési fegyelmet — azt, amely fenntartja a rendszert, miközben a körülötte lévő munka folyamatosan változik.

Azok a szervezetek, amelyek jól használják az AI-t, nem feltétlenül rendelkeznek kifinomultabb rendszerekkel. Tisztább határaik vannak. Tudják, mire való minden egyes rendszerük, látják, ha ez változni kezd, és van folyamatuk annak eldöntésére, hogy a változás elfogadható-e. Ez nem technológiai probléma — ez irányítási probléma, és jobban megoldható, mint gondolnánk.

Zárógondolat

A kereskedelmi forgalomban tartósan jól teljesítő AI-rendszerek nem a legszélesebb képességűek. Azok, amelyeknek a legvilágosabb a hatókörük, a legőszintébb az önismertük arról, hol ér véget a megbízhatóságuk, és a legátgondoltabb a folyamatuk arra, hogy az üzleti igény esetén hogyan bővítsék azt.

Ha van a szervezetükben egy visszatérő folyamat — és a legtöbb szervezetben ma már több ilyen is van —, ahol az AI-outputok következményes döntéseket táplálnak, érdemes megkérdezni: mikor ellenőrizte utoljára valaki, hogy a rendszer még mindig azt a feladatot végzi-e, amelyre tervezték? Nem azt, hogy termel-e eredményeket — hanem azt, hogy ezek az eredmények még mindig alkalmasak-e a céljukra.

Ha ez a kérdés valami érdemlegeset hoz felszínre, szívesen megvitatjuk.