​Zárt vállalati AI vagy publikus chatbot?

A generatív AI modellek rövid idő alatt a mindennapi munkavégzés részévé váltak, de nagyon nem mindegy, hogy melyiket használjuk.
 

Segítenek szöveget írni, dokumentumokat összefoglalni, adatokat értelmezni és felgyorsítani az ismétlődő vagy előkészítő feladatokat. Azonban fontos látni, hogy nem minden feladatot érdemes a bárki által használható, publikus AI modellekre bízni, főleg nem vállalati környezetben.

Nem a kérdés, hanem a bevitt adat számít

Egy nyilvánosan elérhető chatbot ötleteléshez vagy nyilvános információk feldolgozásához megfelelő eszköz lehet. Kockázat akkor jelenik meg, amikor egy munkatárs szerződést, ügyféllistát, pénzügyi kimutatást, forráskódot, belső szabályzatot vagy személyes adatot ad ki harmadik félnek, vagyis az AI-nak.

Ilyenkor a vállalat információvagyonának egy része kikerül külső környezetbe. Nem mindegy, hogy hol tárolják, meddig őrzik meg, felhasználják-e fejlesztési, modelltanítási célokra, mely régiókban dolgozzák fel és milyen szerződéses garanciák vonatkoznak rá. A kiberbiztonsági szakértők ezért az adatkezelés, az adatrezidencia, a jogosultságkezelés és az adattörlés előzetes vizsgálatát is szükségesnek tartják.

A vállalati előfizetés nem feltétlenül biztost zárt rendszert

Egy üzleti AI-előfizetés biztosíthat központi adminisztrációt, erősebb adatvédelmi feltételeket és olyan vállalásokat, amelyek szerint az ügyfél adatait nem használják modelltréningre. Ettől azonban a megoldás még külső szolgáltatás, ezért mindig a konkrét technikai beállításokat és szerződési feltételeket kell ellenőrizni.

A „zárt AI” sem csupán azt jelenti, hogy a rendszer nem nyilvános. A valódi kontrollhoz szerepkör alapú jogosultságkezelés, naplózhatóság, szabályozott adatforrások és kontrollált adatmegőrzés szükséges. Egy rosszul beállított belső rendszer is hozzáférést adhat olyan dokumentumokhoz egy munkatársnak, amelyekhez eredetileg nem lenne hozzáférése. Ezért az AI-s megoldásoknak ugyanazokat a jogosultsági kontrollokat kell érvényesíteniük, mint az informatikai infrastruktúra bármely elemének.

A biztonságos vállalati AI a saját tudásra épít

A vállalati környezetbe integrált AI értéke abból származik, hogy egy adott felhasználónak a megfelelő belső információt teszi elérhetővé. Egy ilyen rendszer a dokumentumokat, adatbázisokat, ERP- és CRM-adatokat kontrollált módon kapcsolja össze, a válaszokat pedig visszavezethető forrásokkal támasztja alá.

Erre épülnek a modern vállalati AI tudásplatformok: a szervezet saját adatforrásait teszi természetes nyelven kereshetővé, forráshivatkozással és szerepkörre szabott hozzáféréssel. Így az adatkezelés kontrollálható marad, és az is ellenőrizhető, hogy egy válasz melyik dokumentumból vagy rendszerből származik.

Hol húzódik a határ?

A publikus chatbot addig használható biztonságosan, amíg a feladat megoldása nem igényel bizalmas, személyes vagy üzletileg érzékeny adatot. Amint belső dokumentumra, ügyféladatra, szerződésre, pénzügyi információra vagy vállalati rendszerből származó adatra van szükség, kontrollált vállalati környezet indokolt.

A valódi kérdés az, hogy a vállalat tudja-e, hogy milyen adat kerül a rendszerbe, ki fér hozzá, hol történik a feldolgozás, meddig marad meg az információ és visszakövethető-e a válasz. Az adatbiztonsági határ ott húzódik, ahol ezekre a kérdésekre már nem adható egyértelmű válasz.

Forrás: FrontEndART