Komoly összefogás indult az AI biztonságáért

​Az Nvidia informatikai nagyvállalatok bevonásával egy olyan kezdeményezést hívott életre, amely az AI biztonságának fokozásában jelentős szerepet kaphat a jövőben.
 

Az Nvidia is pontosan látja azt, hogy a mesterséges intelligencia alapú technológiák rohamos fejlődésével egyre nehezebb tartani a lépést védelmi oldalon. Ennek következtében úgy határozott, hogy az eddigieknél hathatósabban áll hozzá a nyíl forrású biztonsági megoldások népszerűsítéséhez.

A vállalat bejelentette, hogy megalapította az Open Secure AI Alliance nevű szövetséget, amelybe nagy nevű tagokat toborzott. Így például csatlakoztak a kezdeményezéshez a következő cégek is: Adobe, Cisco, Cloudflare, CrowdStrike, Dell, HPE, Hugging Face, IBM, LangChain, Microsoft, OpenClaw, Palo Alto Networks, Red Hat, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, SpaceXAI.

A fenti vállalatok mellett a szövetségből nem maradt ki a Linux Foundation és az általa nemrégen bejelentett Akrites projekt sem. Emellett az OpenSSF közösség is csatlakozott az új szerveződéshez. Mindez persze teljesen érthető, hiszen az Open Secure AI Alliance alapvetően a nyílt forrású és súlyú modellekre, forráskódokra, technológiákra, illetve azok fejlesztésére és megosztására helyezi a hangsúlyt. 

A szövetség berkein belül kiemelt jelentőséget fog kapni a NOOA projekt, és a HPE által felkarolt, zero-trust elvekre épülő azonosságkezelő rendszer, amely kriptográfiai módszerekkel támogatja az AI-ágensek és szolgáltatások kontrollját. A Hugging Face a modellek súlytárolásához használt formátumát dobja be a közösbe, míg az IBM és a Red Hat a Lightwell projekt keretében igyekszik majd hozzájárulni az automatizált sérülékenységkezeléshez. A SpaceXAI pedig a Grok Build AI-alapú kódoló ügynök nyílt súlyú modelljét ajánlotta fel.

Az Nvidia rámutatott arra, hogy a mai világban mind a nyílt, mind a zárt védelmi megoldásokra szükség van az AI jelentette kockázatok csökkentéséhez. Ennek fényében pedig a megfelelő utat az jelenti, ha a védelmi oldal minél több nyílt védelmi rendszer közül tudja kiválasztani a legmegfelelőbbet a biztonság, az átláthatóság és a kontroll kialakításához.