Biztonsági céget vásárol fel az OpenAI

Az OpenAI felvásárolja a mesterséges intelligencia alapú rendszerek biztonságával foglalkozó Promptfoo vállalatot.
 

Az OpenAI sem akar minden fejlesztést saját maga megvalósítani, ezért úgy határozott, hogy a biztonság megerősítése terén inkább felvásárlással igyekszik felgyorsítani a védelmi megoldásainak fejlesztését. Ezúttal a Promptfoo nevű vállalatot szemelte ki magának, amelynek menedzsmentjével már meg is egyezett az akvizícióról.

A Promptfoo elsősorban azzal szerzett ismertséget, hogy LLM-ekhez, illetve MI-ügynökökhöz alakított ki olyan megoldásokat, amelyek révén azok biztonsági teszteknek, vizsgálatoknak vethetők alá. Ezekkel kimutathatóvá válhatnak a prompt injectionnel, a jailbreakeléssel és a bizalmas adatok nem megfelelő kezelésével kapcsolatos problémák is. Mindez olyan módon, hogy a tesztek könnyen beilleszthetők a már futó fejlesztési folyamatokba, és szimulált támadásokkal tehetők próbára az egyes rendszerek. 

Az OpenAI jelezte, hogy a Promptfoo technológiáit a Frontier platformjába fogja integrálni, ezáltal annak védelmi képességeit terjeszti ki. 

"A Promptfoo komoly mérnöki szakértelemmel rendelkezik a vállalati szintű mesterséges intelligencia rendszerek értékelésében, védelmében és tesztelésében. Munkájuk segíti a szervezeteket a biztonságos mesterséges intelligencia alkalmazások telepítésében. Izgatottan várjuk, hogy ezeket a képességeket közvetlenül a Frontierbe is beépíthessük"

- nyilatkozta Srinivas Narayanan, az OpenAI B2B alkalmazásokért felelős műszaki igazgatója.

A felvásárlás kapcsán felmerült a kérdés, hogy milyen sors vár a Promptfoo által jelenleg biztosított nyílt forráskódú (CLI-t és egyéb szoftverkönyvtárakat magukban foglaló) projektekre. Ezzel összefüggésben az OpenAI úgy nyilatkozott, hogy ezeket nem fogja megszüntetni, sőt erősíteni kívánja a nyílt forráskódú fejlesztéseket.

A felvásárlás pénzügyi részleteit a két vállalat egyelőre nem hozta nyilvánosságra.