Bevásárolt az Anthropic

Az Anthropic felvásárolta az Opaque Systems nevű vállalatot, amely AI-biztonsági technológiák fejlesztésével foglalkozott.
 

Az Anthropic is szükségesnek látja, hogy minden lehetőséget megragadjon arra, hogy az AI-technológiáinak biztonságát fokozni tudja. E tekintetben úgy határozott, hogy az Opaque Systems felvásárlásával jut hozzá olyan megoldásokhoz, amelyek révén további előrelépést tud elérni az AI-védelem szempontjából.

Az Opaque története tulajdonképpen egy kutatási projekttel kezdődött a UC Berkeley RISELab berkein belül körülbelül egy évtizeddel ezelőtt. Az alapítók között volt Ion Stoica, a Databricks vezetője, valamint Raluca Ada Popa kriptográfiai és rendszerbiztonsági mérnök is, aki most a Google DeepMind csapatában dolgozik.

Az Opaque az AI-fejlődésével párhuzamosan fejlesztette a különféle védelmi technológiáit. A kutatásait jól át tudta fordítani éles környezetekben használható megoldásokra, ezzel egyre ismertebbé vált.  

Az utóbbi időszakban a cég vezetése úgy látta, hogy az AI rohamos fejlődésével a felmerülő problémák száma is jelentősen megnőtt, így ma már nem elég csak a modellek és az adatok védelmére fókuszálni. A szervezeteknek ugyanis szükségük van arra, hogy független ellenőrzéseket tudjanak végezni az AI-rendszerek és ágensek esetében. Mindez azt is jelenti, hogy az AI-rendszerek kapcsán eddig leginkább csak feltételezett megbízhatóságot valóban ellenőrizhetővé és bizonyíthatóvá kell tenni, amiben kriptográfiai módszerek is segíthetnek.

Az Opaque egy meglehetősen széles közösséget is maga mögött tudhat a nyílt forrású projektjei révén. Ezek közé tartozik egyebek mellet az Agent Governance Toolkit, a TRACE, a Confidential MCP és a Weight Custody Manifest is.

A két vállalat egyelőre nem hozta nyilvánosságra a felvásárlás pénzügyi hátterét.