Képekkel manipulálható a mesterséges intelligencia
Biztonsági kutatók egy olyan módszert dolgoztak ki, ami képek segítségével veszi rá a mesterséges intelligencia alapú rendszereket nemkívánatos műveletek végrehajtására.
Német egyetemi kutatók már 2020-ban kidolgoztak egy olyan technikát, ami képekkel történő visszaélésekre ad módot a mesterséges intelligencia alapú rendszerek esetében. Ez azonban akkor még inkább csak elméleti jellegű megközelítése volt egy prompt injection alapú technikának. Mára viszont a nagy nyelvi modellek terjedésével kézzelfoghatóvá váltak a kockázatai. Ennek demonstrálására a Trail of Bits két biztonsági kutatója, Kikimora Morozova és Suha Sabi Hussain vállalkozott.
A kutatók által végrehajtott szimulált támadás arra épült, hogy a különféle mesterséges intelligencia modellek használatakor a felhasználó által feltöltött képek különböző átalakításokon esnek át, amelyek során legtöbbször csökken a felbontásuk. Emellett különféle interpolációs és egyéb műveletek révén olyan módon alakulnak át, hogy a feldolgozásuk kevésbé legyen erőforrásigényes.
Prémium előfizetéssel!
-
A Firebird egy közepes veszélyességű hiba miatt kapott frissítést.
-
A Citrix egy kritikus, nulladik napi sebezhetőséget is megszüntetett a NetScaler ADC/Gateway kapcsán.
-
A FreePBX kapcsán egy veszélyes, nulladik napi biztonsági hibára derült fény.
-
Az Apache Tomcat kapcsán egy biztonsági résre derült fény.
-
Az IBM több mint 50 biztonsági hibajavítást adott ki a QRadar SIEM-hez.
-
Az Intel a PROSet/Wireless WiFi szoftvere kapcsán egy biztonsági hibáról számolt be.
-
Az ImageMagick frissítésével négy sebezhetőség szüntethető meg.
-
A Docker Desktop kapcsán egy biztonsági hiba javítása vált szükségessé.
-
Három biztonsági hiba sújtja az Autodesk AutoCAD alkalmazásait.
-
Az Apple több operációs rendszerét is érintő hibát javított.
Az ESET közzétette legfrissebb kiberfenyegetettségi jelentését, amely a 2024. december és 2025. május közötti időszakban tapasztalt kiberkockázatokat mutatja be
A nyári szünet idején a gyerekek több időt töltenek otthon, sokszor felügyelet nélkül – ez pedig nemcsak a fizikai, hanem az online biztonság szempontjából is kihívásokat jelent.
