Képekkel manipulálható a mesterséges intelligencia
Biztonsági kutatók egy olyan módszert dolgoztak ki, ami képek segítségével veszi rá a mesterséges intelligencia alapú rendszereket nemkívánatos műveletek végrehajtására.
Német egyetemi kutatók már 2020-ban kidolgoztak egy olyan technikát, ami képekkel történő visszaélésekre ad módot a mesterséges intelligencia alapú rendszerek esetében. Ez azonban akkor még inkább csak elméleti jellegű megközelítése volt egy prompt injection alapú technikának. Mára viszont a nagy nyelvi modellek terjedésével kézzelfoghatóvá váltak a kockázatai. Ennek demonstrálására a Trail of Bits két biztonsági kutatója, Kikimora Morozova és Suha Sabi Hussain vállalkozott.
A kutatók által végrehajtott szimulált támadás arra épült, hogy a különféle mesterséges intelligencia modellek használatakor a felhasználó által feltöltött képek különböző átalakításokon esnek át, amelyek során legtöbbször csökken a felbontásuk. Emellett különféle interpolációs és egyéb műveletek révén olyan módon alakulnak át, hogy a feldolgozásuk kevésbé legyen erőforrásigényes.
Prémium előfizetéssel!
-
Kritikus veszélyességű sérülékenység található az Eximben.
-
A Samba frissítésével három biztonsági hiba szüntethető meg.
-
Az Adobe három hibajavítást adott ki a Adobe Premiere alkalmazásához.
-
Az Adobe négy biztonsági rést foltozott be az Illustrator szoftveren.
-
Az Adobe frissítette a Commerce és Magento megoldásait.
-
Az Adobe After Effects frissítésével négy sérülékenység szüntethető meg.
-
A Fortinet két kritikus veszélyességű sebezhetőségről számolt be.
-
Letölthetővé váltak a Windows májusi biztonsági frissítései.
-
A Microsoft Office frissítésével 19 biztonsági rés foltozható be.
-
A Microsoft hat biztonsági hibát javított a SharePoint kapcsán.
Az Apple Pay az egyik legnépszerűbb mobilfizetési szolgáltatás világszerte: becslések szerint több százmillió felhasználóval és évente több ezermilliárd dollárnyi tranzakcióval.
A szakmai kapcsolatépítés egyik legfontosabb online terepe, a LinkedIn ma már több mint egymilliárd felhasználót köt össze világszerte.
