Képekkel manipulálható a mesterséges intelligencia

​Biztonsági kutatók egy olyan módszert dolgoztak ki, ami képek segítségével veszi rá a mesterséges intelligencia alapú rendszereket nemkívánatos műveletek végrehajtására.
 

Német egyetemi kutatók már 2020-ban kidolgoztak egy olyan technikát, ami képekkel történő visszaélésekre ad módot a mesterséges intelligencia alapú rendszerek esetében. Ez azonban akkor még inkább csak elméleti jellegű megközelítése volt egy prompt injection alapú technikának. Mára viszont a nagy nyelvi modellek terjedésével kézzelfoghatóvá váltak a kockázatai. Ennek demonstrálására a Trail of Bits két biztonsági kutatója, Kikimora Morozova és Suha Sabi Hussain vállalkozott.
 
A kutatók által végrehajtott szimulált támadás arra épült, hogy a különféle mesterséges intelligencia modellek használatakor a felhasználó által feltöltött képek különböző átalakításokon esnek át, amelyek során legtöbbször csökken a felbontásuk. Emellett különféle interpolációs és egyéb műveletek révén olyan módon alakulnak át, hogy a feldolgozásuk kevésbé legyen erőforrásigényes.
 
Olvassa tovább
Prémium előfizetéssel!
 
  1. 4

    Kritikus veszélyességű sérülékenység található az Eximben.

  2. 4

    A Samba frissítésével három biztonsági hiba szüntethető meg.

  3. 4

    Az Adobe három hibajavítást adott ki a Adobe Premiere alkalmazásához.

  4. 4

    Az Adobe négy biztonsági rést foltozott be az Illustrator szoftveren.

  5. 4

    Az Adobe frissítette a Commerce és Magento megoldásait.

  6. 4

    Az Adobe After Effects frissítésével négy sérülékenység szüntethető meg.

  7. 4

    A Fortinet két kritikus veszélyességű sebezhetőségről számolt be.

  8. 4

    Letölthetővé váltak a Windows májusi biztonsági frissítései.

  9. 4

    A Microsoft Office frissítésével 19 biztonsági rés foltozható be.

  10. 4

    A Microsoft hat biztonsági hibát javított a SharePoint kapcsán.

Partnerhírek
Apple Pay-csalások: hat gyakori módszer, amire érdemes figyelni

Az Apple Pay az egyik legnépszerűbb mobilfizetési szolgáltatás világszerte: becslések szerint több százmillió felhasználóval és évente több ezermilliárd dollárnyi tranzakcióval.

Amikor az üzleti kapcsolatépítés kockázattá válik

A szakmai kapcsolatépítés egyik legfontosabb online terepe, a LinkedIn ma már több mint egymilliárd felhasználót köt össze világszerte.

hirdetés
Közösség