Képekkel manipulálható a mesterséges intelligencia
Biztonsági kutatók egy olyan módszert dolgoztak ki, ami képek segítségével veszi rá a mesterséges intelligencia alapú rendszereket nemkívánatos műveletek végrehajtására.
Német egyetemi kutatók már 2020-ban kidolgoztak egy olyan technikát, ami képekkel történő visszaélésekre ad módot a mesterséges intelligencia alapú rendszerek esetében. Ez azonban akkor még inkább csak elméleti jellegű megközelítése volt egy prompt injection alapú technikának. Mára viszont a nagy nyelvi modellek terjedésével kézzelfoghatóvá váltak a kockázatai. Ennek demonstrálására a Trail of Bits két biztonsági kutatója, Kikimora Morozova és Suha Sabi Hussain vállalkozott.
A kutatók által végrehajtott szimulált támadás arra épült, hogy a különféle mesterséges intelligencia modellek használatakor a felhasználó által feltöltött képek különböző átalakításokon esnek át, amelyek során legtöbbször csökken a felbontásuk. Emellett különféle interpolációs és egyéb műveletek révén olyan módon alakulnak át, hogy a feldolgozásuk kevésbé legyen erőforrásigényes.
Prémium előfizetéssel!
-
A Mautic kapcsán egy biztonsági hibára derült fény.
-
A PyPDF biztonsági hibája szolgáltatásmegtagadásokat segíthet elő.
-
A 7-Zip egy fontos biztonsági javítást kapott.
-
A Notepad++ két sebezhetőséget tartalmaz.
-
A Joomla! fejlesztői 10 biztonsági résről számoltak be.
-
A Roundcube Webmail újabb fontos biztonsági frissítést kapott.
-
Az Asterisk fejlesztői biztonsági hibákról számoltak be.
-
Az ISC BIND kapcsán öt biztonsági hibajavítás vált elérhetővé.
-
A Trend Micro Apex One-hoz fontos biztonsági frissítések érkeztek.
-
A phpMyFAQ fejlesztői öt biztonsági hibáról adtak tájékoztatást.
Gyermeknap közeledtével érdemes arra is gondolni, milyen digitális környezetben nőnek fel ma a gyerekek és ebben milyen szerepet játszanak az egyre népszerűbb AI chatbotok.
Az ESET kiberbiztonsági kutatói egy új, CallPhantom névre keresztelt androidos csalássorozatot azonosítottak a Google Play áruházban, amely valótlan ígéretekkel próbál pénzt kicsalni a felhasználóktól.
