Bakizott a mesterséges intelligencia

A Microsoft elismerte, hogy a Gmailből származó e-maileket a mesterséges intelligencia alapú tartalomszűrője tévesen minősítette spamnek.
 

A mesterséges intelligencia alapú védelmi megoldások egyre nagyobb szerepet kapnak a tartalomszűrők esetében is. Különösen igaz ez az elektronikus levelek vizsgálatára, ahol a hagyományos szűrési technológiák már nem elégségesek.
 
Már a hagyományos tartalomszűrők esetében is komoly kihívást jelentett a tévésen kategorizált küldemények számának csökkentése. Egyrészt biztosítani kell, hogy a valóban kéretlen, kártékony küldemények ne kerülhessenek a felhasználók postafiókjába vagy azokról megfelelő figyelmeztetéseket kapjanak. Másrészt viszont a legitim leveket nem szabad eltávolítani, mert az is komoly problémákat vethet fel.
 
Hasonlóan sok más vállalathoz, a Microsoft is folyamatosan fejleszti azon tartalomszűrő technológiáit, amelyek gépi tanulással képesek a kéretlen küldemények detektálására. Ilyen védelmi megoldás egyebek mellett az Exchange Online mögött is megtalálható. Az utóbbi napokban pedig pontosan ez okozott problémákat.
 
A Microsoft nemrégen frissítette az Exchange Online tartalomszűrőjének egyik fontos pillérét jelentő mesterséges intelligencia modelljét. Mint utóbb kiderült ez okozta azt, hogy a levelezőrendszer a Gmailből beérkező leveleket kéretlennek vagy kártékonynak minősítette, és azokat a spam mappába helyezte át. A kellemetlen jelenség április 25-én ütötte fel a fejét. Az ezzel kapcsolatos felhasználói panaszokat a vállalat kivizsgálta, és megállapította, hogy az észrevételek jogosak.
 
A Microsoft jelezte, hogy a vizsgálatok során azonosította a probléma forrását, és arra jutott, hogy azt az egyik gépi tanulási (ML) modellje okozta, amelyet nem sokkal korábban frissített. A modellt állítólag az keverte meg, hogy korábbi spam kampányokban küldött levelek nagyon hasonlítottak legitim küldeményekhez, és ezért az e-maileket nem tudta megfelelően osztályozni a modell.
 
A cég végül úgy döntött, hogy egyelőre visszatér a korábbi modelljéhez, amivel meg is oldódott a gmailes probléma.
 

"Folytatjuk annak vizsgálatát, hogy miként tudnánk a gépi tanulásra épülő detektálási folyamatainkat olyan módon fejleszteni, hogy csökkenthetévé váljon a téves (false positive) detektálások száma, és megelőzhető legyen a jövőbeli hasonló esetek előfordulása"

- közölte a Microsoft.