Meta testează o nouă funcție bazată pe inteligență artificială care își propune să-i protejeze pe utilizatori de mesajele prin care escrocii încearcă să-i păcălească. Facilitatea, denumită Scam Alert, folosește învățarea automată pentru a identifica conversațiile suspecte și a avertiza utilizatorul înainte ca acesta să cadă victimă unei posibile fraude.
Funcția este lansată în versiune beta și, cel puțin în această etapă, este opțională. Utilizatorii trebuie să o activeze din meniul de configurare al aplicației.
AI-ul avertizează, dar nu decide în locul utilizatorului
Atunci când sistemul identifică un mesaj pe care îl consideră suspect, utilizatorul primește un avertisment care îi atrage atenția că ar putea fi ținta unei tentative de înșelătorie. Avertismentul este vizibil doar pentru persoana care primește mesajul, expeditorul nefiind informat că discuția sa a fost analizată ca potențial frauduloasă.
Meta precizează că inteligența artificială nu blochează automat conversația și nu ia alte măsuri în locul utilizatorului. Acesta poate decide dacă raportează mesajul, blochează expeditorul sau continuă conversația.
Ce se întâmplă dacă AI-ul greșește?
Ca orice sistem automat de detecție, Scam Alert poate identifica în mod eronat o conversație legitimă drept suspectă. Într-o astfel de situație, utilizatorul poate continua discuția și poate marca conversația drept sigură. Astfel, sistemul nu ar trebui să mai afișeze pe viitor avertismente pentru mesajele provenite de la respectiva persoană.
Noua funcție vine într-un context în care tentativele de fraudă prin mesaje au devenit tot mai sofisticate, escrocii folosind inclusiv identități false, povești inventate sau mesaje concepute să provoace reacții rapide din partea victimelor. Deocamdată, Scam Alert este disponibilă în beta și trebuie activată manual, ceea ce înseamnă că utilizatorii care nu doresc această funcție nu sunt obligați să o folosească.
Nu există niciun comentariu deocamdată. Fii primul care comentează!