AI avslöjar bedragare på nätet
När Clark Hoefnagels’ mormor blev lurad på 27 000 dollar förra året, kände han sig tvingad att agera.
”Det kändes som att min familj var sårbar och att jag behövde göra något för att skydda dem,” säger han. ”Det var ett ansvar att hantera alla tekniska frågor för min familj.”
Som en del av sina insatser använde Hoefnagels, bosatt i Ontario, Kanada, AI-chatboten ChatGPT för att analysera de phishing-mejl som hans mormor hade fått. Han var nyfiken på om chatboten skulle känna igen dem som bedrägliga, vilket den omedelbart gjorde. Detta ledde till idén som växte till företaget GetCatch, ett AI-system som har tränats för att identifiera bedrägerimejl.
Hur GetCatch fungerar
GetCatch är för närvarande kompatibelt med Googles Gmail och skannar inkommande mejl för att markera de som bedöms vara bedrägliga eller potentiellt bedrägliga.
Generativ AI och dess användningsområden
AI-verktyg som ChatGPT, Google Gemini, Claude och Microsoft Copilot är exempel på generativ AI, som kan skapa nytt innehåll. Ursprungligen användes dessa verktyg för att generera text som svar på en fråga eller begäran, men de kan nu även skapa foton, målningar, röstinnehåll, komponera musik eller skapa dokument. Människor från alla samhällsskikt och branscher använder AI för att förbättra sitt arbete, men tyvärr gör även bedragare det.
Mörka sidan av AI
På den mörka webben finns produkter som FraudGPT, som tillåter brottslingar att skapa innehåll för olika bedrägerier, inklusive phishing-mejl och falska webbsidor för att stjäla personlig information. En annan oroande utveckling är användningen av röstkloning, som kan användas för att övertyga en släkting om att en älskad person behöver ekonomisk hjälp eller till och med att personen har blivit kidnappad och kräver lösensumma.
Växande problem med AI-bedrägerier
Statistik visar en oroande ökning av AI-bedrägerier. Rapporten från Cifas visar att användningen av AI-verktyg för att lura banksystem ökade med 84 % under 2022. I USA rapporteras en liknande utveckling, där AI har lett till en ökad sofistikering av cyberbrott.
Kommentera: