Společnost OpenAI odhalila a zastavila rozsáhlou operaci se sídlem v Kambodži, která zneužívala ChatGPT k podporě více typů podvodů včetně investičních schémat, romantických podvodů a online hazardu. Podvodníci také používali ChatGPT k napodobování reálných osob a k vytváření přesvědčivých falešných komunikací. Operace byla zaměřena na získávání finančních prostředků od oběí prostřednictvím manipulace a sociálního inženýrství. OpenAI údaje o incidentu údajně sdílela se zeměmi, kterých se podvody týkaly, aby mohly provést vlastní vyšetřování a závěry. Případ demonstruje rostoucí riziko zneužívání pokročilých AI nástrojů pro kriminální účely a upozorňuje na potřebu efektivnějších kontrolních mechanismů při používání takových technologií.
OpenAI zastavila podvodnou operaci v Kambodži využívající ChatGPT
Zdroje
- OpenAI Blog: Disrupting a Criminal Scam Operation
Související články