Sears Home Services, jeden z největších poskytovatelů služeb opravy domácích spotřebičů ve Spojených státech, nechal miliony konverzací se zákazníky veřejně dostupné online na neomezenou dobu. Bezpečnostní výzkumník Jeremiah Fowler objevil tři nezabezpečené databáze obsahující 3,7 milionu protokolů chatu, 1,4 milionu zvukových souborů a odpovídajících přepisů od roku 2024 do současnosti. Tento únik vedl k prozrazení citlivých osobních informací včetně jmen, adres, telefonních čísel, dílů zařízení a plánovaných schůzek.
Únik dat a reakce
Mezi vystavenými daty byly interakce s „Samantha“, chatbotem Sears s umělou inteligencí využívající technologii „kAIros“. Tyto rozhovory byly vedeny v angličtině i španělštině, což vyvolalo obavy ohledně bezpečnostních praktik společnosti Transformco, mateřské společnosti Sears. Fowler informoval společnost Transformco na začátku února, poté byly databáze zajištěny, ale trvání úniku zůstává nejasné. Transformco navzdory opakovaným žádostem odmítlo incident komentovat.
Problémy s ochranou soukromí mimo protokoly chatu
Co je na tomto úniku obzvláště znepokojivé, je povaha odhalených zvukových souborů. Některé nahrávky pokračovaly ještě hodiny poté, co si zákazníci mysleli, že hovory skončily, což vedlo k zachycení soukromých rozhovorů a hluku na pozadí. Nahrávky zahrnovaly konverzace, které nesouvisely se Sears, což naznačovalo vážné nadměrné shromažďování dat. * Potenciál pro zneužití prostřednictvím phishingových útoků a záručních podvodů je vysoký vzhledem k podrobným informacím o zákaznících, které jsou k dispozici.
Frustrace zákazníků a zkušenosti s AI
Protokoly také ukazují častou frustraci zákazníků s chatbotem AI. Mnoho uživatelů rychle požádalo o lidskou pomoc, ale narazili na odpor robota, který trval na jeho účinnosti. V jednom případě zákazník opakoval „Kde je můj technik?“ 28krát za sebou, zatímco jiný nazval robota „počítačem“ po sérii neužitečných odpovědí. To zdůrazňuje výzvy spojené s integrací umělé inteligence do služeb zákazníkům, zvláště když technologie zaostává za očekáváním.
Širší důsledky rizik AI
Tento incident poukazuje na rostoucí rizika spojená s nasazením AI do front-end rolí. I když společnosti možná usilují o dosažení úspor prostřednictvím automatizace, bezpečnost musí být prioritou. Carissa Veliz, profesorka z Oxfordské univerzity, poznamenává, že zákazníci často nemají jinou možnost, než důvěřovat společnostem s jejich citlivými údaji. Prosazuje větší transparentnost, možnost hovořit s živým operátorem a možnost odmítnout nahrávání úplně.
Narušení dat Sears slouží jako ostrá připomínka, že i známé značky mohou ohrozit soukromí zákazníků kvůli neopatrné implementaci AI. Incident zdůrazňuje potřebu robustních bezpečnostních protokolů a etických úvah při integraci umělé inteligence do interakcí se zákazníky.
