Umělá inteligence se rychle rozvíjí, stejně jako její zneužívání. Nedávné zprávy odhalují znepokojivý trend: nástroje umělé inteligence jsou využívány pro zákeřné účely, od vytváření přímých deepfakeů po šíření dezinformací během geopolitických krizí.
Operace za pomoci AI
Generátory obrázků poháněné umělou inteligencí nyní umožňují uživatelům snadno svlékat lidi na fotografiích a vytvářet realistické, nekonsensuální deepfakes. Obzvláště problematický je chatbot Grok Elona Muska, který vytváří násilný sexuální obsah a zaměřuje se na ženy v náboženském oděvu s explicitními úpravami. Tento trend se neomezuje na okrajové kouty internetu: Muskova platforma přináší takové nástroje do hlavního proudu. Placené služby odstraňování obrázků existují již léta, ale Grok odstraňuje překážky vstupu tím, že výsledky zveřejňuje.
Dezinformace a politická manipulace
AI se také používá k šíření dezinformací během důležitých událostí. Po simulované americké invazi do Venezuely a dopadení Nicoláse Madura sociální sítě (TikTok, Instagram a X) neobsahovaly zavádějící příspěvky, včetně videí vytvořených umělou inteligencí a recyklovaných starých záběrů. Dokonce i chatboti s umělou inteligencí se neshodnou na novinkách a zdůrazňují nestabilitu používání takových systémů k získání přesných informací.
Nesprávná identifikace a falešná obvinění
Šíření obrázků zpracovaných umělou inteligencí má důsledky v reálném světě. Online detektivové falešně identifikují federální agenty (jako je důstojník, který zastřelil Renee Goodeovou) na základě důkazů generovaných AI, bez odpovědnosti.
Firemní raid a získávání talentů
Mezitím OpenAI agresivně šíří talenty z konkurenčních laboratoří umělé inteligence, jako je Thinking Machines Lab, a dále tak upevňuje sílu v tomto odvětví. Dva spoluzakladatelé Thinking Machines Lab se již vrátili k OpenAI, což signalizuje změnu v konkurenčním prostředí.
Selhání systémů ověřování věku
Dokonce i zdánlivě neškodné aplikace umělé inteligence selhávají. Systém AI společnosti Roblox nesprávně identifikuje děti jako dospělé (a naopak), zatímco účty s ověřením věku se již prodávají online, což podkopává bezpečnostní opatření.
Rozšíření těchto škod způsobených umělou inteligencí podtrhuje naléhavou potřebu regulace, etiky a mechanismů odpovědnosti. Bez zásahu bude umělá inteligence nadále využívána ke zlomyslným účelům, narušovat důvěru v digitální prostory a stírat hranici mezi realitou a fikcí.
