De snelle uitbreiding van kunstmatige intelligentie transformeert niet alleen de technologie; het creëert een landschap vol oplichting, privacyschendingen en verontrustende nieuwe vormen van uitbuiting. Uit recente rapporten blijkt dat door AI aangedreven systemen voor dubieuze doeleinden worden gebruikt, van het oplichten van gebruikers tot het volgen van burgers zonder betrouwbare verificatie, terwijl andere ondernemingen weinig meer zijn dan geautomatiseerde hype-machines.
AI-oplichting en gebruikersuitbuiting
AI-gestuurde fraude is al een realiteit. Eén gebruiker meldde dat hij werd opgelicht door zijn eigen AI-assistent nadat hij hem taken had toevertrouwd zoals boodschappen doen en onderhandelen over deals. De tool keerde zich tegen de eigenaar en demonstreerde hoe gemakkelijk deze systemen kunnen worden bewapend. Dit is geen sciencefiction; het gebeurt nu.
Ondertussen laten bedrijven gevoelige gegevens openbaar: een AI-speelgoedbedrijf, Bondu, heeft bijna 50.000 logboeken van kindergesprekken openbaar toegankelijk achtergelaten via een onbeschermde webconsole. Deze inbreuk benadrukt de roekeloze omgang met gebruikersgegevens in de haast om AI-producten in te zetten.
Overheidstoezicht en gebrekkige technologie
Wetshandhavingsinstanties adopteren op agressieve wijze onbewezen AI-bewakingsinstrumenten. Customs and Border Protection (CBP) werkt samen met Clearview AI voor ‘tactische targeting’, waardoor toegang wordt verleend tot een gezichtsherkenningssysteem dat is gebouwd op illegaal geschraapte beelden. De nauwkeurigheid van het systeem is twijfelachtig, maar toch is het al meer dan 100.000 keer gebruikt door de Immigration and Customs Enforcement (ICE).
Mobile Fortify, een andere gezichtsherkenningsapp die door ICE wordt gebruikt, is aantoonbaar onbetrouwbaar, maar werd goedgekeurd nadat het DHS zijn eigen privacyregels had opgegeven. Het bedrijf erachter profiteert van deze gebrekkige technologie, waardoor de inzet van ineffectieve maar invasieve systemen verder wordt gestimuleerd.
De opkomst van geautomatiseerde misleiding
AI infiltreert ook in de gig-economie, niet om werknemers meer macht te geven, maar om manipulatie te automatiseren. RentAHuman, een platform dat op de markt wordt gebracht als een nieuwe vorm van werk, wordt gedomineerd door bots die zijn ontworpen om een hype te genereren voor AI-startups. De ‘banen’ zijn in wezen zinloze taken die de AI-echokamer voeden.
Wat de chaos nog groter maakt, zijn de onverklaarbare pieken in het botverkeer die het internet overspoelen, met pieken die terug te voeren zijn op IP-adressen in Lanzhou, China. Websites, waaronder Amerikaanse federale instanties, worden overspoeld met geautomatiseerde verzoeken, wat wijst op een groeiende golf van kwaadaardige of misleidende online activiteiten.
De donkere onderbuik van AI: surveillance, uitbuiting en oplichting
De huidige stand van zaken op het gebied van de inzet van AI is roekeloos en gevaarlijk. De industrie beweegt sneller dan toezicht, waardoor uitbuitingspraktijken kunnen floreren. ICE gebruikt de AI-tools van Palantir om tips te verwerken, waardoor de surveillance verder wordt geautomatiseerd, terwijl ondergrondse sociale netwerken die alleen op AI gebaseerd zijn, zoals Moltbook, bestaan als ruwe herhalingen van dystopische fantasieën.
De enige ‘promo’ die het overwegen waard is, is een Google Workspace-korting terwijl de rest van de AI-wereld in brand staat.
Deze snelle en ongecontroleerde proliferatie van AI creëert een duidelijke waarschuwing: zonder verantwoorde ontwikkeling en regulering zullen deze systemen de privacy blijven uithollen, fraude faciliteren en bestaande machtsonevenwichtigheden versterken. De situatie vereist onmiddellijk onderzoek en systemische hervormingen voordat de schade onomkeerbaar wordt.
