AI ingezet om online misdaden tegen kinderen te bestrijden

Volgens een maker van AI-tools voor wetshandhavers, overheidsinstanties en bedrijven worden kunstmatige-intelligentietechnologieën toegepast door onderzoekers die internetcriminaliteit tegen kinderen (ICAC) kunnen identificeren en stoppen.

Voyager Labs legde in een dinsdag gepubliceerde blog uit dat veel ICAC-taskforces tools gebruiken zoals “onderwerpzoekopdrachten” om online materiaal te vinden met betrekking tot misdaden tegen kinderen.

Die systemen kunnen accounts vinden waarin materiaal met seksueel misbruik van kinderen wordt verhandeld, de daders identificeren en lokaliseren die die accounts gebruiken, potentiële slachtoffers identificeren en cruciale gegevens verzamelen om wetshandhavers te helpen een zaak tegen de criminelen te openen, merkte Voyager op.

Het voegde eraan toe dat dit proces vaak opmerkelijk snel is en soms binnen enkele seconden bruikbare resultaten oplevert.

Een ander hulpmiddel dat wordt gebruikt door onderzoekers die door Voyager worden aangehaald, is het ‘onderwerpzoekwoordenlexicon’. Het is als een vertaalwoordenboek of codeboek. Rechercheurs kunnen hun kennis van criminele communicatie – straattaal, terminologie en emoji’s – bijdragen aan het lexicon, dat AI-software kan gebruiken om verwijzingen naar criminele activiteiten online te vinden.

Jason Webb, de National Investigations Director van Voyager, die een bijdrage leverde aan de blog, legde uit dat het lexicon fungeert als een gedeelde database, waardoor verschillende soorten specialisten elkaars kennis kunnen toepassen op hun onderzoek.

Wij weten waar u woont

Kunstmatige intelligentie is ook nuttig bij het uitvoeren van netwerkanalyses. Als er pagina’s zijn waar materiaal met seksueel misbruik van kinderen is verhandeld, merkte Voyager op, kan AI zien wie interactie heeft met die pagina’s om netwerkanalyse uit te voeren, om te identificeren of meerdere overtreders betrokken zijn bij ICAC-ringen.

Het is gebruikelijk dat bendes ICAC-activiteiten en mensenhandel leiden, dus deze onderzoeken hebben het potentieel om criminele ondernemingen van complexe organisaties aan het licht te brengen die zich bezighouden met een reeks illegale activiteiten, legde het uit.

Voyager voegde eraan toe dat sommige systemen de geografische locatie van criminele activiteiten kunnen onthullen. Het delen van geodata kan een van de belangrijkste factoren zijn bij het verminderen van ICAC, beweerde Voyager, omdat het bureaus die over deze nieuwe technologie beschikken in staat stelt hun onderzoek te delen met kleinere afdelingen die mogelijk niet over dezelfde middelen beschikken.

Naast het identificeren van criminele activiteiten, merkte Voyager op dat netwerkanalyse kan worden gebruikt om potentiële slachtoffers aan te duiden. Zodra wetshandhavers en families zijn gewaarschuwd dat criminelen hebben geprobeerd contact op te nemen met een kind, legt Voyager uit, kunnen er onmiddellijk stappen worden ondernomen om het kind te beschermen tegen mogelijke schade.

Voyager beweert dat al dit soort AI-onderzoek in veel gevallen uitsluitend kan worden uitgevoerd door middel van open-source intelligentie, die zonder bevelschrift of speciale machtigingen voor het publiek beschikbaar is. In het verleden is het bedrijf echter in de problemen gekomen vanwege zijn gegevensverzamelingspraktijken.

In januari 2023 spande Meta een rechtszaak aan tegen Voyager Labs bij de Amerikaanse federale rechtbank in Californië, omdat het bedrijf op ongepaste wijze gegevens van Facebook- en Instagram-platforms en -profielen had geschrapt.

Meta beweert dat Voyager meer dan 38.000 nepaccounts heeft gemaakt en deze heeft gebruikt om de “zichtbare profielinformatie” van 600.000 Facebook-gebruikers te verzamelen. Voyager zou zijn scraping-tools op de markt hebben gebracht aan bedrijven die geïnteresseerd waren in het uitvoeren van toezicht op sociale-mediasites zonder te worden opgemerkt, en vervolgens de informatie aan de hoogste bieder hebben verkocht.

Voyager beweert dat de rechtszaak waardeloos is, een fundamenteel misverstand aan het licht brengt over hoe de softwareproducten in kwestie werken, en, belangrijker nog, schadelijk is voor de Amerikaanse en wereldwijde openbare veiligheid.

Naaktfoto’s filteren

Kunstmatige intelligentie kan ook materiaal met seksueel misbruik van kinderen identificeren via diensten zoals Microsoft’s Photo DNA en Google’s Hash Matching API. Die services gebruiken een bibliotheek met bekende inhoud van seksueel misbruik van kinderen om die inhoud te identificeren wanneer deze online wordt verspreid of opgeslagen.

“Dat lost echter alleen het probleem van bekende inhoud of vage overeenkomsten op, en hoewel sommige bedrijven modellen bouwen om nieuw materiaal met seksueel misbruik van kinderen te vangen, zijn er belangrijke regels over wie toegang heeft tot deze datasets”, zegt Joshua Buxbaum, co- oprichter en chief growth officer bij WebPurify, een cloudgebaseerde webfilter- en online kinderbeschermingsdienst, in Irvine, Californië.

“Zoals bij alle AI-modellen is niets perfect en zijn er mensen nodig om de inhoud te verifiëren, wat niet ideaal is vanuit het perspectief van de geestelijke gezondheid”, vertelde hij aan TechNewsWorld.

Er zijn ook zelfstandige toepassingen voor ouderlijk toezicht, zoals Canopy, die inkomende en uitgaande afbeeldingen die naaktheid bevatten kunnen filteren. “Het waarschuwt ouders als het lijkt alsof hun kinderen aan sexting doen”, zegt Yaron Litwin, CMO van Canopy.

“Dit kan voorkomen dat die beelden in verkeerde handen vallen en geeft ouders de kans om hun kinderen te informeren over de gevaren van wat ze doen voordat het te laat is”, vertelde hij aan TechNewsWorld.

“Sociale platforms stellen roofdieren in staat om foto’s te sturen terwijl ze ook om foto’s van de minderjarige vragen”, vertelde Chris Hauk, consumentenprivacykampioen bij Pixel Privacy, een uitgever van consumentenbeveiligings- en privacygidsen, aan TechNewsWorld. “Hierdoor kunnen roofdieren geld of andere soorten foto’s afpersen, terwijl ze dreigen de ouders te vertellen als het kind niet gehoorzaamt.”

Litwan voegde eraan toe dat “sextortion” – het gebruik van naaktfoto’s van kinderen om meer afbeeldingen of geld van hen af ​​te persen – in februari met 322% op jaarbasis is toegenomen.

“Sommige gevallen van sextortion hebben ertoe geleid dat de slachtoffers zelfmoord hebben gepleegd”, zei hij.

Digitaal onderwijs essentieel voor kinderbescherming

Ook op sociale media blijft materiaal met seksueel misbruik van kinderen een probleem.

“Onze analyse toont aan dat het verwijderen van sociale media-accounts in verband met kindermisbruik en veiligheid op de meeste platforms gestaag toeneemt”, vertelde Paul Bischoff, privacyadvocaat bij Comparitech, een website met recensies, advies en informatie voor consumentenbeveiligingsproducten, aan TechNewsWorld.

Hij citeerde een rapport van Comparitech waarin werd vastgesteld dat gedurende de eerste negen maanden van 2022 de verwijderingen van inhoud wegens uitbuiting van kinderen bijna gelijk waren aan alle verwijderingen voor 2021. Vergelijkbare verhaallijnen voor Instagram, TikTok, Snapchat en Discord waren te vinden.

“Dit is een heel serieus probleem dat in de loop van de tijd alleen maar erger wordt”, zei Litwan. “Ouders zijn tegenwoordig niet opgegroeid in dezelfde digitale wereld als hun kinderen en zijn zich niet altijd bewust van de vele bedreigingen waarmee hun kinderen dagelijks worden geconfronteerd.”

Isabelle Vladoiu, oprichter van het US Institute of Diplomacy and Human Rights, een non-profit denktank in Washington, DC, beweerde dat het belangrijkste dat kan worden gedaan om kinderen veilig online te houden, is om ze te onderwijzen.

“Door uitgebreide programma’s voor digitale geletterdheid aan te bieden, zoals training in digitaal burgerschap, bewustmaking van online risico’s en kinderen leren rode vlaggen te herkennen, stellen we hen in staat weloverwogen beslissingen te nemen en zichzelf te beschermen tegen uitbuiting”, vertelde ze aan TechNewsWorld.

“Voorbeelden uit de praktijk hebben aangetoond dat wanneer kinderen worden voorgelicht over de risico’s van mensenhandel en online veiligheid, ze beter in staat worden gesteld om op te staan ​​tegen marteling en uitbuiting,” vervolgde ze, “en een veiligere online omgeving voor iedereen bevordert.”