Hoe een app AI gebruikt om ouders te helpen de online gewoonten van hun kinderen bij te houden

Een nieuwe online tool moet de geestelijke gezondheidscrisis onder kinderen in het land aanpakken.

Uit een onderzoek van Jama Network uit 2019 bleek dat kinderen die meer dan drie uur per dag op sociale media doorbrengen, twee keer zoveel kans hebben op psychische stoornissen, zoals depressie en angst.

De functie Balance is ontwikkeld door beveiligingsbedrijf Aura. Het wordt op de markt gebracht als de eerste die kunstmatige intelligentie gebruikt om het online gedrag en welzijn van een kind te monitoren.

"Onze missie is altijd geweest om gezinnen te helpen omgaan met alle uitdagingen die technologie met zich meebrengt", aldus CEO Hari Ravichandran. Voor hem was de motivatie om de app te maken persoonlijk, nadat zijn 13-jarige dochter met een psychische crisis te maken kreeg.

"Ze wilde haar kamer niet uit. Ze lag in haar bed, ik wilde niet opstaan. Het was duidelijk dat ze het moeilijk had," zei hij.

Ravichandran besloot naar de telefoon van zijn dochter te kijken.

"Ik heb ernaar gekeken en ik bedoel, het staat er letterlijk allemaal. Alle vragen die ze stelt, de dingen waar ze mee worstelt," zei hij. "Voor mij leek het heel duidelijk dat de waarheid daadwerkelijk op het apparaat staat."

Ravichadran schakelde experts in, waaronder kinderpsychologen en clinici, om hem te helpen bij het maken van de app.

Hij zegt dat zijn medische team AI- modellen traint om veel dingen te analyseren, waaronder de taalpatronen van een kind, zijn online toon, emotionele toestand en activiteit 's avonds laat.

AI kan afwijkingen detecteren op basis van de basislijn van het kind, wat kan wijzen op zaken als stress of stemmingswisselingen.

Ouders ontvangen vervolgens rapporten via de app. Het doel is dat gezinnen met elkaar in gesprek gaan.

Toen Ravichadran werd gevraagd naar de fouten die AI maakt, erkende hij dat de technologie niet perfect is.

"Zoals elke nieuwe technologie, toch? Het moet een cyclus doorlopen van steeds beter worden," zei hij.

Rebecca Wilcoxsons 15-jarige zoon Sam kreeg in december zijn eerste iPhone, maar zij wilde beperkingen.

"Ouders staan onder grote druk om bij te blijven met deze technologie, die voortdurend verandert, of zelfs elk uur", aldus Wilcoxson.

Ze nam deel aan een betaalde klinische studie voor Balance.

"Als ik scroll, zie ik wat de toon was van zijn sms'jes en vervolgens zie ik welke apps hij het meest gebruikte toen hij op zijn telefoon zat," zei ze.

Ze zei dat de app het contact met haar zoon mogelijk heeft gemaakt.

"Ik zie dat er misschien wat meer negatief gepraat wordt en dat kunnen we samen als gespreksonderwerp gebruiken," zei ze.

Josh Golin is hoofd van Fairplay, een belangenorganisatie die zich inzet voor de online bescherming van kinderen. Hij zegt dat echte verandering moet komen van wetgevers en grote techbedrijven.

"Wanneer ze voor de keuze staan om functies te implementeren die kinderen veiliger zouden maken, implementeren ze die functies niet omdat het hun winst zou schaden. Dus als de regelgeving zegt dat je de plicht hebt om kinderen te beschermen, dan denk ik dat we echte verandering zullen zien", aldus Golin.

Maar Wilcoxson is het ermee eens dat er meer toezicht nodig is.

"Als deze techbedrijven zoveel geld hebben om zich te blijven ontwikkelen, waar is dan hun kans om het veilig te maken voor onze kinderen, de meest kwetsbaren uit de bevolking?", zei ze.

Balance is een van de eerste apps die gebruikmaakt van AI. Er zijn echter ook andere tools waarmee ouders de onlineactiviteiten van hun kind kunnen monitoren, waaronder apps als Bark, Qustodio en Norton.

Nu de scholen weer opengaan, nemen sommige staten maatregelen om telefoons helemaal uit de handen van kinderen te houden.

In ten minste 31 staten en Washington DC moeten schooldistricten het gebruik van telefoons door leerlingen op school verbieden of beperken.

• Mobiele telefoons
• Sociale media
• Kunstmatige intelligentie