ChatGPT: Nieuwe ouderlijk toezicht voor de AI-veiligheid van tieners

ChatGPT introduceert een reeks nieuwe functies om de veiligheid en het toezicht voor jongere gebruikers te verbeteren. Vanaf vandaag zijn ouderlijk toezicht en een nieuwe pagina met informatie voor ouders beschikbaar om het gebruik van ChatGPT binnen de gezinsinstellingen te begeleiden. Met deze functies kunnen ouders hun accounts koppelen aan die van hun tieners en de instellingen aanpassen voor een veilige en leeftijdsgeschikte ervaring.

Dit initiatief maakt deel uit van OpenAI's bredere streven om "ChatGPT voor iedereen nuttig te maken" en gezinnen de tools te bieden die ze nodig hebben om het gebruik van AI door hun kinderen te ondersteunen. Het bedrijf kondigde eerder de ontwikkeling aan van een "leeftijdsvoorspellingssysteem" dat gebruikers jonger dan 18 jaar identificeert en automatisch instellingen toepast die geschikt zijn voor tieners . Ouderlijk toezicht is een belangrijke stap in deze richting en geeft ouders de mogelijkheid om de ervaring van hun kinderen met ChatGPT te beheren.

De ontwikkeling van deze functies vergde nauwe samenwerking met experts, belangenorganisaties zoals Common Sense Media en wetgevers, waaronder de procureurs-generaal van Californië en Delaware . OpenAI verklaarde dat het verwacht "deze controles in de loop van de tijd te verfijnen en uit te breiden". Robbie Torney, Senior Director AI Programs bij Common Sense Media, merkte op : " Deze ouderlijke controles vormen een goed startpunt voor ouders bij het beheren van het gebruik van ChatGPT door hun kinderen. Ouderlijk toezicht is echter slechts één onderdeel van de puzzel als het gaat om de online veiligheid van tieners. Het werkt het beste in combinatie met voortdurende gesprekken over verantwoord AI-gebruik, duidelijke gezinsregels rondom technologie en actieve betrokkenheid bij het begrijpen van wat hun tiener online doet ."

Om de controle in te schakelen, moet een ouder of voogd een uitnodiging naar zijn of haar tiener sturen om zijn of haar account te koppelen. Zodra het kind hiermee akkoord gaat, kan de ouder de accountinstellingen beheren vanaf één beheerpagina . Tieners kunnen ook een ouder uitnodigen om verbinding te maken. Als het kind zijn of haar account ontkoppelt, ontvangt de ouder een melding .

De introductie van ouderlijk toezicht omvat ook verbeterde beveiliging voor gekoppelde tieneraccounts. Zodra het account van het kind is gekoppeld, krijgt het automatisch extra contentbeveiliging, waaronder een reductie van expliciete content, virale uitdagingen, seksuele, romantische of gewelddadige rollenspellen en extreme schoonheidsidealen, om een ​​leeftijdsgeschikte ervaring te behouden . Deze beveiliging is ontwikkeld na zorgvuldige evaluatie van bestaand onderzoek om de unieke ontwikkelingsverschillen van tieners te begrijpen. Ouders kunnen deze instelling desgewenst uitschakelen, maar tienergebruikers kunnen hier geen wijzigingen in aanbrengen.

Hoewel deze beschermingsmaatregelen nuttig zijn, " zijn ze niet waterdicht en kunnen ze omzeild worden als iemand ze opzettelijk probeert te omzeilen . " OpenAI herhaalde zijn streven om "in de loop van de tijd te blijven itereren en verbeteren" en raadt ouders aan om met hun kinderen te praten over het gezonde gebruik van AI en hoe dit past bij hun gezin.

Ouders krijgen extra functies aangeboden om de ervaring van hun kinderen te personaliseren. Via een eenvoudige bedieningspagina kunnen ouders:

Stel 'stille uren' in: specifieke tijden waarop ChatGPT niet gebruikt kan worden.

Schakel de spraakmodus uit , waardoor u deze functie niet meer kunt gebruiken in ChatGPT.

Opslag uitschakelen , waardoor ChatGPT eerdere gesprekken niet kan opslaan en gebruiken.

Verwijder de afbeeldinggeneratie , waardoor ChatGPT geen afbeeldingen meer kan maken of wijzigen.

Schakel modeltraining uit , zodat de gesprekken van uw kind niet worden gebruikt om de modellen te verbeteren die ChatGPT aansturen.

Deze instellingen zijn optioneel en flexibel, waardoor gezinnen kunnen kiezen wat het beste bij hun behoeften past.

Meldingen voor potentieel risicovolle situaties

OpenAI erkent dat sommige tieners zich in moeilijke tijden tot ChatGPT kunnen wenden en heeft daarom een ​​nieuw meldingssysteem ontwikkeld om ouders te helpen herkennen of er iets mis is. Er zijn beveiligingsmaatregelen toegevoegd om ChatGPT te helpen " mogelijke signalen te herkennen dat een tiener overweegt zichzelf iets aan te doen". Als de systemen een potentieel risico detecteren, onderzoekt een klein team van speciaal opgeleide mensen de situatie. Als er "tekenen van acute nood" worden gedetecteerd, worden ouders gecontacteerd via e-mail, sms en pushmeldingen op hun telefoon, tenzij ze zich hebben afgemeld voor dergelijke berichten .

OpenAI werkt samen met experts op het gebied van geestelijke gezondheid en adolescenten om dit systeem te ontwerpen. Het bedrijf erkent dat "geen enkel systeem perfect is" en dat er valse alarmen kunnen optreden, maar gelooft dat "het beter is om actie te ondernemen en een ouder te waarschuwen zodat deze kan ingrijpen dan te zwijgen." Het bedrijf werkt ook aan passende procedures en omstandigheden voor het contacteren van wetshandhavingsinstanties of andere hulpdiensten, zoals in het geval van een "dreigende bedreiging voor het leven" en een ouder niet bereikbaar is . Zelfs in deze zeldzame situaties wordt de privacy van adolescenten serieus genomen en worden alleen de gegevens gedeeld die nodig zijn om ouders of hulpverleners in staat te stellen de veiligheid van het kind te beschermen.

OpenAI heeft een nieuwe pagina met informatie voor ouders gemaakt met informatie over hoe ChatGPT werkt, beschikbare ouderlijk toezichtfuncties en ideeën voor hoe tieners het kunnen gebruiken voor leren, creativiteit en het dagelijks leven . Deze bron is een startpunt en wordt regelmatig bijgewerkt met tips, handleidingen, deskundig advies en gespreksstarters om ouders te ondersteunen naarmate het gebruik van AI in hun gezin toeneemt.

In de komende maanden zal OpenAI doorgaan met de ontwikkeling van het "leeftijdsvoorspellingssysteem" waarmee ChatGPT automatisch instellingen kan toepassen die geschikt zijn voor tieners . In situaties waarin de leeftijd van een gebruiker onzeker is, zal een voorzichtigere aanpak worden gehanteerd en zullen tienerinstellingen proactief worden toegepast. Ouderlijk toezicht zal intussen de meest effectieve manier zijn voor ouders om ervoor te zorgen dat hun kinderen een leeftijdsgeschikte ervaring hebben. Dit is een belangrijke stap voorwaarts, maar ons werk is nog niet klaar. OpenAI zal blijven investeren in functies die ouders en tieners helpen ChatGPT veilig en vol vertrouwen te gebruiken, en zal de voortgang ervan delen .