Californië versterkt online veiligheid voor kinderen met nieuwe AI- en social media-wetten
sacramento, dinsdag, 14 oktober 2025.
Californië heeft nieuwe wetgeving ingevoerd om kinderen te beschermen tegen de risico’s van AI en sociale media. De wetten omvatten verplichte leeftijdsverificatie, waarschuwingslabels op sociale media, en strengere bepalingen voor AI-chatbots. Gouverneur Newsom benadrukt dat technologie kinderen mag inspireren, maar niet in gevaar mag brengen. Hoewel de wetten een belangrijke stap vormen, zijn er nog steeds zorgen over onvolledige bescherming, zoals bij de veto van AB 1064, die gericht was op AI-companion chatbots.
Verplichte leeftijdsverificatie en waarschuwingslabels
Een van de kernpunten van de nieuwe wetgeving is de verplichte leeftijdsverificatie voor providers van besturingssystemen en app-winkels. Dit moet voorkomen dat kinderen toegang krijgen tot gevaarlijke of ongepaste inhoud [1]. Daarnaast moeten sociale media-platforms jonge gebruikers voorzien van waarschuwingslabels over de schadelijke gevolgen van langdurig gebruik. Deze labels moeten bijvoorbeeld bij de eerste inlog van een gebruiker onder 18 jaar een 10-seconde waarschuwing tonen, gevolgd door verplichte 30-seconde waarschuwingen na drie uur van continu gebruik en daarna elk uur [6].
Strengere regels voor AI-chatbots
De wetgeving richt zich ook op de regulering van AI-chatbots. Platforms die ‘companion chatbots’ aanbieden, moeten protocollen opstellen om suïcidale ideatie of uitingen van zelfbeschadiging bij gebruikers te identificeren en aan te pakken. Chatbots moeten duidelijk maken dat interacties kunstmatig zijn en mogen zich niet voordoen als zorgprofessionals. Bedrijven moeten ook pauzeherinneringen inbouwen voor minderjarige gebruikers, en seksueel getinte beelden of suggestieve gesprekken met jongeren zijn expliciet verboden [2][3].
Strengere straffen voor deepfakes
De wet breidt de mogelijkheid tot civiele vorderingen uit, waardoor slachtoffers van non-consensuele deepfake-pornografie — inclusief minderjarigen — tot 250.000 dollar schadevergoeding kunnen eisen van derden die de verspreiding moedwillig faciliteren. Dit is een belangrijke stap om de veiligheid en privacy van kinderen te versterken en technologiebedrijven aansprakelijk te houden voor hun acties [1][6].
Aansprakelijkheid en transparantie
Ontwikkelaars, wijzigers of gebruikers van AI-technologie kunnen zich niet langer verschuilen achter de claim dat de technologie autonoom handelde om aansprakelijkheid voor schade te ontlopen. De wet stelt duidelijke verantwoordelijkheden vast en verplicht bedrijven tot meer transparantie over hun veiligheidsprotocollen en klokkenluidersbescherming [4][5].
Kritiek en teleurstelling
Hoewel de nieuwe wetten een belangrijke stap vormen, zijn er nog steeds zorgen over onvolledige bescherming. Bijvoorbeeld, de veto van AB 1064, het LEAD for Kids Act, laat kinderen kwetsbaar voor AI-companion chatbots die gekoppeld zijn aan depressie, zelfbeschadiging en zelfmoord. Volgens Assemblymember Rebecca Bauer-Kahan is het onbegrijpelijk dat Big Tech niet verantwoordelijk wordt gehouden voor de schade die hun platforms veroorzaken [6].